杜克大学于1838年创建，开始为布朗学院的校舍，属于布朗学院的一个分校，位于伦道夫县（三位一体镇），由教士Brantley York所领导的循道宗信徒和贵格会信徒所管理。

1841年，北卡罗来纳州授予学校作为联合学术机构的特权。1851年，学校改名为师范学院，隶属循道卫理教会。1859年，因受到卫理公会教堂的捐助而改名为三一学院(Trinity College)，校训是“知识和宗教。1878年，玛丽，皮尔斯，特里萨吉尔成为学校第一批被授予学位的女性。1881年宋嘉澍（英文名Charlie），也就是中国近代历史上宋氏家族的创始人，成为学校的第一个国际学生。1892年，三一学院因受到慈善家朱利安·卡尔和烟草大亨华盛顿·杜克先生的捐助，从三一镇迁至达勒姆的新校区。其中朱利安·卡尔主要捐赠了地皮，即杜克大学的原址，也就是东校区。华盛顿·杜克先生于1892年捐赠了$85,000的现金，主要负责对新校址建筑施工的援助，并在此之后，分别于1896年，1899年，和1900年各追加了$100,000的现金捐赠，用于学校的学术研究。1924年，华盛顿·杜克的儿子詹姆斯·杜克捐赠了一笔高达4千万美元的捐款成立杜克基金，用以赞助他的家乡达勒姆市周围多所高等教育机构与医院的营运。也列在受馈名单的三一学院董事长威廉·普莱斯登·富坚持学校应该改名为杜克大学以感谢杜克家族的善心，在詹姆斯·杜克的同意之下，学校改名为今杜克大学。学校于1925年至1927年期间重修了东校区，并在1930年开始修建哥特式建筑风格的西校区。其中最著名的建筑是耗资二百三十万美元杜克大教堂（Duke Chapel），从1930年开建至1935年建成。教堂是由朱利安·阿倍勒，美国最早的著名非裔建筑师设计，可以容纳约1600人。教堂高210英尺，为达勒姆市的最高建筑物之一。1942年，杜克大学承办了唯一一次在洛杉矶市之外的NCAA玫瑰碗总决赛（美国大学橄榄球思大碗之首）。学校还在二次大战中承办了为美国海军训练人才的V-12 Navy College Training Program项目。1952年正式教职员工参与大学治理与大学校董会成立一个高层次的咨询委员会。1983年建立妇女研究计划。1986年该校男子足球队胜杜克大学的第一个NCAA冠军。2010年1月22日，杜克大学在中国江苏省昆山市开工建设杜克昆山大学(DKU)，目的为创建一个独立法人地位的世界一流研究型综合大学，主攻精英教育和前瞻科研。昆山市政府斥巨资为DKU的顺利启动提供了优越的物质条件。2012年8月17日，中国教育部发出行政许可：由杜克大学、昆山市政府、武汉大学三方合办的昆山杜克大学正式获准筹建，但武汉大学将不具备对DKU的管理权。学校将于2014年正式授课。