南京大学档案馆成立于1986年4月，是全国高校最早建立的档案馆之一。1999年4月学校又成立
南京大学校史博物馆，由档案馆负责筹建，并于2002年5月20日南京大学百年校庆之际正式建成开馆。两馆分别位于南京大学老图书馆内和文科楼旁，建筑面积2700平方米，使用面积2000平方米。
南京大学档案馆和校史博物馆为系处级建制，两块牌子一套班子，馆长汤道銮，副馆长王振银。现有17名教职工，其中90%具有大专以上学历，有6名具有高级职称人员。下设文书档案室、科技档案室、声像档案室、档案馆办公室、史料征集编研室、校史馆管理室、计算机网络室及《学校档案》杂志编辑部等科室。
现有馆藏档案7万多卷。保存了自1902年建校以来的学籍档案、校史及校友档案；1949年以来的党政管理档案；1978年以来的教学、科研、人物、名人全宗、外事、基建、设备、产品、财会、出版、声像及奖状奖品实物档案等。
档案馆自1983年就开始在全国档案界，首次采用计算机管理科技档案信息。先后自行开发了7套档案管理软件,其中2套获国家档案局科技进步奖。现有计算机50多台，实现了部分馆藏多媒体档案数字化、档案信息管理数据库化和档案信息查询网络化。先后建成了20多个机读档案全文和档案目录数据库，向计算机内录入20多万条档案信息，扫描照片3万多张，采集视频200多部。并用两台服务器，在校园网上建立了“南京大学档案馆”和“
南京大学校史博物馆”网站，向社会发布50多万条档案信息，网站的访问量已达160多万人次。
档案馆还于2001年在校园网上开发了纯B/S结构的“南大之星”档案网络管理系统 6.0，可在互联网上进行电子文件全文自动著录、自动标引以及各种格式的档案全文、照片、录音、录像等多媒体档案的远程录入与文件图片的上载，信息检索打印、任意格式输出等。该软件采用B/S和C/S两种结构模式，既可用于档案馆及校内各单位档案员用户管理、联机管理档案数据库，又可让全校师生、海内外校友和社会各界，通过互联网查询有关档案信息，远程向档案馆服务器上登录校友业绩信息和上载校友保存的史料及获得的各种奖状、奖品的扫描图像等。
新建成的校史博物馆展区面积约1000平方米。共分“序厅”、“百年校史”、“今日南大”、“百年英才”、“多媒体演示”及“礼品厅”等六个展区，用200多米长、2米多高的展橱、展版及18个独立展柜、20多个灯箱、三个屏风及十几米长彩喷灯箱构成的“时光燧道”，分别展出了南京大学历史上不同时期形成的1600多幅照片、600多件历史档案、教学科研成果档案及奖状奖品实物模型等，同时展出了海内外校友、社会各界为南大百年庆典捐赠的210多件礼品、字画等。
用4平方米的背投式大屏幕，6台彩电、10台计算机和2台触模屏，滚动播放近百部
江泽民总书记来校视察，学校重大活动，知名校友业绩介绍等录像及《百年南大》、《
南京大学校歌》电视片。同时安装10台计算机供参观者交互点击播放档案馆自行设计的百年校史、今日南大、百年英才等多媒体演示系统。档案馆还制作了可交互点击的动态画廊式的《数字化校史博物馆多媒体光盘》，赠送全校教职工及来馆参观的海内外校友。通过上述种种展示手段，较为生动形象地展示了百年南大辉煌史。
受到省市领导、校领导、广大师生及海内外校友的一致好评。新闻媒体和广大师生及校友评价：“该馆是古典建筑与现代展示手段的完美结合”，“是南大百年校庆工程中最亮的一个亮点”，“是一个精品工程”，“史料丰富”，“使人回味无穷”等等。
2012年5月15日上午，
中国第二历史档案馆向
南京大学移交
中央大学、
金陵大学历史档案（光盘、胶片）。1952年院系调整时，根据《南京大学、金陵大学两校合并调整工作进行办法》，中央大学及其前身学校和金陵大学的历史档案明确划归南京大学。到“文革”期间，出于档案资料安全方面的考虑，这批历史档案被移送到中国第二历史档案馆存放，直至2012年移交南京大学，将保存在南京大学档案馆。