甘肃省档案局成立于1960年1月6日，
甘肃省档案馆成立于1959年10月22日。现为一套机构、两块牌子，系省委、省政府直属正厅级事业单位，履行档案事业行政管理和档案保管利用两种职能，归口省委办公厅管理。内设办公室、人事教育处、业务指导处、法规宣传处（《档案》杂志编辑部设在该处）、收集整理处、保管利用处、电子文件管理处、科技信息处、机关党委。编制116人。有2个下属单位：甘肃档案装具标准化管理中心、甘肃档案学校。
甘肃省档案馆1997年被国家档案局评为国家一级档案馆，现馆藏档案269个全宗、32.8万多卷，资料3.7万余卷册，时间最早的为唐代《金刚经》、《大宝积经》写卷，最晚的是2006年。
甘肃省档案馆新馆位于兰州市城关区雁滩路3680号，总建筑面积14367平方米，由主楼和裙楼两部分组成。主楼共十六层，高84.2米。裙楼由东侧的五层和西侧的两层两部分组成。新馆于1996年11月11日批准立项、2000年6月26日开工、2004年7月16日竣工，2004年10月迁入。新馆建设得到了省委、省政府的重视和支持，也倾注了省局（馆）几任领导和全体档案工作者的心血。
新建的档案馆除具有满足各项业务开展的工作用房外，还配有库房温湿度传感器，消防报警与气体灭火系统，安全保卫及监控系统，计算机网络系统，楼宇设备管理系统，学术交流多媒体影音系统及电子查档系统。同时，我们还分别建起了总面积为1200多平方米的“发展中的甘肃”和“珍贵档案特藏展”两个展厅，建起了面积为560多平方米的计算机著录、扫描和缩微中心，并有宽敞明亮、环境优美的档案查阅大厅和能够开展各种活动的多功能厅，使省馆真正成为一座集档案安全保管、查阅利用、信息传播、展览教育、学术交流等功能于一体的新型档案馆，也成为全方位展现甘肃历史、政治、经济、文化发展轨迹的重要窗口。1997年，省档案馆被评为国家一级档案馆，1998年被省委命名为
甘肃省爱国主义教育基地，2007年在国家档案局开展的全国档案事业发展情况综合评估中，被评为档案事业发展先进单位。