1978 年12 月18 日安徽机电学院经国务院批准成立，图书馆同时建立。至 1986 年7 月前，学校两地办学，图书馆也随之两地办馆。1986 学院迁至现校址。1986 年到 1995 年10 年间，我院图书馆经历了多次搬迁，一直没有一个独立的馆舍。

1995 年新的图书馆大楼全部竣工，正式投入使用，图书馆进入了一个新的发展时期。 图书馆规模已由最初的采编部、流通部、期刊部和办公室（初级服务模式），发展为今天的采编部、流通部、期刊部、信息与技术服务部以及办公室（二级服务模式）。服务手段也由全手工操作发展为利用图书馆集成管理系统、实现计算机管理和网络化服务；馆藏资源也由单纯的纸质文献发展为集纸质文献、电子文献为一体的多层次的文献信息资源格局。

随着电子出版物的出现，打破了图书馆原有的纸质文献一统天下的藏书格局，我馆现有馆藏中包括各种印刷型的期刊、图书、报纸及电子文献。