内蒙古社会科学院图书馆的前身是1953年成立的内蒙古自治区语文研究会图书资料室，后因上世纪50年代末到70年代末上属机构的几度变更而数易其名。1979年内蒙古社会科学院成立，原图书资料室扩建为图书馆。

内蒙古社会科学院图书馆是自治区社科研究系统历史最长、藏书最多、特色最鲜明的文献信息机构，多年来围绕着本院学科建设不断地完善藏书结构，形成了具有鲜明民族特色、较为完整的藏书体系，成为支撑本院科研工作的重要支柱。本馆现有各类藏书26万册，以蒙古学文献为特色。其中蒙古文古籍6280种3万余册，约占全国各图书馆蒙古文古籍收藏种类的50%，且多为木刻原版或手抄本，如金泥写本《甘珠尔》、《丹珠尔》、《阿勒坦汗传》、《十善福经白史》、《科尔沁王公世系谱》、《鄂尔多斯王公世系谱》、《蒙古黄金史》和尹湛纳希著作手稿及家谱等，均具有极高的学术价值；此外，还收有相当数量的满、藏等少数民族文字的手稿、档案、经卷等重要资料。这些文献的内容十分丰富，不仅包括了社会科学诸学科，还兼容了极具民族和地区特色的天文、历法、医药、绘画和建筑艺术等到领域，在国内外学术界具有广泛的影响。本馆收藏汉文古籍3000余部5万余册，其中明清版本比例较大；日、俄、英、德、法等外文原版图书约2万册，多为日本人关于近代蒙古地区的考察报告和调查资料。蒙、汉文普通版图书约16万册，期刊合订本约9000册，都是专业性和学术性很强的文献。

2020年10月30日，被文化和旅游部确定为“第六批全国古籍重点保护单位”。

内蒙古社会科学院图书馆内设机构有采编部、流通部、报刊部和办公室。1979年以来，全馆人员主持或参加完成国家级课题12项，发表著作、论文、译文等共300余部、篇。