山东金石保存所位于济南大明湖南岸山东省图书馆内。山东省图书馆创建于清宣统元年(1909年),附设金石保存所。该所于1909年12月16日建成，至新中国建立前，一直附设在山东省图书馆内，由图书馆坐办或馆长兼理。

至20年代末,先后兼理者为罗正钧、王寿彭、庄陔兰、陈雪南、赵子开、丁麟年等。1929年,王献唐任馆长兼理金石保存所。抗日战争初期,金石保存所的文物精品,一部分运至四川乐山,由王献唐、屈万里、李义贵守护;一部分寄存曲阜孔府,1947年春初至南京中央博物馆。1939年9月重新整理省图书馆及金石保存所,于当月25日开馆。1948年9月24日济南解放,由军管会接管。经整顿,于1949年3月开放。转存于南京与四川的文物,分别于1949年12月11日和1950年12月25日运回济南,由山东古代文物管理委员会收藏,并将省图书馆所藏文物、书画移交该会,山东金石保存所遂不复存在。 该所是国内省级地方政府创办的第一所博物馆性质的机构,收藏多为山东历史、名贤、艺文方面的金石、书画、碑贴、古籍等。在近半个世纪中,为山东金石文物的收集、保护做出了重要贡献。据1937年统计,收藏各类文物达17000余件。该所亦注重陈列展览,辟有“罗泉楼”、“抱壁堂”、“碑廊”等专门展室,常年开放,供社会各界了解、鉴赏和研究。还经常将省内知名金石书画鉴藏家的珍品汇萃一处,举办大型展览。省内文物保护等业务也多由该所筹划并实施。