灰山原位于46号院济南汇泉寺街中东屋的西南墙角下。关于灰山的得名,传说,灰山在夜深人静鸡眠狗宿之时,宿在灰山上的灰仙人便将灰撒到灰山上。当人们醒来的时候,总能从灰山上扫落一簸箕的灰。建国初,一邓姓产妇夜出惊灰山仙人,此后,灰山不再有落灰可扫。 过去,人们形容济南的人杰地灵,总免不了要念叨 “三山不显出皇位,四门不对出高官”,三山不显的意思是说济南市区内有三个山头从远处是看不见的,只有到了近前,才能看到平地突起的一块大石头。传说,济南的中心是渤海的海眼,几千年前常有海水喷涌而出,霎时就能将济南淹成一片汪洋泽国,人们深受其害。直到后来,大舜看出济南地势南高而北低,反了风水,遂派人推演,并以三山镇之,方才化祸水为甘泉,这三山便是历山、铁牛山和灰山。2008年
济南大明湖扩建后,建灰山亭。灰山位于亭东北侧的水中。