济南府位于山东省西北部，因位于济水（古水名，河道即黄河山东段）之南的东平陵故名。与本省武定府、青州府、东昌府和泰安府相邻，并与直隶省河间府接壤。宋政和六年，升齐州为济南府，济南府由此始建。

宋政和六年(1116年)升齐州为济南府，属京东东路。今济南府属山东东路。元初改为济南路，元末改般阳路为淄川直隶州。明洪武元年（1368年）复改为济南府；撤销渤海县、厌次县、奉符县、安德县，辖地由滨州、棣州、泰安州、德州直辖。洪武二年（1369年）德州由直隶州改为散州，陵县属之；淄川州改为县，莱芜县改属泰安州，蒲台县改属滨州，乐陵县改属棣州；撤销青城县并入齐东县和邹平县。

洪武六年（1373年）棣州更名乐安州。洪武七年(1375年)将陵县并入德州。洪武九年（1376年）升淄川县为州。洪武十年（1377年）又降淄川州为县。洪武十三年（1380年）复设陵县和青城县。宣德元年（1426年）乐安州更名为武定州。清雍正二年（1724年）济南府所属的泰安州、滨州、武定州升为直隶州，新泰、莱芜、长清、利津、沾化、蒲台、阳信、海丰、乐陵9县随属。雍正十二年(1734年)又将济南府所辖青城、商河划归武定府,肥城县划归泰安州,原划出的长清、平原、禹城、临邑、陵县仍属济南府。

宋朝时济南府领历城、禹城、章丘、长清、临邑5县。

元朝时济南路(治历城)辖历城、章丘、邹平、济阳4县及棣州(州辖厌次、商河、阳信、无棣4县)、滨州(州辖渤海、利津、沾化3县)。

明时济南府领有4州26县。领县计：历城、章丘、邹平、淄川、长山、新城、齐河、齐东、济阳、禹城、临邑、长清、肥城、青城、陵县。领州为：泰安州及其所属之新泰、莱芜县，德州及其所属之德平、平原县，武定州及其所属之阳信、海丰、乐陵、商河县，滨州及其所属之利津、沾化、蒲台县。

清雍正二年（1724年）析出泰安、武定、滨州3州升为直隶州，这时济南府辖领1州15县：德州和历城、章丘、邹平、淄川、长山、新城、齐河、齐东、济阳、禹城、临邑、长清、陵县、德平、平原县。