当元灭金之后，便在这片土地上，设置了大都路总管府。到了明代洪武年初，改成北平府。而在永乐元年(公元1403年)，明成祖朱棣将北平升格为北京，并将北平府改称顺天府。又在元大都的基础上，有计划地改、扩建成新的都城。后于永乐十九年(公元1421年)，正式由南京迁都北京，又称京师。 据说当初取“顺乎天而应乎人”之义，将管理京畿地方事务的机构，定名为顺天府。其长官称府尹，管辖二十四个县，其中包括两个京县和近京的有关州县。当时的北京城，以中轴线为界，东半城归大兴县所属；西半城则由宛平县治理。到了清代，在顺治元年(公元1644年)建都京师，其管理事务机构，仍称顺天府。一直到辛亥革命后，于民国三年，将顺天府署改称京兆尹公署。
顺天府署原来南抵鼓楼东大街，北达分司厅胡同。顺天府署所在地是元朝大都路总管府及明清顺天府署。元朝大都路总管府起初无固定办公地。元朝定都北京，将金朝的大兴府改为大都路，“至元中大都路廨署无定制，至或假民家以庀事”（《王直重修顺天府记》）。元朝至大年间，监路平章政事莫吉奏请以42500缗钱购得该地，兴建公署，占地面积大约20亩。明朝初年，将大都路改为北平府，明朝永乐年间迁都北京后，将此地定为顺天府署。此后，“府尹宁阳王侯贤谂于众，改作焉，为正堂、后堂各五间，中堂三间，左为经历司，右为照磨所。前为大门，凡三重，各三间，六曹案牍之舍，库厩庖湢皆完。崇卑广狭，各中程度，总为屋五十八间。以正统十四年三月兴工，景泰三年七月落成”（《王直重修顺天府记》）。清朝入关后定都北京，仍以该地为顺天府署。
顺天府署是顺天府的衙署，“掌京府之政令，宣化和人，劝农问俗，均贡赋，节征徭，谨祭祀，阅实户口，纠治豪猾，赈恤穷困，清录罪囚”。例如在清朝乾隆年间，顺天府统管大兴县、宛平县二京县以及其他22个州县，府内设有东、西、南、北四路厅分别管辖各路州县。顺天府署设有礼、吏、户、刑、兵、工六房，以对应中央六部，此外顺天府还设有顺天府学。顺天府的主要工作是缉拿贼盗，掌管钱粮，监督学政，审判案件。顺天府为正三品衙门，比一般的府级别高三级；正三品衙门按旧制均使用铜印，唯有顺天府使用银印。
中华民国时期，顺天府署改为北平市立小学、幼稚园、
东北中山中学以及河北省路局。
抗日战争时期，日本占领北平，该地改为陆军司令部，成为审讯中国人的场所，周边房屋几乎全变为监狱。中华人民共和国成立后，该地先后为河北北京中学、北京市第一四四中学，后来改为
北京教育学院东城分院。原有建筑多被拆除，或者被改建为楼房。现存的顺天府大堂在2011年被定为北京市文物保护单位。