“太原有个上马街，北京有个下马街。”这是老辈太原人口头流传的一句民谚。这句谚语说的是，李自成就是从这里上马后，挥戈北上一直打到北京，在北京某街下马。于是，太原就此产生了“上马街”，北京也由此出现了个“下马街”。

李自成是否从上马街上马？北京是否有个下马街？姑且不论。需说明的是，上马街的名称，本与李闯王没有丝毫关系，它得名于明初问世的皇庙，清初与下马街合二为一 。比李自成领导的农民起义早二百余年 。不过，这句民谚从另一个角度告诉我们，太原人民对李自成农民起义军是支持的，是寄以深切怀念和同情的。绝非清代《阳曲县志·志余》中所说的“满纸荒唐言”。

太原的皇庙，是民国之前太原地区唯一的黄琉璃瓦建筑，是代表封建皇权的地方。明代晋藩就在这里奉祀皇帝和皇后的神位，每逢国家大典，如万寿（帝后生日）、国丧、元旦、新帝登极，朱氏皇族诸王和驻并文臣武将，都必来此祭祖。

坐北朝南，原庙的后墙就在上马街中段南侧。通往皇庙的街巷有三条，正街因皇庙得名，叫皇庙巷。明代每逢祭祀，只有朱家诸王和晋省高官，方可由此巷直入庙宇。而一般的地方官吏不论文武，只能经上马街在皇庙西巷北口下马、下轿，穿巷南去入庙。祭祀毕，则从皇庙东巷南口拐至上马街，上马上轿离去。久而久之，人们便把下马的地方，即皇庙西巷北口之西叫做下马街；将上马的地方，即皇庙东巷北口之东，叫做上马街。

逮于清代，废弃明代规矩，改皇庙为万寿宫，皇庙巷亦更名为万寿宫街。凡去皇庙即万寿宫祭祀，均由万寿宫街直入，再无明代上马下马之赘举。于是，原本是一条街巷上的两个名称“上马街”、“下马街”，遂会二而一，统称为上马街。

上马街是太原旧城区中文化教育单位比较集中的街巷。在长七百米、宽九米许的走道两边，分驻着太原教育学院、进山中学、太原七中等各大中学校。在这些学校中，又以进山中学历史较长，名声较大。