春秋末，赵筒子家臣
董安于筑
晋阳城。晋阳在历史上曾一度为
太原郡、
并州治所。如今的
晋阳古城位于
山西省太原市晋源镇古城营村，而现今的太原大体为古时的
阳曲县。“晋阳书院建自前明。”嘉靖九年（1530年），山西
按察副使陈讲，在
侯家巷西段的瓜菜地上（今市公安局所在地），辟建院舍，开办了“晋阳书院”，召收城中学士、
仕子讲读于此。
在此不得不提到“三立书院”。据道光《
阳曲县志》志，
万历初年，山西按察司副使利用巡抚衙门旧址，增建号舍，筑
三贤堂，祀奉讲学河汾、生长与河汾的三位先贤――
王通、
司马光、
薛瑄，从此作为士子学习的榜样，更“晋阳书院”名为“河汾书院”。
在明代中叶，书院盛行于各府郡州治地，书院中“讲学自由，议论朝政，裁量人物（评价官员好坏）”的“清议”之风风靡一时，对当时的社会风气和吏制颇有影响。对此，朝廷权贵和地方高官，深怀妒嫉。万历帝
朱翊钧登基不久，便采纳了执政宰相
张居正之奏疏，“诏毁天下书院”。
太原的“河汾书院”，亦未能幸免，终于在万历七年（1579年），被废止停办。直至万历二十一年（1593年），魏元贞担任山西
巡抚时，才托词以建“三立祠”为名，另建了实质上的“三立书院”，并迁址于右所街（今
旧城街一带）。
崇祯初年，时任山西提学佥事的
袁继咸从考生中择录优等生250人进入三立书院，并将三立祠名臣、乡贤计增至71人。崇祯十六年（1643年），时任巡抚
蔡懋德又对三立书院进行整顿，其中两大措施最为著名：一为聘请知州魏权中、举人
韩霖、桑拱阳及
傅山来院讲学：二为每月三集，集中讲学。初集讲圣谕，由地方绅士和乡老参加；再集讲经济举凡国家大政、地方利害均在讨论之列，从政人员必须参加；三集讲制举，科举应试的士子参加。
明清之际，
太原多经战乱，十余年间及至清初三立书院已是颓废不堪。清
顺治十七年（1660年），山西巡抚白如梅鉴于
三立祠地势湫隘，又经兵燹，遂在府城东南
侯家巷购地，即在
书院街原河汾书院故址，新建院舍百余间，花费白银2130余两。
雍正十一年（公元1733年），诏令各省省会设立书院，并拨银千两作创办经费。此时三立书院遂正式复名为“晋阳书院”，书院遂由地方官办，一跃成为国家创办的晋省最高学府，其旧址即在现今的
太原市公安局院内。乾隆十三年（1748年），山西巡抚唯泰扩建书院。乾隆十八年（1753年），新任巡抚胡宝（王泉），购得学院东面的（今
太原师专）开阔空地新盖讲堂、书舍，并新建祀祭前明殉节巡抚的殿舍。乾隆二十九年（1764年），又一任巡抚再建学会四十余间以及奎星楼、大照壁等，晋阳书院发展到鼎盛。自顺治十八年直至光绪二十七年(1661～1901)240年间，晋阳书院一直设在
侯家巷。
1902年成立
山西大学堂，大学堂总教习兼中学专斋总理谷如墉，即为晋阳书院最后一任
山长，晋阳书院的学生也全部进入山西大学堂。
光绪二十九年（公元1903年），筹办山西大学堂的机构，购得书院东段200余亩瓜菜地和居民住宅（今太原师专校址），与晋阳书院和
令德堂合并，成立山西大学堂。