左国城，春秋战国为白狄地、皋落所居之皋狼邑，汉为皋狼县。从公元140年西河郡内迁离石起，这里建为左国城，曹魏时期南匈奴的首脑机关——南单于庭就入驻这里。成为北方少数民族匈奴、鲜卑、羯、氐、羌的核心基地，先后辉煌400多年，孕育了一支强大的“离石胡”人，在民族融合史上产生了里程碑的意义。
南单于庭入驻后，对这里进行了创造性经营。沿用并扩展了春秋战国和秦汉城池，背靠东部大山，面向北川河水。依山就势，构筑城垣，东、南、北三面环岗而筑，东城墙沿山脊线而建，内外双城，严密捍御。内城呈长方形，外城随地形呈不规则形变化。总体建设为内城、西城、东城三个部分，成为城套城、城包城，内外结合，互为照应的军事城防。最外围周长9932米，总面积达到8.7平方公里。
这里作为南单于庭匈奴左部帅驻地，统领并督察匈奴五部军事。当时曹操把匈奴五部分布到吕梁山区一带，其领导核心就在离石左国城。南匈奴统治集团在这里生活、开会、娱乐、研究内部事务，处理各种问题，协调五胡之间及胡汉之间关系。西晋惠帝建武元年（304年），南匈奴首领刘渊根据当时天人环境在此作了当前形势和任务的报告。认为汉朝时：我们先人与汉约为兄弟，同甘苦共患难。当前的处境是：魏晋代兴，单于空有虚号而无尺土之业，各王侯都降同普通老百姓。当前形势和任务：司马氏骨肉相残，四海鼎沸，为我们兴邦复业提供了天赐良机！
于是，在晋朝皇族骨肉相残、胡人受压、天灾人祸、民不聊生的大背景下，一个以刘渊为皇帝的
匈奴汉国迅速孵化出巢。刘渊在此发动匈奴起义，很快推翻了西晋王朝，统治了山西大部分及长安、洛阳等中原的核心部位。成为我国历史上第一个内迁少数民族在内地建立的国家政权。由于胡人有了这样一块根据地，当时陕北、晋西北、晋东南的数十万胡人有了精神的依托，为少数民族混战和十六国的建立，奠定了思想基础和组织基础。位于吕梁山区深山大川的这个指挥中心，指挥着“五胡”千军万马东打西杀，争城掠地。又像一个神秘的剧场后台一样，“五胡”部族分别在此打扮一番，领了台词，便在中华大舞台上“乱纷纷，你方唱罢我来唱”，演出了“十六国”混战的活剧。
位于吕梁山东部的汾阳、孝义一带，则是对“离石胡”严加防堵。汾阳一带有六壁城，《水经注》云“南魏朝置六壁于其下，防离石诸胡，因为大镇。”《汾州府志》述，府北十五里有八门城，“刘渊遣将乔嵩攻西河，因筑此城，城有八门”俗名罗城。有板桥城，《郡国志》记“刘渊击刘琨于此。”孝义市有偏城村，《孝义县志》载，十六国时后赵离石侯以防西北诸胡筑城于此。由此可见“离石胡”威风当时，史籍不虚。所有这一切以及后赵、大夏国等都与左国城有着深刻的渊源关系。当时的左国城在内迁胡人心目中成为中央圣地，其榜样的力量甚至鼓舞了后世的元蒙和满清统治者。
左国城遗址位于山西省方山县境内的南村，北川河中游。今天，吕梁一带还有许多当时胡兵征战的遗迹。左国城城墙犹存，基本完好。 据光绪《永宁州志》述刘王晖山，上有“饮马池”，曾是刘渊牧马场，“今渊祠尚存”。吴城镇上四皓村有刘渊行宫。卢城（今离石上楼桥村）为晋并州刺史刘琨所筑攻刘曜的城垒。马头山有刘琨庙，玉林山有石勒墓。直到一千多年后，这一带三十多村还组织庙会，祭祀“石勒爷”。