1933 年3 月1 日，国民革命军第68 师所属第200 旅、第201 旅、第213 旅及炮兵第23 团编成第61军，在河北怀柔一带与日军作战。6 月，该军番号撤销，所属各部返回山西归建。1937 年7 月，第101 师、独立第7 旅、第200 旅在山西编成第61 军，隶属第7 集团军。1949 年4 月21 日，该军在太原被歼灭，军长赵恭阵亡，第69 师师长郭弘仁被俘。

1933 年3 月1 日，第68 师所属第200 旅、第201 旅、第213 旅及炮兵第23 团编成第61军，在河北怀柔一带与日军作战。6 月，该军番号撤销，所属各部返回山西归建。

1937 年7 月，第101 师、独立第7 旅、第200 旅在山西编成第61 军，隶属第7 集团军。在大同、天镇等地参加平绥路东段方面作战（1937年8 月8 日至9 月11 日）。10 月2 日，阎锡山以失守天镇的罪名将军长李服膺处决。是年冬，在临汾以第72 师及第209 、第200 、第201 、第196 旅及新编第1团等残部并编为第69 、第72 师，编成第61 军，隶属第6 集团军。自此至抗战胜利，该军一直活动于晋南。1938 年3 月26 日，收复吉县。

1938 年，增辖第208 旅。7 月，收复临汾。1939 年11 月14 日，克复乡宁、隅县，参加第2 战区1939 年冬季攻势（1939 年12 月10 日至1940 年2 月2 日）。1940 年10 月，改隶第8 集团军，进出临汾。

1941 年1 月，第208 旅改称暂编第48 师，该军改辖第69 、第72 、暂编第48 师。6 月，东渡汾河，建立敌后政权，在洪洞石泉庄作战。7 月，第72 、暂编第48 师分驻临汾、赵城。8月，第69 师驻浮山。9 月，暂编第48 师驻翼城。10 月，第69 师驻河津。

1942 年底阎锡山进一步指示其第六十一军与日军达成协议,由日军让出安泽、浮山、曲沃给第六十一军进驻;1943年3月,第六十一军东渡汾河,进人浮山,遭到八路军的阻击而退回晋西;1944年1月,由第二战区总参赞杨澄源、第六十一军军长梁培璜率三个正规师、两个保安团及部分县、区政权人员共万余人,经日军指定的襄陵桥、史村桥再次东渡汾河,实施其所谓“开展汾东,收复失地的计划。太岳区军民为顾全抗战大局,避免其豆相煎,使日伪渔人得利,遂未还击。第六十一军进入浮(山)南之后,与日军和平共居,信使往返。第六十一军不顾太岳部队的忍让,反而向太岳部队防区进攻,企图消灭太岳部队主力。太岳部队被迫自卫,将其击退。同时,薄一波致函杨澄源,劝其团结抗战,避免内战。

3月20日,阎锡山第六十一军军长梁培璜等,奉命和驻临汾日军第六十九师团代表秘密会谈,签订了《各部队对日本军之协议书》10条。随后日军和第六十一军统一行动,互相配合,向太岳抗日根据地之浮山、安泽地区进行“讨伐”。鉴于此种情况,中共中央北方局于4月5日提出消灭第六十一军一部的对策,得到了党中央和毛泽东的批准,太岳部队随即连续发动了两次青(城)浮(山)战役。第一次青浮战役从1944 年4月28日至6月24日,歼灭阎部约一个师的兵力,伤其2766人,生俘 1070人。对此,阎锡山不甘心失败,召回杨澄源密谋策划,确定“自固与开展”的作战原则,即先占领和巩固战略据点,尔后向外发展。8月13日,太岳区党委书记太岳军区政委薄一波在延安对新华社记者发表谈话,揭露阎锡山通敌叛国的罪行。同时,延安《解放日报》和新华社先后发表第六十一军勾结日军,破坏抗战,进攻决死队和八路军的报道,披露了第六干一军与日军信使往返互通情报的铁证及第六十一军自3月以来向太岳抗日根据地发动8次进攻的事实真相。在此基础上,太岳部队发动了第二次青浮战役。这次战役除太岳部队外,还有太行部队一部参加,共计12个团的兵力。第二次青浮战役分两期作战到9月18日由于驻临屯公路的4000余名日军出动为第六十一军解围,太岳、太行部队为进行反“扫荡”作战,遂停止了第二次青浮战役。第二次青浮战役共进行大小战斗93 次,攻克村落14处,毙伤日军13名、阎军2418名，俘虏阎军1532名,内有将级军官6名。

1945 年10 月12 日，由浮山进占上党地区的第69 师在沁河以东的将军岭及桃川地区被歼灭。12 月，暂编第48 师裁撤，第66 师编入，该军改辖第66 、第69 、第72 师，担任洪洞到禹门渡防务。1946 年1 月，在侯马和曲沃的蒙城作战。7 月，主力驻太原，第72 师驻文水、汾阳，参加同蒲路作战（ 1946 年6 月7 日至1947 年1 月24 日）。1947 年1 月，由文水、介休进攻进攻汾阳、孝义。1948 年5 月17 日，第66 师在临汾被歼灭，师长徐其昌被俘。6月21 日，第72 师在平遥西南被歼灭。7 月中旬，由榆次退守太原，参加太原战役（ 1948 年7月16 日至1949 年4 月24 日）。1949 年4 月21 日，该军在太原被歼灭，军长赵恭阵亡，第69 师师长郭弘仁被俘。

晋绥军(1933. 3 一1933.6)军长：李服膺

晋绥军(1937. 7-1949. 4)历任军长：李服膺；陈长捷（1937. 10. 5 一）；吕瑞英（1939. 7.1-1941.11）；梁培璜(1941. 11 一1946. 3. 24)；王靖国（ 1946. 3. 24 兼任一1947.4 免兼）；赵恭（1947. 4 一1949.4. 20 阵亡）