1946年1月16日，东蒙古人民代表会议在科右前旗葛根庙召开。大会选举产生了政府委员15名，博彦满都当选为政府主席，玛尼巴达喇为副主席，
哈丰阿任秘书长；选出哈丰阿、特木尔巴根、
阿思根等45人组成政府“小呼拉尔”。19日，发表了《
东蒙古人民自治政府成立宣告》，宣布
东蒙古人民自治政府正式成立。东蒙自治政府成立后，组建了民族武装东蒙古人民自治军。
东蒙古人民自治军成立后，由
东蒙古人民自治政府内防部长
阿思根（汉名：李友桐）兼任司令，计有第1、2、4、5、6五个师的建制。由王爷庙起义官兵组成的民警总队整编为自治军骑兵第1师，莫德勒图任师长，都固尔扎布任参谋长兼政治部主任，下辖4个团1500余人。
哲里木盟科左中旗一带组建了骑兵第2师，师长乌力图，参谋长白音布鲁格，政治部主任李鸿范，下辖由五个旗地方武装改编的5个团2000余人。
昭乌达盟地区组建了骑兵第4师，和子章任师长，下辖6个团3000余人。此外，还有包启文领导组建的兴安支队和那钦双合尔领导组建的第6支队。1946年3月，又将
扎兰屯地区（即原伪
兴安东省，后改称
纳文慕仁盟）的民族武装整编为自治军骑兵第5师，师长鄂嫩日图，政委朱子休（西满军区干部），下辖5个团2000余人。
呼伦贝尔自治政权的保安总队也改称为自治军第6师，登登泰任司令员。1946年1月，在
哲里木盟地区开辟工作的
阿思根、乌力图等东蒙领导人，在
郑家屯与中共西满军区司令员
吕正操、政委
李富春等举行会谈，就相互关系问题签订了协议（时称《吕阿协定》）。协议决定，东
蒙自治军接受西满军区的领导和指挥，共同打击反动武装；西满军区向自治军派驻政工人员，并提供武器弹药和给养援助。根据《吕阿协定》，西满军区委派赵石等干部担任了自治军第2师政委及各团政委或副团长，第2师部队奉命配合东北民主联军参加了著名的
四平保卫战。
成立兴安省军区，
阿思根兼兴安省军区司令员，
哈丰阿任政委，张策任副政委。1948年1月1日，内蒙古人民自卫军改称内蒙古人民解放军，
乌兰夫任司令员兼政委，时辖内蒙古骑兵第1、2、3、4、11、16师及卓盟纵队、警卫团、独立3团、独立5团等部，约2万余人。骑兵师配合东北野战军在东北战场作战，并参加
辽沈战役；11、16师在锡察地区配合华北野战军作战，并参加
察绥战役和平津战役；其他部队在
解放区开展剿匪斗争，保卫土地改革，保卫解放区。在
锡林郭勒盟贝子庙成立了临时剿匪指挥部，王再天任总指挥，奎璧任政委，集中追剿窜扰锡察草原的各路土匪。伊盟蒙汉支队等各支部队统一改编为内蒙古人民解放军
伊克昭盟支队，解放了准格尔旗；卓盟纵队与骑兵第4师合并为骑兵第10师，在昭、卓盟开展剿匪斗争；绥蒙军区部队升编为陕甘宁晋绥联防军第8军，参加华北野战军发动的
察绥战役和华北人民解放军发动的第二次
绥远战役。