该军编成后，隶属左翼军继续北伐。9月中旬，该军策应北伐军中路攻击武汉，先后攻占公安、黄金口和陡湖堤等。此时川军
杨森与直系卢金山组成川鄂联军，企图反攻鄂西。在
国民革命军第十军和
国民革命军第八军配合下，第九军击败川鄂联军，并攻占
宜昌。
1927年2月5日，
唐生智以“蹂躏江西，与吴、孙勾结”罪名扣押彭汉章。第一师被改编为独立十五师；第二师被编为
国民革命军第十一军第二十六师；第三师被国民革命军第二十五军收编。8月13日，唐生智枪杀彭汉章，第九军番号撤销。
1926年秋天，滇军
金汉鼎经
朱培德同意，在江西
赣州编成独立第十六师。1927年5月初，独立第十六师扩编为第九军，金汉鼎任军长，下辖第二十八师，师长
韦杵；第二十九师，师长周志群。是时，
武汉国民政府北伐，第九军留守江西
九江。8月1日，中国共产党南昌暴动后，该军将原滇军
杨如轩部编成第二十七师，隶属该军镇压中共部队。
1927年9月，
宁汉合流，金汉鼎第九军改为第31军；南京国民政府将第一军第三师、第十四师、第二十一师合编为第九军，
顾祝同任军长，
卫立煌任副军长。下辖第三师，师长顾祝同兼；第十四师，师长卫立煌兼；第二十一师，师长陈继承。12月，该军编成后，参加第二次北伐，在安徽三界打败孙传芳部守军，占领
凤阳后，先后攻克徐州、台儿庄、济南等。
1928年7月25日，该军第三师、第十四师与
国民革命军第十七军第二师缩编为国民革命军第二师。顾祝同任师长，下辖第四旅、第五旅、第六旅；第二十一师与
国民革命军第三十二军缩编为国民革命军第三师。