清光绪二十二年(1896)，直隶提督聂士成于直隶驻防淮军内选练马步三十营,仿德国营制操法，装备新式武器,编成武毅军,驻防芦台。二十四年“百日维新”期间，奉调驻天津，系荣禄等人密谋政变的措施之一。戊戌政变后，荣禄将北洋四大军(武毅军、毅军、甘军、新建陆军)合编为武卫军，分路驻防。以武毅军驻芦台为前军。二十六年奉调在京津铁路沿线镇压义和团，旋调防天津，抗击八国联军，恶战十数次。聂士成战死后，归马玉昆指挥。

武毅军前身为李鸿章的六弟李昭庆在剿捻时新募的淮勇。

1866年(同治五年)11月，李鸿章代替曾国藩督师剿捻时，李昭庆所部已扩充至19营，称武毅军。1867 年李昭庆因故请卸兵权，11月，郭松林部松军奇军一并编入武毅军，计有30余营，由郭松林总统。1870年，李鸿章命郭松林赴安徽、河南招募武毅军马队5 营、步队10 营，合原有5 营共20营。11月，毅军步队10营奉调赴陕，归铭军唐定奎指挥。后武毅军几经裁撤，只剩5营时值1880年(光绪六年)中俄伊犁问题交涉，两国关系紧张，直隶沿海戒严郭松林由湖北提督改任直隶提督，李鸿章遂调武毅军马步4 营由湖北赴直东山海关一带驻防，1884 年移驻台。郭松林不久病故，武毅军改由新任直隶提督李长乐统领。1886年4月裁兵节饷，这4营武毅军又裁去马步队各1营，只剩2营。这2营后改由直隶筹饷，与同时驻防芦台的古北口提标练军前、右、后3营，统称芦台淮练诸军。1889 年，李长乐去世，叶志超出任直隶提督，接统芦台武毅军防军。

甲午战争后期，旨令直隶提督聂士成率摩天岭前线8营回防津沽。中日马关议和后，朝廷督办军务处令聂士成整编直隶地区北洋剩余的淮军各部，统编为新的武毅军，内有聂士成18 营、吴宏洛6营、陈凤楼3 营等。同年11月，聂士成受命在挑选所部淮系马步军30营，配备新式武器，仿效德国兵制操法，编练武毅军，又称武毅新军。1898 年12 月，聂士成再度奉命总统直隶淮军与直隶练军连同直隶绿营在内，此时聂士成统领之部队已逾6.3万人。聂士成的武毅军与袁世凯的新建陆军、董福祥的甘军、宋庆的毅军，一同隶属于直隶总督荣禄之下并称为“北洋四军”。

1899年2月，清廷命荣禄将北洋各军正式编成武卫军，为拱卫京师之第一线部队。聂士成部武毅军为前军，仍驻芦台(天津宁河);董福祥部甘军为后军，驻蓟州(天津蓟县) 一带:宋庆部毅军为左军，驻山海关内外;袁世凯部新建陆军为右军，驻天津小站。另招募勇丁、抽调八旗兵组成中军，由荣禄亲统，驻南苑 (今北京大兴)。

1894年6月，叶志超、聂士成率所部芦台防军作为第一批入朝清军赴朝鲜驻于成欢驿，与大岛义昌所部日军第九混成旅团打响了甲午战争的第一枪。战后撤回平壤，与平壤四大营各部共同组织了平壤防御战。平壤溃败后退守辽东，在鸭绿江江防战役中由聂士成统领主要坚守虎山阵地阻击日军。之后随聂士成退守凤凰城北，时收编了淮系盛军等部，与凤凰城留守日军断断续续战于摩天岭赛马集等地。各场战役均表现出较强的战斗力。