1930年，直南（河北省南部）磁县、彭城“五一”农民暴动，成立红军第二十一军。1933年1月下旬，红二十一军划归红一方面军建制，参加中央苏区第四次反“围剿”作战。同年5月，部队发展到3900余人。6月7日，红一方面军各部队统一整编，红二十一军和红七军缩编为红三军团第五师。

中国工农红军第二十一军土地革命战争时期曾经有过三个红二十一军，即直南地区红二十一军、闻西地区红二十一军和红一方面军红二十一军。（一）直南地区红二十一军。1930年，直南（河北省南部）磁县、彭城“五一”农民暴动，成立红军第二十一军。不久，遭受国民党军的围攻而失败。（二）闽西地区红二十一军。1930年6月，红四军第四纵队、红十二军第一纵队和闲西的部分地方武装合编，组成红军第二十一军，军长吴少海（后伍中豪），政治委员李任予，参谋长邓毅刚，政治部主任陈正，共3000余人。红二十一军成立后，在闽西龙岩、漳平等地开展打击团匪，帮助地方建立革命政权的工作，8月，出击东江攻打大埔、高陂等地，受重挫。遂回师福建，又在芦下坎、平和等战斗中失利。9月下旬，进攻上杭再次受挫，部队诚至400余人。11月，红二十一军和红二十军合策，组成红军第十二军（新十二军）。（三）红一方面军红二十一军。1932年7月21日，江西军区将独立第三师、第六师合编，组成红军第二十一军。军长刘畴西，政治委员李井泉，参谋长宋时轮，下辖第六十一、第六十二、第六十三师。8月，参加乐安宜黄战役。1933年1月下旬，红二十一军划归红一方面军建制，参加中央苏区第四次反“围剿”作战。同年5月，部队发展到3900余人。6月7日，红一方面军各部队统一整编，红二十一军和红七军缩编为红三军团第五师。