1902年5月11日出生于格林什那村的乌克兰农民家庭。毕业于乌克兰红色指挥员联合学校（1922），工农红军炮兵指挥人员训练班（1928）和捷尔任斯基军事学院高级指挥人员进修系（1939）。苏联军事家，苏联元帅（1955），两次苏联英雄（1943.10.23，1978.2.21）。

1920年参加苏军。

1922年起在北高加索军区和白俄罗斯军区工作，历任炮兵排长、连长、营长和炮兵团参谋长。

1924年任炮兵团长。

1926年加入苏联共产党。参加过苏俄内战，当时为列兵，曾在乌克兰和克里木对白卫军和马赫诺匪帮作战，在顿河和北高加索同反革命匪徒作斗争。

1935年6月任远东机械化第23旅炮兵主任。

1936年9月任基辅军区机械化第133旅炮兵主任。学院毕业后，任彼列科普步兵第5l师炮兵主任，在该师编成内参加了1939—1940年苏芬战争。后任敖德萨军区步兵第35军炮兵主任。

1940年8月—1941年5月任该军区机械化第2军炮兵主任。

1941年5月起任摩托化反坦克炮兵第1旅旅长，参加了卫国战争。后历任步兵第15军军长、骑兵第6军军长和骑兵机械化军队集群司令，在西南方面军参加了弗拉基米尔—沃伦斯基、罗夫诺、沃伦斯基新城、基辅和切尔尼戈夫等地的防御战。莫斯科战役时，参加了西南方面军右翼的进攻战役。

1941年底任第6集团军副司令。

1942年3月起历任第38集团军、坦克第1集团军、近卫坦克第1集团军和第40集团军司令。

1943年10月至战争结束复任第38集团军司令。曾指挥部队参加了哈尔科夫地区和顿河地区的作战，以及斯大林格勒战役。指挥第40集团军在沃罗涅日方面军编成内，参加了奥斯特罗戈日斯克—罗索什、沃罗涅日—卡斯托尔诺耶和别尔哥罗德—哈尔科夫等进攻战役，库尔斯克战役和强渡第聂伯河战役。指挥第38集团军在乌克兰第1方面军编成内，参加了基辅、日托米尔—别尔季切夫、普罗斯库罗夫—切尔诺维策、利沃夫—桑多梅日和喀尔巴阡—杜克拉等进攻战役；在乌克兰第4方面军编成内参加了西喀尔巴阡、摩拉瓦—俄斯特拉发和布拉格等进攻战役。

战后，曾任集团军司令（1945-1948年）、莫斯科防空地域（后改为防空区）司令（1948-1953年）、莫斯科军区司令（1953-1960年）、苏联国防部副部长兼战略火箭军总司令（1960-1962年）。

莫斯卡连科于1953年参与了镇.压反革命贝利亚集团的运动。之后又扶摇直上,1955年3月11日晋升苏联元帅，1962年起任国防部总监兼国防部副部长，直到1983年才光荣卸任。

1985年，逝世，葬于红场克里姆林宫宫墙下。

他所指挥的部队，在利沃夫方向突破敌人坚固的纵深梯次防御时，以及在攻占基辅、日托米尔、日梅林卡、文尼察、利沃夫和摩拉瓦—俄斯特拉发等城市的作战中，战功卓著。所属部队因胜利作战，受到最高统帅18次通令嘉奖。他本人因表现了英雄主义精神，被授予苏联英雄称号。

1956年起为苏共中央委员。苏联第二——九届最高苏维埃代表。捷克斯洛伐克社会主义共和国英雄(1969)。获列宁勋章6枚，十月革命勋章1枚，红旗勋章5枚，一级苏沃洛夫勋章2枚，一级库图佐夫勋章2枚，一级波格丹·赫梅利尼茨基勋章和三级“在苏联武装力量中为祖国服务”勋章各1枚，奖章及外国勋章多枚，荣誉武器1件。

莫斯卡连科是国内战争参加者,他的基本职业是炮兵,曾在3所军事学校毕业.在卫国战争开始时,担任反坦克旅旅长,后来担任一些骑兵机械化集群,诸兵种合成集团军,坦克集团军的司令，从战争一开始他就在前线参加战斗,在乌克兰,顿河和伏尔加河下游的战斗中获得了丰富的经验，脱颖而出成为一名军事统帅，在进攻战中起到很重要的作用，他指挥的部队最善于突破敌纵深防御。莫斯卡连科元帅为苏联军事的现代化,尤其在导弹武器方面,做出了不可磨灭的贡献.

据他的几位战友回忆，莫斯卡连科是个硬汉子，出名的爆脾气，在指挥战斗时常常怒气冲冲，不仅咒骂敌人，还会威胁要枪毙性格软弱的军官。另外莫斯卡连科有仇视文职人员的倾向，是典型的俄国武夫。

苏联解体后，莫斯卡连科元帅的家人把莫斯卡连科服役时获得的全部勋章放到网上拍卖，当年莫斯卡连科出生入死得到的嘉奖，在苏联解体后也只能为家人换点钱花。