1938年4月，粟裕率领新四军先遣支队挺进苏南敌后进行战略侦察 6、7月间，陈毅、张鼎丞相继率领新四军第1、第2支队挺进到苏南，开展游击战争，至年底创建了以
茅山为中心的抗日游击根据地。随后又分兵东进、北上，发展淞沪和苏中地区。1939年12月，中共苏皖区委员会成立，吴仲超任书记。
1941年皖南事变后，苏南地区的抗日武装整编为新四军第6师，谭震林任师长兼政治委员。4月，中共苏皖区委和中共(京沪线)路东特委合并，成立中共江南区委员会，谭震林兼任书记。建立江南行政委员会，何克希任主任。9月，苏常太地区划归苏中区管辖，中共江南区委又改成中共苏皖区委。1943年3月，苏南行政公署成立，江渭清兼主任。1944年12月，粟裕率领新四军第1师主力南渡长江，与第6师16旅会合，发展苏浙根据地。1945年1月，中共苏浙区委和苏浙军区成立，粟裕任区委书记兼军区司令员。5月，苏浙区委改为苏南区委，吴仲超任书记。苏浙军区主力挺进浙西后进一步扩大根据地。至同年7月，苏南根据地东起淞沪，西至芜湖，北接长江，南达浙西天目山区，辖19个县级政权