新四军全称“中国国民革命军陆军新编第四军”。在国共两党合作抗日的形势下，经国民党当局同意，由江西、福建、广东、湖南、湖北、河南、浙江、安徽8省14个地区的红军游击队从1937年10月起陆续改编而成。

1939年2月，周恩来受中共中央委托，到达皖南新四军军部。他还同新四军领导人商定今后的活动方针是：向北发展，向东作战，巩固现在阵地。

为了加强对江北新四军部队的指导，新四军参谋长张云逸于1938年11月率军部特务营由皖南到达皖中无为地区，将庐江、无为地区党组织领导的游击队统一整编为新四军江北游击队，担负皖中抗战的任务。1939年5月，新四军军长叶挺由皖南北上，在皖中庐江东汤池宣布成立新四军江北指挥部，张云逸、徐海东分别担任正副指挥。接着，新四军第四支队进行改编，由徐海东兼任司令员，郑位三任政治委员。第五支队以原第四支队第八团为基础扩编而成，罗炳辉任司令员，郭述申任政治委员。

1940年11月，为统一对华中八路军和新四军的领导，按照中共中央的指示，成立华中总指挥部，叶挺任总指挥，刘少奇任政治委员，陈毅任副总指挥(叶挺抵达苏北前由陈毅代理总指挥)。

1941年1月20日，中共中央军委发布重建新四军军部的命令，任命陈毅为代理军长，刘少奇为政治委员，张云逸为副军长，赖传珠为参谋长，邓子恢为政治部主任。1月25日，新四军新军部在苏北盐城成立，随即将全军整编为七个师和一个独立旅：第一师师长粟裕、政治委员刘炎；第二师师长张云逸(兼)、政治委员郑位三；第三师师长兼政治委员黄克诚；第四师师长兼政治委员彭雪枫；第五师师长兼政治委员李先念；第六师师长兼政治委员谭震林；第七师师长张鼎丞、政治委员曾希圣；独立旅旅长梁兴初、政治委员罗华生。全军共9万余人，继续坚持长江南北的抗战。