为了配合津浦线的对日作战，八路军总部在2月初向所属部队下达命令，全线出击，破坏日军占领的交通线，断绝日军补给，牵制敌人的军事行动。

红军主力改编为八路军后，中共派周恩来、朱德、董必武、秦邦宪、林伯渠等为代表，与国民党进行了两个月的谈判，到1937年10月12日，双方才达成协议，将南方各省游击队统一整编为国民革命军新编第四军。

不久，周恩来到达上海，见到了刚刚由澳门回沪的老战友叶挺。他认为，叶挺是国共两党都能接受的新四军军长的最合适人选。他与叶挺谈到此事，叶即慨然应允，立即开展活动，并迅即为蒋介石所认可。

叶挺，广东惠阳人，出生于1896年，保定军官学校第六期生。曾任孙中山卫队团营长。1924年加入中国共产党，后去苏联学习。北伐中率国民革命军第四军独立团，所向披靡，有“北伐名将”之誉。叶挺独立团被称为“铁军”。北伐军进入武昌后，任24师师长兼武汉卫戍司令部司令。大革命失败后，参加领导南昌起义，任11军军长；后又参加领导广州起义，任总司令。起义失败后，他远走海外，与中共失去了联系，后长住澳门。抗战开始后，他那军人的报国热情重新激发出来，于是抛弃温柔的家庭，返回大陆，参加抗战。

1937年的10月底，叶挺到达延安，向中共中央请示筹建新四军的工作。毛泽东在欢迎叶挺的大会上致词。他说:“我们今天为什么欢迎叶军长呢?因为他是大革命时代的北伐名将，因为他愿意担任我们新四军的军长，因为他赞成我党的抗日民族统一战线的政策，所以我们欢迎他。”在热烈的掌声中，叶挺站起来，激动地说：“同志们欢迎我实在不敢当，革命好比爬山，许多同志不怕山高，不怕路难，一直向上走，我有一段是爬到半山腰又折回去了。现在又跟上来。今后一定遵照党所指示的道路走，在党中央的领导下坚决抗战到底。”毛泽东与叶挺就新四军建军原则、抗日战争的战略战术问题等进行了深入的探讨。

11月7日，项英奉命回延安汇报工作，与正在延安的叶挺首次会面，共同商谈了新四军的组建工作。

从延安返回，叶挺又去南京与蒋介石会晤，协商新四军的编制及任务。回到武汉的第二天，叶挺第一次以新四军军长的身份对报界发表谈话，揭露日本帝国主义侵略中国的罪行，宣布新四军正式组建，即将开赴前线，杀敌报国。

11月下旬，在汉口太和街26号（今汉口胜利街332-352号，胜利街与卢沟桥路交会处），叶挺吸收了一批同志组建了新四军的筹备处，打出了新四军的大旗。

1937年12月，中共中央政治局会议后，周恩来和项英到达武汉，与先期抵汉的叶挺一起组建新四军军部。在12月23日召开的中共中央代表团和中共长江局第一次联席会议上，讨论的首要议题就是新四军问题。会议确定，南方各地区游击队应迅速集中，实施新四军建制，全部开往抗日前线。为了尽快把分散在南方各地的红军游击队集中起来，组成新四军，开赴抗日前线，在中共中央的领导下，叶挺、项英、陈毅等进行了紧张、艰巨的筹备工作。陈毅到皖浙赣动员部队，并传达中央指示；项英与曾山到湘赣粤等地集中部队；张云逸到闽赣、闽东及闽西南集中部队；温仰春及黄道、叶飞往刘英处动员部队。

1938年1月6日，新四军军部由武汉迁至南昌。

随后，纵横大江南北的新四军深入敌后，袭扰日军，很好地配合了武汉大会战。