1937年7月中旬，中共代表周恩来、博古、林伯渠在庐山同蒋介石、邵力子、张冲谈判，因蒋介石对共产党提出的宣言态度冷淡，而另外提出一套方案，谈判又陷于僵局。
中共代表采取不让步则不再与谈的方针，周恩来等遂离开庐山到南京、上海等地。
在上海，周恩来遇到从海外返沪请缨抗战的北伐名将叶挺。
周恩来对叶挺说：“希夷，我正在和蒋介石谈判，主要是谈我们陕北红军部队改编的问题。”
叶挺听着，十分高兴，看来国共两党真的有机会联合起来一致对付日本帝国主义了。
周恩来说：“除了陕北的红军问题，还有南方8省的游击队问题，他们也要改编。这也要看蒋的态度。”
叶挺说：“为了抗日，这恐怕没什么问题吧。”
周恩来以商量的口气问道：“如果能谈通，希望你能参加这些部队的改编工作。怎样？”
叶挺回国本意就是为抗日报国，于是，他对周恩来的这一建议欣然答应，申明完全接受中国共产党的领导，并开始向南京国民政府积极活动。
9月下旬，中共中央和八路军驻宁代表博古、叶剑英等，在南京同国民党代表何应钦、张冲等谈判，初议将南方8省的红军游击队改编为一个新的军，在南方举起抗日旗帜。
蒋介石在事先没有征求中共中央意见的情况下，于9月28日单方面抢先任命叶挺为新四军军长。
博古、叶剑英考虑到党中央还不太清楚叶挺主动“请缨”这一内情，便于10月8日与董必武联名致电中央：
“叶挺事，据他说，恩来第一次在沪曾和他提过这个办法，故他才敢活动。现已委任为新四军军长，拨发了五万元活动费。他表示，如我们不赞成，他仍可辞职。”
电报正式向中央提出“南方游击队集中编为一个属我党直接领导的军”的建议。
10月12日，国民党江西省主席熊式辉转发蒋介石10月6日电令：赣粤边、湘鄂赣边、闽赣边、湘赣边、皖浙赣边、浙闽边和闽西等地红军游击队，统交国民革命军新编第四军（简称新四军）军长叶挺编遣调用。
10月18日，中共中央致电博古、叶剑英、董必武等，同意南方八省红军游击队集中改编为一个军的建议。
10月30日，中共中央作出决定，将南方各地红军游击队集中五分之三改编为一个军，以叶挺为军长，项英为副军长，陈毅或刘英为参谋长，反对国民党插入任何人。
以4个月为清理时间，任何游击队、游击区均须党中央派人亲去传达，然后集中。
11月3日，叶挺应邀到达延安。项英奉命也于11月7日抵达延安。他向党中央详细地汇报了南方三年游击战争和红军游击队谈判改编的情况。
在延安时，叶挺同项英见了面，一起研究了南方红军游击队改编和新四军组建事宜。
叶挺在延安一共逗留了6天，于11月9日离开延安，先行前往武汉，负责新四军军部的筹建工作。
叶挺于11月12日从延安到达武汉，在汉口太和街26号，一边以新四军军部名义招募工作人员，一边等待副军长项英的到来。
此时，叶挺在汉口就新四军具体编制，以及部队活动范围等问题与何应钦反复磋商。
12月13日，中共中央政治局作出《对于南方游击区工作的决议》，充分肯定了南方三年游击战争的成绩。