1937年全面抗战爆发后，我党与国民党进行第二次合作，根据协定，红军被整编为八路军，南方8省14个地区的红军和游击队则编为新四军。然而，这两个番号的由来，却并非一蹴而就，背后经历了无数曲折与波折。 从1937年2月中旬到3月上旬，周恩来等人赴西安与国民党进行谈判，内容主要围绕红军的改编与如何开赴抗日前线展开。然而，3月下旬至4月初的第二次会谈，以及5月2日至14日的第三次会谈，因双方意见分歧，始终未能取得实质性成果。就在这场谈判陷入僵局之时，卢沟桥事变爆发，局势急转直下。7月17日，周恩来到庐山与蒋介石进行了第四次会谈，但依旧未能达成一致。直到1937年8月13日，日军大举进攻上海，蒋介石在国军淞沪会战的压力下，不得不同意将红军改编为八路军。

与此同时，中共中央在关注八路军领导权的安排时，同样也把目光投向了新四军的整编问题。尤其是叶挺担任军长一事，更是成了各方权力博弈的焦点，而新四军的番号，也由此开始逐步确定。 叶挺，1924年加入中国共产党，1925年便参与组建以共产党员为骨干的第四军独立团，并出任团长。1926年8月下旬，在汀泗桥和贺胜桥的战役中，面对吴佩孚3万余精锐，叶挺带领独立团2000余名勇士，拼死奋战，最终斩获北伐名将的殊荣，第四军也因此得到了铁军的称号，成为当时举世闻名的精锐部队。武汉被北伐军占领后，叶挺升任第十一军第二十四师师长。1927年，南昌起义爆发，叶挺担任前敌总指挥兼第十一军军长，广州起义时，又成为工农红军总司令。作为中国人民解放军的创始人之一，叶挺的名字在中国革命史上熠熠生辉。然而，广州起义失败后，叶挺受到不公正的指责与待遇，被迫流亡海外，最终定居澳门。1937年七七事变爆发后，叶挺结束流亡生涯，回到了国内。稍后，叶挺提出建议，主张召集留在南方的红军及游击队，改编成新四军抗击日本侵略，番号即为新四军。蒋介石接受了这一提议，最终该番号得到了国共两党的认可。

尽管毛泽东同意使用新四军这一番号，但他对叶挺主导改编南方红军游击队并不完全放心。毕竟，叶挺已经不再是共产党员，因此中共中央并未推举他为新四军的军长。相反，中共决定推选叶剑英来担任这一职务。然而，国民党方面却坚持由陈诚担任新四军的指挥官，这一问题在两党之间展开了激烈的争执。双方在改编后的新四军的领导人选问题上，始终未能达成共识。1937年9月28日，蒋介石突然宣布单方面任命叶挺为新四军军长。在蒋介石看来，叶挺已经在海外生活了十年，早已脱离共产党，且失去了中共的信任，他希望借此机会将叶挺拉拢过来，从而通过叶挺掌控红军游击队。 面对蒋介石的这一任命，中共中央并未立即同意。虽然叶挺已归国并表态支持党的领导，但由于他长期生活在海外，中共中央仍然对其政治立场和态度缺乏全面的掌握，因此决定对其进行一段时间的观察和考察。10月9日，毛泽东通过电报向正在南京与国民党谈判的博古和叶剑英询问叶挺是否愿意恢复党籍，完全接受党的领导，且不受国民党的干涉，并问他是否愿意赴延安一趟。得知消息后，叶挺明确表示愿意接受中国共产党的领导，并决定前往延安。

1937年10月12日，国民政府军事委员会正式宣布，南方8省14个地区（不含琼崖）的红军和游击队被改编为国民革命军陆军新编第四军，军长为叶挺，副军长为项英。中共中央也同意叶挺担任新四军军长，并决定成立新四军军委，以项英和陈毅为正副书记，以确保党对新四军的领导。11月3日，叶挺抵达延安，受到了热烈的欢迎。毛泽东在欢迎仪式上发表了讲话：我们今天为什么欢迎叶挺军长呢？因为他是大革命时代的北伐名将，因为他愿意担任我们新四军军长，因为他赞成我党的抗日民族统一战线的政策，所以我们欢迎他。叶挺激动地回应道：同志们的欢迎，我实在不敢当，革命就像爬山，许多同志不怕山高，不怕路难，一直向上走。虽然我曾在半山腰折返过，但现在我已经重新站起来，今后一定坚决按党和毛主席的正确领导走下去，抗战到底。 11月9日，叶挺告别延安返回武汉。12月25日，新四军的军部在汉口正式成立，叶挺被正式任命为新四军军长，项英为副军长。

1938年1月6日，新四军移驻南昌，2月起开始进行集结和整编，最终形成了四个支队，总兵力达到10300人。第一支队由陈毅担任司令员，傅秋涛为副司令员，辖有第1团和第2团，共2366人；第二支队由张鼎丞担任司令员，粟裕为副司令员，辖有第3团和第4团，共2700人；第三支队由张云逸兼任司令员，谭震林为副司令员，辖有第5团和第6团，共2100人；第四支队由高敬亭担任司令员，林维先担任参谋长，辖有第7团、第8团、第9团以及手枪团，共3100人。 新四军成立后，深入华中敌后，开展了英勇的抗日战斗，屡建奇功。到1945年抗日战争结束时，部队的总人数已发展至30余万人。