1946年12月，粟裕风尘仆仆地从华中野战军所在地，来到了陈毅所指挥的山东野战军司令部。在毛泽东的倡议下，中华野战军和华东野战军合二为一，共同作战，改称为华东野战军。
与苏中七战七捷的华中野战军相比，山东野战军的战绩一度相当惨淡，五负而一平，整个部队情绪不是很高。
然而出乎山东野战军众将意料的是，粟裕竟然几乎是“只身前来”，身边跟随的，只有参谋周志英。进入山东野战军司令部，粟裕感到气氛似乎有点不对，他晚年回忆：
“”如何完成中央军委交给的战役指挥任务，又处理好上下左右的关系，是一个棘手的不得不认真考虑的问题。”
其中“处理好上下左右的关系”，几乎与中央军委所交待的战役指挥任务相等同。很显然华中、山东两大野战军人事关系的处理，已经成为粟裕亟待解决问题。事实上，山东、华中两大野战军虽然都在华东地区作战，但是摩擦与争论却由来已久。
国共内战爆发后，华东诸解放区成为蒋介石集团的重点进攻区域。华东解放区，包括苏北、皖北、山东，地处津浦路两侧，威胁南京，地理位置非常重要。卧榻之处岂容他人酣睡，蒋介石纠集了62个整编旅，共50多万兵力，向整个华东地区重压而来。其中包括整编74师、整编11师和第五军三支“五大主力”部队，兵力强、装备好、训练精。
反观我军，我军在抗战胜利后，确立了向北发展、向南防守的政策。山东解放区临近东北，因此八路军山东军区主力以及华中根据地的主力大量调往东北。
中央要求调走山东的五个师，结果走了六个师，还带走了18个基干团和大批军政干部，总共9万多人。同时，新四军第三师的3.7万余人，也由黄克诚带去了东北。留在山东的野战军，只有5万多人，兵不多、战斗力也不如从前。
因此可以说，敌人的兵力大大的增强了，而我军在华东的实力却大大削弱了。其后，中央军委决定建立华东解放区机构，成立中共中央华东局，新四军军长陈毅任山东军区司令员，新四军饶政委兼职山东军区政委，统一领导山东和华中地区的野战军、地方部队和民兵，即是一个机关，两个牌子。
虽然陈毅名义上指挥山东、华中两个野战军，但实际操作却不可能。古人云：“一国三公，吾谁适从。”陈毅要管两区（山东和华中）四方（山东军区、山东野战军、华中军区、华中野战军），实在力不从心。更何况，山东、华中两军相隔较远，只能在苏皖边区的南北战场作战。陈毅所能指挥的，只有山东野战军；而华中野战军则由华中军区副司令员粟裕全权指挥。
战争开始时，华中野战军和山东野战军只有战略配合，而从无战役配合，基本就是各自为战。从战果看，两军简直犹如冰火两重天，华中野战军在苏中七战七捷，歼敌5.3万人，得到了毛主席、党中央的赞许。
而山东野战军自进入淮北战场后，除了初战歼敌一个旅外，其他战役皆遭挫败。其中尤其以泗县战役损失最多，给我军士气带来巨大的打击。
陈毅认为山东的兵力严重不足，因此多次向党中央提议，希望将山东野战军和华中野战军合并作战一肩挑两担，实在勉为其难。
到了9月，华东战局变得空前严重。薛岳巧用瞒天过海之计，74师突然杀向兵力空虚的两淮根据地，占领了淮安城。由此，连接山东、华中的两淮根据地就此丢失。
泗县没打好、两淮又丢了，陈毅遭到了华东分局几位领导一直质疑，说陈毅“不执行毛主席集中兵力打歼灭战的指示。”除此之外，中央军委对陈毅在淮北没打好也有点不满，便提出要徐向前前来协助陈毅指挥打仗。
对此，陈毅非常委屈。华东军区参谋王德曾回忆：
“有一天夜里，我在值班，陈毅同志走了进来，他心情沉重地对我说：“我将来还是搞我的文化工作去好了……我们给中央说话也不灵了，提升什么意见也不灵了。””
事实上，陈毅何尝不想集中兵力呢？但是山东和华中是各自为战，各有各的想法、各有各的重点，很难达到统一。
开战三个月，为了寻找大家可以接受的方案，山东、华中往来电报上百份，方案提出三四个，今天提出、明天推翻，后天再提，反复次数之多，简直难以计数。
山东领导说山东重要，要求华中部队立即北上；华中的领导说华中重要，要求两支野战军主力都集中在华中作战。
在争论，说急了，就不免说怪话了。就如王德所言：
“在争论中，有些人个性很强，不那么听从招呼；个别人话很难听，说什么不到山东当流亡政府。”
这种情况下，将山东、华中部队集中起来，几乎是不可能完成的任务。
但随着两淮根据地的丢失，苏中根据地失去了与山东的地理联系，华中野战军的主力部队为了防止被围，不得不离开他们眷恋的热土，北上山东。陈毅集中两大野战军一同作战的构想，才真正实现。
9月23日，中央军委明确电令：
“山野、华野两军集中行动，两个指挥部亦合一。”
军委任命陈毅为司令员兼政委，粟裕为副司令员，谭震林为副政委，陈士榘接替宋时轮为参谋长。
两军虽然名义上合二为一了，但是具体如何集中使用兵力，又产生了矛盾。首先是集中兵力作战，还是分散兵力各自为战；其次集中兵力在何处作战，是苏北？鲁南？还是渡过运河，越过津浦路，去淮北地区。而后者，是最难解决的问题。
10月中旬，国民党整编26师、51师和第一快速纵队进攻枣庄等地，鲁南告急。而此时呢？只有叶飞率领第一纵队在这个地区作战，兵力严重不足。与此同时，华中野战军主力在沭阳和涟水，山东野战军主力担任守备陇海路东段的任务。因此华东野战军非但没有合兵，反而将部队平分在三个方向。
陈毅认为应该将部队集中于苏北地区，收复淮阴、淮安；但到了十月中旬，粟裕提出不同意见，认为华中、鲁南战局越来越严重，主张集中两个野战军的主力部队，沿陇海铁路向西推进，在邳县、睢宁、铜山地区与敌人决战。围魏救赵，威胁徐州，吸引鲁南、两淮之敌回援徐州，从而解华中、鲁南之危。
这时陈毅又提出不同意见，他认为淮北敌人较强，战场也不好，敌人有备，出击淮北可能不利，主张集中两个主力部队，在鲁南地区歼敌，否则首府临沂可能失守。
对此华中地区领导回复，不同意陈毅鲁南作战方案，华中战略位置更重要，应在两淮以北决战，歼灭东进之敌，收复两淮。随后华中野战军又独立发动第二次涟水战役，但由于对面的74师战力太强，最终功败垂成。74师发动反击，趁机占领了兰陵，控制了陇海铁路东部的大部分地区。
从上面一团乱麻的磋商可以看出，山东、华中野战军都存在不同程度的地方主义，本位主义，都想以本地区为重点。因此华中、山东依然各自为战，苏北、鲁南的情况极其危急，我军兵力不足，有被敌人各个击破的风险。
华中野战军不愿让第二纵队、第七师去鲁南作战，山东军区也不愿意归还叶飞的第一纵队以及第八师等部队。山东和华中又陷入了死局，到底该以何处作为重点呢？
首长们还激烈讨论，敌人可不会闲着，国民党集中25个旅和一个快速纵队的兵力，同时进犯我盐城、阜宁、淮海和鲁南地区，妄图将苏北和鲁南全部占领，将华中野战军挤到山东，然后一举而灭之。
敌情空前严重，25个旅兵分四路，气势汹汹。陈毅分析敌情时诙谐地说：
“这次敌人嘴张得不小啊，想来个张大网捉鱼儿。咱们要好好地对付对付，给他来个船翻网破一场空”。
陈毅和新任参谋长陈士榘一商量，拟定了五份作战预纲，并报送军委审批。然而陈毅左等右等，毛泽东却一篇电报也不回复。
后来陈毅才想起，中央军委将华中、山东野战军合二为一时，曾经强调了一句：
“在陈的领导下， 大政方针共同决定 （你们六人（陈毅、张鼎丞、邓子恢、粟裕、谭震林、曾山）经常在一起以免往返电商贻误戎机）， 战役指挥交粟负责。”
其中最后一小句最为重要，因此陈毅还是决定等粟裕阅读这些计划后再定夺。
通过电报，粟裕看完了五份作战计划，对于其中“在沭阳打一仗，歼灭国民党军一路”的方案最为认同。
陈、粟定计后，联合向毛泽东发报，希望批准。而毛泽东的回复果然如期而至：
“应待盐城作战结束，粟率一师北返，并待敌情完全明了后再考虑部署。”除此之外，他还特意嘱咐：“届时请粟提计划电告。”
此时的粟裕正指挥所部军队，进行了盐南反击战，歼敌5000多人，这是粟裕五个月来的第11场大胜仗。战斗胜利后，华中野战军主力驻扎在盐城、涟水一带休整，而陈毅则如约到了沭阳。
12月11日，中央军委嘉奖了盐城的大胜，同时指示:
“望粟即日北返，部署沭阳作战。”
军令如山，粟裕接到命令，立即从盐城前线出发，只带了一个参谋长，昼夜兼程，赶到了位于涟水、沭阳交界处的华中军区驻地——张集。
12月12日，粟裕终于到达山野指挥部，进门后，首先给陈毅敬了一个礼：“军长，我来报到了，来得晚了点。”
陈毅热情地回答：“不晚不晚，粟裕同志，你来得正好。”
随后陈毅向粟裕介绍了敌情以及山东野战军的情况。粟裕后来回忆，他战役指挥有三个最紧张的时刻：宿北、豫东和淮海。宿北战役是第一次。
为什么这么说，虽说宿北战役是华中、山东两军合兵后的第一次作战。但指挥机关是山东野战军司令部，参战部队也大部分属于山东野战军。叶飞的第一纵队虽然曾属于华中野战军，但是却一直跟随山东野战军作战，和粟裕有一年多没见了。
严格意义上说，华中野战军只来了粟裕一人。
粟裕注意到指挥部的气氛有些微妙，他说：
“我对指挥机关和参战部队不熟悉，心中无底……如何完成中央军委交给的战役指挥任务，又处理好上下左右的关系，是一个棘手的不得不认真考虑的问题。”
华中野战军刚打了盐南战役，需要休整，而且还需要钳制当地的敌人，因此自然不能前来宿北。但粟裕没有带来一兵一卒，难免会让山野诸将有些失望。
宿北战役打响后，其场面确实很惊险，战斗过程并非一帆风顺，而是曲折的。在战斗中，华中第一纵队和山东第八师一度出现了配合问题。山野前指首长见第八师在峰山伤亡过大，于是同意该师的请求，让他们暂时撤出峰山。同时还电告叶飞，要求他们也撤。
叶飞一听就急了：“这咋行！”从当时的态势看，一纵切入11师和69师之中，割断了两者的联系。而八师攻占峰山，既能包围敌第69师，又能掩护一纵的侧翼。
然而峰山一旦弃守，69师不仅能逃出生天，还能和11师一起夹击一纵，到时候情况就危险了。
这种情况与其说是没配合好，不如说粟裕初指挥华野全军，有些镇不出场，缺乏磨合。
叶飞决定，即使撤，也必须打败了敌人再撤。否则敌人一夹击，一万多人根本撤不走。于是叶飞壮着胆子，向胡琏第11师发动反击，并且奇迹般地将敌人打得溃不成军。
一纵猛打11师的同时，敌人第69师趁机南窜。此时一纵只用1个营监视69师，阻止不了敌人突围，而叶飞手上又没有机动兵力。于是叶飞紧急组织警卫部队、机关干部、勤杂人员和民工，组成临时部队，冲向敌群。69师本来就呈惊弓之鸟，根本经不起冲击，因此四散奔逃。
叶飞见此情景，立即命令第一旅和第二旅停止追击11师，而是迂回包围69师，将其全部兜住。不得不说，这是个意外的胜利，是智勇双全的叶飞司令员带来的胜利。最终，敌第69师全军覆没，歼敌2.4万人。
宿北之战有惊有险，但最终还是取得了大胜，陈毅和粟裕都长舒了一口气。山东野战军也一扫之前屡次受挫的阴霾，斗志变得非常高昂。
宿北战役后，陈毅、粟裕趁热打铁，发动了鲁南战役。这一次，再也不是粟裕单枪匹马来援，而是山东野战军和华中野战军一同出动，夹击国民党第26师。
此战中，山东、华中两大野战军通力合作，共歼灭国民党整编第二十六师、 第五十一师和第一快速纵队共5.3 万人，生俘中将师长马励武、 周毓英，缴 获 坦 克 24 辆 、汽车 474 辆 、 各 种 炮217门及其他大量武器装备，创造了华东战场的新纪录。
经过鲁南战役的磨合，山东、华中两大野战军终于克服了地理以及地方主义的隔阂，正式成为密不可分的一支大军。
1947年2月1日，陈毅、粟裕、谭震林、陈士榘向军委提出华东野战军编成的建议，其中一条就是“为便于作战指挥，避免番号重复、指挥紊乱，及以后战局的发展，拟将原山野华野主力统一组成华东野战军，并以华野指挥部为基础加上山野指挥部一部，组成华东野战军指挥部。
经过整编，华东野战军拥有9个主力纵队，共27万余人。陈毅为华东军区司令员、华东野战军司令员兼政委，并担任前委书记；饶政委为华东军区政委，张云逸为华东军区副司令员，黎玉为华东军区副政委，粟裕为华东野战军副司令员，谭震林为华东野战军副政治委员。
从此以后，统一的华东野战军爆发出惊人的战斗力，战莱芜、血战孟良崮、鏖战沙土集、大战豫北、攻克济南，最终决战淮海，歼灭了数十万国民党精锐，为新中国的建立做出了卓越的贡献。
