徐州战场上国民党军队的真正统帅杜聿明是在11月11日才到达徐州的，用他自己的话说，是“以赴刑场之心情上战场”。这时候，黄百韬兵团已经被围，何基沣和张克侠已经起义，他认为徐州战局大势已去，已经在被动挨打。但是，在当时他又只能为蒋介石“效忠到底”。所以当他在离开南京时，顾祝同曾经征求他的意见：“你们两人（指徐州‘剿总’司令刘峙和他这位副总司令）都在徐州指挥，有些不大方便。叫刘峙到蚌埠去指挥，好吗？”
杜聿明说：“指挥大兵团作战，情报补给是一项极其复杂的事务，总部一离徐州，我的机构不健全，势必形成瘫痪，影响作战。请总长放心，我同刘老师不会发生摩擦的。”但是，杜聿明又说：“请总长允许我一个要求，就是解黄百韬之围的战略战术、兵力部署，我不一定照今天会议（按：指当天蒋介石主持召开的军事会议，会上通过了由国防部第三厅厅长郭汝瑰提出的以不向南撤、固守徐州、全力解黄百韬之围为中心的军事计划）决定的去做。”
顾祝同当即表示同意，说“可以，可以，你怎么决定，就怎么办好了”。很明显，顾祝同很清楚杜聿明是看不起刘峙的，而顾祝同（当然也代表蒋介石）是把徐州战局的指挥大权交给了杜聿明的。因为顾祝同很清楚，在徐州战场上真正能起指挥作用的统帅只能是副总司令杜聿明，而不是总司令刘峙。
正是因为这种原因，蒋介石在杜聿明原有的徐州“剿总”副总司令的头衔（这个职务自1948年6月任命以来一直就未正式宣布免职，包括杜聿明去东北担任东北“剿总”副总司令兼冀辽热边区司令官大约一个月的这段时期）之外又给他加上了一个兼职，叫徐州“剿总”前进指挥部主任。也就是说，杜聿明现在在徐州的正式职务应当叫徐州“剿总”副总司令兼前进指挥部主任，虽然杜聿明一直也未能专门有过什么前进指挥部。
刘峙对这一安排也非常高兴，因为他早就想由杜聿明来替他指挥，为他承担一切责任。而既有了前进指挥部这个名义，刘峙任何时候都有理由把他的总部后撤到后方安全地区，而让杜聿明一直在前方以前进指挥部的名义指挥作战。
杜聿明是在11月10日乘坐蒋介石为他准备的专机离开南京前往徐州的，这架飞机曾经多次飞过从南京到徐州这条航线，可是今天却在空中迷失了方向，找不到徐州了。飞机一直飞到了黄河边上，才发觉飞过了头，又回头来找徐州。驾驶员不得不事先发出警告：“再过一小时找不到的话，飞机就没油了。”幸好找到了徐州，不过，当飞机安全降落在徐州机场时，已是第二天凌晨了。这事对杜聿明内心影响很大，心中想是不是“天要灭蒋”？
在杜聿明来到徐州之前，刘峙对战局的判断认为解放军的目的是要攻取徐州，特别当11月8日何基沣和张克侠在贾汪起义之后，他更认为从山东南下的华东野战军是攻打徐州的。所以，他在11月9日所下达的作战命令都是为了保卫徐州。他命令黄百韬兵团到徐州东南的潘塘、徐山村、六铺圩一带集结，命令李弥兵团向徐州东北的大湖、荆山铺、茅村一带集结，命令邱清泉兵团在徐州西北黄口地区集结，命令孙元良兵团从蒙城赶往徐州以南的宿县、符离地区集结。总之，是要从四面八方守卫徐州。很明显，这是一个完全未能对我华东野战军作战意图作出正确估计的错误部署，既脱离实际情况，又十分被动。正是刘峙所犯的这个错误，把李弥兵团向西调，使李弥兵团和黄百韬兵团之间出现了空隙，我华野山东兵团才得以飞速插入其间，隔断了李弥和黄百韬，完成了对黄百韬的包围。
在对徐州战场上双方的情况有了具体的了解之后，杜聿明对战局有了基本的判断，认为解放军目前的作战目的并不是要进攻徐州，而是要集中主力先消灭黄百韬兵团，同时以一部分兵力来打援。徐州以北的解放军人数不多，而且可能并非主力，是用来起牵制作用的。基于以上认识，可以抽出较多原来用于防守徐州的力量去解救黄百韬。应当认为，杜聿明的判断大致不误，要比刘峙高明得多。但也有失误之处，这就是他以为我军主力全在包围黄百韬，而是以次要力量来打援。其实我军包围黄百韬的兵力是5个纵队，不到华野16个纵队的一半。而我军用于打援的兵力则要比包围黄百韬的兵力多得多，更何况还有中原野战军的力量。杜聿明低估了我打援兵力的失误，对今后国民党军队的节节失利是有明显影响的。
根据上述判断，杜聿明制订了两套作战方案。第一是要黄百韬坚守7～10天，在这段时间中，集中力量先击破徐州西边的中原野战军，然后再回过头来解救黄百韬兵团。这一方案的好处是可以集中10个军的兵力，先打中野，后打华野，有把握，风险不大。关键是黄百韬能不能守住7～10天。第二是以部分兵力守徐州，而以主力先救黄百韬，同时急令黄维兵团向徐州前进，用以增加徐州的兵力。这一方案的好处是比较稳妥，但黄维能否尽快赶到徐州，没有把握。在经过讨论之后，第二个方案被刘峙等人所接受。
11日午后，由刘峙下达了作战命令：以十六兵团（即孙元良兵团）和第二兵团（即邱清泉兵团）的七十四军负责徐州的守备，并注意对徐州以西的警戒；以第二兵团余部和第十三兵团（即李弥兵团）援救黄百韬，迅速向碾庄攻击前进；以七十二军为总预备队。
命令一下达，邱清泉兵团和李弥兵团在11月13日即开始出动，向东实行正面攻坚，企图解黄百韬之围。
但是，虽然命令下达了，行动也展开了，可杜聿明仍然感到心中很不踏实，对下一步的军事行动更是感到难以把握。之所以出现这种心情，是由于国民党军队当时在老百姓心目中的形象实在太坏了，且不说在解放区，就是在国统区，也很难得到老百姓的支持，不容易搞到准确的情报。用杜聿明自己的话说，“在淮海战役之始，徐州附近人民对于国民党军实行了严密封锁，国民党军的特务只能派出，无法返回。徐州周围密布的特务电台完全失去了作用，甚至有许多地区的老百姓以虚报实，或以实报虚，迷惑国民党军。如丰县黄口之间仅有解放军第二、第三野战军之一部，而国民党军队从老百姓方面得来的情报是二野主力；又如二野主力已先到涡、蒙（按：即安徽的涡阳与蒙城）地区阻击黄维兵团，而国民党军得来的情报则是这一地区没有解放军的野战军”。因此，杜聿明拟定作战计划时，经常说的一句话就是“苦于情况不明，无法决定”。
正是由于上述原因，当时的杜聿明虽然得到了徐州地区几十万大军的指挥权，可是他却并不清楚我中原野战军和华东野战军的具体动向，不知道中原野战军和华东野战军的统帅将对他所指挥的几十万军队进行怎样的打击。
作为一场军事史上罕见的大战，国共双方有一件大事颇为相似：双方的统帅都是经过了一段时间才最后确定的，都是在已经打响之后才最后确定下来的。
毛泽东和中央军委对于淮海决战的计划有一个经过实践不断发展变化的过程，有一个从当初的“小淮海战役”到“大淮海战役”的发展变化过程。在初期的“小淮海战役”阶段，毛泽东和中央军委是把指挥任务交给华野的粟裕负责的。但是，从一开始中野就在进行配合，中野陈再道指挥的二纵和王近山指挥的六纵奉中央军委之命在河南南部和湖北北部活动的主要目的，就是为了将武汉的白崇禧集团牵制住，不让其向东增加华野的压力。当处于最前线指挥作战的粟裕看到这一战役的规模愈来愈大，已经成为华野和中野两大集团军联合行动的大决战时，就于10月31日夜致电中央，“此次战役规模很大，请陈军长、邓政委统一指挥”（当时刘伯承率领中野的二纵与六纵还在豫西钳制白崇禧集团，而陈毅和邓小平在攻克郑州、开封之后正率领中野的一纵、三纵、四纵、九纵向徐州、蚌埠方向开进）。
第二天，毛泽东和中央军委即电示陈毅、邓小平、粟裕，并告华东局与中原局“整个战役统一受陈、邓指挥”。
11月16日，正当围歼黄百韬兵团和阻击邱清泉、李弥兵团的战斗打得紧张之时，毛泽东起草了由中央军委名义发出的电报，这个电报发给了在华东、中原和华北地区的所有党政军部门和所有高级干部，即刘伯承、陈毅、邓小平、粟裕、陈士榘、张震、谭震林、王建安、韦国清、姬鹏飞，华东局、中原局、豫皖苏分局、苏北工委、华北局。电报中说：
中原、华东两军，必须准备在现地区作战三个月至五个月（包括休整时间在内），吃饭的人数连同俘虏在内，将达80万人左右，必须由你们会同华东局、苏北工委、中原局、豫皖苏分局、晋冀豫区党委统筹解决。此战胜利，不但长江以北局面大定，即全国局面亦可基本上解决。望从这个观点出发，统筹一切。统筹的领导，由刘、陈、邓、粟、谭五同志组成一个总前委，可能时，开五人会议讨论重要问题，经常由刘、邓、陈三人为常委，临机处置一切，小平同志为总前委书记。
从整个中国人民革命战争史来看，成立如此强大的一个前线委员会来指挥作战，这是第一次（这以后，在平津战役中，也成立了总前委）。以邓小平为书记的总前委的成立，是淮海战役能取得胜利的重要保证。总前委的成员一个个都是身经百战、指挥过千军万马，在广大指战员心目中有着很高威望的一方大将，更何况又是结合在一起发挥他们的集体智慧。可以这样说，把其他重要因素统统排开，单是从双方在战场上的统帅部阵容来看，以中国共产党这五位身经百战的指挥员去对付一个杜聿明，淮海决战谁胜谁负已经是确定无疑了。
不过，早在总前委成立之前半个月，毛泽东和中央军委就已经接受粟裕的建议，决定当时淮海战役的战事由陈毅和邓小平统一指挥，也就是说，早在总前委正式成立以前，中国革命最杰出的一批统帅就已经在集体领导这一场大战了。
1948年10月22日，根据中央的部署，为了牵制孙元良兵团东撤到徐州地区，陈毅和邓小平正在率领中原野战军攻打郑州，毛泽东就在给他们的电报中做出指示：
陈、邓攻郑作战完全不受南面威胁。因此，为了保障我华野全军在淮海战役中完全胜利，请你们准备着，在攻克郑州休息数日后，迅即全军东进，相机攻占开封。或者不打开封，直出徐蚌线。
当陈毅和邓小平得到毛泽东的电报之后，当天就回电表示，完全按照中央部署，将“直出徐、蚌，钳制孙、刘（按：指徐州以西的孙元良和刘汝明），协同华野作战”。
第二天，即10月23日，毛泽东在给陈、邓等人的电报中，对中原野战军的行动做了更进一步的明确指示：
“陈、邓东进与三纵、广纵（按：指华东野战军的三纵和两广纵队）诸部会合后，第一目标是歼灭孙元良兵团，第二目标是攻占宿、蚌（按：指宿县和蚌埠）。”对于中央的这一部署，在山东的粟裕等人十分高兴，所以，在由粟裕、谭震林、陈士榘、张震联名向华野全军下达的淮海战役预备命令中，就已经将两大野战军连在一起，命令中说：“我陈军长、邓政委率部已于22日攻占郑州，并将转兵东进夺取开封，尔后继续向徐、蚌段前进。”
10月22日，中原野战军以自己仅伤亡345人而歼灭敌人第四十军1.1万余人的战绩，轻取郑州。由于敌人闻风丧胆，不战而逃，所以我军又在10月24日攻克开封。陈毅和邓小平随即于10月底率中野大军的一纵、三纵、四纵、九纵四个纵队离开商丘附近的朱口、柘城东进，于11月6日到达徐州西南的临涣集，并在这里设立了指挥部，两大野战军联手歼灭徐州杜聿明集团的大战正式开始。