按照叶剑英的说法，大决战的正式开始时间是1948年9月12日，历时四个月又十九天。但是，大决战的序幕在此之前早已拉开。
1948年9月8日至13日，在中国革命的总指挥部所在地西柏坡村，中共中央召开了自撤出延安之后的第一次政治局会议。参加会议的有：
政治局委员（7人）毛泽东、朱德、刘少奇、周恩来、任弼时、彭真、董必武；中央委员和候补中央委员（14人）邓小平、陈毅、贺龙、叶剑英、徐向前、聂荣臻、薄一波、曾山、邓颖超、滕代远、饶漱石、廖承志、陈伯达、刘澜涛；此外还有中央其他工作人员李维汉、杨尚昆等10人。除了东北战场上几位负责人如林彪、陈云、罗荣桓、高岗、张闻天等和在战场上无法抽身的彭德怀、刘伯承、粟裕等人之外，中共的重要干部几乎全部到会。
毛泽东在会上做了重要报告，他说：“我们的战略方针是打倒国民党，战略任务是军队向前进，生产长一寸，加强纪律性，由游击战争过渡到正规战争，建军五百万，歼敌正规军五百个旅，五年左右根本打倒国民党。”
作为中央军委的总参谋长，周恩来在会上对具体的军事计划做了发言。他说，中央的计划就是要“指导战争继续引向国民党统治区”，“应准备若干次带决定性的大会战”。刘少奇也说，打倒国民党，统一全中国，以前是宣传口号，现在是摆在议事日程上来计划了。现在就是要准备大的会战，一次消灭他两三个兵团。
九月会议，为最后打倒蒋介石、成立新中国，从思想上、政治上、军事上、组织上都做了充分准备，是与蒋家王朝进行大决战的总动员。
在毛泽东和中央军委其他领导人心中，这场大决战究竟怎么打？根据九月会议上的讨论和毛泽东为中共中央起草的《中共中央关于九月会议的通知》，大战将在长江以北，特别是在东北和华北进行，中原的徐州和东北的北宁线，很可能是会战的中心。为什么要作出这样的决策，而不是让大军打过长江去扩大解放区？关键的一个原因是我军必须以大量消灭敌人的有生力量为目标，而不在一城一地的得失。当时，国民党主力的分布已如前述，几乎全在长江以北，东北的卫立煌集团、华北的傅作义集团、华中的刘峙集团都是以具有战略地位的几个大城市为依托在和我军对峙，正如叶剑英后来在回顾时所分析的：
为着继续大量歼灭敌人，从根本上打倒国民党反动政府，人民解放军就必须攻击敌人坚固设防的大城市，必须同敌人的强大机动兵团作战。因此，敢不敢打我军从来没有打过的大仗，敢不敢攻克敌人的大城市，敢不敢歼灭敌人的强大集团，敢不敢夺取更大的胜利，已经成为我军当时战略决策上的重大问题。就在这时候，国民党一九四八年八月南京军事会议曾经议论过撤退东北，确保华中，坚持沈阳到十月底，以观时局发展，原则上不放弃沈阳，同时亦做撤退准备的作战指导计划。
在这种情况下，究竟是让敌人实现他们把现有兵力撤至关内或江南的计划，使我们失去时机，从而增加我军尔后作战的麻烦呢？还是在敌人还没有来得及决策逃跑之前，我们就当机立断，抓住大好时机，组织战略决战，各个消灭敌人的强大战略集团呢？机不可失，时不再来，毛泽东同志根据对战争形势的科学分析，毅然决然地抓住这个战略决战时机，先后组织了辽沈、淮海、平津三大战役。
就在中共中央政治局会议前夕，1948年8月上旬，国民党政府的高级军事会议也在南京召开。自蒋介石以下，何应钦、顾祝同、白崇禧、汤恩伯、杜聿明、范汉杰、宋希濂、黄维、孙立人、黄百韬、周至柔、桂永清、王叔铭等120人到会。根据会议的参加者宋希濂的回忆，“蒋介石在会议开幕时的发言，充满了沮丧的神情，对前途完全丧失了信心”。不过蒋介石在指责他的下属时坦率地承认，“许多高级军官大发接收财，奢侈荒淫，沉溺于酒色之中，弄得将骄兵逸，纪律败坏，军无斗志”。他也坦率地告诫他的下属们：“现在‘共匪’势力日益强大，‘匪势’日益猖獗，大家如果再不觉悟，再不努力，到明年这个时候，能不能再在这里开会都成问题。万一共党控制了中国，则吾辈将死无葬身之地。”所以他要求大家“共济时艰”，“挽救危机”。到会的高级将领们当然也谈了不少，宋希濂说：“有一个总的印象，就是几乎所有发言的人，都是申诉本单位处境的困难，向国防部要求增加部队，要求新成立部队番号，要武器，要新兵，要军粮，要器材，要车辆，要弹药……总之一句话，全是困难、危险、艰苦。”最后形成的战略方案是：停止战略进攻，将兵力归并为几个强大的机动兵团，在长江以北布防，防止共军渡江，相机打击共军。
这次国民党当局召开的最高军事会议，没有取得任何实质性的结果，只是加剧了与会者对战局信心的动摇与沮丧。例如蒋介石的“北平剿匪总司令部”司令傅作义，就是在这次会后产生了与蒋介石分手的念头。
大决战正式开打之前，我人民解放军奏响了一支高亢的序曲，这就是解放济南。
1948年夏天，我华东野战军陈士榘、唐亮兵团先打了宛西战役。紧接着，华东野战军粟裕兵团，加上中原野战军陈赓兵团，又打了宛东战役。然后，由粟裕统一指挥华东野战军和中原野战军的中原地区部队攻打军事重镇开封。蒋介石亲自坐着飞机在空中督战，狂炸市区，并命令邱清泉兵团、孙元良兵团、胡琏兵团、刘汝明兵团四个兵团增援开封。
6月20日，我军在外线阻击援军的同时，已将开封城除了城中心的制高点古龙亭之外的全部市区攻下。这时粟裕除留下一个师攻打古龙亭外，下令撤出攻城的主力华野三纵、八纵，加上十纵和两广纵队（两广纵队原本是我党抗日战争时期在广东省的抗日武装，即著名的东江纵队。抗战胜利后，根据国共两党在和谈期间达成的停战协议，全部北撤。1946年7月5日，东江纵队主力2583人走海路北撤烟台，进入我山东解放区，编入当时的新四军和山东军区，仍称为东江纵队。在战斗中队伍不断扩大，1947年8月编入山东野战军，改称为两广纵队。司令员曾生，政委雷经天）组成阻援兵团，由华野一纵、四纵、六纵，中野十一纵组成突击兵团，围歼蒋介石新组建的，由豫东驰援开封的区寿年兵团。这时，国民党军的注意力都集中在开封的攻坚战上。6月22日，开封古龙亭被攻下，开封全城解放。可是我军却很快又撤出开封。而且，华野的三兵团（即陈士榘、唐亮兵团）还根据粟裕的命令，有意放开原来一直被我军阻击于兰封一带的敌邱清泉兵团，让其进入开封。与此同时，我军的突击兵团却在华野一纵司令员叶飞的统一指挥下，猛然向睢县地区的区寿年兵团发起强攻。这一撤一攻，完全出乎蒋介石的意料。他立即命令20万大军前往援救。而我军早已准备了将近30万人的兵力，双方在中原大地展开大战，这一场大战就是有名的豫东战役，也是解放战争开始以来最大的一个战役。如果从6月17日攻打开封算起，豫东战役一共打了20个昼夜，我军全歼了区寿年兵团，区寿年被俘（这也是我军在解放战争中生俘的第一个国民党军的兵团司令），黄百韬兵团和邱清泉兵团被重创，蒋军的五大主力之一的第五军被我击溃，黄百韬的兵团部差点被我军端掉，我军共歼灭敌人9.4万人。
豫东战役结束之后，为了切断徐州和山东的联系，为了让整个山东解放区连成一片，为了进一步取得打大仗、攻打大城市的经验，更重要的是，为了在解决济南之后，我军没有后顾之忧，能腾出手来将力量投入淮海方向的大战中去。我军决定攻打济南。
山东省会济南是联结华东、中原、华北三大战场的战略枢纽，自从日军占领时期起，就不断修筑了大量而坚固的工事，国民党军在其基础上又加以扩大和加固，既有古老的城墙、城壕，又有现代化的电网、地雷，加上各种类型的碉堡，防守体系十分坚固。
济南国民党守军的主将是徐州绥靖公署第二绥靖区司令官王耀武。
王耀武虽然只是黄埔三期毕业生，可他却在过去与工农红军的战斗和对日作战中立过大功，是所有黄埔学生中第一个出任方面军司令官和省主席的人。不过，这时候的山东战局已无法让王耀武乐观，因为王耀武所辖的军队已经在莱芜战役、孟良崮战役、鲁西南战役等战役中多次被我军击败，他早已深知陈毅、粟裕的厉害。所以，虽然济南有坚固的纵深达十几公里的防御体系，虽然他在济南已经苦心经营多年，但对济南的防守仍然没有多少信心。自豫东战役之后，他已明显地察觉到华东野战军在向鲁西结集，粟裕的下一个目标十有八九就是他所防守的济南。他如芒在背，急飞南京，向蒋介石汇报军情，请求援军。
有多年作战经验的蒋介石对于济南这个战略要地的重要性当然是十分明白的，而且他也已经预感到，双方都在徐州地区集中了大量兵力，这个自古就是兵家必争之地的徐州地区不久就会有一场大战。如果济南能够掌握在自己手中，不仅可以将粟裕的几十万兵力拖在山东，又能使未来的大战开战以后让粟裕有后顾之忧，所以蒋介石决定给王耀武增加兵力。为了抢时间，蒋介石命令空军司令王叔铭安排大批空运力量，很快从青岛、徐州向济南运送了一个整编师和两个旅的兵力，使王耀武手中的兵力达到了三个整师又五个旅，共11万人。同时蒋介石命令徐州“剿总”副司令杜聿明指挥黄百韬、李弥、邱清泉三个兵团共17万人组成所谓“进剿兵团”，一旦济南打响，就分路北援济南。此外，蒋介石还命令他的空军部队以济南、青岛为基地，以北平、徐州为辅基地，集中战斗机162架、重型轰炸机42架，作为空中打击与支援力量。于是，王耀武增强了信心，就把全力投入到济南的防守，等待着华东野战军对济南的攻城。
势态很明显，双方都看准了这一着棋，都把济南这一仗看作了未来在徐州地区大战的一场必不可少的前奏。
济南的攻防之战将是一场恶仗。
在西柏坡，毛泽东和中央军委的负责人一直注视着粟裕当时设在济宁的指挥部，因为他们也一致认为，必须解放济南，但“这是一次严重作战”。因为，打济南的主要麻烦不在于济南的11万守军，而在于我军只要在济南一打响，蒋介石在徐州地区的大量援军必然北上，如何才能成功地在打援中大量歼灭敌人的有生力量，不使我军在济南城下的攻坚战形成被动局面，是应当着重考虑的大问题。为此，中央军委和华东野战军负责人之间的电报不断，反复研究，最后才定下了作战方案。这一仗，总的指挥由粟裕负责，而攻城指挥，由许世友负责。攻城兵力，以山东兵团为主，共为50个团14万人；打援兵力，安排90多个团18万人。
打援的主要地区，放在兖州和钜野（今巨野）之间，夹运河而阵，以便于届时能主动地在河东或河西歼灭敌人。攻城分为两个阶段：第一阶段首先攻占城西的飞机场，截断敌人空中援助支持的通道；第二阶段再行攻城。整个战役争取一个月完成，但要做好打三个月的准备。此外，中央军委还命令中原野战军做好准备，如果蒋介石要从郑州、信阳调动张轸兵团、孙元良兵团向山东支援的话，就加以阻击，配合济南方面的华东野战军。就在中共中央政治局西柏坡九月会议期间，中央军委与华野前线的电报仍然不断，整个战役的具体计划，则是在紧张筹备九月会议的进程中完成的。9月2日，毛泽东在华东野战军最后完成的作战方案上做了“完全同意”的批复。当天，华东野战军就下达了开始行动的作战命令。
济南战役的攻城总指挥是许世友。
许世友担任攻打济南的攻城兵团司令员，粟裕给了他六个半纵队，还有特种兵纵队的大部和一些地方部队，共有14万人。许世友把这14万人分成了东西两个集团：东面攻城集团军由九纵司令员聂凤智、政委刘浩天指挥，西面攻城集团军由十纵司令员宋时轮、政委刘培善指挥。
9月7日，许世友下达了对济南发起攻击的命令。这一天，正是中共中央在西柏坡召开政治局会议正式开会的前一天。当政治局会议正式开幕的时候，我十几万大军正在向济南城下开进。
9月15日夜，我东、西两面的攻城集团军已分别从济宁、汶上和泰安、莱芜地区逼近济南城郊。16日夜，突然向守军发起攻击并迅速将外围突破。经过两天一层一层地摧毁敌人的工事，西集团军在18日就已逼近飞机场，炮火已使得敌人的飞机不能自由起降。蒋介石运送部队给济南的空中支援只能停止。东集团军则已占领茂岭山、砚池山、回龙山等要点，直扑外城。正当王耀武全力保卫机场和城区时，一件让王耀武万万想不到的事情发生了：19日，奉命守卫西城区的第九十六军军长吴化文率所部三个旅两万余人宣布起义。
吴化文起义是解放战争进入决战时期的第一次国民党军起义，是整个解放战争中第一个在大型战役战场上起义的国民党军军长（1945年10月30日，国民党第十一战区副司令长官高树勋邯郸起义是在内战前夕起义的，双方未发生战事），此事在当时曾引起了很大的震动。
吴化文起义在当时是一件大事，因为它不仅对解放济南有利，而且可以动摇和瓦解蒋介石集团的其他将领。吴化文在历史上对我党、对人民是犯有重大罪过的，但是只要他能幡然悔过，弃暗投明，我党仍然是欢迎的。这对于加速蒋介石集团的分化，具有十分重要的作用。朱德曾经对吴化文起义说过“对我打下济南起了相当作用，今后作战，就需要这样的起义”。吴化文起义还有一个作用是表明了我党强大的政治工作威力。吴化文部起义之后，经过整编，成为人民解放军第三十五军，以后与原华东野战军的鲁中南纵队合并，仍称三十五军，吴化文仍然担任军长，他的几个部下仍然担任副军长和师长，在我军派入干部的帮助教育与全面整顿之后，部队面貌焕然一新，不仅参加了淮海战役、渡江战役和解放南京，而且在1949年4月24日占领蒋介石的总统府，将红旗插上蒋介石总统府的门楼的，就是三十五军的革命战士。
由于吴化文的起义，将济南的西大门敞开，打破了王耀武的防御体系，济南战局急转直下。9月20日，济南城外守军被我全歼。22日夜，我军使用重炮加坦克（我九纵出动了坦克4辆，这是我军首次在攻城中使用坦克）配合步兵的连续爆破，一举攻破外城。由于济南的内城高达15米，被挖空建造成三层的机枪工事，城下还有城壕和无数碉堡，强攻不易，所以我军经过充分的准备之后，于23日18时以猛烈的炮火先向敌人阵地进行了40分钟的破袭，然后开始攻城。第二天拂晓，突入内城，经过激烈巷战，我九纵七十三团二营首先攻入山东省政府。24日17时，济南全城解放。但是，省政府里没有王耀武，全城搜索，也没有王耀武。
原来，就在我军攻入城的时候，王耀武自知全军覆没已是无可避免，就化装成一个小商贩，混在市民之中逃出了济南城，向青岛方向逃去。由于王耀武是山东人，也比较能混，所以一直在老百姓中混了好几天，才在寿光县境内被我军抓住，送进了战俘营。王耀武被俘后，曾经为自己未能和吴化文一道起义而后悔，他在给吴化文的一封信中说：
“君为座上客，弟为阶下囚。你起义向我说一声，我也起义不好吗？”
被俘50天之后，他在我军办的山东解放军官教导团教育之下，在我华东新华广播电台向全国发表了广播讲话。全文如下：
我是前国民党山东省主席兼第二绥靖区司令官王耀武，今天借这么一个机会向各位做简单的报告。首先我说明这次济南失败的原因。守济南的军队有10万之众，有关作战的物资也不为不多，市郊工事经两年来不断修筑不为不坚，但是仅8天的战斗就被全部歼灭了。就是吴化文不起义，亦是很快地要被歼灭。这又是什么缘故呢？因为国军没有理想信仰，反人民，反大众，加以解放军英勇为人民大众的牺牲精神及优越的技能，实令人钦佩。所谓得民者昌，失民者亡，所以很迅速地将战斗结束了。其次我要给蒋先生一点意见。在北伐与抗战中你有一时期与共产党合作，所以得到成功。但是你坚持独裁，完全为四大家族打算，因此兵连祸结，全国无一片干净土。为了取得军事上经济上的外援，不惜与美帝国主义订了那么多的辱国条约，断送子子孙孙的幸福。以现在局势看，国民党的失败已经注定，还要做最后的挣扎是多么不智。最好命令全国国民党军队立即向人民解放军无条件投降，使全国立即恢复和平，国家民族多保存一点元气。
作为华东重镇的济南，我军只用了8天就攻克。当蒋介石得知吴化文起义的消息后，他已知道济南必丢无疑，也知道我军的打援大军正在等他，所以并未催促杜聿明率兵北援济南。当济南已被攻克时，蒋介石原来部署的援助大军的三个兵团中只有一个兵团在动，另两个还在集结之中。所以，我军原来准备的打援歼敌计划未能实现。就这一点来说，华东野战军是有一点遗憾的。但是，济南战役除了在如何打攻坚战这一问题上为今后提供了有益的经验之外，在如何利用敌方内部矛盾去分化瓦解敌人，争取敌人中的一部分能在战场上起义或投诚，以减少我方的伤亡、保护城市免遭破坏也提供了十分有益的启示。从具体的战果来看，这一仗共歼敌10.4万人，抓获敌高级将领23人（除王耀武外，还有他的副司令牟中珩、国民党山东省党部主任委员庞镜塘等）。由于菏泽、临沂、烟台等地的国民党军在济南解放之后都先后逃走，故而整个山东除青岛之外全部落入我手，使华北、华东两个解放区完全连成了一片，这给我军的下一步行动带来了极大的方便。当然，在这一次攻坚战中我军也付出了代价，我三纵第八师师长王吉文、十三纵第三十七师政委徐海珊等在战斗中光荣牺牲。
济南战役是在中共中央西柏坡九月会议这次大决战的总动员会议召开期间进行的。济南战役的巨大成功不仅大大地鼓舞了到会的我军各路将领，而且消除了会议讨论中对我军的大城市攻坚能力的某些疑虑。用毛泽东修改审定的新华社社论《庆祝解放济南的伟大胜利》中的话说，“任何一个国民党的城市都无法抵御人民解放军的攻击了”，包括“北平、天津、沈阳三点”在内。所以，中央军委总参谋长周恩来说：“济南战役的胜利，揭开了人民解放战争战略决战的序幕。”