在解放战争第2年中，华东野战军外线兵团挺进豫皖苏，加入中原战场，与中原野战军密切配合作战，歼灭了大量的国民党军，收复和解放了许多县以上城市和广大乡村，建立了中原、华东解放区的联系，进一步推进了南线战局的发展。
坚持在山东解放区内线作战的华东野战军山东兵团，坚决执行中央军委指示，牵制和歼灭山东境内国民党军，配合外线兵团的进攻，保卫胶东后方，并逐步收复和扩大了山东解放区，完全控制了胶济铁路济南、青岛段和津浦铁路济南、徐州段，使山东解放区与运河以西的冀鲁豫解放区相互衔接。与此同时，苏北兵团和地方武装“一面坚持阵地，一面举行反攻”，接连粉碎了国民党军的“清剿”和“扫荡”，改善了苏北地区的斗争形势，重建了江淮解放区，使华东解放区与中原解放区连接起来。
晋察冀野战军部沿大清河挺进，华东野战军内外线兵团和军区部队及地方基干武装，在作战中都有很大发展。据华东军区1948年7月的不完全统计：华东野战军外线兵团兵力发展到18.56万人，其中，第1纵队3个师2.0163万人，第3纵队2个师2.3112万人，第4纵队3个师2.18万人，第6纵队3个师2.07万人，第8纵队2个师2.3193万人，第10纵队2个师1.9227万人，两广纵队2698人，特种兵纵队1.0381万人。山东兵团兵力为10.2375万人(7月统计缺鲁中南纵队实力)，其中，第7纵队3个师2.7602万人；第9纵队3个师3.0735万人，第13纵队3个师2.5815万人，渤海纵队2个师1.3337万人。苏北兵团兵力为5.9665万人，其中，第2纵队3个师2.4714万人，第11纵队3个旅2.2164万人，第12纵队2个旅1.1975万人。华东军区部队及地方基干武装为31.2255万人，其中，胶东军区5个军分区6.9183万人，渤海军区4个军分区3.7285万人，鲁中南军区7个军分区5.4785万人，昌潍保安司令部1520人，苏北军区5个军分区6.7998万人，江淮军区7个军分区2.1733万人。军区及地方基干武装拥有步马枪12.5439万枝，短枪1.7626万枝，重机枪632挺，轻机枪6428挺，各种炮1174门。
豫东战役后，华东野战军代司令员兼代政治委员粟裕率野司机关回师曲阜，第1、第4、第8纵队位于亳县、涡阳地区，第3、第6、第10、两广纵队及中原野战军第11纵队位于济宁、嘉祥、金乡地区休整。兖州战役后，山东兵团第7、第9、第13纵队及渤海、鲁中南纵队位于莱芜、泰安地区休整。涟水战役后，苏北兵团第11、第12纵队位于沭阳、涟水地区休整。
在中共中央华东局和解放区各级民主政府组织领导下，山东解放区已经基本上度过了严重的春荒，秋季丰收在望，秋粮作物一般在七成至八成，个别地区还在九成。人民群众生产、支前情绪高涨。解放区的日益发展巩固，为大兵团机动和作战，提供了广阔的地域和可靠的后方。经过中共济南地下党组织深入细致地调查研究，华东野战军基本上掌握了济南守军的兵力、兵器、防御体系构成、作战计划与部署以及济南城内的社情、民情。
此时，在山东境内，尚残存青岛、烟台、临沂、济南等数个国民党军据点。济南是有10万余人守备且坚固设防的大城市，但已经处于解放区的四面包围之中，对外水陆交通均被解放军切断，仅依赖空中运输接济，东距青岛、南距徐州各为300公里，中间为解放区，茕茕孑立，形同孤岛。尽管王耀武对济南的防御进行了苦心经营，但由于防区辽阔，兵力有限，机动力量不足，部队固守待援的信心动摇，士气低落，战斗力减弱。市内物价飞涨，物资供应严重短缺，民怨沸腾，在人民解放军胜利威势与政策感召下，济南人民群众迫切要求早日获得解放。华东野战军和军区部队经过洛阳、宛西、开封、睢杞、周村、潍县、兖州。涟水等一系列战役后，广大指战员斗志高昂，士气高涨，部队武器装备有了很大改善，城市攻坚作战的技术战术水平大大提高。野战军内外线兵团会师，力量更加集中，决心拔除济南据点，消除日后南下作战的后顾之忧。与此同时，中原野战军主力正在豫西宝丰地区休整，准备雨季过后发动更大的攻势，以配合华东野战军的作战行动。
以上情况表明，华东野战军发起济南战役的条件已经具备，但也存在一些困难。济南是国民党军重兵守备、坚固设防的重要战略据点，经国民党军多年经营，其防御已形成完整的体系。守城部队中，虽大部受过人民解放军的严重打击，但整编第2师第213旅，整编第84师第155旅，整编第73师第15、第77旅及新空运来的第83师第19旅和整编第74师第58旅第172团等部，都还有一定的战斗力。攻击济南时，集结在徐州地区的国民党军第2、第7、第13兵团共17万余人，可能北上援济，华东野战军攻济和打援时，都须经过严酷激烈的战斗。另一方面，华东野战军内外线兵团经过几个月的连续作战后，部队减员和物资消耗较大，特别是基层指挥员和战斗骨干，有些部队还来不及调整和补充。解放区秋粮尚未到位，秋种随即开始，农忙季节，生产与支前的矛盾突出，几十万大军作战，粮秣供应和支前民工任务繁重。因此，攻占济南仍然是艰巨的任务。
人民解放军在第2年战争中，虽然夺取了国民党的许多中小城市，提高了攻坚作战能力，但没有攻占国民党军10万人以上重兵守备、坚固设防大城市的实践经验。随着战争形势胜利发展，如何夺取大城市，就成为继续发展战略进攻，加速解放战争进程的一个关键性问题，也是一个亟需解决的难题。9月，中共中央政治局会议提出人民解放军高级指挥员要确立敢打前所未有的大歼灭战的决心。即要闯过“两关”，一是一次战役消灭国民党军两三个兵团，二是攻克国民党军10万人以上守备的大城市。
当时，东北野战军包围了长春，华东野战军孤立了济南，华北军区第1兵团包围了太原。在三城当中，攻占长春的条件更具优势。长春国民党正规军2个军连同非正规军共10万人，内部中央军、地方军、正规军、非正规军矛盾尖锐，曾泽生滇系第60军在解放军的争取下正酝酿起义。长春设防虽然号称“坚冠全国”，但补给线已被完全切断，是一座孤城。东北野战军兵力、火力占有优势，仅重炮就有660余门，又有解放区人力、物力补给便利的优势。4月间，中共中央东北局和东北野战军领导人向中央军委提出“先打长春”的意见。18日，林彪、罗荣桓、高岗、陈云、李富春、刘亚楼、谭政等向毛泽东报告：东北野战军结束夏季整训后，即发动秋季攻势，首先打长春，并说：“目前只有打长春的办法为好”。朱德总司令详慎分析长春各方面条件后于6月3日致信中央军委和毛泽东：“长春还是可能打下的条件多”，也主张夺取长春。
中央军委、毛泽东审慎地研究了中共东北局和东北野战军领导人的报告，同意他们先打长春。其中一个重要的战略意图，就是可以从攻占长春作战中解决大城市攻坚的难题，这对发展东北及全国战局均有重大意义。毛泽东指出：“长春胜利将给你们尔后南下作战逐一攻克各个大城市开辟道路，各个大城市的攻克，将从长春战役取得经验”。要求林彪精心组织这次战役，直至完全胜利。
5月，东北野战军抓住战机歼灭长春国民党军一部，但未能攻占长春。据此，林彪改变决心，认为打长春“消耗必大”，“而获得解决战斗的结局，尚无把握，不宜勉强和被动的攻长春”。提议对长春实行“久困长围”，并于6月25日开始实行这个方针。
在打长春解决城市攻坚难题的意图未能实现的情况下，中央军委、毛泽东决定将解决攻克大城市难题的战略意图转向华东野战军方面。7月中旬，多次电示华东野战军准备攻克济南，指出：“如能在八、九两月攻克济南，则许(世友)、谭(震林)全军可于10月间南下配合栗(裕)、陈(士榘)，韦(国清)、吉(洛)打几个大仗，争取于冬春夺取徐州”。要求华东野战军前委据此战略意图考虑下一步行动计划。