蒋介石于下野之前，固然已做了复出的准备，如果真归隐山林，宋美龄才不肯嫁给樵夫渔父呢，不过运气也确在他的那一边。共产党大搞广州公社暴动，给吴稚晖那一帮人大肆攻击汪精卫的借口，将汪逼走。诚如李宗仁所说，汪一走，蒋复出便稳坐第一把交椅。
蒋于复出之前，做了一件颇具流氓手法的大事，那是制造一九二七年十一月二十二日的南京惨案。当时南京政府的当权派是“中央特别委员会”，蒋介石利用新成立的中央党务学校(他自兼校长，教务主任戴季陶、训育主任丁惟汾、总务主任陈果夫)煽动学生闹事，于二十一日捣毁了国民党南京市党部，翌日党校学生又聚众示威游行、高呼口号，由于军警开枪镇压，造成血案。事后，蒋接连发表措辞严厉的谈话，抨击政府，极具火药味，更于二十四日策动组成惨案后援会，要求严惩凶手，接着各地党部发表通电响应。十二月三日，蒋于二届四中预备会议时议定组织特别法庭，指控居正等十人有罪。蒋身为党校校长，学生滋事又如此袒护，其幕后导演之事实已呼之欲出。蒋为了东山再起，必须要打倒新当权派“特委会”，遂命陈果夫运用其组织部和党校势力，鼓动“反特委会”运动，走上街头，酿成南京军警开枪的“一一二二惨案”，使当权派声誉扫地，促使蒋重掌大权。(见王克文《陈家党比蒋家天下更早画下句点——从现代史观点看陈立夫在国民党史上的角色与影响》，页三十)至此，惨案由蒋主导已属定论。一般史论认为蒋借此事打击西山会议派，其实西山派只是遭池鱼之殃，那些顽固政客无拳无勇，因蒋反共，早已投靠，蒋要重掌大权，绝非障碍。度蒋之意，只是打击现政府的威信，使其复出更具迫切感，真正造成斯人不出奈苍生何的情况。古人说，一将功成万骨枯，而此蒋为了造势，也不惜人头落地，并殃及居正等老同志，亦云厉矣!
居正字觉生，是湖北广济人，生于一八七六年，那正是清朝光绪二年，民国成立前三十二年。他在中国受旧教育，后来到日本留学，念的是法政大学，并且从事革命运动。当时中国的革命，有两大家：一类是边缘革命家、一类是中原革命家。边缘革命家只会在海外或沿海省份旁敲侧击，结果作秀有余，动摇清廷根本不足；中原革命家则主张打硬仗，他们深入民间、腹地和内陆，冒真险、犯大难，进行革命。辛亥武昌起义的成功，就是中原革命家判断正确的明证。中原革命家之一、因痛恨蒋介石而唾弃政治的大儒熊十力，在居正《辛亥札记》序中就说：“武汉为南北关键，一旦动摇，则四方瓦解。”武昌起义终使清廷四方瓦解，原因正是在此。而武昌起义的大功臣之一，就是居正。
一九一二年中华民国成立，居正被任命为内政部次长并代理部长。一九一三年，当选为参议院议员。二次革命失败，亡命日本，加入中华革命党，任党务部长，《民国杂志》经理。一九一六年到山东组织中华革命军东北军，任总司令，占潍县，攻济南。在这段期间，他手下有一位参谋长，不是别人，就是蒋介石。所以，在国民党的伦理中，居正是蒋介石的上司。尽管是上司，照样无辜被整肃。居正夫人钟明志说，居正虽名列中央特别委员会，并不常住南京，于惨案全不知情，却仍被株连，存心罗织，最后不了了之，然而一年多以后在上海又莫名其妙被收押在警备总部，“脚镣手铐，如获江洋大盗。”(钟明志《我的回忆》稿本)直至扩大会议失败，南京有人关说，始准家属会见，不久起解南京，到九一八事变后才获自由，并且当上了司法院长。他有诗记此奇遇，说：“御侮当前耻阋墙，精诚团结为非常。槛车甫脱容登阁，惭愧夷吾笑楚狂。”写的就是这回事。真教居正哭笑不得，能无伴君如伴虎之惧？
蒋于复出之后，又做了一件颇具流氓手法的大事，那是借北伐需款，大量发行国库券，亲自致电上海总商会以及中国、交通银行，强力推销。中国银行的张嘉璈于前一年已被蒋敲去一大笔，不愿再轻易介入，不肯应命赴南京商量。蒋竟大怒，于二月二十八日致宋子文电文中，指责张不来宁即是“阻挠北伐”，并限张于一星期内承销一千万元。张也动了肝火，措辞强硬地回复宋子文，说是：
此等电文，余无法承受。若转与余，只好复电决裂。试问：国民军自粤而湘而赣而浙而宁，中行帮助逾千万；去年第一次库券，中行允八九百万；第二次库券，中行允六百余万；龙潭之役，孙军过江时，中行帮助几何？此次上台，中行助力几何？去年过年，中行又借几何？此谓把持何？北伐失败之罪，系于何人？非严重诘问不可，否则如此无信无义之人，何能当我辈首领!我辈牺牲为行，一生穷困，至于今日，所望事业有成、国家有裨，若因此二者而绝望，则既无兴趣，随时可抛弃地位。(杨天石《民国掌故)，页二一五)
宋子文婉言相劝无效。翌日张又得蒋之电报催募，遂以“感触太深、精神不济”为由，隐居不出，避不见面，以抗议“威权相逼”。三月四日，蒋亲自到上海施压，声称：“北伐费必须筹足，每月千万始可进行。”张嘉璈虽心不甘情不愿，但是还是怕决裂而引起金融风潮，最后议定中银垫款六百万，分三个月付清。蒋终于表示“融洽谅解”，再次平白获得巨款。(参阅杨天石《民国掌故》，页二一四至二一六)其行径何异强盗勒索啊!
蒋介石于一九二八年元月四日回到南京，宣布将于九日恢复总司令职务，并预告四中全会的召开，日期是一月十三日到二月一日。此会虽一直由汪精卫坚持要召开而未果，但现在召开完全在蒋介石笼罩之下，听其意志办事。宁汉合流，原是取消宁伪府，以便汉府迁宁，而现在蒋取得权力后，实际上等于是他擅立的宁伪府，把汉真府给消化掉了，不仅中共被赶尽杀绝，国民党左派被扫地出门，汪派人马也被排除在权力的大门之外。
蒋安排好政治权力后，即准备继续军事行动，统一中国，完成孙中山的遗志。他称之为“第二次北伐”，但北伐的性质已大大改变。他仍称之为国民革命，但革命的性质与原有的相比更背道而驰。广州誓师时，国民革命军北伐仍秉承孙中山的遗志联俄容共，但现在是反苏反共，对共党与“左”倾分子格杀勿论，蒋氏反赤情绪比孙传芳实有过之而无不及。为了反共，同时压制了群众运动，而群众运动乃是当年广州革命根据地的基础，如省港大罢工，震动一时，也是北伐迅速成功的推动力。然后在蒋主导下的二届四中全会上，连中央政府以及各级党部中有关工、农、商、妇女、学生等组织都被取消了。他不再靠群众，而依赖一直在建设中的特务组织。再说，原来的革命有两大目标：“打倒军阀、打倒帝国主义”，旗帜鲜明。但蒋一到京沪，立即与帝国主义妥协，甚至屈服。他复职后不到几天，就枪毙了五十余名士兵，指控他们是在共党嗾使下于前一年(一九二七)攻击外国人的罪犯，还逮捕了不少军官接受军法处置。(见Crozier，t China，P．125)是知蒋不仅不与帝国主义严正交涉南京惨案，而且杀人媚外。其欲保障帝国主义在华权益的态度与政策，更毫不隐饰。至于打倒军阀，蒋早已收编了不少军阀为己用，虽然还须打倒张宗昌、孙传芳，以及奉系旧军阀，但国民党内新军阀集团亦已形成。蒋介石自领第一集团军，以其亲信黄埔学生为班底组成的嫡系部队，聚合了六十师之多，完全听命于蒋。蒋为了展示大家长的威风，于复出之时，向何应钦施了下马威，令何惊羞交加，告假两月。冯玉祥的国民军(又称西北军)，于北伐节节胜利时集体加入国民党，就像令全部士兵受洗入基督教一样，组成第二集团军。阎锡山及其山西部队到一九二七年九月才加入国民党，组成第三集团军。李宗仁与白崇禧的桂系部队，于“第一次北伐”中战功卓著，势力不断扩张，组成第四集团军。这四个集团军各有地盘、各有军头，名为党军，实听命于军头，非新军阀云何？而“第二次北伐”的军力就是靠这四个新军阀集团。
蒋在南昌抗命时，武汉中央曾拟取消总司令以削其兵权，惟力不从心。而今蒋恢复总司令职之后，竟自动改为平行的四个集团军，各称总司令。不仅此也，蒋还主动于南京中央政治会议中，提议设立广州、武汉、开封、太原四个政治分会，分由李济深、李宗仁、冯玉祥、阎锡山出任主席，实同政治分权。李宗仁认为蒋于下野前曾被人骂独裁，故复出伊始，做此安排，以杜人口。我们觉得并不尽然，独裁乃其一贯目标，为达此目标，自有其迂回的权术与战略运用，所谓“夺之先予之”。一九二八年年初的形势，冯、阎各据一方，而二人资历都在蒋之上，为了尽快底定华北，绝对得罪不得，而李、白桂系于击溃唐生智后，控驭两湖，军容甚盛，亦必须拉拢笼络。更何况直鲁军虽已是强弩之末，但张作霖的奉军以东北为根据地，实力仍然强大。简单言之，蒋为了清除旧军阀以完成北伐，必须团结新军阀不可。
蒋介石所谓的“第二次北伐”，于一九二八年四月十日开始总攻击，第一集团军沿津浦铁路北上。冯玉祥第二集团军攻掠京汉路以东与津浦路以西地区。阎锡山的第三集团军自太原出娘子关，截断京汉线。李宗仁的第四集团军自武汉循京汉铁削匕进，与友军会师北京。如此庞大的军团，南北夹攻，声势浩大。孙传芳与张宗昌的直鲁军于龙潭一役后，已一蹶不振，然而蒋介石及其第一集团军沿津浦铁路北上时，左翼忽被孙传芳残部突破、顿感惊惶失措，幸冯玉祥的孙良诚部及时截断孙军退路，始得解围，蒋冯两军遂于四月二十二日在泰安会师，并于五月一日进占山东省城济南。
蒋介石进驻济南，当时济南有日侨两千人，日本田中政府遂以护侨为名，不顾蒋之外交部长黄郛一再保证日人生命财产的安全，蒋复于三月六日欢宴日本记者演说时，强调“中日亲善提携”(见《中华民国重要史料初编——对日抗战时期》绪鳊(一)，页一一四)，仍于四月十八日决定派五千远征军到山东。北京、南京两府俱向日本抗议侵犯主权。蒋到济南后立即与日将获致协议，日军撤退，蒋保证维持和平，并令各军“对日本始终忍耐，勿出恶声、勿使冲突”(见同书，页一二四)，但五月三日一早就发生冲突，引起枪战。蒋介石害怕，同意撤至城外，以换取停战。根据英美公使的密件报告，冲突的发生实由于蒋军入城后纪律太坏之故。(见ilbur，tionalist Revolution in China，P·179)然而蒋虽撤兵城外，日军仍借题发挥，派遣生力军，声言惩罚，并于五月七日递交第一次通牒，要求处置有关官员，解散有关部队，撤去济南城内部队，查禁一切反日宣传，以及所有中国部队向济南至青岛铁路南北两侧撤退二十华里等，并限十二小时内答复。(见同书，页一三三)蒋介石在日帝横蛮威吓下，居然答应一部分极具侮辱性的条件，但日方仍不满意，于五月八日下午向济南实施攻击，至十一日蒋军无力抵抗而屈服，济南城内外遭到严重破坏，中国军民死亡数千人之多。(据《蒋总统秘录》，日寇杀害中国军民三千二百五十四人，见第七册，页五十一)
蒋介石于五月五日晚上，当日机轰炸济南时，就仓皇逃出城外，把总司令部迁至党家庄车站，翌日冯玉祥来晤(见《冯玉样日记》第二册，页四五八)，黄郸、王正廷、杨杰、杨永泰、蒋作宾等参与会议。蒋介石居然在会议上提出放弃北伐，与奉张划江而治的主张，但遭冯玉祥等反对。最后决定避开日军，绕道北伐。五月十日，南京政府党政联席会议在兖州召开，与会国民党要员一致表示必须对日妥协，满足日军一切要求，并诉请国联调停。有趣的是，蒋介石再度提出放弃北伐，此次冯玉祥不在场，由谭延力言不可放弃，蒋介石无辞以对，只好打消这个念头，再度肯定绕道北伐的前议。但他自己不肯再在前线指挥了，把任务交给冯玉祥后，即返回徐州去也。(参阅蒋致冯玉样电，见《中华民国重要史料初编——对日抗战时期》绪编(一)，页一三九)
济南惨案毫无疑问地暴露了日帝横蛮凶残的真面目，不过一片反日情绪却也模糊了蒋介石举措失当的真面目。这件惨案是在他眼皮底下发生的，他一开始就采取极为软弱的对策，不惜卑躬屈膝，在五月二日的日记里自认：“不屈何以能伸，不予何以能取，犯而不校，圣贤所尚，小不忍则乱大谋，圣贤所戒。慎之!勉之!”他又于五月六日电告南京政府，“转饬所属，对各友邦领事、侨民生命财产，须加保护，凡有碍邦交之语宣传，宜随时取缔。”(《见国闻周报》第五卷第十八期)但是他对帝国主义的屈辱，并未稍减日帝的暴行，更未得丝毫善意回报，可称国耻。(参阅杨天石《济案交涉与蒋介石对日妥协的开端》，页七十五至八十九)他于失败屈辱之余，竟忧惧丧志，二度想放弃北伐。他还掩饰第一集团军的军纪废弛。前次汉口事件与南京事件，他有共产党可以指责，而此次共党既被他清除干净，已无代罪羔羊，只好加以掩遮。其实蒋军的纪律绝不会比一般军阀的军队好。
蒋介石于兖州会议后回到徐州，把绕道北伐进兵河北的任务交给冯玉祥，让第二集团军去应付京津一带的帝国主义，以及号称百万的奉军。他又约冯玉祥与白崇禧到郑州，于五月二十一日开军事会议，以地盘与军饷来鼓励冯、白积极进攻。白返汉口后，即率第四集团军北上。白回忆称：“奉军之侦察机发现我方之援军有百余列车，才退回关外。”(《白崇禧先生访问纪录》上册，页九十)张作霖奉军足与阎锡山晋军周旋，但桂系大军压境，势必退守东北。不过由于张作霖极度敌视冯玉祥，故于离京前所做撤退安排，故意有利阎锡山进取京津。奉军于五月底即弃守保定。蒋介石于五月三十日到石家庄晤阎，许诺京津地盘。六月一日张作霖通电出关，六月三日清晨在皇姑屯被关东军炸死，张学良于六月四日至天津，安排奉军退出山海关。同时北京的“和平维持会”电请在保定的阎锡山进京。八日阎属商震部先入京，翌日阎偕白崇禧进京，设立卫戍司令部。十二日阎以部将张荫梧任北京市警备司令，命傅作义任天津警备司令，完全控驭京津地区。蒋介石先促冯玉祥进取河北，后让阎锡山据有京津，自有制造阎冯间矛盾之嫌。冯玉祥于六月二日电蒋，“谓我军是为革命而牺牲、为统一而作战，非为争地盘而革命”(《冯玉祥日记》第二册，页四六八)，已露意气，冯的不开心，不仅表之于电文，而且付诸行动，命韩复榘故意阻截北京公使馆所请维持秩序的一旅奉军，并缴其械。公使团与南京政府几经交涉，才逼使冯玉祥放人还枪。显然冯生此事端，令蒋难堪。
蒋介石以南京政府名义，于一九二八年六月十五日发表宣言，通告统一完成。事实上，统一并未完成，新疆至十七日始易帜；张学良退据东北，至岁暮才内属。日本早已警告南京政府，不得染指东北，蒋岂敢进兵？由于当时感到统一东北无望，才会于六月十五日宣告统一。他未料到张学良国仇家恨，不顾日帝的威胁与阻挠，毅然于同年十二月二十九日宣布东北易帜，归属中央。(见《申报》一九二八年十二月三十日报道，另见同日上海《新闻报》)然而即使东三省内属，南京政府成为唯一的中央政府，但是各个集团军雄踞一方，派系林立，军令与政令均未真正统一。所谓北伐成功，全国统一，根本是有名而无实。