话说冯玉祥在接到那封求援电报后，随后便迅速班师回京。1924年10月22日晚，冯玉祥的部队便神不知鬼不觉的摸到了北京城下，而守卫北京的正是冯玉祥之前设下的内应，孙岳的第十五混成旅。
孙岳是直隶高阳人，1878年生人，据说是明末名将孙承宗之后，他早年行侠仗义，曾因打死了当地的一个恶霸而隐姓埋名，削发为僧，后来又不甘寂寞而考入了保定武备学堂炮兵科，毕业后被分派到北洋军第三镇，在辛亥革命的时候孙岳任镇参谋官。孙岳很早就加入了同盟会，并且是北方的重要负责人之一，可以说是个老革命党了。
武昌起义后，孙岳因为卷入了“滦州兵谏”，后来便南下投了革命政府，但孙岳到了南京后，革命同志误以为他是袁世凯派来的探子，差点就给自己人给干掉了。受此打击后，孙岳由一个积极的革命志士变成了一个颓废主义者，最后还是找到自己的老领导曹锟，谋得军官教导团团长一职，并升任了大名镇守使兼第十五混成旅旅长。
冯玉祥与孙岳在清末便是熟人，在冯玉祥打算发动北京政变后便与他交了底，孙岳听后表示赞同，并主动承担了与陕军胡景翼、岳维峻部的联系工作。在直奉大战前，因为原负责北京治安的王怀庆被调往前线，冯玉祥便把孙岳推荐给曹锟，让他做北京警备副司令。曹锟不知是计，便同意了冯玉祥的提议，将孙岳部由保定调入北京。事后，孙岳笑着对冯玉祥说：“弄了半天，原来你是特意把我弄来给你们开城门的啊！”
说完了孙岳，却在细细说说这次政变的大主角冯玉祥。冯玉祥，字焕章，祖籍安徽巢县，1882年生于直隶青县，童年在保定长大。冯玉祥的父亲早年投入刘铭传的铭军，曾参加过镇压太平军、捻军、陕甘回乱等战事。同光年后，天下太平，因铭军解散，冯父也就解甲归田，但多年的从戎生活使得他已无心从事其他行业，最后还是投入淮军并随军分驻直隶等地。
冯玉祥的父亲是个低级军官，加上家里的孩子比较多，因而冯玉祥小时候的生活非常艰苦。冯曾在回忆录中说，自己小时候都跟着哥哥去拔草拾柴，帮衬家计；家中房子之小，有时候客人来了连坐的地方都没有。由于生活艰辛，冯玉祥经常要去当铺典当家中物品（因为大人不好意思去），以勉强维持家中生计。正因为这样的生活经历，冯玉祥对清廷几无好感，对旧社会极为痛恨。
冯玉祥原本不叫冯玉祥，而是叫冯基善。当时保定的练军大都是父子兵，也就是父亲退役、儿子递补进营，外面不相干的人是很难补得进去的。因此，一年半载的出个缺，争的人很多。冯玉祥的父亲当时境遇困难，这是他的同袍都深知的，有一次营中正好出了个缺，当时一个姓苗的管带便说：“这回补冯大老爷的儿子”，旁边的人问：“那他叫什么名字？”苗管带一下想不起来，那人便说：“让我问问去”。苗管带怕他去一问而耽误了时间，于是忙摆手道：“我知道，用不着问”，随后便在纸上写了“冯玉祥”三字。
于是，冯基善便成了“冯玉祥”。
冯玉祥补上学兵的时候不过11岁，但他从小便身材高大魁梧，天生就是军人的料。成年后，冯玉祥的身高超过一米九，膀大腰圆，人称“冯大个儿”。但是，由于冯家并没有什么显赫的背景，冯玉祥小时候接受的教育也比较有限，因而不像其他的军官一样读过武备学堂之类军校，他完全是靠着自己的努力，在军队里摸爬滚打了多年才逐步升迁的。正因为如此，他的日常作风非常简朴，也从不沾染当时的一些恶习如吸鸦片、赌博、狎妓等，这和其他的高级将领完全不同。
由于当时的淮军已经疲弱不堪，冯玉祥后来便改投了袁世凯的武卫右军，因为当时的武卫右军无论是在训练还是待遇等方面都是最好的。由于他的身材高大，在慈禧太后从西安回銮的时候，冯玉祥还作为仪仗兵在保定亲眼见过慈禧太后（心里很不爽）。在袁世凯的军队中，冯玉祥逐渐由副目、正目、哨长、队官等一路升迁上去，并在清末的时候做上第二十镇的营管带。
武昌起义后，潜伏在第二十镇（驻扎滦州）的革命党也蠢蠢欲动，当时的骨干便有营管带王金铭、施从云、冯玉祥及其张树声、张之江、鹿钟麟、李鸣钟、龚柏龄、商震、刘骥等同袍或部属，就连镇统制张绍曾也是倾向革命的，由此也引发了后来的“滦州兵谏”。
可惜的是，由于张绍曾举棋不定，自请辞职，“滦州兵谏”最终以王金铭、施从云等十四名革命党被杀而告终。冯玉祥等参与者还算幸运，只是被解除军职并押送回籍了事。无巧不成书的是，军法处的人押送冯玉祥路过北京的时候，正好偶遇了曾经的老上级陆建章。
原来，赋闲三年的袁世凯在复出后，对之前编练的北洋军已无绝对掌控之信心，所以要组建一支忠于自己的嫡系军（后来的事实也证明袁世凯的判断是正确的），这就是之后的五路备补军。当时陆建章被袁世凯从广东潮州镇守使调回来担任左路备补军统领，他对当年冯玉祥带兵的印象不错，而他这里又急缺优秀的中下级军官，于是当即决定让冯玉祥留下来帮忙。
由此，冯玉祥便留在陆建章的左路备补军中担任营长，随后又升为团长。在民国初年“剿白狼”中，冯玉祥被提升为旅长，并随陆建章入陕。袁世凯称帝后，冯玉祥的第十六混成旅奉命开进四川与护国军作战，但未及半年，袁世凯便因病去世，护国战争不了了之。
而在这时，忠于袁世凯的陕西督军陆建章也被皖系军阀陈树藩驱逐，冯玉祥失去了靠山，也无法回陕西，只能由陆军部指定回廊坊一带驻扎，第十六混成旅也险些被解散。所幸的是，后来张勋闹复辟，段祺瑞组织讨逆军，实际上他并没有基本部队，因而第十六混成旅正好派上用场，老段也由此对冯玉祥另眼相看。
但是，冯玉祥终究不是段祺瑞的嫡系，后来广东护法军攻入福建时，第十六混成旅奉命前去支援，但部队到了南京后，江苏督军李纯奉总统冯国璋之命（冯国璋反对段祺瑞的“武力统一”政策）将之留下，直到段祺瑞一派在北京取得优势，才奉命离开南京，前往湖南参加湘鄂之战。
1918年2月，在陆建章的鼓动下，冯玉祥部开到皖鄂赣交界的武穴时突然宣布主和，并指斥段祺瑞“对外宣而不战、对内战而不宣”，这不但对皖系军阀的震动很大，也很是伤了段祺瑞的心，并最终导致了后来陆建章的被杀（“武穴主和”据说是陆建章的主意）。尽管冯玉祥后来还是迫于皖系军阀的压力而率部驻扎湖南常德，但在吴佩孚率军北撤并在直皖战争中击败皖系势力后，第十六混成旅也随即北上投入曹锟、吴佩孚的门下。
冯玉祥本人贫困出身，一向艰苦朴素，与士卒共甘苦，因此他带的部队很团结，凝聚力很强。尽管他的部队屡遭排挤，但却磨炼了部队的顽强作风，其战斗力不容小视。1921年，冯玉祥作为先锋部队进入陕西驱逐皖系督军陈树藩，随即因为阎相文自杀而接任了陕西督军的职位。在第一次直奉战争中，冯玉祥击败河南督军赵倜有功而做上了河南督军的位置。但是，由于吴佩孚的军队驻扎在洛阳，一山不容二虎，因而冯玉祥很快便被排挤到有职无权的陆军巡阅使一职，这也是冯、吴产生矛盾的直接原因。
早在第二次直奉大战前，冯玉祥便通过部下与奉系接洽，密谋共同反吴。在得知冯玉祥在京中极为苦闷困窘之后，张作霖决定联合冯玉祥并接济了冯部一些军械和钱饷（一说是二百万日元，一说是奉天官银号一百多万小洋）。随后，冯玉祥又与同为非嫡系且有同盟会、革命党背景的孙岳、胡景翼、岳维峻等人联系，共组冯、孙、胡同盟，这也是后来国民军系列的最初雏形。这时，曹锟的手下大将、直隶军务督理王承斌因为被吴佩孚削去第二十三师的军权也心怀异志，并暗中与冯玉祥合作，这也是后来吴佩孚派王承斌去古北口监视冯玉祥而反被冯玉祥利用的原因。
冯玉祥虽然看上去高大魁梧，像个军界老粗，但实际上胆大心细。他在军事上做好准备后，在政治上也在有意识的寻找替代曹锟政府的人选，这便是前内阁总理张绍曾和做过外交总长和教育总长的黄郛。张绍曾在清末的时候便倾向革命，而黄郛更是个头颅有价的革命党，他是陈其美的盟弟、也是后来发家的蒋介石之盟兄。在革命失败后，一部分革命党改变策略和信仰，重新进入了北洋政府，张绍曾和黄郛便是其中的杰出代表。冯玉祥在第二次直奉战争前做的这些联络工作，都是为后来的政变埋下伏笔。
直奉大战打响后，冯玉祥以训练新兵为借口，在城中留下一营兵力作为内应，其他部队则陆续开出城外，但每日行程不过二三十里，行动十分缓慢。冯玉祥的司令部到达古北口后，随即借口筹措给养，并令鹿钟麟部每日练习行军，让沿途居民见怪不怪，免得到时班师回京引起外间的注意。
鹿钟麟学兵出身，在四川的时候投入第十六混成旅任营长，很受冯玉祥的器重。他在进入北京前，每次都派两连人进入城内装着拿东西的样子，但每次都是进的多，出的少，这样就在城内陆续聚集了近一个团的兵力，而孙岳的守城部队对此也是睁一眼闭一样。
1924年10月23日，在政变的当晚，孙岳下令放开城门，鹿钟麟部则大举进城，由于前面内应的士兵已经在各街道做指引，因而政变神不知鬼不觉，竟然未放一枪一弹。等到第二天早上，北京的居民起来一看，城中到处都是冯玉祥国民军的安民布告，街上的交通要道也站满了缠着“誓死救国，不扰民，真爱民”白色臂章的国民军士兵。而此时北京与外界的电报、电话早已被操练了多次的内应部队给切断，总统府的卫队被缴械，曹锟也被软禁在中南海延庆楼内。
第二天，冯玉祥便赶回北京，会同胡景翼、孙岳成立了国民军，冯为第一军总司令，胡、孙为第二、三军总司令。随后，冯玉祥又派人前去逼迫曹锟下停战令并将吴佩孚本兼各职免去；另外，请曹锟自动退位。
曹锟总统做得好好的，一夜之间遭此变故，也是惊诧莫名，特别是他听说孙岳、王承斌都反了，更是气得半天都说不出话来。当冯玉祥的代表薛笃弼与内阁总理颜惠庆去见曹锟的时候，曹锟口气仍旧非常强硬，连问：“子玉在哪？”并接着又说：“此次对奉作战，虽是子玉主张，但也是我同意的，要办子玉，就先办我曹某。”
后来孙岳等人赶来并劝曹锟说：“公身安全，某等可以保证。停战为和平而发，不妨早下，至于吴佩孚，可以给予名义让他下台。”曹锟见大势已去，再争无益，只得对颜惠庆说：“责任内阁，一切可以负责办理，你们自己看着办吧。”
在停战令和将吴佩孚解职的命令发布后，前线的吴佩孚还不敢相信，一再通电这是“伪诏”，企图负隅顽抗，但由于此时军心大乱，吴军大败，只得退守天津。就在这时，国民军又相继在杨村、廊坊一带将吴佩孚的原驻军击溃，而那些北上的直系援军也被山东督军郑士琦、山西督军阎锡山所阻，至此，吴佩孚的失败已经是无可逆转。
11月2日，在王承斌的劝说下，曹锟宣布辞职。曹锟怎么也没有想到，之前夺了黎元洪的印并扶他上台的王承斌今日竟然要他下台，这真是翻手为云、覆手为雨，世事难料啊！而吴佩孚在得知曹锟下台消息后，也知道自己困守天津毫无用处，好在曹锟的人身安全已有保证，随后便于次日率残卒两千余人浮海南遁。
由于孙中山北上遥遥无期，冯玉祥在与张作霖协商后决定推举段祺瑞出山收拾残局。在段祺瑞赴京之前，冯玉祥把黄郛推出来组织临时内阁作为过渡。黄郛的临时内阁寿命很短，不过却抓紧时间做了一件大事，那就是下令将清逊帝溥仪驱逐出宫。
11月5日，鹿钟麟和临时内阁代表李石曾带着手枪队，拿着临时内阁签署的《修正清室优待条件》，杀气腾腾的来到故宫，要求溥仪在修正书上签字，并限令两个小时内搬出紫禁城。
内务府大臣绍英见天降横祸，一时急得要命，他先走到李石曾的跟前说：“你不是大学士李鸿藻的公子吗，如何也帮着当局欺压清室呢？”见李石曾不理他，绍英又哆哆嗦嗦的走到鹿钟麟的面前哀求道：“你不是太傅鹿传麟的嗣子吗，如何对清室如此苦苦相逼？”鹿钟麟听得不耐烦了，他从怀里掏出一个炸弹，往桌上重重一放，喝道：“要是再不搬出，我就要令景山上开炮了！”
就历史经验来看，武力威逼一般都是成功的，也可以免去很多口舌之争。于是，溥仪等人被吓得魂不附体，慌忙从紫禁城中搬出。当时国民军给溥仪等人预备了五辆汽车，由鹿钟麟亲自将他们送到溥仪的父亲、前清摄政王载沣居住的醇王府（北府）。
在溥仪下车后，鹿钟麟笑嘻嘻的上前跟逊帝握手，并问：“溥仪先生，你今后是打算做皇帝，还是要当个平民？”溥仪说：“我愿意从今天起就当个平民。”鹿钟麟听后松开溥仪的手，笑道：“好！那么我就保护你！”听到这里，周围的国民军士兵也都一齐鼓起掌来，中国至此终于没有合法的皇帝了……逊帝也不行。
不过话说回来，冯玉祥将逊帝驱逐出紫禁城的举动固然是大快人心，且是他个人的长期愿望（他在自己的回忆录中就多次提及，特别是在反张勋复辟期间，如果没有段祺瑞的阻拦的话，他是要一直打到紫禁城的）。这本也不奇怪，革命党和皇帝一向是势不两立，岂容你一个莫名其妙的人住在紫禁城享受假皇帝的特权？
但是，当时的国际舆论却非法干涉我国内政，加上国内民众的觉悟太低，冯玉祥此举在当时竟是饱受批评。除了南方革命党对此大表赞赏外，其他如各国驻华公使均对此表示抗议，认为冯玉祥违背了民国之前所做的承诺，无视国际规则；而段祺瑞、张作霖等军阀名流也认为如此逼迫清室实属毫无必要，且有自毁诺言、毫无诚信、践踏法律之嫌疑。
不管这么说，此时的北京完全在冯玉祥的控制之下，即使有人想帮溥仪，那也是无能为力的。溥仪被赶走了，冯玉祥将紫禁城封存清点，并预备作为博物馆进行开放，但紫禁城面积之大、藏物之多，并非一年半载所能完成，之间的种种变故甚至文物流失，难免瓜田李下，揪扯不清，冯玉祥也因此受到了当时舆论的误解和批评。
将溥仪驱逐成紫禁城的另一个重要隐患是，给日本分裂中国提供了一个有用的工具。在驱逐事件发生后，日本人对溥仪的遭遇给予了高度的同情和异乎寻常的关注。后来，在日本军部的密谋下，溥仪逃到了日本使馆，随后又逃到天津日租界，并在日本人的卵翼下，于“九一八事变”后出任“伪满洲国”的执政，这是后话。
北京政变后，冯玉祥虽然暂时控制了局势，但随着吴佩孚势力的崩溃和奉军的不断入关，如何收拾残局却非冯玉祥一人之力可以主导的。1924年11月10日，张作霖来到天津后，随即电邀冯玉祥来津商谈善后问题。在蔡家花园举行的会议上，张作霖、冯玉祥等人对拥戴段祺瑞出任临时执政的问题达成一致。由此，在直皖战争失败后潜伏了近4年的北洋大佬段祺瑞被再次推了出来。
段祺瑞在直皖战争失败后，全家便搬到了天津过上了隐居的生活。蹊跷的是，老段突然开始吃斋念佛，每天早上起来，他第一件事便是在自家的佛堂焚香念经，从未间断。而且，老段在信佛之后，也开始改吃素食，除了自己养几只母鸡下蛋供应外，荤食一概不碰。
段祺瑞虽说已经吃斋念佛，但并没有看破红尘，四大皆空。每次有学生、旧部、朋友来拜见他，说起国内战火纷飞、人民流离失所的时候，老段总是板着脸，一言不发。唯独这些人说“要收拾局面，非老师东山再起”时，老段一贯冷若冰霜的脸上才会多少露出点欣慰的笑容。
在第二次直奉战争的后期，吴佩孚困守天津，据说段祺瑞给他送了封信，劝他来日方长，另做打算，不要做鱼死网破的无谓之举。用段公馆里的话来说，就是“老头儿眼看吴小鬼掉在井里头了，小辫提一提，给他指条明路”。最终，吴佩孚还是浮海南遁，临行前将遗弃的粮食、弹药等贴上封条，上面写着“移交段督办”。
在接到各方的邀请后，老段也未谦虚，他发表通电说：“我也是国民的一分子，如果中国舆论非要我出山不可，我也不会推辞奉公的机会，与南北各方共图时局的安定，这也是我作为国民的义务”……既然你冯、张假意曲承，我老段就姑且来个假戏真唱一下嘛！
经过这四年的潜伏和思考，段祺瑞对时局有了新的看法，他说：“这次战争是第一次革命（即辛亥革命）的延长，自然应该打破一切现有制度，制定出一全新的政治新格局。现在总统、国务员、议员均四散，以前制度下的法律手续均已破坏，我们在收拾时局时，一切不必顾虑，唯以民意为基础，向重新建设共和国方向努力，舍此别无良策。”
老段的话，颇费思量。在他看来，自辛亥革命后的民主共和尝试已经完全失败，一次又一次的内阁风波、国会风波、府院之争，这说明民国初年的关于“总统、内阁、国会”的构架本身就存在严重的问题。无论是护国还是护法，抑或是称帝或者复辟，其实都是对帝制崩溃后制度紊乱的种种挽救，但都无一例外的失败。
帝制崩溃之后无帝制，但真正适合中国国情的新制度却迟迟不能在实践中产生，辛亥革命党简单幼稚的移植西方制度，其最终的结果却是导致军阀混战、天下大乱。历史给中国人开了一个恶劣的玩笑，这其实也是年青的革命党们对中国传统制度、历史现状和具体国情缺乏最基本的了解所导致。事实证明，在一个有着两千多年皇权专制传统的国度里，一个全新的制度构架并未经过严密的理论推导和反复的验证、未经对国民的充分教育普及并建立民众的基本共识便贸然出台实施，出现各种乱象必不可避免，失败也是百分之九十九的。
由此，段祺瑞提出“打破一切现有制度，制定出一全新的政治新格局”，从思路上说是对的，但在局势一乱再乱的情况下，如何寻找出一条新的出路，这就是难上加难的大问题了。段祺瑞虽说“一切不必顾虑，唯以民意为基础，重新建设共和国”，但当时的民众依旧是混沌无知，政客们一贯的争权夺利，军阀依然用枪杆子说话……这出路在哪里？
旧者已破，新者未立，收拾旧河山，再建新中国，谈何容易？
经过与张作霖、冯玉祥等人多次磋商，最后各方决定成立中华民国临时政府，由临时执政充当国家元首和政府首脑。这种方案，其实是对过去十三年不成功的总统制与内阁制的一个总结，因为从名义上看，临时执政虽然挂着“临时”二字，却不动声色将之前的总统及总理职权合二为一，不再会有之前的“府院之争”的烦恼了。
“执政制”说白了就是一种变相的总统制，只不过比内阁制更加适应中国的国情而已。由于作为民意机构的国会已经被解散，而段祺瑞也无意恢复之前的国会，因为不管是第一届国会还是安福国会，都已经堕落为“贿选、猪仔”等可耻的代名词。老段这次不恢复国会，却无人表示反对，说明国会这个玩意在国人心中已毫无价值、毫无信任感可言了。
事实上，西方民主共和制度在民国初年的彻底失败，应引发国人更深层次的思考：任何制度构架，如果没有经过良好的理论设计和验证，没有取得国民的基本共识，没有建立在中国传统制度和具体国情细致分析之上的话，非但失败是必然的，弄得不好就是国家分裂、内战迭起，老百姓家破人亡。从后来的历史来看，单纯善良的指望引进西方民主制度便可使中国繁荣强盛，这不过是“一股就灵”、“一民主就灵”的幼稚简单之机械思维罢了。
1924年11月24日，已经是两鬓斑白的段祺瑞在铁狮子胡同（前清陆军部旧址）举行了就职仪式，正式就任为临时执政。上任之后，老段却接过了老对手黎元洪的“废督裁兵”政策。在经历了多年的风风雨雨、起起伏伏之后，两人终于在这个问题上达成了共识。但可惜的是，为什么这些强人们总是自己强大的时候便要推行“武力统一”，而非要等到自己处于弱势的时候才会想起“废督裁兵”呢？这绝对不是偶然的。
不过这一次，实力最强大的张作霖却首先站出来表示支持，他自请撤销“镇威将军”的名号并解除东北巡阅使的名义，算是给了段祺瑞一个好大的面子。既然张作霖作了表态，其他各省督军也就依葫芦画瓢，纷纷将自己的督军名义拿掉，而改称“军务善后督办”。但这个督办和督军到底有啥区别，或者“军务善后督办”本就可以简称“督军”或者“督办”，原本就是换汤不换药的混杂使用。
段祺瑞随后打出的另一张牌，则是邀请各界名流、军政要人来北京召开“善后会议”，规划未来中国的制度构架和发展走向（最好能搞个宪法之类的）。但很不幸的是，在这节骨眼上，应邀北上参会的南方革命领袖孙中山却于1925年3月12日去世了，这不免给善后会议蒙上一层阴影。
从民初的历史可以预测，段祺瑞的善后会议很难取得效果。道理很简单，段搞这个会议并不是为了取得民众的共识，而是为了取得上层人物的共识而召开的，代表固然是少了许多，层次也上了好几个台阶，但矛盾呢？利益冲突呢？一样不少嘛！
譬如会议的重点议题“改革军制”，段执政想拿掉武夫们的军权，哪能这么容易呢？再说“整理财政”这项，中央想收回财政权，那地方上怎么会答应？所以善后会议也就是“雷声大、雨点小”，最后不了了之。
一句话，善后会议或者说国民大会的召开是需要枪杆子撑腰的，但枪杆子撑腰下又如何会有真正的民意大会呢，这显然是个悖论嘛。这个问题，以前的人解决不了，一个善后会议就可以解决了？不现实嘛。