在仓促撤退、情势紧急的情况下，唐生智对撤退虽然作了具体部署，但是由于种种原因，大多数将领并没有执行他的突围命令。
教导总队总队长桂永清，这位黄埔一期毕业的蒋介石“铁卫军”的指挥官，从卫戍司令部出来后，见街上混乱不堪，便驱车首先奔赴驻在城内的胡启儒旅及直属团、营指挥部。按照突围命令，教导总队应该在12日晚十一时由飞机场东侧向高桥门—淳化镇、溧水方向突围。但桂永清在传达撤退命令后，却命令部队向下关、三汊河各自集结，用一切可以渡江的办法横渡长江。随后，匆匆赶回富贵山地下室指挥部，向参谋处长万成渠、副官处长余易麟等指挥部人员传达了撤退命令，收拾、烧毁了一些文件，便匆匆对参谋长邱清泉说：“我们一同马上走吧！”
当时教导总队大部分兵力尚在紫金山、光华门一带与敌人激烈战斗，邱清泉觉得应当及时通知这些部队，便冷静地说：“你先走吧！我暂时留下来，再和各个部队通话联系一下，研究一下撤退的办法。”
“那也好，那也好，你处理好以后，赶快到三汊河来！”说完，桂永清带着副官处长余易麟和几名卫士，急急忙忙离开地下室，向三汊河奔去。
三汊河边，教导队工兵团团部。
桂永清带着副官、卫士匆匆赶来，向团长传达了撤退的命令，随后命令工兵团全力以赴赶扎木筏、木排，以便教导总队官兵由此北渡长江。之后桂永清带着副官、卫士登上工兵团扎的一张木筏，乘夜间向浦口划去。风寒、夜黑、人多，木筏在激流中颠簸着缓缓向北岸划去。坐在木筏上，桂永清庆幸自己脱离了险境，至于部队，有参谋长在那里安排，能过来多少算多少，此时此刻，能把指挥部人员带走就算不错了。
零时左右，木筏终于靠近浦口下游的芦苇岸边，惨淡的月光下，如人高的芦苇在寒风中瑟缩，污泥淤积的江岸，显得既松软又宽厚。桂永清见平安抵达浦口，长长舒一口气，便站起身来带头跳上岸去。岂知这种淤积泥土含水量多，人刚落地，双脚马上往下沉，愈陷愈深，卫士们慌忙把绑腿解下来，才把桂永清拖上筏来。木筏只好改向浦口镇划去，上岸后既找不到汽车，也没有马匹，桂永清也只好和士兵们一样，步行向滁州方向而去。
当桂永清坐上木筏渡江北撤的时候，他的副总队长兼第一旅旅长周振强正在紫金山指挥部队和敌人激战之中。此时敌我双方已在紫金山主阵地第二峰进行反复的争夺战。夜晚十时，周振强站在紫金山一峰旅指挥所瞭望，发现城内几处起火，急忙向总队摇电话，电话已摇不通，知道情况严重，急忙派人到总部去打听。不久，参谋马连桂报告说：八十八师的雨花台阵地已经失守，已有小股日军冲入中华门内，粤军邓龙光部队正纷纷开出太平门。
周振强当即召集部分军官紧急商议决定，将部队撤出阵地，具体行动计划是：第三旅旅长马威龙率本旅随粤军邓龙光部队一起突围；工兵团团长杨厚灿率本团赶到煤炭港、燕子矶之间，迅速准备渡江器材；骑兵团团长王翰卿率本团占领煤炭港一线担任掩护；第一团团长秦士铨率本团为后卫。从深夜12时开始逐步从阵地撤退，到煤炭港、燕子矶一带集中准备渡江。
周振强于当晚一时许到达煤炭港，见江边上混乱、拥挤不堪，便率领特务营100余人坐镇江边指挥渡江，至13日上午，自己才登上渡江木排。这时日本军舰已突破乌龙山长江封锁线，来到下关一带江面，用机枪对着渡江官兵疯狂扫射，情况甚为悲惨。
周振强带领教导队第一旅官兵，坐在一只匆忙扎好的简陋木排上，在惊涛骇浪上颠簸着，穿过敌机、敌舰的疯狂扫射，终于到达了长江北岸。
然而，还有许多接到命令或没有接到命令的部队，在仓促撤退时境况就更为悲惨了。教导总队第三团团长李开西，撤退中把部队带向燕子矶三台洞江边，经过一路混乱不堪的奔跑拥挤，部队早失去掌握，到达江边时身旁只剩下几个官兵。李开西看到，江边到处是黑压压拥挤的人群，激流滚滚的江面上，木柱、门窗、木盆等数不尽的漂浮物，顺着江水向下漂流。激浪翻滚，人头浮动，救命声、嚎哭声令人毛骨悚然！正在危急之时，一营长邹蔚华报告说，他已用电线杆扎好了两个木排，请团长一同过江，李开西这才得以脱离险境。他的团副彭月翔靠士兵给他的一个床架子，铺上一条芦席，漂到江中八卦洲，再由八卦洲觅船渡过了长江。最为悲惨的是教导总队第一旅第二团团长谢承瑞。谢团长率领部队守卫光华门，由于连日苦战疲惫不堪，在随着拥挤的人流通过挹江门时不幸摔倒，竟被混乱的人流踩死在挹江门边！教导总队参谋长邱清泉，留在总部处理好撤退事宜之后，发现情势万分危急，自己已经很难撤退离开南京了。于是急中生智，化装打扮成平民百姓，和第四团团长睢友兰、旅部中校参谋廖耀湘等人藏入了安全区难民之中。
比桂永清聪明的是七十四军军长俞济时。俞济时见战争节节失利，而唐生智又严令禁止任何部队私留船只准备过江，为防万一，他向交通部长俞飞鹏要了一只小火轮，偷偷停在浦口作随时急用，这样既不招人耳目，又给自己留下了后路。12日傍晚，他从卫戍司令部开会出来之后，立即奔向五十八师师部，传达了撤退命令，又派军部李参谋将撤退命令送给五十一师王耀武师长。随后带了五十八师师长冯圣法等一批人直奔下关江岸，登上自己早已准备好的小火轮，顺利渡过了长江。好在他心里还装着自己的部下，过江后派军部张副官随船往返，负责接运自己的部队，师长王耀武等大批官兵就是靠这艘小火轮撤退过江的。
五十一师师长王耀武率部队退入南京后，担任水西门一带防守任务。12日下午，由于战斗异常激烈，他没有参加卫戍司令部的会议。接到撤退命令之后，他立即命令周志道旅长率领一五一旅赶赴八卦洲附近扎木排过江，李天露旅长率一五三旅随师部一道从下关附近渡江。登上长江北岸，王耀武清点人数时，发现三零六团团长邱维达还没有过江，又听说邱团长已身负重伤，便派师部副官主任赵汝汉带领卫士班前往南岸，务必设法将负伤的邱维达团长抢运过来。
当时，三零六团正担任水西门至中华门一带城墙的防守任务。12日上午，邱维达正在城墙上指挥激战时，忽然接到三营长胡豪的报告，水西门与中华门之间，城垣突出部有一段被炮火炸开，敌人爬墙登城者已有一两百人。邱维达极为紧张，立即命令三营组织敢死队，与友邻部队夹击，务必在一小时之内消灭突入之敌人。于是胡营长亲自率领敢死队向敌人冲去，一时杀声震天动地。邱维达也指挥全团火力直接掩护，终于将突入城内的敌人全部肃清。然而，团副刘历滋，营长胡豪等众多官兵，都在这场战斗中壮烈牺牲了。
晚上七时，三零六团接到师长王耀武的电话，命令部队相机撤退。邱维达接到命令随即召集营、连长在城墙上研究撤退方案，不幸被敌人流弹击中，昏迷不醒，待他醒来时，已被担架抬到下关码头。邱维达看到，下关一带情形十分凄惨，到处是黑压压的散兵、伤员和难民百姓，辎重、车辆、行李和数不清的人群把沿江马路挤得水泄不通。一会儿敌机从头上投下几颗照明弹，一会儿敌舰从江中扫过来一阵机枪，哭号声、呼救声、怒骂声、怨恨声搅成一片。看到这种情景，他心中不禁涌过一阵伤感，一阵悲哀。
担架在江边停留下来，副官和卫士分头去找船只。寒风凛冽，残夜深沉，正在紧急时刻，忽然江中传来遥远的呼喊声：“五十一师邱团长在哪里？！”“五十一师邱团长在哪里？！”……
大家屏住气息细听，原来喊声来自煤炭港方向，于是担架连忙向煤炭港奔去。来到煤炭港，只见江中停着一只小火轮，喊声便来自这小火轮上。由于江边人群混乱拥挤，轮船不敢靠岸，离岸30米远停住，用绳索抛过来系着邱团长，从水中拖了过去，这才得以离开险境。
比俞济时七十四军条件有利得多的是宋希濂的三十六师。宋希濂是湖南湘乡人，黄埔军校一期毕业生，当时任七十八军军长兼三十六师师长，实际上能指挥的部队只有三十六师。三十六师在参加淞沪会战后剩余3000多人，于11月22日退到南京，在补充了4000余人后参加南京保卫战。师部奉命防守红山、幕府山、下关、挹江门沿江一带阵地，并负责看管南岸所有的船只。
12日下午卫戍司令部紧急会议以后，宋希濂立即回到师指挥部，召集了独立营长以上的部队长官会议，对渡江北撤的事项作了具体安排、布署。然而在大批部队散兵、难民涌向江边，秩序极端混乱的时候，三十六师也无法顺利渡江了，不但船只接连被失去掌握的部队抢掠而去，而且不少士兵被乱军冲散失去联系，经过一夜奋力抢渡，到达浦口的也只3000余人，不及全师人数的一半。
最糟糕的是七十一军军长王敬久，他在开完会议之后，只通知在明故宫待命的八十七师一部分队伍，并没有回到富贵山地下室军指挥部，抛下在前方苦战的部下，自己登船一走了之。随后师长沈发藻也匆匆登船北撤。待到在中山门内外激战的部队发现情况有异，准备撤退的时候，已经是群龙无首了。部队根本不知道撤退的方向和路线，只好各自纷纷向江边涌去。八十七师副师长兼第二六一旅旅长陈颐鼎，一直率部队在中山门外与日军激战，根本没有接到撤退命令。直到12日夜晚，发现情况有异，派副旅长孙天放带领武装士兵到附近实地了解，这才知道南京撤退的消息。
13日凌晨两点，陈颐鼎率领部队从阵地撤下来，绕道来到下关，只见江边上黑压压一片人群，混乱不堪，渡江已不可能，便又带领部队朝煤炭港奔去。一路上人流拥挤，部队早被冲散，到达煤炭港时身边只剩下特务排一二十个人，也没有找到渡江船只，便继续向燕子矶方向走去。
由于陈颐鼎骑在马上，又穿着将级军官的呢军服大衣，跟在他身后的宪兵、警察、散兵越来越多，竟有近3000人。陈颐鼎便停下来，对这些散兵进行整编，告诫他们一定要听从指挥。正在这时，山头上响起枪声，日军搜索部队和担任警戒的特务排士兵打起来了，临时军部队一哄而散，陈颐鼎带着副官和几名贴身卫士急忙来到江边。
这时前有大江挡路，后有日寇追兵，情势万分危急。陈颐鼎正欲拔枪自尽，卫士兵不知从哪里搞来一块二丈多长六尺多宽的大木板，不由分说把旅长推上木板，大家坐上木板便漂了过去。木板离开江岸约50公尺，便开始逐渐下沉，排上人全掉落在江中，正在危急时候，教导总队看护班长马振海驾排从身边漂过，把陈旅长救上了浮排。
少将旅长陈颐鼎靠着这只浮排搭救，漂到了八卦洲，然后乘着清晨大雾，穿过敌舰封锁渡江到达北岸，这才逃得了性命。