胡宗南化名秦东昌，去大陈岛打游击，挂了个虚有其名的浙江省政府主席。
（台北一大陈岛，1952年9月以后）
在一九五零年春节前后，蒋介石喊过一阵子“政治台北，军事西昌”，要将西昌作为在大陆的最后一块基地，便于将来卷土重来，作军事反攻。除了派飞机连连给胡宗南往西昌空运补充武器装备，还特别委派蒋经国从台湾飞到西昌给部属打气。
西昌还是在三月下旬失守，作为西昌军事长官公署代理长官的胡宗南，是四月四日乘飞机经海南岛飞回台北的。大约连连丢城失地使这位有“西北王”称号的一级上将也于心不安，胡宗南在台北办完了公事之后，也告别家眷，跑到花莲海滨租赁了一间屋子，居住休养，避开政事烦扰。
可是，监察院李梦彪等拉起一伙监察委员，说胡宗南作战不力，提出弹劾。此宗弹劾案，被各大报得悉后悉将全文发表。行政院将此案发交国防部审办。胡宗南当然在花莲海滨休不了闲，只好赶回台北，住在家里，闭门谢访。幸好还有好些人帮他说话，遂使此案得一个“不予起诉处分”的结果，不了了之。
胡宗南赋闲在家，心却没有闲。
一九五零年六月下旬朝鲜战争爆发，美国借口出兵台湾海峡，使在台湾的蒋介石政权几乎是绝处逢生。由于有美国第七舰队和第十三航空队防卫宽达一百多公里的台湾海峡，中国人民解放军无法像渡海攻占海南岛一样渡海攻台，只能选择朝鲜的陆战场来抗击美国的军队进犯，原来部署在浙江准备渡海攻台的主力兵团也已因战争需要调往东北。在东南沿海的解放军转入防御。
与此同时，台湾国民党政权得到了美国军队协防，又重新得到了美国大量的军事与经济援助，刚从大陆逃台时那种风雨飘摇的局面得以改观。蒋介石在采取一系列政治、经济措施来稳定台湾局面的同时，对大陆进行长期的骚扰作战。蒋介石以“一年准备、再年反攻、三年扫荡、五年成功”为口号，在台湾岛上进行动员。台湾当局还不断训练及派遣人员空投或潜渡到大陆，并且给在内地活跃起来的土匪空投武器、物资，企图对沿海解放军部队形成内外夹攻之势。蒋介石还专门成立了“敌后工作委员会”和“大陆游击总指挥部”来具体负责向大陆的骚扰渗透活动。在海峡南边主要依托金门、马祖为基地，向福建和广东进行登陆渗透；在海峡北面，依托浙东的大陈岛为基地，向江苏浙江乃至山东沿海进行渗透。
胡宗南在台北家居闲不住，又没有兵可带，在大陆时倚重西北拥兵五十万，显赫一时，那在渍败中已成旧事，他逃到台湾后只能让亲信徐先麟、吴俊、戴涛等人在香港，搜罗接济从大陆逃出来的胡部人员，安排交通，延引来台湾。在蒋介石需要人出来指挥向大陆“打游击”时，他主动提出要承担任务，“建立挺进部队，加强大陆游击作战”。
胡宗南于一九五一年五月三十日，给行政院长陈诚上书：“请以现在台湾、香港之江苏。浙江、安徽、山东等省的义民三万人为基础，成立三个野战挺进纵队，施以必要之军事战斗技术，及实施游击所需之技能……深入浙、闽、赣、苏各省边境，建立基地。”
陈诚收到胡宗南的上书，知道其闲不住。早在大陆的时候，陈诚与胡宗南都是蒋介石的左膀右臂，但相互间又有矛盾。胡宗南是黄埔军校一期，是黄埔系中天宇第一号“天子门生”，而陈诚则是非黄埔系的主将。如今陈诚大权在握，而胡宗南赋闲在家，还经历了一番弹劾风波，已经跟陈诚不能同日而语。胡宗南还在西昌时，陈诚夫妇曾登门探望胡宗南的眷属。胡宗南半生戎马生涯至五十二岁才结婚，妻子是留美归国的女博士叶霞翟。陈诚亲眼看见叶霞翟带着三个尚幼的儿女，挤住在两间简陋的木板房里，不像什么将军府第，只像平民居室；陈诚觉得过意不去，就将省政府在浦城街一所平房住宅借给胡的家眷住。
精于处事的陈诚，将胡宗南的报告拿给蒋介石看。本来蒋介石就觉得从大陆退过来的一大批高级将领，一下子挤在一个不大的台湾岛上，哪有那么多官可封？哪有那么多兵可带？这是个很棘手的问题；但是蒋介石对于自己过去的宠将胡宗南，还是有所偏向的。蒋介石对陈诚说：“宗南跟我那么多年，忠诚可鉴。丢了西昌，也不能只怪他。他本人提出去打游击，已是不计名位高低了，我看可以派他到大陈岛去，管管浙江前线的事。他带领旧部去那边多组织几个挺进部队也好嘛。”
于是，当年八月某日夜晚，陈诚亲往浦城街胡宗南住宅拜访，奉蒋介石之命，征求他对出任指挥沿海游击队的意见。胡宗南除了对陈诚谈了游击作战的计划与设想之外，只提他用一个化名来任职，并加以保密。陈诚欣然表示赞同。
九月九日，胡宗南化名“秦东昌”，以江苏浙江反共救国军总指挥兼浙江省政府主席的身分，率领几个经他挑选的部属，乘船前往大陈岛赴任。
消息透露以后，新闻界人士觉得浙江省主席及游击总指挥的职务亦不低，敏感的记者遍查了“国军战史军史”，寻不到这位“秦东昌将军”的资历与身世。越是查不到，越有吸引力，越要刨根问底。记者要上岛拜访，却被将军婉拒。某记者干脆捕风捉影地写了一篇《神秘将军秦东昌》。
其实，胡宗南在国民党将军中的确有点神秘，而且被人视作一种“怪癖”。据说，他从不愿见记者，不喜欢采访与拍照。有次在一个公众场合被某报记者偷拍了照片，他当即派副官去找该记者商量花钱买下胶卷。还说他从来不做生日，追随他二三十年的僚属都不知道他什么日子生日，乃至一九四七年五十二岁结婚而通知几个熟人去吃饭，人家误以为他过生日。他年届五十岁还是独身将军而惹起不少轶闻，传说他身有隐疾，是阴阳人。抗战期间，曾有一段盛传全国的婚事野史，至今无法确证真假。说抗战期间他四十岁，风华正茂，又是春风得意的将军，蒋介石想将孔家二小姐许给他，就让宋美龄出面作媒。那孔二小姐当时在重庆是个风云人物，特立奇行，以西方暴露衣着而驾车驰骋于山城街，十分惹人眼目。胡宗南对她的德行早有耳闻，所以当蒋夫人提及此事，他不说同意又不好说反对。宋美龄索性强行介绍，并强使其结伴出游。不料胡将军驾来一辆敞篷吉普，又开得飞快，震得车上的小姐前仰后合，腰酸骨痛。车子还没开到南温泉，就汽油用尽。弃车步行，将军挽着小姐，顶着烈日跋涉。小姐穿高跟鞋，一步一瘸，实在走不动了，就歇在一间路边餐馆。胡宗南点菜上桌，小姐见到苍蝇扑来，恶心不已。胡宗南却大赞美味：“我们在行军时，有此美味，已属幸运。小姐不要错过。”事后，孔二小姐在宋美龄面前哭诉了一番，婚事就告吹了。
胡宗南来到大陈后，在上大陈成立了“江浙反共游击总指挥部”，在下大陈设立了“浙江省政府”。台湾当局的浙江省政府，哪有什么像样的属地，不过是一个徒具虚名以作反攻号召的机构罢了。省府各委员，多数散居台北，遥领名义。胡宗南从台湾带来了三个国防部军官战斗团作为基本兵力。战斗团的成员，是国民党军各部队退到台湾进行整编后的编余军官，他从中选出一些骨干，分配去训练游击队。同年五月，美国军事顾问团到达台湾后，派了代表范尔逊，供给装备，并协助训练。其训练的成员，大多是在大陆的土改反霸中受过共产党打击的逃台人员和收编的海匪。
胡宗南上任不久，就不断派遣这些经过训练的挺进队，使用美国提供适合于别动队和特务活动的装备器材，通过小股登陆的方式进入内地，和当地土匪相结合，开展游击作战。胡宗南在大陈岛，先后训练了总人数约七千多人的挺进队。胡宗南在大陈岛就任两年，派出游击部队袭击大陆沿海数百次，当大规模进袭时，胡宗南亲启乘船指挥攻击与撤退。
胡宗南率部对大陆沿海连续发起的游击袭击，得手的次数并不多。也曾有几次获得成功，使当地的少量解放军驻军和地方政权受损。其中最严重的一次是一九五二年“双十节”后开始的对南日岛的袭击。胡宗南的游击队配合金门岛出动的国民党正规军，接近上万人，在飞机和舰艇掩护下猛袭南日岛，岛上解放军守备部队仅有一个连的兵力，经寡不敌众的激战后大部分牺牲，少部被俘后被送往高雄。岛上的政权也被摧毁。当天晚间，大陆不明情况就仓促派出援兵约一千多人，到达后登岛奋勇冲杀，杀伤国民党军数百人，亦因寡不敌众，全部失利。当福建军区再调部队准备反击时，十三日夜间，登岛的国民党军已全部撤离。这次袭击南日岛，解放军损失兵力一千三百人。胡宗南当然喜不自禁。
在国民党军袭扰下，解放军在沿海加强了防备，并组织了军民联防，给国民党军还以颜色，给以惩罚。一九五三年，解放军在年头开始恢复了对金门等岛的炮击，还于五月下旬发起了夺取温州湾出海口外岛屿的战斗。五月二十九日，刚由朝鲜战场轮换返回的第二十军第六十师，在温台巡逻艇大队配合下，向羊屿、鸡冠山和大、小鹿山这四个岛屿发起进攻，歼灭守岛的国民党军二百三十人，俘获了胡宗南手下干将纵队司令员何卓权。在大鹿山还铲除了一个特务巢穴，缴获八部电台，捕获一批准备潜入内陆的特务分子。何卓权是藏身洞穴中断粮后，其侍从卫兵乘黑夜到登岛部队伙房偷冷饭被捉住，供出何卓权，才被俘获。
羊屿、鸡冠山及大、小鹿山四岛被解放军攻占后，胡宗南遭到蒋介石的严厉申斥。胡宗南也觉得在大陆上成都、西昌败退后，连如今在大陈岛打游击也连连失利，颜面上太过不去。他电复蒋介石决心夺回羊屿等四岛，将功赎罪。
六月十九日晚，胡宗南乘“阳”字号驱逐舰亲自率野战一、四、五大队和军官战斗团，加上海上突击大队等总计一千六百多人，分乘机帆船、帆船五十多艘进行反扑。在九艘海军舰艇的掩护下，野战一、五大队等八百多人在羊屿登陆，余部八百人在小鹿山登陆。
守备羊屿、小鹿山的解放军各只有一个排的兵力，他们在敌我力量悬殊的情况下，大量杀伤敌人于滩头之后，被迫退守岛东北角之炮兵阵地待援。小鹿山的部队也撤向大鹿山，固守待援，处境危急。
二十日夜间，大陆派出的增援部队赶到。经过激战，国民党军的舰艇及登岛部队，扔下一大批尸体，逃窜而去。胡宗南的部队，被歼七百人，他本人虽然亲自登舰督战，仍然以失败告终。
二十四日，解放军又奇袭大陈港西口外的积谷山岛，予以占领，进而使大陈海面处于解放军陆上大炮射程之内，大陈岛局势更为紧张。胡宗南与美军派驻人员，对大陈岛防卫部署，发生了歧见。国民党当局觉得原来胡宗南的游击军政体制，已不适应大陈地区形势，决定将胡宗南调回台湾，以争取美方同意，派遣整编后拥有美式新装备的陆军部队，驻防大陈。并委派刚从美国陆军参谋大学学成归国的刘廉一中将，接替胡宗南，担任新设立的大陈防区司令官。胡宗南在交接卸任的自助餐宴席上，即席致欢迎词：“大陈已经渡过了一段艰辛困苦时期，今后即将要进入一个新阶段，开创新局面，所以需要有新的人物来担当。”
这位曾在大陆叱咤风云的“西北王”，如今已在话语中透露出内心的辛酸与感慨。
胡宗南回台之后，又悬空了两年才干一九五五年九月始，担任了四年的澎湖防卫司令官。一直在为蒋介石的军事反攻大陆效劳。一九六二年二月十四日，在台北因心脏病去世。