1949年12月9日，四川将领刘文辉、邓锡侯联名通电起义，蒋介石仓皇逃亡台湾，把他的黄埔得意门生胡宗南留在成都，面对解放军的大包围。胡宗南多次请求突围，蒋介石都不予批准，胡宗南无计可施，只好坐以待毙。
12月18日，解放军已兵临城下，蒋介石才勉强批准了胡宗南的“组成两大兵团、东打西进”的突围计划，要求胡宗南亲自指挥突围。胡宗南在军以上指挥官会议上当众表示：“本人亦抱定为党国牺牲的决心。”谁知开过会议的第二天，他就甩下部队，爬上早已准备好的飞机，偷偷溜到海南岛去了。
结果，胡宗南的主力部队在几天内就被全歼，成都解放。蒋介石气个半死，派顾祝同前往海南岛“查办”，把胡宗南吓个半死，只好于12月28日又从海南岛飞到西昌“戴罪立功”。蒋介石从台湾发来“十万火急”的电报，要他固守西昌三个月，等待国际形势的变化。但任凭他如何收集残部，也只搜罗到万余残兵败将。曾经统率数十万大军的胡宗南，到头来却只能掌握万余兵力，而他此时或许还想不到的是，这已经是他剩余岁月里，所能掌握最多的兵力了。
1950年3月12日，胡宗南的黄埔老同学陈赓率部分两路向西昌夹击而来。胡宗南坐立不安，想要逃走，又怕蒋介石责难，不走，又怕落到解放军手里。3月24日，当陈赓的部队距离西昌仅剩一天，他命令部下坚守几天时，大家都不约而同想到他在成都丢下部队不管逃走的先例，一个个都死B着她问：“你是否马上离开西昌？”弄得胡宗南好不尴尬，只好错开话茬说：“你们集中部队，坚守两三天总可以吧？”
其实，胡宗南的意图是想让部下再守四天。当然，四天后并不会出现什么“国际形势变化”，而是拖到四天后的3月28日，他就凑足“固收三个月”的日子里，他再逃走也可以向老蒋交差。3月26日，解放军将西昌团团包围，胡宗南见大势已去，便携心腹十余人，偷偷乘飞机经海口转逃台湾，留下参谋长罗列及剩余的官兵6000余人。在出逃前，胡宗南还跟蒋介石玩了个心眼，拟了一份电报称三个月时间已到，要到台湾去述职，让罗列在27号凌晨再发，而他自己早在26日晚上就逃走了。、
罗列
胡宗南刚抵达海南岛，蒋介石当局就命令取消“西南军政长官公署”，调胡宗南任“总统府战略顾问”，这是蒋介石为安置“元老”而虚设的职务。三大战役结束后，蒋介石下野，他所倚仗的资本除了屯兵东南的汤恩伯，就是手握几十万大军的“西北王”胡宗南。然而，这两人都让他失望了。蒋介石憎恨胡宗南带兵无能，丧师失地，更可恨的是，因为胡宗南的疏忽失职，共产党谍报人员熊向晖长期潜伏在其司令部，造成了极其严重的后果。也正因如此，蒋介石要胡宗南与西昌共存亡，战死还是被俘，听其自然。
逃到台湾后，蒋介石没有接见胡宗南，本就跟他不和的陈诚也没有接见。胡宗南在台北匆匆办完例行公事后，便携夫人及幼子，灰溜溜跑到花莲海滨租了一间屋子，居住休养。54岁的胡宗南从风光无限的“西北王”，到头来落到如此凄凉的地步，以前何曾想过？
回想当年，身高不足1米6，其貌不扬的胡宗南，是黄埔同学中年龄较长的一个，毕业时已近而立之年。最终凭借自己的耐心与手段，成了“天子门生第一人”，在不可一世的黄埔同窗中，是当仁不让的“第一”：第一个军长、第一个兵团司令，第一个集团军总司令，第一个战区司令长官，第一个也是唯一一个离开大陆前获得三颗将星的人，堪称传奇。然而当他败给昔日同窗陈赓，仓皇逃到台湾后，这一切都不复存在了。
逃到台湾的蒋介石，满心想的都是怎么实现“父死子继”的蒋家小王朝，凡是对蒋经国构成威胁的，自然都要铲除，像胡宗南这种在军队里根基深厚的实力派，更是首当其冲。从1950年开始，蒋介石当局便大张旗鼓地开展一场“整肃失职高级军政官员”的运动，一时间，风声鹤唳，人人自危。
胡宗南当然没有逃TUO这场“整肃”。就在他逃到台湾后不久，台湾各大报纸登载了一篇惊人的消息，标题为“李梦彪弹劾胡宗南”。李梦彪是辛亥革命时期的老人，曾代理陕西省长，晚年被选为行宪第一届监察院监察委员。胡宗南很长时间都在陕西驻军，但他的所作所为让陕西人李梦彪非常愤慨。早在1949年10月，李梦彪就曾草拟了一份对胡宗南的弹劾书，但彼时胡宗南仍拥有重兵，权衡之下才暂时作罢。
1950年5月，李梦彪领头，50多名伪“监察委员”联名对胡宗南提出弹劾，弹劾文将他批得体无完肤，骂得狗血淋头。李梦彪等人同时还将弹劾文油印了数十份，分别寄给台湾与香港的各大报纸上发表，人们争相传诵，舆论哗然。
在那段时间，胡宗南的许多幕僚和好友为他多方奔走，四处活动，试图劝促李梦彪等人撤回弹劾。但李梦彪不为所动，不胜其烦下，就写了一张纸条，贴在进门的墙上，写着：“贵客光临，如有为胡宗南做说客者，请缄尊口，以免鄙人开罪。”
胡宗南本人反倒没有任何行动，他深居简出，从未公开为自己活动或辩解。在蒋介石身边得宠那么多年，胡宗南深知这样的弹劾案，除非蒋介石表明态度，不然是不会有任何结果的。果不其然，弹劾案风波闹了好一阵，作为主管负责人的陈诚并无动作，顾祝同开始从中周旋，蒋经国也帮忙说请。最后的结果是，108位伪“立法委员”上书陈诚，为胡宗南评功摆好，要求爱惜人才，最后大事化小，小事化了。
陈诚
其实，所谓“弹劾案”也不过是蒋介石弹压实力派人物的惯用手段罢了，同样的遭遇，白崇禧也曾有过一回。最终的结果也几乎一样，闹过一阵后，蒋介石出面表态，最后不了了之。最关键的是，蒋介石达到了自己的目的，不管是白崇禧还是胡宗南，嫡系还是非嫡系，最终都是被剥夺了实权。
“弹劾案”尘埃落定后，胡宗南便在家闲居，大约一年后，在1951年3月17日，突然接到蒋介石命令，要他去浙江省东南海中的大陈岛地区，整理指挥沿海游击部队，组建“江浙反共救国军”。
原来，在蒋介石政府溃逃后，还有不少散兵游勇逃到东南沿海的各岛屿上，他们各自占岛为王，各部之间互不统属，人人皆以司令自居。蒋介石当局原本对这些散兵游勇并不重视，但在朝鲜战争爆发后，美国方面认为这些部队可以利用。经过美国方面跟蒋介石当局商定，由美国提供装备，将这些散兵收拢起来。派谁去整顿指挥这些散兵游勇呢？蒋介石想到了胡宗南。
就这样，曾经担任战区军政长官的胡宗南，欣然领命去几个荒凉岛屿上，指挥起散兵游勇来。他化名秦东昌，前往大陈岛就任，曾经指挥几十万大军的他，整顿这区区几千散兵游勇，还是绰绰有余。刚刚整编完部队后，胡宗南就想要试一试战力，在对沿海岛屿发起多次攻击后，竟有一次偷袭得手。此时的胡宗南，又玩起了当年占领延安的老把戏，向蒋介石报告获得大捷，还将一些抢炮送到台北，称是缴获而来，可谓做足了宣传。
这次“大捷”后，胡宗南还迎来了在台湾时期最后的“辉煌”，获得“加官进爵”，在1952年底被任命为“浙江省政府主席”，但他的“省政府”不过管辖几个小渔岛而已。即便是这样的“辉煌”，胡宗南也没有享受多久。随着抗美援朝战争的节节胜利，解放军也开始抽出兵力加强东南沿海的军事力量，胡宗南那几个小渔岛自然是守不住了。1953年7月初，蒋介石当局撤销了“江浙反共救国军”指挥部，胡宗南被调回台湾，仍然担任“总统府战略顾问”的虚职。
回到台湾后，胡宗南曾多次找蒋介石，请求安排一个具体的职务，却很快就奉命进入“国防大学”进修。驰骋沙场大半辈子的胡宗南，年过半百反倒要坐下来学习，他十分不快，无奈在台湾弹丸之地，自己一无地盘，二无一兵一卒，只能乖乖听从安排，装模作样读起书来。
1954年2月，胡宗南从“国防大学”毕业后，又回归到“战略顾问”身份，在台北家中研究军政。所谓研究军政，不过是长期赋闲而已，胡宗南内心十分苦闷，却又无可奈何。这样的日子又过了一年多，1955年8月，蒋介石召见了几次胡宗南，他再三请求一个职务。蒋介石随便给了他一个澎湖防守司令官的职位，大家都以为以胡宗南的身份威望，绝不会就任一个小小的防守司令。不料，胡宗南一接到任命，便欣然接受，到澎湖上任去了。
不久后，国民党政府新任参谋总长彭孟缉到澎湖巡视，胡宗南作为防守司令官，亲自前往机场迎接，恭恭敬敬向彭孟缉敬礼。作为黄埔五期的后生晚辈，彭孟缉连连口称不敢当，但内心却是十分得意。胡宗南鼎盛之时，敢于明目张胆顶撞蒋介石指派的顶头上司陈诚，何等的不可一世，到老了却不得不对一个后生晚辈毕恭毕敬，个中滋味真是一言难尽。
彭孟缉
1959年10月，胡宗南的澎湖防守司令官任期届满，奉命调回台北，仍任“总统府战略顾问”。每天只是看看报纸，写写文章，消磨时光，台湾许多人已经不能从这位身材矮小、沉默寡言的老军人身上，找出半点往日“西北王”的风采了。这年底，蒋介石命令胡宗南进入所谓“国防研究院”，充当了第一期研究员。于是，胡宗南以64岁高龄，又充当了一个学生。
从所谓“国防研究院”毕业后，胡宗南曾向蒋介石请求担任一个实质新的工作，但还是未能如愿。蒋介石只是指令他担任“国防研究院”毕业同学会会长，不过又多添一项虚职而已。那段时间，胡宗南经常和妻子孩子一起游山玩水，看上去悠游自在。但他却每天在日记里记着“今天下午我陪太太去看电影”、“今天下午我陪太太去打桥牌”之类。对胡宗南这样一个曾经风光无限的人来说，当生活全部只剩下这些琐碎时，其内心该有多么的痛苦。
据胡宗南儿子胡为善回忆，小时候父亲陪他爬山时，经常一个人在山里声嘶力竭地大叫。当时，胡为善还觉得跟这样的父亲在一起很没面子，长大后才理解，这是因为父亲压抑得太久太深了。
1962年2月7日，胡宗南病重住院。2月8日，蒋经国到医院慰问，胡宗南对这位比自己年轻15岁的浙江同乡笑着说：“我们浙东谚语称人死为翘辫子，我这次恐怕就要翘辫子了。”蒋经国临走前告诉胡宗南，蒋介石星期日要亲自来探望，这让胡宗南受宠若惊。
星期日这天一大早，胡宗南草草吃了点东西，就叫人扶他去浴室，要洗脸刮胡子。夫人怕他太累，劝他不要刮脸了，他生气地说：“那怎么行，像这样胡子又长，头发也乱，怎么能够见人。”
上午十点钟，76岁的蒋介石进入胡宗南的病房，胡宗南挣扎着要坐起来，蒋介石示意要他躺下，并伸手莫了一下他的额头。蒋介石的这一举动，让逃到台湾后备受冷落的胡宗南万分感机，竟至老泪纵横，难以言语。蒋介石安慰了他几句，就离开了病房。
胡宗南为蒋介石卖命30余年，从一个革命青年沦落为反革命的刽子手，为蒋介石铲除异己不遗余力。这样的卖命也曾让他风光无两，甚至不用通报就能面见蒋介石。但自从逃到台湾后，往日的威风扫地，蒋介石始终对他不冷不热。直到在病榻之上，蒋介石草草探视一下，便让他感动得涕泪交加。何其可悲！
在蒋介石探望过后的两天，胡宗南经神状态格外好，症状似乎也大大减轻。但两天后的2月13日晚上，胡宗南很早就入睡了，由他的老部下袁学善在病房陪伴。晚上11点多，睡梦中的胡宗南突然发出一声惊叫，一双手也向上高高举起。袁学善连忙喊“胡先生，胡先生”，但不见回应。
袁学善去按胡宗南那双高高举起的手臂时，发现已经硬硬的不能弯曲了。医生为其注色强心针，带上氧气面罩，也已经无力回天了。14日凌晨3点左右，胡宗南停止了呼吸。
胡宗南死去后，蒋介石对一众高级将领说：“胡宗南竟未能如其所愿，使他自己的生命得到一个轰轰隆隆光荣战死的死所，实在令人追思不置！”一生为蒋介石卖命的胡宗南，到重病身亡，蒋介石还替他为没有轰轰隆隆战死沙场而“追思不置”，胡宗南若泉下有知，不知会做何感慨。
