1954年5月，在“驻日大使”董显光的陪同下，汤恩伯前往日本治病。前两次的手术都很成功，但第三次手术时却出现了医疗事故，54岁的汤恩伯死在了手术台上。消息传到台湾后，蒋介石反应冷淡，只说了一句：“死了也好。”
汤恩伯虽然不是黄埔出身，却在蒋介石的扶持下，一步步在国民党内崛起。为何汤恩伯死后，蒋介石的态度会如此冷淡，甚至还有些厌恶？
汤恩伯出身浙江一户普通农家，1921年东渡日本，在明治大学攻读政治经济学，后因失去了经济支撑，无奈辍学回国。但汤恩伯从未放弃到日本学习的想法，回国后给孙传芳写信寻求帮助，遭拒绝后转而向陈仪求助，获得其推荐和经济资助。
从日军陆军士官学校毕业后，汤恩伯经陈仪保荐，进入湖南陆军第一师担任学兵连连长。1928年，汤恩伯到中央陆军军官学校担任军事教官，因一篇文章被蒋介石注意到。
由于汤恩伯和蒋介石都是浙江人，再加上两人都有日本留学的经历，因此蒋介石对汤恩伯青睐有加。在蒋介石的亲手扶持下，汤恩伯官运亨通，没用几年时间就升任至第13军军长。
1944年，日军首战河南，汤恩伯不战自溃。蒋介石迫于舆论压力，将其调重庆委以闲职，等外界舆论过去之后，汤恩伯又被任命为第三方面军司令官。至此，汤恩伯和蒋介石之间的关系还算融洽。
1946年内战全面爆发后，蒋介石委任汤恩伯为陆军副总司令，交给他5个整编师12万人马。当汤恩伯带领这支大军向苏中解放区进犯，却被粟裕率领3万余人打得节节败退，还折损了5万余人。
但蒋介石并没有因此责怪汤恩伯，又命其率部参与进攻山东解放区的战斗。这一次战斗中，蒋介石的爱将张灵甫战死孟良崮，蒋介石闻讯大怒，下令彻查有关将领。作为张灵甫的直接长官，汤恩伯指挥失误难辞其咎，被蒋介石当众打得头破血流。
1949年初，汤恩伯与恩师陈仪密商，准备起义公开反蒋，结果汤恩伯转头就向蒋经国告发了陈仪。陈仪被蒋介石下令逮捕后，蒋介石为了检验汤恩伯是不是真的“大义灭亲”，让汤恩伯亲自处决陈仪，但汤恩伯坚决不干。
上海解放前夕，汤恩伯为了保存实力，匆匆率部逃往福建，之后由金门去了台湾。由于没能保住上海，蒋介石对汤恩伯不再重用。
其实早在解放军打到上海前，汤恩伯已经在为自己找退路，在日本买了一栋有22间房间的豪宅。后来这件事被日本媒体爆出来后，蒋介石大骂汤恩伯，也终于弄清楚上海败的那么快的原因。
1950年，汤恩伯以招募志愿军为由准备前往日本，结果刚上飞机就被军警拉了下来。移居乡下后，过去风风光光的汤恩伯到了节衣缩食的地步，而且胃病复发日趋严重。
医生建议汤恩伯出国手术治疗，结果蒋介石直接驳回了他的申请：“有大过的人，还想去日本治病？”就这样又待了半年多时间，在权威医师的建议下，蒋介石只好同意汤恩伯前往日本治病。
当时为汤恩伯手术的医生，每年经他手的病人占全院此种手术一半以上，曾信誓旦旦保证绝对安全，结果汤恩伯就死在了手术台上。关于汤恩伯的真正死因，由于没有进行尸检，最终成谜。
