解放战争后期，黄杰率部脱离白崇禧的指挥，途中接到陈诚的电令,要他进入越南,相机行事。在中越边境，黄杰所部又被解放军歼灭许多，他率余部进入越南。
黄杰于1903年出生于湖南长沙，1924年考入黄埔军校第一期。1937年“七·七事变”发生，黄杰所在税警总团改编为第八军，黄杰就任军长，并率部参加了淞沪抗战。战役结束后，黄杰率第八军掩护其他部队实行战略转移，随后，向豫东撤退。
1938年5月21日，国民党军事当局决定发起兰封会战，蒋介石亲临郑州督战指挥。黄杰第八军隶属第一战区第二兵团的指挥序列，在战斗中担任永城、夏邑、砀山一线的守备。在日军猛烈的攻击下，黄杰所部虽顽强抗击，给予日军极大杀伤，但自己伤亡也十分惨重,不得不节节后退,最后退至归德。在归德,黄杰部继续遭到日军的围攻，与郑州的电讯联系被切断。后与亳州的汤恩伯接通联系，经汤恩伯同意乃将军部及第四十师撤至柳林河，以便和孙桐萱军靠拢。同时，令归其指挥的“杂牌军”第一八七师师长彭林生，“坚守归德三天，三天后可向开封方向撤退”。然而，彭林生师只坚守一天就突围西撤了，使归德城陷于敌手。
归德失陷和后来的桂永清第二十七军放弃兰封，使战场态势大大恶化，给兰封会战造成十分严重的后果，未能达成歼敌的目的。这就给原来一帆风顺的黄杰带来了一次巨大的打击。战役结束不久，他就被蒋介石下令撤职查办，关进了陆军监狱。
黄杰的参谋长周学海一开始就和他同赴汉口，并将作战经过编成战斗详报，每天到军令部、军法执行总监部详述情况。说明归德势在必失，且当参谋长的也有责任。第一八七师师长彭林生也特意去见蒋介石，说明没有遵守黄杰要求坚守三天的命令，只坚守一天就下令撤退了，因而自己应负责任。蒋介石见有这么多人自责，于是只将黄杰撤职，免于查办。
1938年9月，黄杰被任命为中央军校教育处处长。1943年，黄杰重又受命领兵打仗，担任了第十一集团军副总司令兼第六军军长，驻扎在滇西，隶属于远征军作战序列。
1944年，蒋介石任命黄杰接任第11集团军司令，负责滇西反攻作战事宜。
黄杰深知，要想破龙陵，必须啃下松山这块硬骨头。日军第56联队的工兵8个月苦干，把个松山建得如铜墙铁壁。大小堡垒如星罗棋布，均用碗口粗的树干盖上数层，再覆以一公尺以上的泥土，中间还铺盖着厚钢板。碉堡群之间配有各种重炮、迫击炮、轻重机枪，组成强大火力网。另外，在这一要塞阵地中还设有粮食库、弹药库、被服库、材料库，以及一个小型发电站，粮弹储备均在半年以上，守军兵力多达3千余人。所以，日军狂言：中国军队不阵亡10万人，休想夺取松山。
黄杰不信这个邪，挥师几经激战终于拿下了松山这块硬骨头，他曾在回忆录中描述了松山之战的惨烈：“在松山，没有一颗树上没钻有子弹，没有一片树叶没有弹孔。第8军在这里长眠着6千勇士，终于踏上了松山的山头。”11月初，他指挥4个军11个师，攻占龙陵，中旬攻占芒市。12月初克复遮放，翌年1月中旬攻克畹町，消灭了侵入滇西的日军。
此后，黄杰率部越过国境，进入缅甸，继续追击日军，并于1945年1月27日与中国驻印军及盟军美军在芒友胜利会师。经过两个多月的苦战，上述4大据点的日军大部被歼灭，中印公路重新开通。为此，黄杰被国民政府和美国政府授予勋章，蒋介石也亲电祝捷。
抗战胜利后，黄杰先后任长沙绥靖公署副主任、国防部次长、湖南省政府主席兼第1兵团司令官和湖南绥靖总司令等职。
1949年12月，白崇禧残部逃到海南岛，黄杰则率部脱离白崇禧的指挥，向西行进,途中接到陈诚的电令,要他进入越南,相机行事。
在中越边境，黄杰所部又被歼灭许多，12月13日，黄杰率剩余的3万多人由广西隘店进入越南。
在越南,黄杰所部被法国殖民军队缴械，失去了行动自由。法国人担心中国军队进占越南，遂百般为难，他们遭到法军的苛酷虐待。
经过3年半的软禁生活，黄杰这支残兵才于1953年夏，经台湾当局与法国殖民当局达成协议，由台湾方面派遣船只，接回台湾。
由于黄杰为蒋军保存了一批不少的生力军，因而获得了台湾当局的重用，在军政界地位不断升迁。1953年8月1日，被委任为台北卫戍司令，10月，晋升为二级上将。1954年7月，升任陆军总司令兼台湾防守司令。1957年7月，调任为“总统府”参军长，1958年转任台湾警备司令。1962年退役，就任“台湾政府主席”达6年之久。1968年7月升任“行政院政务委员”兼“国防部长”，同时还担任国民党中常委。
黄杰爱好极广泛，平素喜欢舞文弄墨，填词作诗，就连木匠手艺也十分高超，这些都大大有助于他广交朋友修身养性。1995年1月14日，黄杰在台北去世，享年92岁。黄杰将军抗战有功。
