南京保卫战后，宋希濂被撤职查办，他对友人说：“说什么，都不如打一场硬仗能证明我。”
九个月后，宋希濂在富金山一战成名。
南京沦陷后，“三大德械师”的师长中，72军军长兼88师师长孙元良、78军军长兼36师师长宋希濂被撤职查办，只有71军军长兼87师师长王敬久未受惩处。
孙元良、宋希濂被撤职后，盛怒的蒋介石，下令将72军、78军番号撤销，88师、36师的残部划入71军，使得71军，成为“三师制”的甲种军。
王敬久率71军在洛阳休整期间，行事风格却引发诸多争议。在军中，王敬久独断专行，“霸道” 之名渐起，部队长们对其行事作风不满的很多，到后来发生了几十个军官联名状告的事件。
此外，王敬久用公车接送舞女出入军部，还曾与宪兵发生激烈冲突，用枪威胁宪兵队长，并和洛阳警备司令祝绍周闹得不可开交。
老蒋得知后，认为王敬久行事不端，下令将其撤职。后在顾祝同的斡旋下，王敬久改任25军军长。
宋希濂此前虽遭查办，但更多的是替老蒋背锅，他赋闲一段时间后，改任荣誉1师师长。王敬久被撤职后，老蒋和何应钦商议后，让宋希濂接任71军军长。
1938年8月末，六安、霍山相继沦陷，日军一路西进，目标直指富金山。
富金山位于固始南部史河南岸的险要山峰，扼守着叶（家集）商（城）公路要冲，地理位置极为关键，军委会将防守富金山的任务，交给了宋希濂的71军。
9月2日夜，日军13师团强渡史河，目标直指南岸的富金山阵地。
宋希濂在指挥部内，接到前线报告后，下达命令：“富金山就是我们的光荣之地，上至我这个军长，下至士兵，死守阵地，一步不许退。”
36师担负富金山主阵地的防守，这里的战况最为激烈。师长陈瑞河亲自率领师直属部队，哪里有缺口，就填到哪里。
日军虽攻势凶猛，但一连数日激战，始终未能打开富金山大峡口。
9月7日，日军增调兵力，将第10师团的濑谷支队、16师团一部也派来，协同13师团作战。
当日，濑谷支队攻占了固始县城后，南下攻击富金山以西的武庙集。武庙集位置重要，一旦失守，富金山侧翼将受到严重威胁。
宋希濂下令88师523团调到坳口塘设伏，523团团长接到命令后，迅速部署，带着官兵们隐藏在山林之中，等待着日军的到来。
当濑谷支队大摇大摆进入伏击圈后，523团的官兵们从四面八方冲了出来，枪炮齐发。濑谷支队被这突如其来的攻击打得措手不及，顿时阵脚大乱，死伤惨重之下，不得不狼狈退回固始。
濑谷支队之前在台儿庄会战中，损失就已不小，这次又遭了71军的伏击，此后很长时间，都未能恢复元气。
而在富金山正面，日军16师团进至六安以西后，13师团解除了后顾之忧，得以全力猛攻富金山。
到了9日，36师经过连日苦战，连轻伤员算上仅剩不到三千人。宋希濂心急如焚，他深知36师的阵地被突破，后果不堪设想。
于是，宋希濂亲自来到阵地上，来找陈瑞河。宋希濂看着满脸疲惫、身上还带着伤的陈瑞河，拍了拍他的肩膀，说：“我知道你们打得很艰难，但富金山绝不能丢，36师必须坚决抵抗，有没有信心？”
陈瑞河说：“军长，你放心，只要我陈瑞河还有一口气在，就不会让敌人前进一步！”
周围的士兵们齐声高呼：“死守阵地！死守阵地！”
9月9日至10日，日军像发了疯一般，不分昼夜地对富金山阵地发起猛攻。炮弹如雨点般落在阵地上，掀起层层尘土和石块。36师的官兵浴血苦战，一次次将日军的进攻粉碎。
9月11日凌晨，日军13师团，再次对富金山发起猛攻。战至9时许，日军从富金山与石门口的战线结合部突入。陈瑞河立即组织部队进行逆袭，士兵们端着刺刀，与日军展开了白刃搏杀。
36师这时，连伤兵算上，仅剩一千多人，眼见难以抵挡。在这危急时刻，88师一个团赶来增援。在日军的疯狂进攻下，战斗持续到下午五点多，除了富金山主峰制高点还在坚守外，其余阵地全部失守。
陈瑞河看着所剩无几的部下，准备带着他们，向日军发起决死反击。
与此同时，白崇禧得知了前线的情况后，给宋希濂去电：“71 军在富金山的阻敌任务已经完成，现可以撤离富金山，退守二线阵地了。”
宋希濂松了口气，迅速下达命令：“ 61 师从富金山右翼发起反击，务必全力掩护36师后撤.”
61师接到命令后，立刻向日军发起了侧翼进攻，将富金山主阵地的残余守军，接应了下来。
富金山之战，宋希濂展现出了非凡的担当。他将自己的基本部队 36 师毫不犹豫地摆在正面阵地，丝毫没有保存嫡系的心思。富金山阻击战中，71军伤亡一万五千余人。其中，36 师的伤亡最为惨烈，战后清点人数，该师仅仅存活几百人，从建制上来说，几乎算是打光了。
日军在富金山下伤亡万余人，这样的交换比，在火力悬殊的差距下，堪称重大战果了。71军撤守富金山后，日军为了火化从战场上运下来四千多具尸体，砍光了附近山上的树。
