1975年，在武汉军区工作很顺心的张震，被老首长粟裕找去谈话，上级准备调他到总后勤部担任副部长。对此，有顾虑！
自己从没在后勤系统工作过，没有半点儿经验；自己在武汉军区担任副司令，主管训练工作很顺手，也很喜欢。粟裕说这次调动是邓副主席点，并传达总后勤现在面临的情况，以及后勤工作的重要性。最终张震表示服从安排。
总后勤的现状是，部长张宗逊身体不好，政委郭林祥、张明池被调离到其他单位任职，有7位副部长，3位副政委以及4位顾问。他调去后，担任第一副部长，协助部长抓全盘工作。
这一年全军要进行整顿，落实干部政策，让各项工作逐步走向正轨。
总后勤的问题很复杂，派性严重，郭林祥恢复工作后担任政委，抓干部政策，大刀阔斧时阻力很大。他希望一批批落实干部政策，有个别领导要一个一个落实，在这一点上出现分歧。郭林祥担任后，总后勤工作逐渐明朗起来，可随着1974年的一场运动，情况出现反弹。
在努力把总后工作做好时被调离，上级让张震调来担任副部长，主抓业务。
张震也真真切切感受到总后勤的问题不少，可他的精力有限，只能是先抓业务再抓其他工作。情况朝着好的方向发展。在11月份有人操纵清北两所大学的人，发起“教育革命大辩论”，矛头指向邓副主席。张震见到领导后，他没有说话，表情十分坚毅，询问身体情况后，又说：留得青山在，不怕没柴烧。他沉思着，没有接话。张震知道他有难处。
后来的形势越演越烈，迫使整顿军队工作停顿下来。
转眼到1976年，真是多灾多难的一年，三位伟人相继逝世，邓副主席离开位置。他的老战友福州军区司令皮定均遇难，加上唐山大地震。一件件事情的发展，让他在悲痛中忙碌着。只有一件事是最值得高兴，就是将“四人帮”粉碎，大家是激动的，拥护的。
1977年，邓副主席恢复工作后，张震给他写信，对方嘱咐：用5年时间把军队建设好，成为一支有战斗力的部队。并告诉他解决总后的问题，需要比狠狠抓，不然建立一个较好的班子都不可能。
1992年时，张震与邓公见面，知道他的身体，精力等各方面都不错，希望张震可以在干一届，当选为军委副主席后，抓干部建设，培养干部接班人，使得干部平均年龄再低一些，完全实现干部年轻化、专业化、知识化、革命化。1997年，他才从位置上退下来，成为开国将领中最晚退下来的将领。
