1977年，王平将军从武汉军区调任总后勤部，担任政委和党委第一书记。这一人事调整是经过叶帅与邓公深思熟虑的结果，他们认为王平的调动能够有效解决总后勤部面临的一系列历史遗留难题，并迅速将总后勤的工作重回正轨。

在当时，总后勤的困境是相当显著的。经历了十年的特殊时期，众多老干部被迫退出，甚至遭到严重伤害或致死。原总后勤政委郭林祥和第一副部长张震在那个动乱的年代虽进行了努力整顿，然而由于时机不够成熟，未能彻底解决遗留下来的复杂问题。叶、邓两位领导选择王平，正是看中了他过去在短时间内成功理顺炮兵机关及武汉军区事务的能力，得到了众多老干部的支持，显示出他过人的才干。而这样的干部恰恰是当时总后勤亟需的人才，他们勇于冒犯权威、敢于直面打击和边缘化。

王平到任后，作为党委第一书记，他迅速成为总后勤部的重要决策者。首要工作便是进行揭批查和平反，这一工作让他收到大量干部和群众的来信与来访。他坚持实事求是、注重证据、严禁刑讯逼供，因此成功使得许多干部恢复了原有的名誉，重新回到工作岗位，许多老干部的积极性得到了极大的激发。

1977年12月，邓副主席在军委全会上特别强调，配备各级领导班子必须全面、历史地看待干部。他指出，不仅要考察干部的过去，还要关注他们在文革期间的表现。他明确表示，领导班子中要杜绝“软、懒、散”的现象，这是由于某些人带着“怕”的心态，缺乏原则性，意志衰退，甚至沉迷于个人的私利之争和宗派斗争。那些对革命事业缺乏坚定信念、表现严重不当的人，无法适合领导角色。

因此，王平在总后勤部内深入走访调查，务求掌握干部的真实情况。到了1978年9月，总后勤党委对各级领导班子的搭配进行了整顿，坚决将邓副主席所指出的几种不合格人员撤换，同时复职一批曾被边缘化、经历过迫害但身体健康、能力出众的领导干部。此后，按照上级对干部队伍革命化、年轻化、知识化和专业化的要求，王平在各级领导班子中逐步进行调整，积极提拔那些德才兼备、年富力强的干部到重要岗位上，令总后勤部二级领导班子的平均年龄从64岁下降至58岁。

伴随着军队的不断发展，领导班子在实践中未曾停止自我加强和调整。各级领导干部都意识到必须坚决避免特殊化、不讲究排场与形式，而是认真致力于解决实际问题，努力在各个领域开创出新局面，成为业内的楷模并取得显著成绩。