1977年，总后勤部迎来了一次重要的领导班子调整，张震被任命为部长，而政委一职已经空缺了两年。上级决定选拔合适的人选来填补这一关键岗位，几位候选人进入了视野。那么，最终会选谁来担任呢？为了做出决定，邓小平专门找张震进行了谈话，询问他的看法。

在所有政委的候选人中，王平将军也是其中之一。如果由张震来推荐，他毫不犹豫地表示，王平是最适合的人选。王平不仅在政治上具有很强的把控力，而且有着丰富的经验和民主的作风。更重要的是，两人曾长期搭档共事，默契十足，彼此的合作非常顺利。因此，最终，上级采纳了张震的意见，将王平调任政委。

谈到王平，必须提到的是他曾有长达8年没有正式工作的经历。1958年，王平从朝鲜归国后，被调任南京军事学院担任政委。期间，他先后与廖汉生、刘浩天以及张震共事。其中，和张震的合作最长，两人也在大动荡的时期经历了不少波折，一度都离开了军事学院的领导岗位。

这段期间，两人都遭遇了极大的冲击。张震甚至一度遭到了造反派的暗算，差点丧命。王平则在进行十二指肠溃疡手术后，被迫接受监禁，身体也受到了不小的折磨。相比之下，张震恢复得较快。1969年末，他被下放到武汉工厂劳动，几个月后便恢复了工作，并被调任武汉军区副司令员。

王平则面临了更多的困境。尽管他被列出几十条罪状，最终都一一得到平反，但直到1972年，他才得以回到南京居住，并等待相关结论。然而，一年过去了，没有人主动找他谈工作，心情愈发焦虑的王平决定去北京找叶帅寻求机会。几个月在北京的等待中，叶帅和李德生虽然表示理解，但依然无法为王平落实任何工作，只恢复了他的党组织生活。最终，王平在1974年初返回南京继续等待。

1975年4月，王平终于迎来了自己的新任命——调任炮兵司令部担任政委。尽管刚到任时，有人对王平的能力表示质疑，甚至因为他走路气喘吁吁和大会上讲话卡壳而产生了疑虑，但王平并未因此气馁，而是通过实际行动证明了自己的能力。

在炮兵司令部，他首先展开了冤假错案的平反工作，随即对内部进行整顿。在短短4个月内，王平便取得了显著的成绩，尤其在8月份调任武汉军区之前，炮兵司令部的许多人都不舍得他离开。

来到武汉军区后，叶帅和邓小平对王平说道，武汉军区地处中原，交通便利，战略地位十分重要，是军队的预备队。两位领导对王平提出了明确要求，要他稳定部队、掌握好部队，并进行彻底整顿。武汉军区下辖三个军、两个独立师和四个特种兵师，王平必须紧抓整顿工作。一开始，许多人心存顾虑，不敢采取措施，有些人甚至希望王平能避免过多干预，只负责开会、写稿子，不要轻易树敌。但王平坚定地表示：“不要一朝被蛇咬，十年怕草绳。”他坚持彻底整顿，绝不让任何不良风气继续蔓延。

在平反冤假错案的过程中，王平始终保持客观公正，给大家一个公道。在武汉军区工作了两年，王平与杨得志的配合无间，共同为部队的整顿与稳定做出了巨大贡献。

1977年，王平被召到北京，叶帅对他说：“总后勤部的领导班子需要调整，经过多方考量，军委认为你最合适。”临行前，叶帅特别提醒他：“总后是个老大难单位，问题非常复杂，必须要下大力气整顿。”邓小平则表示，原有的干部问题严重，品质不好的要及时调出，身体还好的老领导要继续安排工作，同时需要注入一批新鲜的力量。

罗瑞卿秘书长也提出，总后勤部的情况非常严峻，必须进行全面彻底的整顿，从上到下都不容忽视。张震担任部长，王平担任政委，两人要携手解决历史遗留下来的问题，分清是非，团结队伍，彻底摘掉“老大难”的帽子。

经过他们的共同努力，集中力量，排除干扰，扫清障碍，首先着手对总医院进行整顿，很快，形势发生了积极变化，工作面貌焕然一新。在整顿过程中，涉及的干部人数多达三千余人，王平和张震依据不同性质的矛盾，精确地进行区分，并不断调整和优化团队。通过这一系列措施，王平成功选拔了一批政治表现优秀、充满活力的新干部进入总后。军委对总后勤部的整顿工作给予了充分肯定。

王平在总后勤部工作了整整8年，并且取得了显著的成绩，直到1985年，才退居二线。