公元249年，曹爽陪同魏帝曹芳前往高平陵祭拜其父魏明帝。正当此时，司马懿发动了兵变，趁机控制了都城洛阳。为了诱使曹爽放弃抵抗，司马懿答应他只要交出兵权，就能保住爵位。曹爽信以为真，结果最终被司马懿诛杀三族，导致曹魏宗室的力量遭到重创。

当然，如果曹爽带着皇帝曹芳继续抵抗，夏侯玄无疑会起兵相助，其他忠于曹魏的将领也会纷纷响应。然而，曹爽自己已经选择了投降，这让众多武将感到迷茫，不知该如何是好。值得注意的是，司马懿没有给夏侯玄任何反应的时间，一纸诏书便将夏侯玄召回洛阳，削弱了他的兵权。夏侯玄到达洛阳后，先被任命为大鸿胪，随后又被改为太常，相当于司马懿以明升暗降的方式剥夺了他的兵权。此时，夏侯玄的处境愈发困窘，已经成为了司马懿手中的笼中鸟，难以挣脱。 其次，司马懿在雍凉地区扎根多年，拥有郭淮等一批忠心的老部下。早在公元230年，曹叡任命司马懿为大将军，与大司马曹真等一起征讨蜀汉。从那时起，司马懿与诸葛亮展开了长达多年的激烈较量。曹真于公元231年去世后，司马懿自然成为曹魏西线地区的最高武将，掌握了实权。因此，即使曹芳当时没有给司马懿直接指挥兵马的权力，司马懿依然通过郭淮、邓艾等心腹保持着对西线地区的影响力。即便夏侯玄起兵，也很可能面临部下阳奉阴违的问题。毕竟，夏侯玄在雍凉地区的资历与司马懿相差太远，无法与之抗衡。 最后，夏侯玄的威望远不及司马懿。早在公元244年，曹爽为了建功立业，决定发动对蜀汉的战争，夏侯玄与曹爽调集十万大军，进攻王平所守的汉中。尽管敌众我寡，但王平凭借汉中的地形和策略，成功守住了城池，后来费祎带领大军前来支援。结果，曹魏军队在困境中进退两难，损失惨重。曹爽因此不敢再亲自领兵出征，而夏侯玄在雍凉的士兵中也失去了威望，甚至遭到怨声载道。在这场战斗中，司马懿虽然没有击败诸葛亮，但通过坚守消耗了对方，并且没有让曹魏的兵力受到严重损失。相比之下，夏侯玄显得毫无建树，雍凉的士兵自然会更倾向于支持司马懿。 因此，在高平陵之变时，夏侯玄的名号虽为征西将军，但他并不足以对司马懿构成威胁。司马懿掌握了雍凉的兵力后，夏侯玄的处境更加艰难，甚至没有资格威胁到司马懿的家族。后来，司马懿将郭淮提拔为征西将军，完全控制了雍凉地区的兵力，而夏侯玄也未被杀害。 公元251年，司马懿去世后，司马师继承了大权。公元254年，李丰等人计划发动兵变，针对司马师。然而，由于计划提前泄露，李丰和其他参与的官员被杀，夏侯玄也因此被牵连，最终在司马师的命令下被处死。