汉桓帝时期,董卓再被授予羽林郎之职,跟随东汉大军讨伐汉阳羌人。此次大战,汉军一共杀羌人万余人,董卓亲手斩杀羌人酋长一名。此后,董卓又参与了镇压黄巾起义、凉州之乱等战役,屡立战功,升迁不断,颇有威名。
后来董卓进京,为了有更多军队,拉拢韩遂、马腾。但是等韩遂、马腾进京时,董卓已经死了,李傕封马腾等人官位,后来马腾有私事求于李傕,没有得到应允,于是率兵相攻,之后讲和。二人归顺曹操,后来部下不和,二人互相残杀,连年交战。曹操派钟繇、韦端前去劝和,此后割据凉州。
曹袁相争之际,马腾在钟繇等人的劝说下,归顺曹操,协助曹军击败郭援、高干等人。后来,马腾与韩遂出现矛盾,相互攻打。曹操派人劝解,于是马腾放弃部队,入朝为官,封卫尉,部队交予儿子马超管理。