出缘故令其留守凉州，被封为偏将军、都亭侯，代领其父的军队。
起兵反曹.211年（35岁），曹操不听谏议，坚持派遣司隶校尉钟繇、夏侯渊率领军队，试图经过马超等凉州军阀的领地进攻汉中的张鲁。马超等人都怀疑这是针对自己用兵，于是马超对韩遂说：「之前钟司隶曾命我谋害将军，关东之人已经不可以相信了。现在我放弃我的父亲，如父亲一样对待将军，将军也应该放弃你的儿子，如儿子一样对待我。」 韩遂部下阎行进谏韩遂，不希望他与马超联合起兵反叛朝廷，韩遂回答：「现在诸将不约而同举兵，似乎是天意啊。」故韩遂