兵杀奔梁山泊。宋江只好退兵，回救梁山泊。关胜先胜了几场，捉了几个梁山泊好汉。后来他与宋江对阵，并未取胜，宋江却下令收兵。原来宋江派唿延灼假装投诚朝廷，骗关胜进攻梁山泊，关胜中了埋伏被擒，宋江亲解其缚，关胜决定归顺梁山泊。蔡京保举水火双将单廷珪和魏定国讨伐梁山泊，宋江听闻，想对策，关胜自告奋勇，与郝思文、宣赞领兵杀奔此州，不料到郝思文、宣赞冲入敌阵被擒，关胜败退。后来关胜再战单廷珪，引他追赶，把它拍落马，他投降，又引魏定国归顺梁山泊。关胜成为了马军五虎将之一。关胜随宋江征辽国、田虎、王庆及方腊时立