王导第五子王劭的玄孙，因为王奂的堂祖父王球无子而过继为王球的嗣孙，王奂被齐武帝萧赜所杀后，太和十七年（493年），王肃归降北魏，北魏孝文帝任命他为辅国将军，南征义阳。击败齐朝的裴叔业，官至平南将军、豫州刺史。孝文帝改革，王肃多有参与。孝文帝驾崩，王肃为尚书令参与朝政。裴叔业怕遭到齐帝萧宝卷杀害，投降北魏。王肃率军十万接应，大胜，官拜散骑常侍、都督淮南诸军事、扬州刺史。