陈郡袁翻、尚书琅琊王诵都兼任黄门郎，号称三哲。当时政事归于门下省，世人称侍中、黄门为小宰相。而王遵业神态如常恬淡朴素，像隐居在田园之中。王遵业曾经穿着破头的鞋子，好事之徒多把新鞋子弄破来学他。灵太后临朝听政后，天下大乱，王遵业想谋求避乱的地方，自己要求做徐州刺史。灵太后说：“王诵免去幽州刺史才做黄门郞，你为什么想去徐州？再等一两年，将会给你好的安排。”王遵业兄弟都结交当时才德超卓的人，因而被当时的人赞美。尔朱荣进入洛阳时，王遵业兄弟正在为父亲守丧期间，因为母亲与魏孝庄帝元子攸的母亲李媛华是堂姐妹，相率奉迎魏