元延明等人参与制定表示官阶身份的服饰。到崔光为魏孝明帝元诩讲解《孝经》，王遵业参与讲解，他的弟弟王延业记录讲说的义理，都奉召作《释奠侍宴诗》。当时的人说：“英才济济，王家兄弟。”王遵业转任司徒左长史、黄门郎、监典仪注。王遵业在当时有声誉，与中书令陈郡袁翻、尚书琅琊王诵都兼任黄门郎，号称三哲。当时政事归于门下省，世人称侍中、黄门为小宰相。而王遵业神态如常恬淡朴素，像隐居在田园之中。王遵业曾经穿着破头的鞋子，好事之徒多把新鞋子弄破来学他。灵太后临朝听政后，天下大乱，王遵业想谋求避乱的地方，自己要求做徐州刺史