王彪之,字叔武。二十岁时,胡须鬓角都白了,当时人称他为王白须。最初任佐著作郎、东海王文学。堂伯父王导对他说:“选官要任你为尚书郎,你有幸可以做朝官了。”王彪之说:“职位的高低本来不值得计较,应当在合途的时候任职,至于破格提拨,这并不是我的愿望。”于是做了尚书郎。多次升迁,担任御史中丞、侍中、廷尉。当时永嘉太守谢毅,大赦后处死当地人周矫,于是周矫堂兄周球向扬州府告发。扬州刺史殷浩派从事拘捕谢毅,交付廷尉审理。王彪之认为周球是诉讼案件的当事人,没有爵位,不在廷尉职责范围以内,不肯受理,这件事在州里颠过来倒过去。穆帝发出诏令命王彪之收处谢毅。王彪之又上疏据理力争,当时人把他比作西汉廷尉张释之。当时要在南郊祭天,简文帝任抚军,执掌国政,向王彪之询问是否应该大赦。他回答说:“自从中兴以来,郊祀往往有大赦,我认为不合时宜。为什么呢?老百姓不明白这个道理,他们认为每逢郊祀必定大赦,到这个时候凶恶愚蠢之辈又要产生侥幸的心理了。”于是就听从了他的意见。