辅后迁尚书郎，封宜昌亭侯。张辅后又转任御史中丞。当时积弩将军孟观与明威将军郝彦不和，孟观则以军中事务陷害郝彦；同时，当时宠臣贾谧、潘岳和石崇等互相推许对方；义阳王司马威又被揭作虚假冒充的事。但张辅仍不因他们是重臣或宗室而徇私，都弹劾他们。及后张辅改任中正，对先前在梁州刺史杨欣遇姊丧后不久便强行迎娶杨欣之女的车骑长史韩预贬低评级，以清风俗，得到当时议论者的称颂。连赵王司马伦的宠臣孙秀也欣赏他典雅方正的行为，不理会司马威对张辅的诬陷。张辅后迁冯翊太守。太安二年（303年），太尉司马乂见河间王司马颙割据关