被荐举为茂才，因荐举他的刺史操守不良，称病不就。延熹八年，太守翟超任他为东部督邮。张俭因宦官侯览作恶多端，弹劾侯览及其母亲，请诛侯览。侯览心思报复。汉灵帝建宁二年（169年），张俭家赶走了一个仆人朱并。侯览利用朱并，诬告张俭跟同乡二十四个人结党，诽谤朝廷，企图造反。侯览“刊章讨捕”，发出通缉令，张俭不得不被迫逃亡。当时的人们，都敬佩张俭的为人。张俭在逃亡的路途上，看见人家就前往投宿（“望门投止”），每一家都愿意冒族诛之祸而收留他，因收留他而被公家追究处死的，前后有数十家之多。张俭来到孔融家。要投