Pave Zefyrinus kalte Callistus tilbake til Roma og ordinerte ham som diakon. Han ble pavens nærmeste rådgiver og blant annet forstander for de kristne katakombene ved Via Appia Antica som fortsatt Calixtuskatakombene. 46 paver og anslagsvis 200 000 martyrer ble gravlagt der. Etter hvert ble han en «grå eminense» som satt med den reelle makt i kirken.