Under hans forgjenger ble det også valgt en motpave, Gregor (VIII). I 1120 og 1121 arbeidet Callistus med dette problemet, og den 22. april 1121 ble Gregor avsatt.