Konstantin måtte reise tilbake til Nikomedia fra østfronten våren 303, i rett tid for å være vitne til Diocletians «store forfølgelse», den mest alvorlige forfølgelse av kristne i romersk historie. I slutten av 303 hadde Diocletian og Galerius sendt en budbringer til orakelet til Apollon i Didyma med en forespørsel om de kristne. Konstantin kunne gjenkalle til sin tilstedeværelse ved palasset da budbringeren kom tilbake og da Diocletian aksepterte sin hoffs krav for gjennomgående forfølgelse. Den 23. februar 303 beordret Diocletian ødeleggelse av Nikomedias nye kirke, fordømte dens hellige skrifter til flammene og fikk dens kostbarheter konfiskert. I månedene som fulgte ble kirker og skrifter ødelagt, kristne ble fratatt deres offisielle grader og posisjoner, og prester satt i fengsel.