Den 18. april 2017 utnevnte pave Frans Peter Kohlgraf til biskop av Mainz. Hans bispevielse i katedralen i Mainz ble foretatt av hans forgjenger kardinal Karl Lehmann den 27. august 2017.[3] Medkonsentrerende var erkebiskopene Stephan Burger av Freiburg im Breisgau og Rainer Maria Woelki av Köln. Kohlgraf ble da den yngste diocesanbiskopen - det vil si en som direkte styrer et bispedømme - i Tyskland.