Pettersen ble allerede i 2002 nominert av Tunsberg bispedømmeråd, og av Oslo bispedømmeråd i 2004. I Tunsberg ble han rangert som andrekandidat både av biskopene og Kirkerådet, med henholdsvis tre førstestemmer fra biskopene og andreplass i Kirkerådets avstemning. Ved avstemningen i forkant av bispeutnevnelsen i Oslo fikk han flertall i Kirkerådet og to førstestemmer fra bispekollegiet. Da utnevnelsen av ny biskop i Oslo skulle skje i kirkelig statsråd dissenterte de to statsrådene Per-Kristian Foss og Odd Einar Dørum, som istedenfor gikk inn for Pettersen. Dørum uttalte følgende i en nyhet lagt ut via Justis- og politidepartementet: "Kirkerådets direktør Erling J. Pettersen er en riktig biskop for og i Oslo. Han representerer bredden og mangfoldet i byen på en god måte. Han gir også rom for de i Den norske kirke som aktivt vil inkludere homofile i alle kirkelige sammenhenger".