Rt Revd Philip North tackade nej till inlägget efter invändningar mot hans inställning mot att ordinera kvinnliga präster.
Han sade att han hade dragit sig tillbaka av "personliga skäl" men tillade att "attackerna" mot honom var "extremt hårda".
Ärkebiskoparna sade att händelsen hade väckt oro inom kyrkan.
När han steg ner sade herr North: "Det är tydligt att känslan är sådan att min ankomst skulle vara kontraproduktiv när det gäller kyrkans uppdrag i South Yorkshire och att mitt ledarskap inte skulle vara acceptabelt för många."
I ett gemensamt brev sade ärkebiskopen av Canterbury Justin Welby och ärkebiskopen av York Dr John Sentamu, händelserna kring utnämningen väckte frågor om kyrkans 2014 engagemang för invigningen av kvinnliga biskopar.
De sade: " De senaste händelserna kring utnämningen av biskop Philip North till biskop i Sheffield, däribland hans tillbakadragande från processen, har förståeligt nog väckt stor oro bland många i engelska kyrkan.
"Statusen av House of Bishops' Declaration, från juni 2014 har ifrågasatts av vissa och dess innebörd har också ifrågasatts.
"Vi har därför skrivit till Sir Philip Mawer, den oberoende granskaren under förklaringen om biskops- och prästministeriet, (regler om tvistlösning) 2014, för att ta itu med de farhågor som har uppstått i kyrkan efter dessa händelser på senare tid."
Det uppmanar Sir Philip att undersöka fem områden, däribland vilka ansträngningar som har gjorts för att utbilda präster och allmänheten om förklaringen och om nomineringen av Mr North var förenlig med dess villkor.
Ärkebiskoparna använde också brevet för att uppmana alla i kyrkan att "be för dem som de är oense med, visa ömsesidig kärlek och övervinna de saker som i oss själva finner så splittrande".
Ärkebiskoparna i Canterbury och York har efterlyst en oberoende undersökning av omständigheterna kring den misslyckade utnämningen av en ny biskop av Sheffield.