Lady Butler-Sloss har pressats att sluta från parlamentsledamöter och offer som oroar sig för hennes familjeband.
Hennes framlidne bror, Sir Michael Havers, var justitieminister på 1980-talet.
Home Secretary Theresa May sade att hon inte ångra utnämningen av kamrat, tillade att hon skulle "inte hänga runt" i att namnge sin efterträdare.
Lady Butler-Sloss sa att hon "inte tillräckligt överväga" om hennes familjeband skulle orsaka svårigheter i utredningen.
Downing Street sa att det skulle "ta några dagar" att utse en ny ordförande och verkade tyda på att den som valdes inte skulle vara så nära kopplad till etablissemanget.
Fru May berättade för parlamentsledamöterna att hon trodde att Lady Butler-Sloss var den "rätte personen för jobbet" trots vad hon föreslog var en hel del "rumour och innuendo" om hennes utnämning.
"Jag ångrar inte mitt beslut. Jag fortsätter att tro att Elizabeth Butler-Sloss skulle ha gjort ett utmärkt jobb som ordförande för denna undersökning," berättade hon för inrikespolitiska kommittén.
May frågade om sin efterträdare och sade att hon fortfarande föredrog att utse en enda person till chef för den övergripande utredningen i stället för en expertpanel som uppmanades av Labour och vissa offer för övergrepp.
Hon sade att hon hoppades på att namnge en ny kandidat "inom en rimlig tid" men sade att vem som än kontaktades skulle behöva "tänk noga" om karaktären av rollen.
Keith Vaz, ordförande i utskottet, som också undersöker tidigare sexuella övergrepp mot barn, sade att behandlingen av frågan hade varit "något skenheligt" och tog upp frågor om Mays bedömning.
I ett uttalande sade Lady Butler-Sloss att hon hade blivit "hedrad" att bli ombedd att leda utredningen och hade hoppats på att "ge ett användbart bidrag".
Men hon tillade: " Det har under de senaste dagarna blivit uppenbart att det finns en utbredd uppfattning, särskilt bland offer och överlevande grupper, att jag inte är rätt person att leda utredningen.
"Det har också blivit uppenbart för mig att jag inte tillräckligt funderade på om min bakgrund och det faktum att min bror hade varit riksåklagare skulle orsaka svårigheter.
"Detta är en brottsutredning och de som vill bli hörda måste ha förtroende för att medlemmarna i panelen kommer att ta vederbörlig hänsyn till deras oro och ge lämpliga råd till regeringen.
"Efter att ha lyssnat till oron hos offer och överlevande grupper och kritik av parlamentsledamöter och media, har jag kommit till slutsatsen att jag inte bör leda denna undersökning och har så informerat inrikesministern."
Utredningen genomfördes för att undersöka hur statliga institutioner hanterade sin omsorgsplikt för att skydda barn från pedofiler.
Vad gör vi nu? Från BBC:s politiska korrespondent Iain Watson
De flesta offentliga organ hävdar åtminstone att de utser människor på grund av vad de vet, inte vem de känner. Men det var Lady Butler-Slosss familj och politiska kontakter - inte hennes erfarenhet och kunskap - som ledde till hennes avgång.
Det kommer inte att bli någon brådska att utse hennes efterträdare - det kan ta flera dagar. Det beror på att medan hennes avsked var olyckligt, ett andra kontroversiellt möte kan se ut som slarv på toppen av regeringen.
Det finns redan krav på att en siffra som är mindre kopplad till etableringen ska utses - men om det krävs en rättslig bakgrund, tillsammans med säkerhetsprövning för att läsa konfidentiella regeringsdokument, kan detta vara lättare sagt än gjort.
David Camerons talesman sa att Lady Butler-Slosss beslut att sluta var "helt" hennes eget.
"Orsakerna till hennes utnämning fortfarande absolut står i termer av hennes professionella expertis och hennes integritet, som jag tror inte har ifrågasatts från något kvartal som helst, och med rätta," sade han.
I egenskap av ordförande för utskottet för inrikes frågor och inrikesfrågor fick May frågan om hon var medveten om att hon innan hon utsåg lady Butler till förlust av påståenden om att hennes framlidne bror hade försökt övertala den tidigare Tory MP Geoffrey Dickens att inte nämna en påstådd pedofil på golvet i underhuset.
May antydde att svaret på denna fråga var nej och sade att detta var frågor som "de senaste dagarna har dykt upp för mig".
Hon tillade: "Det var absolut ingen tvekan om att Elizabeth Butler-Sloss var Michael Havers syster. Det var väl känt. Ett antal frågor om Michael Havers hade tagits upp offentligt i det förflutna."
Hon insisterade på att hon hade utfört "due diligence" på Lady Butler-Sloss innan hon utsåg henne, inklusive hålla ett "antal diskussioner" med relevanta människor, men sade att fokus var på hennes förmåga att utföra rollen.
"Min bedömning var om hennes integritet att göra det här jobbet. Det var därför jag utnämnde henne."
För Labour sade skugghemssekreterare Yvette Cooper att det var rätt beslut eftersom oron för "offerförtroende eller intressekonflikt" inte hade tagits upp.
"Det är mycket olyckligt att den sista minuten av inrikesministerns svar innebär att vederbörlig hänsyn inte gavs till uppfattningen av intressekonflikt och Lady Butler-Sloss placerades i en orättvis position av inrikesministeriet", sade hon.
Författaren Alex Wheatle, som misshandlades på ett barnhem i slutet av 1960-talet, sade att offren måste vara "100% säker på att de kommer att behandlas rättvist".
"För alla människor som kommer fram måste de ha det största förtroende för vem som än leder den utredningen", sade han.
Peter Saunders, från National Association for Abused People in Childhood, sade att regeringen hade "missat ett trick" i att inte söka åsikter från offren före utnämningen.
"Vi behöver någon som är betrodd", sade han. "Detta är inte en lätt på Lady Butler-Sloss... men det fanns så många saker staplade mot henne i att ha förtroende för överlevande."
Pensionerad domare Baroness Butler-Sloss har klivit ner som chef för en sond i sexuella övergrepp mot barn säger att hon var "inte rätt person" för jobbet.