Sir Michael Wilshaw sa att det var viktigt att ha ett nationellt system som identifierade, utbildade och fostrade lärare med ledarskapspotential.
Han har gett en uppsats till utbildningssekreterare Nicky Morgan, där han beskriver sina tankar om hur man kan se till att skolorna har starka ledare för framtiden.
Han sade också att skolledarnas lön borde offentliggöras för att locka till sig toppelever.
Sir Michael gav bevis till Commons Education Select Committee, sade att mer måste göras för att få fram framtidens talang.
"Har vi ett nationellt system för att identifiera bra människor tidigt i karriären?" frågade han.
– Vi måste se till att vi har ett nationellt system som identifierar bra människor med potential för ledarskap och att identifiera dem och flytta dem till ledande positioner så snart som möjligt.
"Det är brådskande, det är absolut brådskande."
Bra lärare kunde ta på högre positioner inom några år, skolledare kunde tjäna mer än 100 000 pund per år, och ledarna för multi-akademin truster kunde vara "mycket rika individer", Sir Michael berättade kommittén.
"Vi bör offentliggöra att om du är bra och du vill göra undervisning din karriär, ledarskap din karriär, kan du göra mycket bra ekonomiskt," sade han MPs.
Sir Michael varnade också för att förbättringar av Englands utbildningssystem skulle undergrävas om fler åtgärder inte vidtogs för att ta itu med lärarbristen.
Han sade att mer behövde göras för att förbättra undervisningens status och locka fler bra kandidater.
Sir Michaels ord stöter mot en bakgrund av varningar om lärarbrist, särskilt från ledande lärarförbund och Riksrevisionen.
Regeringen har sagt att det totala antalet lärare har ökat och har skyllt facket på att ha "pratat ner" yrket.
Men Sir Michael sade: "Jag tror att det vi måste göra som land är att se till att vi får fler människor som söker undervisning och utbildning - och vi gör inte det framgångsrikt.
"Alla de stora förbättringar som vi har sett under de senaste åren kan undergrävas om vi inte tar itu med denna mycket allvarliga fråga."
Lärostatusen var mycket hög i vissa andra delar av världen och den behövde vara densamma i detta land, sade Ofsted boss.
Han sade att det var alla som arbetade inom utbildningens område som skulle bidra till att stärka yrkets image.
"Vi måste se till att undervisningen ses som ett riktigt bra jobb", sade han.
"Vi måste säga hur bra jobbet är.
"Så mycket av det vi hör är negativt - arbetsbördan, det är ett svårt jobb, dåligt skött barn etcetera.
"Vi måste börja säga att detta är ett av de ädlaste jobben i världen, och vi hör inte tillräckligt om det."
Behovet av att rekrytera goda framtida ledare för Englands skolor är brådskande, sade Ofsteds chef.