אף על פי ש־"Empty Sky" נכשל מסחרית, דיק ג'יימס המשיך לתת אמון בצמד, ולאחר ששמע דמואים של השירים הבאים, הוא הסכים לתת סכום גדול של כסף למימון הקלטות האלבום הבא (כסף שנדרש למימון העיבודים התזמורתיים העשירים שלו), ובאפריל 1970 יצא אלבומו השני של ג'ון, "Elton John". באלבום זה החל שיתוף הפעולה עם המפיק (לו הייתה השפעה מכרעת על הצליל באלבומיו של ג'ון) ועם המעבד פול בקמסטר, שפעל באותה תקופה גם לצד הרולינג סטונז ודייוויד בואי (להיטו של בואי "Space Oddity" הופק על ידי דאג'ן; בקמסטר סיפק את העיבוד התזמורתי). האלבום היה לאלבום הפריצה של ג'ון, אך הצלחתו לא באה באופן מיידי. גם הוא עדיין לא הוקלט במטרה לקדם את ג'ון כאמן מבצע, אלא כ"אסופת דמואים מלוטשים", במטרה להציג את יכולות הצוות ג'ון־טופין ככותבים למבצעים אחרים. ג'ון, שלא הצליח להתפרנס מהמוזיקה שלו, המשיך בעבודת אולפן ובהקלטת גרסאות כיסוי לאלבומי אוסף זולים, ואף "עזר" בחנות תקליטים. הסינגל הראשון מהאלבום, "Border Song", יצא במרץ של שנה זאת ולא הצליח במצעד הבריטי. דיק ג'יימס כבר כמעט איבד את סבלנותו כשהסכים לממן את סדרת ההופעות הראשונה של ג'ון בארצות הברית – שמונה הופעות בשישה לילות, שנקבעו לו במועדון "הטרובדור" הנחשב בסוף אוגוסט של אותה שנה. החברה היחידה שהסכימה לייצג את ג'ון בארצות הברית הייתה חברת "UNI" , שהנשיא שלה, ראס רייגן , הביע אמון בג'ון ובאלבומו החדש. רייגן, היחצן נורם וינטר ונציגי דיק ג'יימס בבריטניה הזמינו להופעות מוזיקאים מפורסמים, ידוענים ועיתונאים. ג'ון יצא אל ההופעות מלווה במתופף והבסיסט (יוצאי ), שהחלו להופיע עמו כבר מאפריל, והמשיכו להופיע עמו עד אמצע שנות ה־70. ג'ון, אולסון ומארי הופיעו כטריו בהופעותיו החיות של ג'ון, דבר שהצריך התאמות: היה הכרח לעבד את השירים המתוזמרים שלו להרכב בסיסי של פסנתר, בס ותופים. ג'ון השקיע רבות בהופעות, הן מבחינה מוזיקלית הן מבחינת הופעת במה אטרקטיבית: הוא הופיע בלבוש ראוותני (לדוגמה אוזני מיקי מאוס) והלהיב את הקהל המופתע בנגינה אנרגטית ובאטרקציות שונות כעמידת ידיים על הפסנתר. הקהל קיבל כבר את ההופעה הראשונה בהתלהבות, ולאחר ביקורת נלהבת של מבקר "לוס אנג'לס טיימס" רוברט הילברן, שאר ההופעות נמכרו מראש. לימים סיפר ג'ון: ההופעות הביאו לפרסומו של ג'ון, ובעקבותיהן יצא באוקטובר של אותה שנה הסינגל השני מהאלבום, "Your Song" (יחד עם "Take Me to the Pilot"), שהפך ללהיט הראשון של ג'ון, בהגיעו למקום השמיני במצעד בילבורד הוט 100 ולמקום השביעי במצעד הסינגלים הבריטי. גם האלבום היה במהרה לאלבום הלהיט הראשון של ג'ון, בהגיעו למקום הרביעי ב"בילבורד 200" ולמקום החמישי במצעד האלבומים הבריטי. באוקטובר של שנה זאת יצא לאור אלבום האולפן השלישי שלו, "Tumbleweed Connection", אלבום קונספט בהשראת אמריקנה והמערב הישן של אמריקה. מהאלבום לא יצאו סינגלים בין־לאומיים, ולכן הוא לא כלל להיטים, אולם הוא קיבל ביקורות טובות ומדורג באופן עקבי בקרב המאזינים כאחד מאלבומיו האהובים ביותר. הוא הגיע למקום השני בבריטניה ולמקום החמישי בארצות הברית.
ב־1971 יצא "17-11-70", אלבום הופעה שתיעד הופעה חיה ששודרה והוקלטה ברדיו בניו יורק ב־17 בנובמבר 1970. ההקלטה כללה שירים חדשים וישנים של ג'ון, וכן ביצועי שירים של אומנים אחרים. באותה השנה יצא גם פסקול של ג'ון לסרט "Friends", בסגנון דומה לאלבומים הקודמים ובליווי התזמור של פול בקמסטר. פסקול זה לא יצא בנפרד על גבי תקליטור, אך הוא נכלל בשלמותו באלבום האוסף הכפול של ג'ון, "Rare Masters". שיר הנושא, "Friends", יצא כסינגל והגיע למקום ה־34 במצעד בילבורד הוט 100 ולטופ־20 במצעדים באיטליה, קנדה, צרפת וניו זילנד. אלבום נוסף שיצא ב־1971 היה "Madman Across the Water". גם אלבום זה, כמו אלבומיו הקודמים "Elton John" ו־"Tumbleweed Connection", הגיע לעשירייה העליונה של מצעד מכירות האלבומים בארצות הברית. האלבום כלל את הלהיטים "Levon" ו־"Tiny Dancer". הופעה ראשונה באלבום זה הייתה לנגן כלי ההקשה הידוע ריי קופר (שעבד עם אריק קלפטון וג'ורג' האריסון). קופר הצטרף ללהקתו של ג'ון כחבר קבוע ב־1974. "Madman Across the Water" סימן את נקודת השיא באלבומיו המתוזמרים מאוד של ג'ון, אלבומים שהצליל שלהם עוצב במידה רבה על ידי המעבד הדומיננטי פול בקמסטר. אלבום האולפן הבא, "Honky Château", שבקמטסר לא שותף בו, סימן מהפך בצליל. תזמוריו של בקמסטר הפכו נדירים יותר ויותר והאלבום "A Single Man" (1978) היה האחרון בו השתתף עד "Made in England" (1995).
בהמשך המחצית הראשונה של שנות ה־70 הוציא ג'ון עם טופין שבעה אלבומים רצופים שהגיעו למקום הראשון במצעד המכירות האמריקאי: ששת אלבומי האולפן החל מ־"Honky Château" ואלבום הלהיטים הראשון של ג'ון, . חמישה להיטים של ג'ון הגיעו למקום הראשון בארצות הברית: "Crocodile Rock", "Bennie and the Jets", "Don't Go Breaking My Heart", "Philadelphia Freedom" ו־"Lucy in the Sky with Diamonds" (שהוא חידוש לשיר של הביטלס, אותו שר ג'ון עם ג'ון לנון) ושלושה הגיעו למקום השני במצעד שם: "Daniel", "Goodbye Yellow Brick Road" ו־"Don't Let the Sun Go Down on Me".
התפוקה של ג'ון בשנים אלה, בהן היה מחויב בחוזה להוציא שני אלבומים בשנה, הייתה יוצאת דופן. באתר ההקלטות, ג'ון היה מקבל מטופין שיר ומלחין אותו בכ־20–30 דקות. באותו היום, השיר היה מוקלט. ג'ון לעיתים נדירות מאוד הנחה את הנגנים בקטעי הנגינה שלהם (משום כך אלבומיו מאותן שנים מכונים "אלבומי להקה"), ולרוב השירים הוקלטו בטייק ראשון או שני. ביום אחד הוקלטו 3–4 שירים. בתוך 2–3 שבועות כל הרצועות היו מוקלטות ורובן גם עם אוברדאבס. אחר כך גאס דאג'ן לקח את ההקלטות למיקסינג, ללא נוכחותו של ג'ון, שנתן אמון מוחלט בדאג'ן.
לאחר תקרית מביכה שאירעה לג'ון במהלך קניות בחנות בלונדון בתחילת דצמבר 1971, בה הקופאית, שזיהתה אותו ככוכב אלטון ג'ון, אך ראתה שם שונה (שם הלידה שלו) בפנקס השיקים, סירבה בתחילה לבצע את העסקה, החליט ג'ון לשנות את שמו באופן חוקי. ב־8 בדצמבר 1971 ארגן דיק ג'יימס פגישה עם עורך־דין כדי למלא טפסים לשינוי השם. באותו מעמד, בחר לעצמו ג'ון שם אמצעי: "הרקולס", כשמו של הסוס בסיטקום ה־BBC הפופולרי "Steptoe and Son" . ב־7 בינואר 1972 שונה שמו חוקית ל"אלטון הרקולס ג'ון".
ב־19 במאי 1972 יצא האלבום "Honky Château", שכלל את הלהיטים "Rocket Man" ו־"Honky Cat". האלבום קרוי על שם המקום שבו הוקלט: "Château d'Hérouville" שמצפון לפריז. האלבום היה הראשון מבין שבעה אלבומים רצופים של ג'ון שהגיעו למקום הראשון במצעד האמריקני, ושהה בו במשך חמישה שבועות. הוא קיבל ביקורות חיוביות ביותר. ללהקה הקבועה שלו הצטרף באלבום זה הגיטריסט , שניגן במספר שירים באלבום הקודם, וג'ון ביקש לצרפו כחבר להקה קבוע. ג'ונסטון צורף על רקע אווירה לא טובה ובעיות שהתגלעו בין ג'ון לבין אולסון ומארי: "היינו כל כך עצבניים ומשועממים שחשבתי שאנחנו צריכים או להיפרד או לעשות משהו חדש. אז החלטתי להשתמש בלהקה באופן יותר קבוע ולצרף את דייווי", אמר ג'ון בריאיון ל־"NME". ג'ון כלל את עצמו עם אולסון ומארי בריאיון ל־"NME", אבל מראיונות אחרים עולה שהתלונות הגיעו מצד אולסון ומארי, ובעיקר מצד מארי. הבעיות שהתגלעו עשויות לתרום להבנת החלטתו של ג'ון לפטר את אולסון ומארי באמצע שנות ה־70. הגיטריסט ג'ונסטון התגלה גם כמועיל מוזיקלית לג'ון, מכיוון שלהופעה בטריו היו מגבלות: "הבעיה העיקרית שלנו הייתה שהפסנתר היה כלי מוביל והוא, כמובן, לא מחזיק צלילים ארוכים [...] אבל מאז שדייווי הצטרף בגיטרה, זה נהיה קלי קלות בשבילי. אני יכול באמת להירגע כשאני מנגן, בעוד שקודם היינו צריכים לעבוד כולנו למלא את הצליל", סיפר ג'ון. במהלך ריאיון משותף עם אלטון ג'ון סיפר ברני טופין שהם נמנעו מלצרף גיטריסט עד אז, משום שחששו שיאפיל עליהם: "ממש הופתענו עם הגיטריסט החדש [ג'ונסטון] משום שפחדנו מהשתלטות על ידי הרים של מגברים ומיקרופונים". עם זאת ג'ונסטון, שהיה בעל רקע בפולק (כחבר בלהקת ), ידע להשתלב מבלי להשתלט על הצליל.
בנוסף לתפקידי הנגינה שלהם שימשו אולסון, מארי וג'ונסטון גם כזמרי רקע. שילוב הקולות הייחודי ביניהם (לראשונה בסינגל "Rocket Man") היה למאפיין מובהק של צליל הסינגלים והאלבומים של ג'ון עד לאמצע שנות ה־70.
באלבום "Don't Shoot Me I'm Only the Piano Player" שיצא ב־1973 החל ג'ון לשלב סגנון מוזיקלי של גלאם רוק. להיטים בולטים בו היו הסינגלים "Daniel" ו־"Crocodile Rock". כן בלט "Have Mercy on the Criminal", שלצד הסינגלים זכה לביצועים של ג'ון בהופעות חיות לאורך השנים. כקודמו, זכה גם אלבום זה לביקורות חיוביות. בסוף אותה שנה יצא לאור אלבומו הכפול "Goodbye Yellow Brick Road", בו התבטא היטב סגנון הגלאם רוק המאפיין את ג'ון. האלבום הצליח מאוד במכירות, וכלל כמה מלהיטיו הגדולים ביותר של ג'ון: "Candle in the Wind", "Saturday Night's Alright for Fighting", "Bennie and the Jets", ושיר הנושא "Goodbye Yellow Brick Road".