ב-7 ביולי 1968, הופיעה הלהקה בפעם האחרונה, אך בשל התחייבויות קודמות היא נדרשה לקיים עוד מספר הופעות בסקנדינביה. המתופף ג'ים מקארתי והסולן קית' רלף, שעזבו את הלהקה, העניקו את זכויות השימוש בשם הלהקה לפייג' ולבסיסט כריס דר'ה, שהחלו בחיפוש אחר חברי להקה חדשים. פייג' פנה ראשית אל טרי ריד, על מנת שימלא את תפקיד הסולן, אך הוא דחה את ההצעה ובמקום זאת המליץ על זמר צעיר אחר בשם רוברט פלאנט. פלאנט, שלבסוף קיבל את ההצעה, המליץ על המתופף ג'ון בונהם, שאיתו ניגן יחד בעבר בלהקת ה-"Band Of Joy". לאחר שדר'ה נטש את ההרכב למען קריירה בצילום, נענה פייג' לבקשתו של נגן גיטרת הבאס ג'ון פול ג'ונס, עמו ניגן בעבר, להחליפו. בכך הושלם ההרכב החדש.
ב-19 באוגוסט 1968, ניגנו חברי הלהקה לראשונה באולפן חזרות בלונדון. השיר הראשון אותו בחרה הלהקה לנגן היה "Train Kept A-Rollin", שיר בלוז קצבי אותו הכיר פייג' בתקופתו בלהקת היארד בירדס, ואשר פתח את מרבית הופעותיה של הלהקה בשנותיה הראשונות.
כחודש לאחר מכן, החל סיבוב ההופעות של הלהקה בסקנדינביה, לו התחייבה עוד בטרם פירוקה של היארדבירדס. בטרם יצאה הלהקה לסיבוב ההופעות, השתתפו חברי הלהקה בהקלטת אלבומו של הזמר הבריטי פי ג'יי פרובי. הייתה זו הפעם הראשונה בה הופיעה הלהקה בהקלטת אלבום בסטודיו.
ב-7 בספטמבר 1968, קיימה הלהקה תחת הרכבה החדש את הופעתה הראשונה מול קהל, אשר נערכה בדנמרק. הלהקה השלימה את סבב ההופעות בסקנדינביה בשם הזמני "The New Yardbirds" (ציפורי החצר החדשות) ומיד בסיומו החליטה לשנות את שמה. בהמשך אותו חודש, החלה הלהקה לעבוד על אלבומה הראשון. לאחר סיום העבודה על האלבום, שערכה כתשעה ימים בלבד ומומן כולו מכיסו הפרטי של פייג', נאלצה הלהקה לשנות את שמה, לאחר שחבריה קיבלו הודעה על הפסקת פעילותה לצמיתות של ה-"Yardbirds", אשר כלל איסור שימוש בשם הלהקה בעתיד.
חוזה הקלטות ושם חדש.
אחת מההשערות בנוגע למקור שמה של הלהקה היא הערה עוקצנית שהעלו חברי להקת המי ג'ון אנטוויסל וקית מון לפיה ההרכב מוזיקלי אותו רצו להקים פייג' וג'ף בק בתחילת הדרך, ייכשל כישלון חרוץ ("'Go down like a 'lead balloon"). בהצעת מנהל הלהקה פיטר גרנט, הוחלפה המילה Lead ב-Led, ואילו המילה Balloon (בלון) הוחלפה במילה Zeppelin (צפלין).
ב-4 באוקטובר 1968, יצאה הלהקה, עדיין תחת שמה הישן, לסיבוב הופעות ראשון באנגליה. הופעתה הראשונה של הלהקה תחת שמה החדש נערכה ב-25 באוקטובר 1968 בקמפוס אוניברסיטת סארי שבדרום מזרח המדינה.
בנובמבר 1968 חתם גרנט, על חוזה של 143,000 דולר עם חברת התקליטים אטלנטיק רקורדס (כמיליון דולר, במונחים של היום). היה זה סכום שיא לחוזה הקלטות ראשון ללהקת רוק באותה תקופה. חברת אטלנטיק התמחתה בהחתמת מוזיקאים בסגנון הבלוז, ג'אז וגוספל, אך בשנות השישים המאוחרות החלה להתעניין בלהקות רוק בריטיות. החברה החליטה להמר על הלהקה, על אף שלא נפגשה עם חבריה טרם החתימה. חוזה ההקלטות העניק ללהקה חופש אומנותי רב וגמישות, בין היתר בהחלטה על מועדי הוצאת האלבומים ועיצובם, החלטה על הוצאת סינגלים, תאריכי סיבובי ההופעות וכו'.
ב-26 בדצמבר 1968 יצאה הלהקה לסיבוב הופעות ראשון לארצות הברית, שארך כחודשיים.
אלבום הבכורה (Led Zeppelin).
ב־12 בינואר 1969, במהלך סיבוב ההופעות בארצות הברית, יצא אלבומה הראשון של הלהקה "Led Zeppelin".
לאור העובדה כי הלהקה טרם חתמה על חוזה ההקלטות והייתה קצרה במזומנים, עלה הצורך לסיים את הקלטת האלבום במהירות יחסית. הלהקה, שביצעה את שירי האלבום מספר פעמים במהלך סיבוב ההופעות שערכה בסקנדיניביה, הקליטה את האלבום במשך שלושים ושש שעות בלבד.
האלבום שילב אלמנטים של מוזיקת בלוז ("You Shook Me" ו"Can't Quit You Baby") והארד רוק ("Good Times Bad Times").
האלבום זכה להצלחה מסחרית והגיע למקום ה-10 במצעד האלבומים של מגזין המוזיקה "בילבורד". ב-31 במרץ 1970 יצא האלבום באנגליה. על עטיפת האלבום, שהפכה לאייקונית, הוצגה תמונה של התרסקות ספינת האוויר הינדנבורג.
על אף ההצלחה המסחרית, זכה האלבום לביקורות צוננות ממבקרי מוזיקה רבים. במהלך השנים עלה קרנו של האלבום, אשר נחשב לדעת מבקרים רבים כאחד מהאלבומים החשובים והמשפיעים בתולדות מוזיקת הרוק.
Led Zeppelin II.
ההצלחה המסחרית של אלבום הבכורה, הובילה לעלייה בפופולריות של הלהקה, במיוחד בארצות הברית. הלהקה החלה לעבוד על אלבומה השני במהלך סיבוב ההופעות האמריקאי בינואר 1969. בשל הנסיעות התכופות בתקופה זו, הוקלטו כל אחד משירי האלבום בנפרד ובאולפנים שונים בארצות הברית ובאנגליה.
ב-22 באוקטובר 1969, הוציאה הלהקה את אלבומה השני "Led Zeppelin II". האלבום, שזכה אף הוא להצלחה מסחרית גדולה, נחשב לאחד מהחלוצים בתחום מוזיקת הרוק הכבד ובתור האלבום הראשון של ההבי מטאל.
Led Zeppelin III.
לטובת הקלטת אלבומם השלישי, "Led Zeppelin III", נסעו חברי הלהקה לנופש בבית כפרי, מרוחק ומבודד בוויילס, שנקרא "Bron Yr Aur", שהונצח באחד משירי האלבום (אך אוית בטעות "Bron Y Aur Stomp" על העטיפה). תקופה זו הניבה אלבום אקוסטי ושקט יותר, שהושפע רבות ממוזיקה קלטית עממית וגילה פן אחר של הלהקה, לרבות בשירים "That's The Way" ו-"Tangerine". האלבום זכה לביקורות פושרות, כשרבים מהמבקרים הופתעו מנטישת הסגנון שאפיין את שני האלבומים הקודמים של הלהקה, לטובת מוזיקת הפולק והסגנון האקוסטי. במשך השנים, זכה האלבום לפופולריות מחודשות ולהצלחה מסחרית רבה.
על אף התפנית הסגנונית, נותר האלבום נאמן למקורות הבלוז, שבאו לידי ביטוי בשיר הבולט של האלבום, "Since I've Been Loving You". השיר הפותח את האלבום "Immigrant Song", הציג את יכולות הכתיבה של פלאנט, וכלל שימוש בדימויים אגדיים של ויקינגים ומיתולוגיה נורדית. את השיר הסוגר של האלבום, הקדיש ג'ימי פייג' לחברו מוזיקאי הפולק רוי הרפר, שאיתו יקליט אלבום משותף באמצע שנות השמונים.
בנובמבר 1970, הוציאה חברת אטלנטיק רקורדס את השיר "Immigrant Song" כסינגל ללא הסכמת חברי הלהקה. התקליטון כלל את הבי סייד היחיד שלהם, "Hey Hey What Can I Do".
הלהקה בשיאה (1975-1970).
האלבום הרביעי (Led Zeppelin IV).
האלבום הרביעי של הלהקה, שכונה "Led Zeppelin IV", יצא ב-8 בנובמבר 1971. האלבום, ששילב אלמנטים אקוסטיים עם מוזיקת הבי מטאל ובלוז, זכה להצלחה מסחרית גדולה ונמכר בכ-37 מיליון עותקים. רבים משירי האלבום הפכו ללהיטים, דוגמת: "Black Dog", "Going To California", "When The Levee Breaks", "Rock And Roll" ו-"Stairway to Heaven שנחשב לאחת מקלאסיקות הרוק הגדולות ביותר. עטיפת האלבום כללה ארבעה סמלים שמייצגים כל אחד מחברי הלהקה.
Houses of the Holy.
ב-28 במרץ 1973, הוציאה הלהקה את האלבום "Houses of the Holy".
עטיפת האלבום יצרה סערה לאחר ששולבו בה תמונות של ילדים עירומים. במדינות מסוימות הודבקה על האלבום מדבקה עם שם האלבום במטרה להסתיר את ישבני הילדים.
האלבום הגיע לראש המצעדים תוך זמן קצר ומסע ההופעות לקידום האלבום בארצות הברית שבר שיאי קהל, כאשר הלהקה מילאה בהופעותיה היכלים ואצטדיונים שלמים. לאצטדיון טמפה שבפלורידה הגיעו מעל 56,000 מעריצים. שלוש ההופעות המלאות במדיסון סקוואר גארדן צולמו לסרט קולנוע שיצא באיחור של שלוש שנים, בשנת 1976, ושמו "The Song Remains The Same", כשמו של אחד משירי האלבום.
בשנת 1974, הקימה הלהקה את חברת התקליטים הפרטית שלהם ""Swan Song Records"," שנקראה על שם אחד מחמשת השירים שלד זפלין מעולם לא פרסמה. לוגו החברה התבסס על ציורו של ויליאם רימר משנת 1869 הנקרא "שקיעתו של היום" ואשר בו מוצגת דמותו של אפולו. בנוסף לייצוג לד זפלין, החתימה החברה אמנים נוספים דוגמת"Bad Company", "Pretty Things", "Maggie Bell", "Detective", "Dave Edmunds" ועוד. החברה זכתה להצלחה רבה במהלך שנות פעילותה של לד זפלין, אך פורקה שלוש שנים לאחר התפרקות הלהקה.
Physical Graffiti.
ב-24 בפברואר 1975, אלבומה הכפול הראשון של הלהקה, "Physical Graffiti". היה זה גם האלבום הראשון שיצא תחת הלייבל "Swan Song". האלבום כלל 15 שירים, מהם 8 הוקלטו בהידליי גראנג' במהלך 1974. שאר האלבום, כלל שירים שהוקלטו על ידי הלהקה אך לא הוכנסו לאלבומים הקודמים. בשל כך, האלבום היה מגוון מבחינת סגנונות מוזיקליים, החל מקטעים אקוסטים דוגמת "Bron Yr Aur", שירי רוק כבד דוגמת "Sick Again", ועד השיר הארוך ביותר של הלהקה, בו נעשה שימוש בגיטרת סלייד, "In My Time Of Dying". שיר בולט נוסף באלבום, "Kashmir", מאופיין בנגיעות מוזיקליות מזרחיות-ערביות. את השיר כתב פלאנט בהשראת נופים שונים במרוקו.
האלבום זכה להצלחה אדירה, הן מסחרית והן ביקורתית, כאשר מגזין הרולינג סטון כתב שהתחרות היחידה שיש ללהקה על תואר "להקת הרוק הטובה ביותר" היא עם הרולינג סטונז והמי. זמן קצר לאחר יציאת האלבום הגיעו כל האלבומים הקודמים של הלהקה ל-200 המקומות הראשונים במצעדים, והלהקה יצאה לסיבוב הופעות בארצות הברית. גם בסיבוב הופעות זה מילאה הלהקה היכלים עד אפס מקום.
השנים המאוחרות, מותו של בונהאם והתפרקות הלהקה (1980-1975).
Presence.