בתחילת דרכה, התחבטו חבריה ומנהליה על הסגנון והדרך העתידיים. חלקם סברו כי אין לשלב כלל את חלילו של אנדרסון בסצנת הבלוז, והעדיפו כי הגיטריסט, מיק אברמס, שהיה חובב בלוז מובהק, יתפוס את עמדת המפתח בקדמת הבמה. לבסוף הוחלט כי אברמס ואנדרסון ישתפו פעולה במידה שווה, נוסחה שהוכיחה את עצמה. אנדרסון בהופעתו האקסצנטרית שכללה לבוש בבלויי סחבות ועמידה על רגל אחת תוך כדי נגינה, הצליח למשוך את תשומת לבו של הקהל, וגם של התקשורת שהחלה להביע עניין בלהקה.
ב-29 ביוני 1968, הופיעה ג'ת'רו טאל כלהקת החימום לפינק פלויד, במופע חינם שהתקיים בהייד פארק בלונדון. בסופו של אותו קיץ, חתמה הלהקה על חוזה עם חברת התקליטים Island, ובאוקטובר יצא אלבומם הראשון, This Was. איאן אנדרסון הפך לדמות הדומיננטית בלהקה, ומיד לאחר צאת האלבום הראשון, עקב חילוקי דעות מקצועיים, עזב אותה הגיטריסט מיק אברמס שהוחלף במרטין באר. בספטמבר 1969 שחררה הלהקה את אלבומה השני, Stand Up. אלבום זה סימן את תחילת פרסומה של הלהקה מחוץ לגבולות בריטניה, והתקבל בהתלהבות על ידי הקהל האמריקאי. אלבום זה כלל גרסה של הלהקה ליצירה מאת יוהאן סבסטיאן באך בשם Bouree .בקיץ 1969 ניגנה הלהקה במספר פסטיבלים, ביניהם פסטיבל הג'אז של ניופורט. בנובמבר אותה שנה הוציאה הלהקה לאור את הסינגל Sweet Dream, שהיה הסינגל הראשון שפורסם ב-Chrysalis, חברת התקליטים החדשה שהקימו מנהלי הלהקה, טרי אליס וכריס רייט.
שנות השבעים (רוק מתקדם וטרילוגיית הפולק).
הסינגל הבא של הלהקה, The Witch's Promise, הגיע בינואר 1970 למקום הרביעי במצעד האנגלי. אלבומם השלישי מאותה שנה, Benefit, סימן את סופו של עידן הבלוז בלהקה ואת תחילת עידן הרוק המתקדם. האלבום הגיע למקום השלישי במצעד האנגלי, ולמקום ה-11 במצעד האמריקאי. Benefit גם התווה את הדרך והשפיע על סגנון הופעתה העתיד לבוא של הלהקה בעשור החדש של שנות השבעים. לאחר סיבוב הופעות בארצות הברית בעקבות האלבום, עזב את הלהקה הבסיסט גלן קורניק, והוחלף בנגן הבס ג'פרי המונד. ב-4 ביולי 1970 הופיעה הלהקה בפסטיבל הפופ של אטלנטה לצד אמנים כגון ג'ימי הנדריקס, בי בי קינג וג'וני וינטר, ובאוגוסט השתתפה בפסטיבל האי וייט. בסתיו 1970 החלו חברי הלהקה לכתוב חומרים חדשים לאלבום חדש, שלדעת רבים הוא אלבומה הטוב ביותר של הלהקה מאז ומעולם, Aqualung. האלבום יצא במרץ 1971, והיה רציני ושונה בתכלית מקודמיו. אנדרסון, שכתב את כל שירי האלבום, התעמק בו ביחסים שבין האדם לאל, והתייחס גם לצביעותה של הדת. באלבום זה, נגעה הלהקה לראשונה בז'אנר הרוק הכבד, כאשר גם הרוק המתקדם תופס נתח נכבד ממנו.
Aqualung הגיע למקום השביעי במצעד האמריקאי, ולמקום הרביעי במצעד האנגלי, וזכה להצלחה כבירה בעקבותיה יצאה הלהקה לסיבוב הופעות נוסף ומוצלח ביותר בארצות הברית. לאחר חזרתה של הלהקה לבריטניה, עזב המתופף קלייב באנקר, והוחלף על ידי המתופף בארי בארלו שכונה 'בארימור בארלו' על גבי עטיפות האלבומים, להגברת האפקט הקומי שאפיין את העטיפות. בשלהי 1971 החלו חברי הלהקה בעבודה על אלבום חדש ושאפתני יותר מקודמיו. האלבום המדובר, Thick as a Brick יצא במרץ 1972, והיה ציורי וסוריאליסטי למדי. הוא הורכב כולו משיר אחד ארוך (אשר חולק לשני חלקים בגלל סיבות טכניות) וכלל ביקורת חברתית נוקבת על צביעותה של החברה האנגלית. מסע הפרסום של האלבום כלל עטיפה עשויה מעיתונים בעלי כתבות דמיוניות ומפוברקות. האלבום הגיע למקום ה-5 במצעד הבריטי, ולמרבה ההפתעה הגיע למקום הראשון בארצות הברית. הייתה זו הפעם הראשונה בה אלבום של הלהקה זכה לפופולריות רבה יותר בארצות הברית מאשר באנגליה.
בין לבין הוציאה הלהקה ב-1972 גם את האלבום Living in the Past, אסופת שירים הן מהאלבומים הראשונים, הן גרסאות שונות לשירים והן קטעים מהופעות חיות.
הלהקה הייתה עתה בשיאה, וביולי 1973 הוציאה לאור את האלבום A Passion Play האלבום הורכב למעשה מיצירה ארוכה ומורחבת שנגעה במחוזות ציוריים של פנטסיה ודת, והייתה אף מורכבת וסמיכה יותר מ-Aqualung. למרות שהתקבל בהתלהבות על ידי המעריצים, קטלו מבקרי המוזיקה את האלבום בנחרצות. על אף הביקורות, הגיע האלבום פעם נוספת למקום הראשון במצעד האמריקאי, אך רק למקום ה-13 בבריטניה.
בעקבות הצלחת האלבום החלה הלהקה להופיע בתדירות גבוהה מבעבר. הופעותיה היו ארוכות מן הרגיל, וכללו עתה חומרים מכל אלבומי הלהקה בעבר. באוקטובר 1974, לאחר כמעט כשנה וחצי מצאת האלבום, שוחרר אלבומה הבא של הלהקה, War Child. המוזיקאי הבריטי, דייוויד פאלמר, בוגר האקדמיה המלכותית למוזיקה בלונדון שהצטרף ללהקה בשלב מאוחר יותר, תרם לאלבום עיבודים תזמורתיים מורכבים שהיוו ניגוד מעניין לגיטרה של מרטין באר. הציפיות סביב אלבום זה היו גבוהות ביותר, והמכירות המוקדמות העידו על הצלחתו הקרבה. היה זה גם אלבום הפלטינה האחרון בו זכתה הלהקה. במהלך הקריירה שלה זכתה ג'ת'רו טאל בכ-11 אלבומי זהב, וב-5 אלבומי פלטינה. אלבום זה זכה שוב להצלחה בארצות הברית והגיע למקום השני במצעד האמריקאי. בבריטניה היו התגובות צוננות יותר, והאלבום הגיע רק למקום ה-14 במצעד הבריטי.
אנדרסון החל להיות מושפע יותר ויותר מזרם הפולק רוק, והחל לעבוד במקביל גם כמפיק עם להקת הפולק הבריטית Steeleye Span. כתוצאה מהשפעה זו שתלווה את אנדרסון גם בשנים הבאות, עבר האחרון להתגורר באמצע שנות השבעים באזור כפרי של בריטניה. בספטמבר 1975, יצא אלבומם הבא של ג'ת'רו טאל, Minstrel in the Gallery שהיה עירוב של פולק עם צליל חשמלי. האלבום הגיע למקום ה-7 במצעד האמריקאי, וזכה לביקורות בינוניות. בתחילת שנת 1976 עזב את הלהקה נגן הבס ג'פרי המונד, והוחלף על ידי ג'ון גלאסקוק. באפריל 1976 שחררה הלהקה את אלבומה הבא, Too Old to Rock 'n' Roll, Too Young to Die. האלבום הורכב בחלקו מקטעים שנכתבו בעבר, אך לא הופקו מעולם.
בפברואר 1977 הוציאה הלהקה לאור את אלבום הפולק הייחודי ביותר מאז ומעולם בקריירה שלה, Songs from the Wood. אלבום זה הביע באופן עמוק את אהבתו של איאן אנדרסון לפולק האנגלי. בעקבות האלבום יצאה הלהקה לסיבוב הופעות בבריטניה, כאשר דייוויד פאלמר, שתרם להפקתו של War Child, הצטרף אליה כחבר מן המניין, ותרם רבות לצליל העשיר של הלהקה בהופעותיה.
אלבומה הבא של הלהקה, Heavy Horses, יצא באפריל 1978. היה זה אלבומו האישי ביותר של אנדרסון מזה מספר שנים. שיר הנושא היה למעשה קינה על עדרי סוסי הבר במרחביה הכפריים של אנגליה, שהלכו ונעלמו כתוצאה מן התיעוש והמודרניזציה שהלכו ותפסו תאוצה. באוקטובר אותה שנה, הוציאה הלהקה לאור אלבום כפול שהוקלט בהופעה חיה באירופה, Bursting Out שזכה להצלחה צנועה יחסית, ולווה בסיבוב הופעות נוסף בארצות הברית.
בספטמבר 1979 יצא אלבומה הבא של הלהקה, Stormwatch. האלבום עסק בחלקו בנושאים הקשורים באיכות הסביבה, ובחלקו בנושאים חברתיים. היה זה גם אלבום שסימן את סופו של עידן בלהקה, שנפרדה מכמה מחבריה המרכזיים, ביניהם בארימור בארלו, ג'ון אוונס ודייוויד פאלמר.
בנובמבר 1979 נפטר נגן הבס של הלהקה, ג'ון גלאסקוק כתוצאה מסיבוכים בעת ניתוח לב שעבר. את מקומו תפס דייב פג, נגן הבס לשעבר של להקת Fairport Convention.
שנות השמונים (רוק אלקטרוני והארד רוק).
באוגוסט 1980, הוציא איאן אנדרסון אלבום סולו בשם A. בסופו של דבר יצא האלבום בשם ג'ת'רו טאל, עובדה שלא סייעה להצלחתו. לצורך הפקת האלבום, נעזר אנדרסון באדי ג'ובסון, מוזיקאי רב תחומי שעבד בעבר עם רוקסי מיוזיק ועם קינג קרימזון. כשהיא חמושה בהרכב חדש, יצאה הלהקה שוב לסיבוב הופעות. באפריל 1982 שחררה הלהקה את אלבומה הבא, The Broadsword and the Beast. האלבום התאפיין בשימוש נרחב בסינטיסייזר ובמוזיקה אלקטרונית, וזכה להצלחה רבה בגרמניה. ב-1983 הוציא אנדרסון אלבום סולו, Walk Into Light, שהיה לראשונה כולו שלו, הפעם ללא עזרת הלהקה. באלבום בלט שוב צליל הסינטסייזר המנוכר, בניגוד לצליל הפולק החם שכה התחבב על אנדרסון בשנים הקודמות. האלבום לא זכה להצלחה יוצאת דופן.
בספטמבר 1984, הוציא אנדרסון, הפעם עם ג'ת'רו טאל את האלבום Under Wraps, שנחשב לאלבומה הכושל ביותר של הלהקה אי פעם בחנויות התקליטים ובמצעדים. האלבום הגיע למקום ה-76 בלבד במצעד האמריקאי. אחת הסיבות לכישלון האלבום הייתה דלקת גרון חריפה בה לקה אנדרסון באותה תקופה, שהשפיעה קשות על יכולתו הווקאלית. עקב כך נאלצה הלהקה לבטל חלק ניכר מהופעותיה המתוכננות, וכמו כן נדחו פרויקטים חדשים של הלהקה שכללו הפקת אלבום חדש. עקב הנסיבות, וכדי למלא את החלל שנוצר עקב חוסר פעילותה של הלהקה בתקופה זו, הוציאה חברת התקליטים Chrysalis בנובמבר 1985 אלבום אוסף של הלהקה, Original Masters. בפברואר אותה שנה יצא אלבום ייחודי ומעניין, A Classic Case, בו ניגנה הלהקה מיצירותיה במשותף עם התזמורת הסימפונית של לונדון. הלהקה חזרה לפעילות ב-1987, ובספטמבר אותה שנה יצא אלבומה הבא, Crest of the Knave, שהתקבל בחום הן על ידי המעריצים והן על ידי המבקרים. האלבום הגיע למקום ה-19 במצעד האנגלי, ולמקום ה-32 בארצות הברית, ולווה במסע הופעות עולמי. ב-Crest of the Knave היה הצד הרוקיסטי של הלהקה הדומיננטי באלבום, ולווה גם בעוצמת נגינה רבה יותר מבכל אלבום אחר של ג'ת'רו טאל בעבר. בפברואר 1989 זכתה הלהקה בפרס גראמי היוקרתי עבור אלבום זה בקטגוריות הרוק הכבד והמטאל.