ראשית חייו (1950 - 1970).
ג'ו פרי נולד בעיר לורנס שבמדינת מסצ'וסטס שבארצות הברית, וגדל בעיירה הופדייל שבמסצ'וסטס. אביו היה רואה חשבון ממוצא פורטוגזי ממדיירה, ואמו מורה לחינוך גופני בתיכון. פרי החל לנגן בגיטרה בגיל 10. אף שהיה שמאלי, למד לנגן ביד ימין.
הצלחה ראשונית עם אירוסמית' (1970 - 1979).
פרי הקים להקה עם טום המילטון שנקראה The Jam Band. סטיבן טיילר, בראד וויטפורד וג'ואי קרמר הצטרפו אליהם לאחר מכן והלהקה הייתה לאירוסמית'. באמצע שנות ה-70 של המאה ה-20 זכו אלבומי הלהקה להצלחה רבה: Toys in the Attic (1975), "Rocks" (1976). סינגלים שזכו להצלחה היו:"Dream On" ,"Same Old Song and Dance","Sweet Emotion","Walk This Way","Back in the Saddle" והסינגל "Last Child".
בתקופה זו היו ידועים פרי וטיילר בכינוי "Toxic Twins".
קהל המעריצים של הלהקה כונה על ידי חברי הלהקה בשם "the blue army" (הצבא הכחול) בשל לבושם הכחול בהופעות.
לאחר האלבום "Rocks" החלו חברי הלהקה להשתמש יותר בסמים. בתקופת העבודה על האלבום הבא פרי וטיילר נהגו להתבודד משאר חברי הלהקה. חברי אירוסמית' נהגו להשתעשע בנהיגה במהירות מופרזת ובירי בכלי נשק בעליית הגג של הבניין הנטוש שבו הקליטו את אלבומם.
האלבום "Draw the Line" שיצא ב-1977 היה לאלבום מצליח וקיבל פלטינה כפולה, על אף הקשיים ביצירתו שנבעו משימוש בסמים. באלבום זה פרי היה לסולן השיר "Bright Light Fright". בשנים 1977 - 1978 הלהקה יצאה לסיבוב הופעות, אך אלימות בהופעותיהם שכללה בקבוקים, חזיזים ונפצים שנזרקו לבמה, שאף פגעו פיזית בטיילר ופרי, כמו גם השימוש הרב בסמים מצד חברי הלהקה הביאו לפגיעה ממשית באיכות הופעותיהם.
ב-1978 הוציאה הלהקה את האוסף Live! Bootleg שכלל הופעה חיה. בשנה זו השתתפה הלהקה בסרט "תזמורת מועדון הלבבות הבודדים של סרג'נט פפר". כחלק מפסקול הסרט הקליטה הלהקה גרסת כיסוי לשיר Come Together של הביטלס. גרסת הכיסוי זכתה להצלחה רבה, והייתה לשיר האחרון שנכנס ל-40 הגדולים במצעד, למשך כמעט כעשור.
ירידת קרנה של הלהקה והיווסדות הפרויקט של ג'ו פרי (1979 - 1984).
לקראת סיום העשור של שנות ה-70 ההשפעות של השימוש בסמים נתנו את אותותיהם, ובין חברי הלהקה החלה להיווצר מתיחות. ביולי 1979 בעת קונצרט רוק בקליבלנד, נוצרה מהומה מאחורי הקלעים לאחר שאשתו של פרי זרקה כוס חלב על אשתו של חברו ללהקה טום המילטון. בין פרי וטיילר היה ויכוח סוער שהוביל את פרי לעזוב את אירוסמית', במהלך הקלטת האלבום "Night in the Ruts" כאשר קטעים שפרי טרם הספיק לעבוד עליהם, בוצעו באלבום על ידי נגנים אחרים: בראד וויטפורד חבר הלהקה, ריצ'י סופה, ניל תומפסון, וג'ימי קרספו. פרי לקח איתו חומרים שטרם הוקלטו, שהיוו מאוחר יותר את הבסיס לאלבומו "Let the Music Do the Talking" שיצא ב-1980 ונמכרו ממנו 250,000 עותקים. האלבום הוקלט על ידי הרכב שהקים פרי שנקרא "הפרויקט של ג'ו פרי" בהשתתפותם של ראלף מורמון כסולן, דייוויד האל כבסיסט, ורוני סטיוארט כמתופף. במהלך סיבוב ההופעות שהתקיים בעקבות הוצאת האלבום, הוחלף מורמון בג'ואי מאלה. שנה מאוחר יותר הוציא הפרויקט של ג'ו פרי את האלבום השני I've Got the Rock'n'Rolls Again, ובו שימש כסולן צ'רלי פארן. לאחר סיבוב ההופעות חל שינוי משמעותי בהרכב: פארן, האל וסטיוארט עזבו את ההרכב וההרכב נפרד מחברת התקליטים קולומביה רקורדס. הפרויקט החל לעבוד עם חברת תקליטים חדשה, MCA. שלושה חברים חדשים הצטרפו להרכב: מאץ' בל כסולן, דני הרגרוב בתפקיד הבסיסט, וג'ו פט המתופף.
ב-1983 הוציא הפרויקט את האלבום השלישי שלו Once a Rocker, Always a Rocker. האלבום השני והשלישי לא הצליחו באותה מידה שהצליח האלבום הראשון של הפרויקט, ונמכרו מכל אחד מהם 40,000 עותקים בלבד. למסע ההופעות בעקבות האלבום הצטרף חבר אירוסמית' בראד וויטפורד.
איחוד מחדש של אירוסמית' וחזר. לאור הזרקורים (1984 - 1999).
בפברואר 1984 נפגשו פרי וחברו וויטפורד עם חבריהם ללהקת אירוסמית', ומפגש זה הוביל לאיחוד הלהקה חודשיים לאחר מכן. אירוסמית' חתמה על חוזה הקלטות עם גפן רקורדס, שנמכרה ל-MCA ב-1990. כאשר פרי שב ללהקה הוא הביא איתו את מנהלו טים קולינס לנהל אותה.
ביוני 1984 יצאה אירוסמית' בסיבוב הופעות שהיווה קאמבק ללהקה. שנה לאחר מכן הוציאה הלהקה את האלבום " Done with Mirrors" שהיה הראשון מאז איחודה, זכה לאהדת המבקרים אך לא זכה להצלחה מסחרית. האלבום לא הצליח להוציא מתוכו להיטים, מלבד הסינגל "Let the Music Do the Talking" שהיה גרסה מחודשת לשיר של פרי מ-1980.
בשנת 1986 יצרו אירוסמית שיתוף פעולה עם הרכב ההיפ הופ Run-D.M.C בשיר "Walk This Way". למרות הצלחתם לאחר האיחוד, עדיין היו בעוכריהם בעיות סמים. לאחר תהליך גמילה מסמים, החלה הלהקה לעבוד עם יוצרים ידועי שם בהם הכותבים דזמונד צ'יילד וג'ים ואלנס, המפיק המוזיקלי ברוס פיירברן, ובמאי המוזיקה דייוויד פינצ'ר ומארטי קולנר שסייעו להם לחזור לזירה וליצור את האלבומים "Permanent Vacation" (1987), "Pump" (1989) ו-"Get a Grip" (1993) שהכילו להיטים רבים. בשנות ה-90 זכתה הלהקה ארבע פעמים בפרסי גראמי וזכתה גם בעשרה פרסי פרסי וידאו קליפים של MTV. פרי וטיילר חידשו את חברותם, כתבו שירים יחד ונפשו יחד עם משפחותיהם, לאחר סיום מסע ההופעות בעקבות האלבום "Get a Grip". עם זאת, המתחים בלהקה עלו שוב ושוב בשנת 1996, בעת שהלהקה הייתה באמצע הקלטת האלבום הבא.
ב-1997 הוציאה הלהקה את האלבום "Nine Lives". ב-1990 פרי וטיילר השתתפו בפרסומת למותג גאפ. הלהקה פרסמה בתקופה זו את האוטוביוגרפיה "Walk This Way: The Autobiography of Aerosmith"
הצלחה מתמשכת של אירוסמית' ואלבומי סולו (2000 - כיום).
ב-2001 הוציאה אירוסמית' את האלבום "Just Push Play" והופיעה במשחק הסופרבול Super Bowl XXXV. זמן קצר לאחר יציאת האלבום נכלל פרי כחלק מאירוסמית' בהיכל התהילה של הרוק אנד רול. אירוסמית' הוציאה ב-2004 את האלבום "Honkin' on Bobo", ובמאי 2005 הוציא פרי את אלבום הסולו הראשון שלו שנקרא בשמו. האלבום הוקלט באולפן בפרבר של בוסטון כאשר בכל הכלים למעט התופים ניגן פרי בעצמו. המבקרים התייחסו בחיוב לאלבום. מגזין הרולינג סטון העניק לאלבום 3 וחצי כוכבים מתוך 5. פרי היה מועמד לפרס גראמי ב-2006 להופעת הפופ האינסטרומנטלית של השנה של השיר "Mercy" אך הפסיד ללס פול.
באוקטובר 2009 הוציא פרי עוד אלבום סולו. לאחר שטיילר התמוטט על הבמה במהלך הופעת הלהקה בדרום דקוטה במהלך סיבוב ההופעות המשותף לאירוסמית' וללהקת זי זי טופ (מה שגרם לביטול מסע ההופעות), התלקחו המתחים בין טיילר לחבריו ללהקה, ובמיוחד עם פרי. כתוצאה מכך חברי הלהקה הפסיקו לדבר זה עם זה. בתקשורת פורסם שטיילר עזב את הלהקה וכי החברים שנותרו מחפשים סולן חדש שימלא את מקומו. בנובמבר 2009 במהלך הופעה של הפרויקט של ג'ו פרי בעיר ניו יורק, הופיע לפתע סטיבן טיילר והודיע לקהל שהוא לא עזב את הלהקה, וביצע עם חברי אירוסמית' את "Walk This Way". בתחילת 2010 טיילר סיים את גמילתו מסמים, שב לשתף פעולה עם חבריו, והלהקה הודיעה על סבב הופעות חדש החל מקיץ שנה זו. במהלך סיבוב הופעות בין חברי הלהקה אירעו מספר תקריות שבהן הכה טיילר את פרי עם המעמד של המיקרופון, ופרי התנגש בטיילר. תקריות אלה בשילוב העובדה שטיילר חתם בתוכנית המציאות אמריקן איידול לשמש בה כשופט מבלי לספר לחבריו, גרמו שוב למתחים בין פרי לטיילר, שנרגעו עד תום סיבוב ההופעות.
בקיץ 2011 עבדה אירוסמית' על אלבום חדש. האלבום הופק על ידי צוות שכלל את פרי, סטיבן טיילר, ג'ק דאגלאס, ומארטי פרדריקסן. הלהקה יצאה למסע הופעות ביפן ודרום אמריקה והמשיכה להקליט עד תחילת שנת 2012. במאי 2012 הסינגל החדש "Legendary Child" יצא ובוצע בגמר של אמריקן איידול. בשנה זו קיבלו פרי וטיילר את פרס ואת ונכללו בהיכל התהילה לכותבים.
באפריל-מאי 2013 התרחב מסע ההופעות של אירוסמית' לאוסטרליה, ניו זילנד, הפיליפינים וסינגפור. הייתה זו ההופעה הראשונה של הלהקה באוסטרליה מזה 23 שנים, והופעה ראשונה אי פעם בשלוש המדינות האחרות.
באוקטובר 2014 הוציא פרי את ספרהאוטוביוגרפיה שלו שכתב בשיתוף דייוויד ריץ'. ב-2015 החל לעבוד עם אליס קופר וג'וני דפ וחברים נוספים על פרויקט "הוליווד ומפירז" שהוציא את אלבום הבכורה שלו בספטמבר 2015. בפברואר 2016 הופיע ההרכב בטקס פרסי גראמי ה-58. בקיץ 2016 ההרכב יצא לסיבוב הופעות בצפון אמריקה, אליו הצטרפו המתופף מאט סורום והבסיסט רוברט דלאו.
ביולי 2016 בעת הופעה בברוקלין עם הוליווד ומפירז, התמוטט פרי על הבמה. חבריו להרכב המשיכו בהופעה והמשיכו במסע ההופעות. עם זאת הם ביטלו את השתתפותם בתוכנית הלייט נייט בטלוויזיה לייט שואו עם סטיבן קולבר.
בינואר 2018 הוציא ג'ו פרי את אלבום הסולו השישי שלו, Sweetzerland Manifesto. האלבום כלל שיתופי פעולה עם חבריו ג'וני דפ, רובין זנדר, דייוויד ג'והאנסן ואחרים.
בנובמבר 2018 התמוטט מאחורי הקלעים לאחר שעלה להופיע בהפתעה במופע של בילי ג'ואל והובהל לבית החולים.
באפריל 2019 צפוי פרי להופיע עם אירוסמית בסדרת הופעות שתתקיים באולם ההופעות פארק MGM שבלאס וגאס.
חיים אישיים.
פרי היה נשוי לאליסה ג'רט בשנים 1975 - 1982 ונולד להם בן משותף, אדריאן. את אשתו השנייה בילי הוא פגש על סט של צילומי וידאו קליפ בשנת 1983 ונולדו להם שני בנים, טוני ורומן. אדריאן וטוני חברי בהרכב האינדי "Dead Boots".
ב-2012 הגדיר עצמו פרי כמזוהה עם המפלגה הרפובליקנית בארצות הברית.
לפרי אוסף של 600 גיטרות.