Hudobne sa Joey Kramer začal ,oťukávať" ako štrnásťročný, v inštrumentálnej skupine The Medallions. Náznaky jeho kariéry sa však začali objavovať až v neskoršom veku, keď začal bubnovať na jedenásť kusovej rhytm and bluesovej súprave bicích, kedy objavil hudbu ktorá mala slúžiť ako jeho hlavný zdroj inšpirácie. Ako fanúšik blues-rockovej hudby dokonca v r. 1969 navštívil legendárny festival Woodstock v Betheli, a to spolu s budúcim kolegom z Aerosmith, Stevenom Tylerom. Festival mal však hygienické zádrhely do tej miery, že ho dvojica aj rýchlo opustila. V r. 1970 sa Joey opäť spojil s kamarátom Tylerom, ktorý spolu s gitaristom Joeom Perrym a basgitaristom Tomom Hamiltonom vytvorili základ pre novú skupinu. Steven Tyler, nádejný textár, navyše prenechal svoj bubenícky post a postavil sa za mikrofón. Joey nastúpil na jeho miesto a stal sa nemennou súčasťou kapely. Bol to tiež on, kto pomenoval najúspešnejšiu americkú rockovú kapelu ako Aerosmith.