Kramer concluiu seus estudos na "Thornton Donovan School", em New Rochelle, no ano de 1969. Mudou-se para Boston, onde ia a vários clubes ver bandas de rock. Foi ao "Festival de Woodstock", onde se encontrou com seu antigo colega de escola, Steven Tyler. Naquele mesmo ano, Joey iniciou mais uma fase de estudos na "Chamberlain Junior College", de onde foi expulso por mau comportamento. Comprou, então, um apartamento e arrumou um emprego onde operava uma máquina de mimeografia na "Prudential Insurance Company". Enquanto isso, tocava em uma banda de R&amp;B chamada "Turnpikes", onde conheceu músicas de novos artistas, como James Brown. Contudo, sua participação no grupo foi encerrada por causa de uma forte Hepatite. Joey voltou para Nova York para se tratar.