La primera influencia musical de Cerati era The Beatles, en una entrevista mencionó que: «Beatles fue lo primero que me empujó. Recuerdo casi en el jardín de infantes, agarrando unas escobas con unos amigos y formando un cuarteto de escobas imitando «Twist and Shout», que habían pasado en un noticiero en Argentina. Estamos hablando de 1967». En 2005, le confesó al periódico "Página/12" que lloró devastado al enterarse del asesinato de John Lennon, elogiándolo como un «compositor único» y asegurando que: «Si tengo que nombrar un artista entre todos lo elijo a él». Ese año, Cerati se inspiró en la canción de Lennon, «Jealous Guy», para la composición de «Crimen». En 1999, declaró que cuando tenía nueve años, escuchaba obsesivamente los temas «Purple Haze» de Jimi Hendrix y «Pictures of Lily» de The Who, que lo motivaron a tocar y armar una banda. Otros modelos de inspiración en sus primeros años que citó fueron Roxy Music y King Crimson.