Ayler bestemte seg for å bli i Europa og ble aktiv på musikscenen i Sverige, hvor han innpilte sin første grammofonplate i 1962. Han dukket også opp i København, hvor han blant annet satt inn med Cecil Taylor i Montmartre, og hvor han i 1963 innspilte en kvartettplate – hans siste jazz-plate.