Buttinger lahir dalam sebuah keluarga kelas pekerja dan meninggalkan sekolah pada usia 13 tahun untuk mendukung keluarganya. Ia menjadi pemimpin gerakan pemuda di Austria dan, pada usia 24 tahun, menjadi sekretaris Partai Demokratik Sosial. Setelah ditahan selama beberapa bulan pada 1934, ia menjadi ketua gerakan bawah tanah Sosialis dan pemimpin gerakan anti-Fasis. Ketika Jerman menduduki Austria pada 1938, ia dan istri kelahiran Amerika-nya Muriel Gardiner melarikan diri ke Paris, di mana ia menjadi ketua Sosialis yang diasingkan. Pada 1939, beberapa bulan sebelum jatuhnya Prancis, pasangan tersebut berpindah ke Amerika Serikat bersama dengan putri Gardiner dari pernikahan sebelumnya, Connie, yang Joseph kemudian adopsi.