Hempel studerte filosofi, fysikk og matematikk ved universitetene i Göttungen og Heidelberg før han kom til universitet i Berlin i 1925 der han tok en doktorgrad i filosofi i 1934. Der ble han overbevist om at symbolsk logikk var nøkkelen til mange filosofiske problemer. I 1929 tilbrakte han høstsemesteret i Wien og studerte logisk positivisme og møtte medlemmer av "Wienerkretsen", blant annet Rudolf Carnap.