Han studerte deretter og avla eksamen i kjemi ved Technische Hochschule (dagens Technische Universität Wien), men tok samtidig kurs ved Universitetet i Wien, særlig fra Ludwig Boltzmann om hans kinetiske teori og termodynamikk. Disse forelesningene hadde en stor innflytelse og ble avgjørende i å stimulere Ehrenfests interesse for teoretisk fysikk, definere hans hovedområde for forskning og var et eksempel på inspirert undervisning. På den tiden var det i den tyskspråklige verden vanlig at man studerte ved mer enn ett universitet og i 1901 fortsatte Ehrenfest sine studier ved Georg-August-Universität Göttingen som på den tiden var et senter for matematikk og teoretisk fysikk.