Oster tok abitur i Neutraubling og utdannet seg senere som avis – og radioredaktør fra 1984 til 1986. Han tilbrakte noen år i dette yrket. Fra 1988 startet han sine studier i filosofi, historie og religionsvitenskap i Regensburg, Kiel, ved Keele University og University of Oxford. Fra 1990 til 1991 var han stipendiat i Erasmus-programmet. Han tok mastergrad i Oxford i 1993 og en annen master fra Regensburg i 1994.