Østerberg studerte ved Universitetet i Oslo og beundret Arne Næss, som han anså som en opprører mot autoriteter. Senere opplevde Østerberg Næss som vinglete, og Næss var tilhenger av positivismen som Østerberg etter hvert reagerte mot. Magisteravhandlingen dediserte han til Hans Skjervheim som førte an i kritikken av positivismen.