Gli Utah Jazz ingaggiarono Ostertag tramite la ventottesima scelta del primo giro del Draft NBA del 1995, sperando di colmare al meglio il vuoto lasciato da Mark Eaton, ritirato qualche stagione prima. Durante la sua seconda stagione mise in mostra le sue capacità da centro. Ai Playoffs del 1997 e del 1998, anni in cui i Jazz raggiunsero le NBA Finals, Ostertag fu molto importante in difesa: mise in grande difficoltà giocatori come Hakeem Olajuwon, David Robinson, Tim Duncan, e Shaquille O'Neal.