Van Gundy comenzó jugando en el Instituto Menlo pero finalmente se graduó en el Instituto de Nazareth (1985) después él formó parte del equipo de baloncesto de la Universidad de Yale.