I sin ungdom var Tost fører i Formel Ford og Formel 3, og studerte senere sportsvitenskap og -ledelse. Etter studiene var han teamleder hoe Walter Lechner Racing School, og deretter som teamleder hos EUFRA Racing og Team Vienna. I 1993 begynte han å arbeide for Willi Weber, hvor han først drev Formel 3-teamet WTS, og deretter passet på karrieren til en ung Ralf Schumacher i Japan. Da tyskeren gikk til Formel 1 fulgte Tost med, og fra 2000 til 2005 var han hos BMW Motorsport. 1. januar 2006 ble han hyret som teamsjef for det nye Scuderia Toro Rosso-teamet.