Frentzen aloitti F1-uransa vuonna 1994 Sauber-tallissa, joka käytti silloin Mercedeksen moottoreita. Frank Williams vakuuttui Frentzenin taidoista ja tarjosi hänelle paikkaa Williamsilla Ayrton Sennan kuolonkolarin jälkeen. Frentzen kuitenkin päätti jäädä Sauberille ja auttoi tallia selviytymään Karl Wendlingerin vakavaan luokkaantumiseen johtaneesta ulosajosta Monacossa. Seuraavaksi kaudeksi Sauber siirtyi Fordin moottoreihin, ja Frentzen saavutti uransa ensimmäisen palkintosijan, joka oli myös samalla Sauberin ensimmäinen palkintosija, ajamalla maaliin kolmantena Italian GP:ssä. Kaudella 1996 Sauberin luotettavuus ei ollut kohdallaan ja Frentzen joutui keskeyttämään usein. Hän sijoittui neljänneksi Monacon GP:ssa, jossa maaliin selvisi vain kolme kuljettajaan. Frentzen keskeytti kierrosta ennen maalia.