Fra 1992 til 1993 var Levits ambassadør til Tyskland og Sveits. I 1993 ble han valgt til nasjonalforsamlingen, Saeima, på listen til Latvijas Ceļš (Latvias veg). Han ble så medlem av regjeringen til statsminister Valdis Birkavs (1993–1994) der han var visestatsminister, justisminister og fungerende utenriksminister. Etter det drøye året som regjeringsmedlem var han fra 1994 til 1995 på nytt ambassadør, denne gang til Østerrike, Sveits og Ungarn.