Peep Jahilo ble uteksaminert fra Universitetet i Tartu i 1985, fra filologisk fakultet og ble ansatt i Estlands utenriksdepartement i 1990, som førstesekretær hvor han arbeidet i seksjon for utenriksøkonomi og politikk. Fra 1991 – 1992 var han direktør for protokollavdelingen ved presidentens kontor og 1992 – 1993 var han assisterende rådgiver for utenrikssaker ved presidentens kontor.