Han arbeidet deretter som advokat. Han ble statssekretær for arbeid og sosial sikkerhet i 1982 og ble innvalgt i Luxembourgs parlament i 1984. I 1989 ble han finans- og arbeidsminister, og deltok i utformingen av Maastricht-traktaten i 1991. Han ble statsminister i 1995. Høsten 1997 ledet Juncker Det europeiske råd for Luxembourg. Han ble æresdoktor ved Westfälische Wilhelms-Universität i 2001 og siden æresborger av Trier i 2003.