I 1996 ble Ben-Ami innvalgt i Knesset for Arbeiderpartiet, og i 1999 ble han utpekt til sikkerhetsminister i Ehud Baraks regjering. I egenskap av denne posisjonen fikk han, i 2000 mye av ansvaret for israelsk politis hardhendte behandling av palestinske demonstranter, og i november ble han derfor flyttet til utenriksdepartementet. Han var utenriksminister til Ariel Sharons regjering overtok i mars 2001. Han deltok i egenskap av minister på forhandlingene med palestinske ledere på Camp David og i Tabba. I 2002 forlot han Knesset. Ben-Ami har vært sett på som en moderat politiker. Trass i hendelsene i 2000 har han blant annet uttalt at man ikke kan skape fred gjennom å angripe andre. Det er imidlertid først og fremst i den økonomiske politikken Ben-Ami har representert det israelske arbeiderpartiets venstrefløy, og han har hatt et særlig anstrengt forhold til Shimon Peres.