Klompé var aktiv i den nederlandske motstandsbevegelsen under andre verdenskrig. Hun ble medlem av det nederlandske parlamentet i 1948 og deltok i forhandlingene om FNs menneskerettighetserklæring. I 1952 ble hun det første kvinnelige medlem av Fellesforsamlingen, en forløper til Europaparlamentet, i Det europeiske kull- og stålfellesskap. Hun deltok i arbeidet som førte til Roma-traktaten. I 1956 ble hun den første kvinnelige minister i en nederlandsk regjering, og hun fikk igjennom landets første sosiallov.