Palme avanserte i 1954 i regeringskansliet og ble sekretær i Statsrådsberedningen. Året etter ble han styremedlem i ABF. Han ble valgt inn i Första kammaren i 1958 for Socialdemokraterna. Et av hans første viktigere oppdrag som politiker var som leder av «studiesociala utredningen» i 1959.