Han ble en av Konrad Adenauers nærmeste medarbeidere, og bidro i stor grad til å utforme utenrikspolitikken i Adenauers regjeringstid. Hallstein var statssekretær i utenriksdepartementet fra 1951 til 1958. I 1951 ble den velkjente Hallsteindoktrinen oppkalt etter ham. Den var en nøkkeldoktrine i vesttysk utenrikspolitikk, helt frem til Willy Brandts regjeringstid. Hallstein deltok ved den første fransk-tyske konferansen i Paris i 1954.