På grunn av sin erfaring ble Sharett utpekt til å bli Israels første utenriksminister. Hans største bedrift var våpenhvileavtalen i 1949, som førte til avslutningen av krigshandlingene mellom Israel og de arabiske landene i 1948.