Han ble medlem i IOK i 1920, og hadde en posisjon i styret en periode før han ble visepresident i 1931. Da sittende IOK-president Henri de Baillet-Latour døde i 1942, ble Edström administrerende president frem til slutten av den andre verdenskrig, hvorpå han ble formelt valgt som president. Han var sentral i arbeidet med å gjenreise IOK, og den olympiske bevegelse etter krigen. I 1952, 82 år gammel, trakk han seg fra presidentjobben og ble fulgt av Avery Brundage.