Gyllenhammar ble styreformann i Svenska skeppshypotekskassan i Göteborg i 1976, styremedlem i Sveriges industriförbund i 1979, styremedlem i SEB i perioden 1979–1994 hvorav viseformann mellom 1991 og 1994. Han ble styremedlem i United Technologie Corporation, Hartford, Connecticut i 1981, i Kissinger Assoc. Inc. i New York i årene 1982–1997, i Pearson plc. i London fra 1983 til 1997, i Reuters Holdings PLC i London i 1984–1997, i Philips Electronics NV i Eindhoven 1990–1995, i Régie Nationale des Usines Renault SA i Paris 1990–1993 samt styreformann i Procordia 1990–1992. Gyllenhammar var styremedlem i Polygram NV fra 1996, ble styreformann i Commercial Union PLC i 1998 og seniorrådgiver i Lazaed Frèses & Co LLC i New York i 1996.