Han startet sin karriere innen idretten i 1964 som generalsekretær i det sveitsiske ishockeyforbundet. Han ble reklamedirektør 1970 i klokkefirmaet Longines, som var sterkt involvert i de olympiske lekene i 1972 og 1976. I 1975 begynte han sin karriere i FIFA, først som teknisk direktør 1975–81 og siden som generalsekretær 1981–98. I juni 1998 ble han valgt til FIFAs president, i konkurranse med svenske Lennart Johansson. Han ble siden gjenvalgt fem ganger, senest 29. mai 2015 etter at Ali Bin Al Hussein trakk seg i den andre runden. Fire dager etter stilte Blatter sin plass til disposisjon, men uttalte at han ville bli sittende til en ekstraordinær FIFA-kongress valgte ny president.