Annan startet sine universitetsstudier i hjembyen Kumasi. Han fortsatte studiene ved Macalester College i byen St. Paul i Minnesota i USA (1961) og Institut universitaire des hautes études internationales i Genève i Sveits (1961–62). Senere studerte han ved Massachusetts Institute of Technology i USA (1971–72).