Von 1953 bis 1958 studierte Géza Alföldy an der Universität Budapest, wo er den Ungarnaufstand hautnah miterlebte. 1957 bis 1960 war Alföldy Mitarbeiter am Stadtmuseum Budapest. Während dieser Zeit erfolgte 1959 die Promotion. Von 1960 bis 1965 war er Assistent am Institut für Alte Geschichte an der Universität Budapest. Im Jahr 1965 emigrierte er in die Bundesrepublik Deutschland und war zunächst von 1965 bis 1968 als Mitarbeiter am Rheinischen Landesmuseum Bonn tätig. Während dieser Zeit habilitierte sich Alföldy 1966 an der Universität Bonn, wo er auch von 1968 bis 1970 Hochschuldozent war und schließlich eine außerplanmäßige Professur antrat. Noch im selben Jahr wurde er ordentlicher Professor für Alte Geschichte an der Universität Bochum. Von 1975 bis zu seiner Emeritierung 2002 war Alföldy Professor für Alte Geschichte an der Universität Heidelberg. Bedeutende akademische Schüler waren unter anderem Johannes Hahn, Jens-Uwe Krause, Karl Strobel, Werner Rieß, Helmut Halfmann und Stefan Link. Noch nach der Neubesetzung des Lehrstuhles 2004 lehrte er bis 2005 in Selbstvertretung weiter; sein Nachfolger wurde Christian Witschel. Auch in der Folgezeit blieb Alföldy wissenschaftlich aktiv.