Han debuterte i 1952 som Chapelou i Adolphe Adams «Le Postillon de Lonjumeau» og hadde i 1953 sitt gjennombrudd internasjonalt i Mozarts Don Giovanni på La Scala i Milano. Det var Karajan som sørget for å få ham til Milano. Gedda opptrådte på flere ledende operascener som Covent Garden i London, Metropolitan i New York og Pariseroperaen. Han var særlig populær i Frankrike og var spesialist på fransk opera. En av hans største suksesser internasjonalt var i Berlioz' .