Il dispute les Jeux olympiques d'été de 1992 à Barcelone sous les couleurs de l'Équipe unifiée, remportant la médaille d'or par équipes. Il dispute aussi les Jeux olympiques d'été de 1996 à Atlanta, terminant sixième de l'épreuve individuelle de sabre ; il est défait sur le score de 14–15 en quart de finale par le Russe Stanislav Pozdniakov, qui sera sacré champion olympique. Gutzeit dispute ses troisièmes Jeux en 2000 à Sydney, perdant en huitièmes de finale contre le Hongrois Domonkos Ferjancsik, et terminant sixième de l'épreuve par équipes. Cette année-là, il est médaillé de bronze aux Championnats d'Europe à Madère.