Trois ans après avoir débuté l'athlétisme à un âge relativement tardif, Józef Szmidt décroche la médaille d'or du triple saut des Championnats d'Europe d'athlétisme 1958 de Stockholm, devançant avec un bond à 16,43 m le Soviétique Olyeg Ryakhovskiy et l'Islandais Vilhjálmur Einarsson. Le , Szmidt établit un nouveau record du monde de la discipline en sautant à 17,03 m lors des Championnats de Pologne disputés à Olsztyn, améliorant de 33 centimètres la marque du précédent recordman, le Soviétique Oleg Fedoseyev. Grâce à cette performance, le Polonais devient le premier athlète au monde à dépasser la limite des 17 m dans un concours du triple saut. Quelques jours plus tard, il s'impose en finale des Jeux olympiques Rome en réalisant un nouveau record olympique en 16,81 m.