Ustupski vant en olympisk bronsemedalje i roing under OL 1936 i Berlin. Sammen med Roger Verey kom han på tredjeplass i dobbeltsculler bak Jack Beresford og Leslie Southwood fra Storbritannia og tyskerne Joachim Pirsch og Willy Kaidel.