Ullman on saavuttanut MM-kilpailuissa lukuisia mitaleita. Hän on voittanut henkilökohtaisia maailmanmestaruuksia 50 m vapaapistoolissa viidesti (1933, 1935, 1937, 1947 ja 1952), 25 m isopistoolissa kahdesti (1947 ja 1954) ja 25 m olympiapistoolissa kerran (1939).