Józef Noji war gelernter Tischler und wuchs in ärmlichen Verhältnissen als jüngster von vier Brüdern auf. Er startete für den Club "Syreny Warszawa" und war neben Janusz Kusociński der beste polnische Langstreckenläufer Polens in den 1930er Jahren. Fünf Mal in Folge wurde er von 1935 bis 1939 nationaler Meister über 5000 Meter, von 1936 bis 1939 vier Mal hintereinander Meister im Querfeldeinlauf, und 1936 errang er den Titel im 10.000-Meter-Lauf. 1936 startete er bei den Olympischen Spielen in Berlin. Über 5000 Meter belegte er mit der polnischen Rekordzeit von 14:33,4 Minuten Rang fünf und über 10.000 Meter Rang 14. Im selben Jahr gewann er den internationalen Titel des britischen Leichtathletikverbandes Amateur Athletic Association über sechs Meilen. Im Jahre 1938 wurde er Fünfter im 5000-Meter-Lauf bei Leichtathletik-Europameisterschaften in Paris und stellte mit 31:17,4 Minuten einen nationalen Rekord über 10.000 Meter auf.