Als Mitglied der „gesamtdeutschen Olympiamannschaft“ nahm Herbert Niemann 1964 als einziger Judoka des DJV an den Olympischen Sommerspielen in Tokio teil. Bei dieser Olympiade gehörte Judo erstmals zu den olympischen Sportarten und Niemann war ein aussichtsreicher Medaillenkandidat im Schwergewicht. Wegen einer bei den Vorbereitungen für den olympischen Wettkampf vor Ort in Tokio zugezogenen Rippenverletzung konnte er sein Leistungsspektrum nicht abrufen und schied in den Vorrundenkämpfen gegen den Gewinner der Bronzemedaille, Ansor Kiknadse, aus. Bei den vierten Judo-Weltmeisterschaften 1965 in Rio de Janeiro blieb er trotz seiner Favoritenrolle als amtierender Europameister ohne Medaillenerfolg.