Der 1,80 Meter große Hidehiko Yoshida begann seine Karriere im Halbmittelgewicht, der Gewichtsklasse bis 78 Kilogramm. 1988 gewann er in dieser Gewichtsklasse den Titel bei den Asienmeisterschaften in Damaskus. Im gleichen Jahr siegte er auch bei den Universitäts-Weltmeisterschaften in Tiflis. Diesen Titel gewann er zwei Jahre später in Brüssel zum zweiten Mal. Im Juli 1991 erkämpfte Yoshida die Bronzemedaille bei den Judo-Weltmeisterschaften 1991 in Barcelona. Nachdem er im Februar 1992 in Sofia sein erstes Weltcup-Turnier gewonnen hatte, startete er im Juli 1992 erneut in Barcelona. Bei den Olympischen Spielen 1992 benötigte er für seine beiden ersten Kämpfe gegen einen Sudanesen und einen Libanesen fünfundzwanzig Sekunden. Nach Siegen gegen den Argentinier Dario García Aguilar und den Rumänen Alexandru Ciupe schlug er im Kampf um den Finaleinzug den Belgier Johan Laats. Nach seinem sechsten Sieg durch Ippon über den Amerikaner Jason Morris erhielt Yoshida die Goldmedaille. Insgesamt hatte er 16 Minuten und 21 Sekunden für seine sechs Kämpfe benötigt. 1993 gewann er beim Weltcup-Turnier in Paris in der Gewichtsklasse bis 86 Kilogramm. Für die Judo-Weltmeisterschaften 1993 im kanadischen Hamilton kehrte er noch einmal in die Gewichtsklasse bis 78 Kilogramm zurück. Im Finale unterlag er dem Südkoreaner Jeon Ki-young.