Yoshiyuki Abe war von 1996 bis 2011 als Elite-Rennfahrer aktiv. In diesen Jahren wurde er viermal japanischer Meister im Einzelzeitfahren sowie im Straßenrennen. 1997 entschied er als bisher einziger Japaner den Japan Cup für sich (Stand 2016). 2000 startete Abe im olympischen Straßenrennen der Olympischen Sommerspiele in Sydney, konnte es aber nicht beenden. 2003 gewann er die China-Rundfahrt. Bei den Asienspielen 2006 errang er gemeinsam mit Kazuya Okazaki, Satoshi Hirose und Kazuhiro Moridie die Bronzemedaille im Mannschaftszeitfahren. Ende der Saison 2011 beendete er seine Karriere.