En 2001, il devient champion d'Asie sur route juniors (moins de 19 ans). De 2002 à 2004, il est membre du VC La Pomme Marseille, où il loge chez un proche du club. Il devient coureur professionnel en 2005 dans l'équipe américaine Discovery Channel. En 2006, il est champion du Japon sur route et contre-la-montre. Il est le premier coureur cycliste japonais à disputer Paris-Roubaix 2007. Il rejoint pour la saison 2008 l'équipe néerlandaise Skil-Shimano, dont l'un des sponsors est japonais. Il remporte cette année le championnat d'Asie. Il participe aux Jeux olympiques de Pékin, où il ne termine pas la course en ligne et se classe du contre-la-montre. À l'occasion du Tour de France 2009, Fumiyuki Beppu et Yukiya Arashiro sont les premiers Japonais à terminer le Tour, respectivement aux et . Beppu reçoit le prix de la combativité de la dernière étape de cette édition.