Arthémon Hatungimana participe à sa première compétition internationale d'athlétisme à l'occasion des Championnats du monde de cross-country 1992 de Boston, se classant 60 de la course de longue distance. La même année, il participe aux championnats du monde junior de Séoul sur 400 m et réalise 46 s 78. Il s'oriente ensuite vers les épreuves de demi-fond, notamment le 800 m. Arthémon, pour sa préparation des championnats du Monde de 1995, part à Nice pour réaliser un 1 000 m le qu'il termine en 2 min 15 s 48 (record personnel). En 1995, le Burundais réalise le plus grand exploit de sa carrière en décrochant la médaille d'argent des Championnats du monde de Göteborg remportés par le Danois Wilson Kipketer. Auteur de 1 min 45 s 64 en finale, il établit un nouveau record personnel sur 800 m en réalisant quelques jours plus tard 1 min 43 s 56 lors du Meeting de Zürich. Il conclut sa saison en s'imposant lors des Jeux panafricains 1995 d'Harare.