Chrysostome zadebiutował w kadrze w 2004 roku, w którym zagrał z ekipą Beninu na Pucharze Narodów Afryki. Mistrzostwa w Egipcie były jednak dla "Wiewiórek" całkowicie nieudane, gdyż ekipa Beninu przegrała wszystkie 3 swoje mecze i zakończyła Puchar z zerowym dorobkiem punktowym. Podobnie zakończył się puchar cztery lata później, po którym karierę na szczeblu międzynarodowym zakończył dotychczasowy kapitan reprezentacji – Oumar Tchomogo. Wówczas to nowy trener, Michel Dussuyer, mianował Chrysostome'a nowym kapitanem. Pod jego wodzą Benin ponownie awansował do Pucharu, gdzie zdobył historyczny punkt remisując 2:2 z Mozambikiem po trafieniach Razaka Omotoyossiego i samobójczym golu zawodnika Mozambiku – Dario Khana.