Kovaljov teki debyyttinsä maajoukkueessa vuoden 1992 olympialaisissa, joihin koottiin vielä kerran Neuvostoliiton maajoukkue, vaikka itse valtio olikin jo kaatunut aiemmin. Joukkueen nimi turnauksessa oli Yhdistynyt joukkue eli IVY. Se kantoi lippunaan olympialippua. IVY voitti turnauksessa olympiakultaa. Kovaljov on edustanut olympiaturnausta 1992 lukuun ottamatta maajoukkuetasolla ainoastaan Venäjää. Kovaljov voitti Venäjän paidassa olympiapronssia 2002.