Vuoden 1994 jälkeen Kovaljov vastusti Venäjän sotatoimia Tšetšeniassa, teki yhteistyötä kapinallisten kanssa ja kehotti Venäjän sotilaita antautumaan. Hän oli itse Groznyissa todistamassa ensimmäistä Tšetšenian sotaa. Hänen päivittäinen raportointinsa puhelimen ja television välityksellä edesauttoi Venäjän julkisen mielipiteen kääntymistä sotaa vastaan. Kovaljovin toiminta johti siihen, että hän menetti ihmisoikeusvaltuutetun asemansa duumassa 1995.