Od této chvíle začala partyzánská válka, ve které Rusové utrpěli značné ztráty v bojích s čečenskými bojovníky přeskupenými v horách a kontrolujícími stále několik měst. Pro ruské síly byly velkým problémem zejména boje ve městech, na které byli ruští velitelé i vojáci naprosto nepřipraveni, stejně tak jako přenesení bojů mimo území Čečenska. V červnu 1995 Šamil Basajev provedl teroristický nájezd na nemocnici v Buďonnovsku a v lednu 1996 akci stejného charakteru na nemocnici v Kizljaru provedl jiný čečenský velitel, Salman Radujev. V prosinci 1995 Čečenci dobyli druhé největší město republiky Gudermes, ale po několikatýdenních bojích byli donuceni zase ustoupit. Dne 21. dubna 1996 po zaměření svého satelitního telefonu byl raketovým útokem zabit Džochar Dudajev a funkce se po něm ujal Zelimchan Jandarbijev. Po překvapivém letním útoku v srpnu 1996 se Čečencům podařilo znovu dobýt Groznyj.