Miasto zostało założone przez Rosjan w 1818 roku jako placówka wojskowa podczas wojny kaukaskiej. Pierwotnie było zamieszkane przez ludność słowiańską (Kozaków), jednak władze ZSRR, zwalczające Kozaków, zachęcały Czeczenów do osiedlania się w mieście. W 1944 roku muzułmańscy mieszkańcy miasta zostali wysiedleni do Azji Środkowej, w 1957 zezwolono im na powrót. W 1960 liczba Czeczenów mieszkających w Groznym przekroczyła liczbę Rosjan. Obecnie Czeczeni stanowią ponad 95% mieszkańców miasta.