Die Stadt wurde während des Großen Kaukasuskrieges im Jahre 1818 unter General Alexei Jermolow als russische Festung am Terek-Nebenfluss Sunscha (Су́нжа) gegründet und erhielt zunächst den Namen "Grosnaja" (dt. "die Furchtgebietende"). Die Bevölkerung bestand zunächst aus russischen Kosaken. Als die Festung zur Stadt anwuchs, wurde der Name 1870 in Grosny geändert (maskuline Form, dem Wort gorod (=Stadt) entsprechend). Während des russischen Bürgerkriegs wechselte Grosny zwischen 1917 und 1920 mehrfach den Besitzer, bis es 1920 endgültig von der Roten Armee erobert wurde. In den 1920er-Jahren überschritt die Stadt die Schwelle von 100.000 Einwohnern. Seit 1936 war Grosny die Hauptstadt der Tschetscheno-Inguschetischen ASSR innerhalb der RSFSR. Mit der sowjetischen Herrschaft zogen nun erstmals Tschetschenen in großen Zahlen in die Stadt, deren Bevölkerungsanteil von 2 % im Jahr 1926 auf 14 % im Jahr 1939 stieg.