När de anlände kl. 01:00 (22:00 GMT onsdag) i bilar, sköt de på en trafikpolis kontrollstation innan de attackerade en mediebyggnad och en skola.
En islamistisk grupp sade att den hade lanserat en självmordsattack för att hämnas attacker av säkerhetsstyrkor på muslimska kvinnor.
Tjetjeniens Moskva-stödda president sa att situationen var under kontroll.
Ramzan Kadyrov sa att ingen av angriparna hade rymt.
Den kontroversiella tjetjenske starke mannen har undertryckt rebellernas verksamhet i Tjetjenien sedan Ryssland kastade ut den separatistiska regeringen där i början av seklet.
Attacken var en sällsynt överträdelse av den tunga säkerheten som omger Grozny.
Rysslands president Vladimir Putin sade från Moskva att han var säker på att tjetjenska säkerhetsstyrkor kunde hantera militanterna själva.
Detta är det allvarligaste våldet i Grozny under en tid och kommer att vara ytterligare en oro för president Putin, mitt i en allvarlig nedgång i den ryska ekonomin, BBC: s Sarah Rainsford rapporter från Moskva.
Putin är stolt över att ha skapat stabilitet i Tjetjenien efter två blodiga separatistiska krig där sedan Sovjetunionens upplösning, tillägger vår korrespondent.
Tre trafikpoliser dödades när de försökte stoppa revolvermännens bilar, sade Kadyrov.
Nio militanter dog i de efterföljande striderna, sade den tjetjenska ledaren.
Enligt den ryska regeringen dog ytterligare fyra personer och 21 skadades under striderna.
Invånarna i staden vaknade till åsynen av rök som steg upp från förlagets utslitna skal, där både tjetjenska och federala ryska medier hade kontor.
Täckta stånd på en marknad brändes också i striderna.
Det fanns inga rapporter om att några barn var inne i skolan när rebellerna grep den.
Mobilvideor som postades under natten visade att striderna var våldsamma.
En reporter från Associated Press såg förlaget i lågor och hörde det fortsatta ljudet av skottlossning före gryningen.
Samma reporter såg också kroppen av någon i civila kläder på gatan nära byggnaden.
"Inte en enda bandit lyckades ta sig ut", meddelade Kadyrov senare. "Jag ledde operationen direkt själv."
I en kornig video upplagd på YouTube, en revolverman sade han och en grupp av andra hade attackerat staden i en "hämnd operation" för att hämnas muslimska kvinnor trakasseras av säkerhetsstyrkorna.
Han sa att attacken hade utförts på order av den tjetjenska rebellfiguren Aslan Byutukayev, en kollega till Doku Umarov, rebellledaren som tros ha dödats tidigare i år.
Attacken mot Grozny kom flera timmar innan president Putin höll sitt årliga tal om nationen i Kreml.
Dmitry Trenin, som leder Carnegie Moscow Center, skrev i ett Twitter-inlägg att nattattacken i Grozny såg "senseless ut utom som ett försök att genera Putin timmar före hans årliga adress".
Rebelskyttar har skjutit sig in i den starkt befästa tjetjenska huvudstaden, Grozny, i en nattlig attack som lämnade så många som 16 människor döda.