Hundratals Peshmerga-stridande, understödda av artilleri- och USA-ledda koalitionsanfall, avancerade på Bashiqa från tre håll på måndag morgon.
Sent på eftermiddagen flyttade de från hus till hus och röjde staden, sade Peshmerga.
Under tiden sade den irakiska militären att den hade hittat en massgrav fylld med omkring 100 halshuggna kroppar söder om Mosul.
Graven låg i en jordbrukshögskola i utkanten av staden Hamam al-Alil, som trupper kom in under helgen.
"Specialiserade team kommer att skickas för att utreda detta avskyvärda brott," militären sade.
ÄR militanta har genomfört många massmord i det förflutna, skryter om dem i foton och videor cirkulerade online.
Under 2014 riktade de sig till säkerhetsstyrkornas personal och medlemmar av etniska och religiösa minoriteter när de svepte över norra Irak efter att ha tagit kontroll över Mosul.
FN har också fått rapporter om att militanta har utfört grymheter sedan den irakiska regeringens offensiv för att återta Mosul inleddes för tre veckor sedan.
Den 29 oktober påstås de ha dödat 40 före detta soldater från områdena Hamam al-Alil och Shura och kastat sina kroppar i floden Tigris.
Bashiqa, omkring 12 kilometer från Mosul, omgavs av Peshmerga-kämpar för två veckor sedan som en del av Mosul-offensiven.
Vid cirka 06:00 (03:00 GMT) på måndagen kom operationen för att slutligen rensa staden igång.
Vid 17:00, Peshmerga hade avancerat in i staden och börjat hus-till-hus klarering, ett uttalande av deras general kommando sade.
En högre officer vid Peshmerga, brigadgeneral Musa Gardi, berättade för den kurdiska nyhetsbyrån Rudaw att fickor av militanta kvarstod som skulle behandlas snart.
Han varnade också för att de kan använda tunnlar och självmordsbomber för att avfyra attacker.
Omkring 40 bilbomber riktade Peshmerga positioner på måndag ensam, tillade han.
Rudaw lade tidigare upp en video som visade vad det sade var en buss full med sprängämnen som förstördes i ett koalitionsflyganfall i utkanten av Bashiqa.
Iraks specialstyrkor och arméförband fortsatte under tiden sina operationer för att rensa östra Mosuldistrikten, sex dagar efter inträdet i den sista stora IS-stadens fäste i Irak.
Deras framsteg har bromsats av självmordsbomber, fällor och behovet av att engagera sig i strider från hus till hus längs smala gator.
Det amerikanska särskilda sändebudet för den multinationella koalitionen mot IS, Brett McGurk, förklarade dock sent på söndagen att offensiven var "mycket på rätt spår".
"Allt i Mosul är före schemat på alla axlar av framsteg men Daesh, som vi förväntade oss, sätter upp en hård kamp och jag förväntar mig att detta kommer att ta lite tid att avsluta", sade han, med hjälp av en nedsättande term för IS baserat på akronymen för ett tidigare namn på arabiska.
Michael McGurk redogjorde också för hur han förväntade sig att operationen skulle återta den IS-hållna norra syriska staden Raqqa, som lanserades av en USA-stödd allians av syriska kurdiska och arabiska soldater tidigare på söndagen, skulle fortsätta i "mycket avsiktliga faser".
"Det finns en isoleringsfas som började idag, och det kommer att finnas efterföljande faser för att se till att vi sparkar ut [IS] från Raqqa," tillade han.
Irakiska kurdiska styrkor har kämpat sig in i en stad som innehas av Islamiska statens militanta nordost om Mosul.