秦叔宝、程知节、尉迟敬德、翟长孙等大将负责统领玄甲军。每当战事发生时，李世民会以主帅身份出征当前峰，所向无敌。军队的勇勐可见于唐朝初年发生的一场战役夏虎牢之战之中。李氏率领3500名玄甲兵与十几万夏军对峙。另外，他又曾以1000名玄甲兵大破隋朝末年群雄王世充，斩其俘虏6000余人。而在虎牢关之战中，窦建德率领十余万人支援王世充，李世民仅用了3500名玄甲兵为前锋到虎牢关增援，并大破窦建德。时在洛阳的王世充亦都同样被翦灭。在唐高祖武德二年（619年）三月，玄甲兵于柏壁之战协助平定北方刘武周以及宋金刚的割据势力