白村江の戦いの敗北以降、国家兵力設立が方針となった。大規模な歩兵集団戦も可能とする目的で、豪族の支配民からなる私兵であった国造軍に代わり、国家が全人民を支配し兵士を徴兵し（国民皆兵）、民政機構から分独立した軍団の組織が始まり、各令制国に駐屯することとなった。
一方、弓馬に優れたものは騎兵とすることとなっていたが、これら騎兵となったのは、主に古墳時代以来の地方首長層に出自する郡司の子弟であった。騎兵は、基本的に弓射騎兵であるが、槍を扱う突撃騎兵も存在したと推定される。また、郡司子弟は指揮官（軍毅）の役目も務めた。
軍団の縮小・廃止と健児の制.
軍団制度および律令制は、大規模歩兵軍を持つ中央集権国家を作り、唐や新羅にも対抗および出兵可能とする、古墳時代から続く政治外交方針に基づいたものだったが、奈良時代末期・平安時代初期に、この方針の見直し撤廃が行われた。鉄の入手も国内で砂鉄を採掘・精錬し自給する目処がついていた。
また唐や新羅から侵攻される危険も減り、軍団維持の必要性は薄れてきた。新羅に対して宗主と位置付ける律令制の原則論も後退し必要性も薄れてきた。これにともない朝廷内・貴族層で軍団の廃止が議論されるようになった。
一方で、蝦夷（移配俘囚）の優れた騎馬戦闘術が郡司層などへも拡散するなどで各国内で在地の武力層が強力化すると共に、治安が次第に悪化し、群盗に対する臨機応変の対応・治安維持の必要性の比重が高くなった。
代わって各国内で弓馬に優れたものを選抜する健児の制が布かれ、各国内の治安維持に当たった。健児になるためには、経済力と武芸の訓練を行う時間が必要であるため、古墳時代以来の地方首長層に出自する郡司の子弟と、新たに地方経済の発展により成長を遂げた富豪百姓（田堵）が選抜対象となった。
また大乱の際には国司の管理下の移配俘囚も武力として動員され、俘囚の反乱・新羅の入寇などの際に活躍した。
中世.
国衙軍制.
朝廷は、国衙・受領に対して軍事権に関しても裁量を許すこととし、国衙はこの在地武力層を兵力として取り込むことが認められた。これは国衙軍制と呼ばれている。この兵力も同じく郡司・富豪層であった。