弥生時代の鎧、剣、矛、鏃、弓、埴輪などの出土品や、『古事記』、『日本書紀』などの日本神話に剣、矛、刀、弓など武器の記述があることから、なんらかの武技は存在していたものと思われるが詳細は不明である。古墳時代の埴輪 挂甲武人は甲冑を身につけ、弓と太刀を装備している。また太刀は左腰に下げている。和人側の記述から蝦夷は狩猟で培った騎射を主体に、蕨手刀のような刀剣も使用しており、取り扱うための武技もあったと推察されるが詳細は不明である。騎射については俘囚を通して和人に伝わると、武士により戦闘技術として洗練されていったとされる。
また『古事記』などの思想的、文化的な視点から、弓矢が威儀を示す行装として重い位置を占めていたと考えられ、その日本古代からの弓矢への威徳の思想と、中国の弓矢における「射をもって、君子の争いとなす。」という射礼思想礼から、朝廷行事としての「射礼」の儀が誕生した。その後の武家時代には弓矢を通じた礼の思想がうまれ、やがて日本固有の武家思想と結びついていくことになる。
中世.
これまで日本を支配していた貴族に代わるように、武士が新たに台頭するようになる。合戦の主役は弓であると同時に中世全期を通した武士の象徴であったが、一方で時代が下るごとに白兵戦の比率が増えていき、その表武器も太刀（野太刀）・薙刀、さらに槍と変化していった。
また、合戦や抗争に依らずとも日常的に殺し合いが発生したといわれ、武士や貴族を始めとするあらゆる人々は些細なきっかけで激高し、武器を手に取って友人や部下を含めた人々を殺傷した。
平安時代.
『和名類聚抄』には『古布志宇知（こぶしうち）』という武術名が見える。
平安時代では一騎討ちが基本であり、騎射により矢を打ち合う「矢戦（やいくさ）」から始まり、矢が尽きると接近して太刀や薙刀などの打物で戦う接近しての馬上戦に移行、最後は相手の首を取るためは馬を下りて戦う「歩戦（かちいくさ）」で勝敗を決した。このためあらゆる間合いで戦う技能が必要となった。
鎌倉時代.
武士の道（武芸）は弓術と馬術を基本とする「弓馬の道」とされ、騎射三物のような鍛錬法も編み出された。この時代でも合戦は騎射で始まるが、元寇を描いた絵では騎兵を密集させ集団で突撃する様子もあり、集団戦も考慮されるようになったと考えられている。