期之前的刀剑被归类为上古刀，刀形有别于现在常见的日本刀，或为直刃，或带双锋。
太刀时代.平安时代后期，尤其是武士势力最活跃的“前九年之役”和“后三年之役”时期，武士门第势力增大，由此日本刀有了大发展。如出产优质铁矿砂的伯耆国和备前国，还有作为政治文化中心的山城国，大和国等地，出现了不同流派的刀工，这个时候的日本刀主要被用于马上决战，所以多为太刀。这一时期的代表作品有源赖光在大江山斩了“酒吞童子”的“童子切”（伯耆国的安纲制，日本国宝），和传说让狐狸帮忙打造过的“小狐丸”（山城国的三