桓武天皇の時代、大神宮（伊勢神宮）より遣わされた八尺余りある大鴉によってもたらされたと伝えられ、「小烏丸」の名はその大鴉の羽から出てきたとの伝承に由来する。
传说于桓武天皇时代，从大神宫（伊势神宫)派遣的一只有八尺大的大乌鸦身上那边获得此刀，“小乌丸”之名则是因为此刀是从大乌鸦的羽毛中出现而来。