また、南北朝期には歩兵は騎兵を平地で防戦できるほどまとまった集団ではなく、騎馬の攻撃を支えられない分散された弱小集団であり、南北朝期を通して、騎兵は一番有利な軍事組織であった。一方で、弓歩兵の援護なしに打物騎兵が突撃するのは自殺行為だとする説もある。
大太刀の刀法については刃方で馬の足を薙ぎ、武者の胴や膝を斬る、棟方で兜の鉢や胴を打ち上げるという記述が「太平記」にはよく見られる。南北朝期の膝を保護する「大立挙脛当」太ももを保護する「佩楯」は徒歩戦や何よりも大太刀と大薙刀の斬撃対策と考えられる。体格に恵まれた武者にとって大太刀は対騎馬武者、対槍用の得物として必然の武器であった。
また瀬戸内海賊の村上氏の戦闘砲や砲術をまとめた「合武三島流船戦要法」に船中での戦では槍では後先がつっかえて不便であり、太刀打ちで船首から船尾まで斬ってまわるべきであるとあり、河川回路の運航に関わりのある武装集団を中心として発達したのが徒歩「太刀打ち」であり、そのための「大太刀」でもある。
とはいえ、南北朝期以降も使用には体格と技術の両方が必要な上に量産性やコストに難があり、一般的と言えるほどの武器とはならなかった。しかし、その威力と示威のために室町期から戦国期に至っても一部の武者は好んで使ったし、一部の戦国大名は大太刀を振るう「小隊」を編成していた。
また、槍だけではなく、薙刀、大薙刀、長巻といったその他の長柄武器に対する対抗策としても利用された。
江戸時代に入って徳川幕府が刀の長さを二尺三寸程度を「常寸」と定めたのも、太平の時代に異端を嫌うだけではなく、大太刀の威力を恐れたからだと考えられる。
その後、三尺を超えるような大太刀は神社等への奉納用にも製作されるようになり、長大に作るためにいくつかの長さに分けて鍛錬し、後に接合して一本の刀身とした、実際に「刀」としては使用出来ない（強度的に「振る」ことが不可能）ものも製作された。
室町時代には大太刀を磨り上げ（刀身を短く縮めて仕立て直すこと）て打刀とすることが流行したため、室町時代以前のもので製作当時の刀身のまま現存するものはそれほど多くない。