弥生時代の遺跡には下水道のような構造が見られることから、遅くともこの時代には排泄専門の施設として「便所」が成立したとされる。
平安時代、貴族は樋箱というおまるを使用していた。また、餓鬼草紙などの絵巻物には野外で糞便する光景が描かれているように庶民は便所を使用しなかった。後に穴を掘って作る汲み取り式便所が登場し、設置が簡単であることから長い間主流となった。しかし排泄物を目視して健康状態を確認することが難しいことから、皇族や高い身分の武士が用いる便所は引き出し式になっており、あとで健康を管理する者が確認できるようになっていた。
江戸時代においては、農村部で大小便（し尿）を農作物を栽培する際の肥料としても使うようになり、高価で取引されるようになった。そこで江戸、京都、大坂など人口集積地の共同住宅である長屋などでは、共同便所が作られ収集し商売するものがあらわれた。
金沢では家を建てる際やトイレの工事を行う際に、素焼きした夫婦一対の人形を「厠の神さん」として地中に埋める習わしが今も残っている。
戦後のある時期まで、農村部では、居住空間である母屋とは別に、便所は独立して設けられていた。母屋には便所はないので、一旦外へ出ないと便所に行けない。
この頃の便器は大型の瓶であり、その上に大きな木枠、木の板を乗せ用を足す事が多かった。
また、小さな川の上に便所を設置することもあり、厠（かわや）の語源になったとも言われている。『広辞苑』による記載では、この説（「川の上の屋」の意）と、「家の側の屋」の意ともいう、とする。
また、琉球王国などにおいては中国と同じ方式の便所の穴の下でウワー（ブタ）を飼い、餌として直接供給する豚便所も存在した。
大正時代から昭和にかけて、トイレ後の手洗いがそれまでの水盆式手水（ちょうず）から、軒下につるされた陶器、ブリキ、ホーロー製等の手水を使用する形式になった。「手水」は、トイレに行くを意味する暗喩「お手水に行く」や「ご不浄」、「御手洗」等の現代にも使用される言葉として残っている。