称唿水琴窟为洞水门，但是它早期很少被用在日本庭园建筑中。起先它是一个被倒转埋在土里的器皿，位在日本庭园中的洗手水池旁边，当作排水系统。当水排出时它会发出令人愉快的声音，这让庭园的园丁想要改进它的声音让它变得更好听。它开始流行起来并有了水琴窟这个名字是在江户时代（1603年-1867年）中期，大约在同时手水钵也被发明出来。当时着名的日本茶道老师小堀远州的庭园中有水琴窟，且后来大家认为他是水琴窟的发明者。在江户时代末期，越来越少人制作水琴窟，可是在明治时期（1867年-1912年）又变得流行起来。在二十世纪