Konstruksjonen består av en skål (typisk av keramikk, men kan også bestå av metall eller glass) som tobakken plasseres i og et rør som går ned i en beholder fylt med væske (vanligvis vann, derav navnet, men ofte brukes også ting som melk eller vin). Beholderen er ofte av glass, slik at en kan se bobler og bevegelse i vannet. Slangen kan være stiv, som illustrasjonen viser, eller av et elastisk lufttett materiale. Det kan være flere utganger på røret, slik at flere slanger kan kobles til. Disse tettes typisk igjen ved hjelp av en ventil når de ikke er i bruk.