Den "dränkbara boken" kombinerar behandlat papper med tryckt information om hur och varför vatten ska filtreras.
Dess sidor innehåller nanopartiklar av silver eller koppar, som dödar bakterier i vattnet när det passerar igenom.
I försök vid 25 förorenade vattenkällor i Sydafrika, Ghana och Bangladesh lyckades papperet avlägsna mer än 99 procent av bakterierna.
De resulterande nivåerna av kontaminering liknar USA: s kranvatten, säger forskarna. Små mängder silver eller koppar läckte också ut i vattnet, men dessa låg långt under säkerhetsgränserna.
Resultaten presenterades vid det 250: e nationella mötet för American Chemical Society i Boston i USA.
Dr Teri Dankovich, en postdoktor vid Carnegie Mellon University i Pittsburgh, utvecklade och testade tekniken för boken under flera år, arbetade vid McGill University i Kanada och sedan vid University of Virginia.
"Det är riktat mot samhällen i utvecklingsländer", sade Dr Dankovich, notera att 663 miljoner människor runt om i världen inte har tillgång till rent dricksvatten.
"Allt du behöver göra är att riva ut ett papper, sätta det i en enkel filterhållare och hälla vatten i det från floder, vattendrag, brunnar etc och ut kommer rent vatten - och döda bakterier också," berättade hon BBC nyheter.
Buggarna absorberar silver eller kopparjoner - beroende på vilka nanopartiklar som används - när de tränger igenom sidan.
"Ioner kommer från ytan av nanopartiklarna, och de absorberas av mikroberna," Dr Dankovich förklarade.
Enligt hennes tester kan en sida rena upp till 100 liter vatten. En bok kan filtrera en persons vattenförsörjning i fyra år.
Dr Dankovich hade redan testat papperet i labbet med artificiellt förorenat vatten. Framgång där ledde till fältförsök som hon genomfört under de senaste två åren, arbeta med välgörenhetsorganisationer Vatten är Liv och iDE.
I dessa studier minskade antalet bakterier i vattenproven med i genomsnitt drygt 99 procent, och i de flesta prov sjönk det till noll.
"Större än 90% av proverna hade i princip inga livskraftiga bakterier i dem, efter att vi filtrerat vattnet genom papper," Dr Dankovich sade.
"Det är verkligen spännande att se att inte bara detta papper kan fungera i labbmodeller, men det har också visat framgång med riktiga vattenkällor som människor använder."
En plats gav tidningen en särskilt svår utmaning.
"Det fanns en plats där det bokstavligen rått avloppsvatten dumpas i strömmen, som hade mycket höga halter av bakterier.
– Men vi var verkligen imponerade av papperets prestanda; det kunde döda bakterierna nästan helt i dessa prover. Och de var ganska äckliga till att börja med, så vi tänkte - om det kan göra detta, det kan förmodligen göra en hel del."
Dr Dankovich och hennes kollegor hoppas kunna öka produktionen av tidningen, som hon och hennes studenter för närvarande gör för hand, och gå vidare till prövningar där lokalbefolkningen använder filter själva.
"Vi måste få det i människors händer för att se mer av vilka effekterna kommer att bli. Det finns bara så mycket du kan göra när du är en vetenskapsman på egen hand."
Till exempel har Dr Dankovichs arbete med iDE i Bangladesh undersökt om ett filter, som innehåller en av boksidorna, skulle kunna monteras i en "kolshi" - den traditionella vattenbehållare som används av många Bangladeshis.
Daniele Lantagne, miljöingenjör vid Tufts University, sade att uppgifterna från försöken visade löfte.
"Det finns en hel del intresse för att utveckla nya produkter för punkt-of-use vattenbehandling", berättade hon BBC.
Den "dränkbara boken" har nu passerat två viktiga steg - visar att den fungerar i labbet, och på riktiga vattenkällor.
Därefter, Dr Lantagne sade, kommer teamet att behöva "en kommersialiserad, skalbar produktdesign" för en enhet som sidorna slot in.
Hon sade också att medan papperet verkar döda bakterier framgångsrikt, är det oklart om det skulle ta bort andra sjukdomsframkallande mikroorganismer.
"Jag skulle vilja se resultat för protozoer och virus", sade hon.
"Detta är lovande men det kommer inte att rädda världen i morgon. De har avslutat ett viktigt steg och det finns mer att gå igenom."
Dr Kyle Doudrick studerar hållbar vattenrening vid University of Notre Dame i Indiana. Han höll med om att boksystemet skulle vara särskilt kraftfullt om det också kunde ta itu med icke-bakteriella infektioner, såsom den lilla parasiten kryptosporidium som nyligen orsakade en hälsofara i Lancashire.
Han sade också att det skulle vara viktigt att se till att människor förstod hur man använder filter - och hur ofta man ändrar dem. Men han uppmuntrades av provresultaten.
"Totalt, av alla de tekniker som finns - keramiska filter, UV sterilisering och så vidare - detta är en lovande, eftersom det är billigt, och det är en catchy idé att människor kan få tag på och förstå."
Följ Jonathan på Twitter
En bok med sidor som kan rivas ut för att filtrera dricksvatten har visat sig vara effektiv i sina första fältförsök.