Mediauppspelning stöds inte på den här enheten
Dinesh Chandimal gjorde 126 och Rangana Herath 61 som Sri Lanka drog nytta av tappade fångster vid Chester-le-Street för att flytta sina över natten 309-5 till 475.
Anderson, bowlaren som led av Englands misstag, återvände för att fånga Herath lbw på väg till 5-58.
England lättade sedan till ett mål på 79.
Cook nådde sin personliga landmärke fem löper in i en unbeaten 47.
Värdarna, som har namngett en oförändrad 12-man trupp, kommer att ha möjlighet att slutföra en serie vitkalk i den tredje och sista testet på Lord's, som börjar den 9 juni.
Sri Lanka utspelades i både första testet och första halvan av denna match, när de sköts ut för poäng 91, 119 och 101.
Men de bör nu ha större förtroende för att resa till Herrens, där förhållandena sannolikt är mycket bättre lämpade att slåss än Leeds och Durham.
Chandimal, obesegrad på 54 över natten, var flytande genom hela, spela iögonfallande drag genom off-sidan och heaving Moeen Ali för en sex över mitten av veken.
Hans sjätte prov århundrade och först utanför Asien hälsades av känslomässiga fester, tappade sin fladdermus och kysste sin hjälm i en gest mot Sri Lanka omklädningsrum.
Han fick andligt stöd från Herath, som växte i förtroende under sitt andra test halvsekel, särskilt när svepande och omvänt gråtande Moeen.
Men att England tvingades att resa längre i Sri Lankas andra innings än de hade i resten av serien tillsammans var också ner till sina egna misstag på fältet.
På en mörk morgon idealisk för bowling, Anderson redan hade Milinda Siriwardana hålls på måsen när han fick Chandimal till inside-edge genom att Wicketkeeper Jonny Bairstow, som satte ner en enkel chans att avvisa högerhanden på 69.
Och Herath fick ett liv på 47 när James Vince gjorde röran av en skidåkare, tillbaka-pedalling mot punkt gränsen.
Ja, åsido man-of-the-match Anderson, England var under deras bästa med bollen, med Moeen och Steven Finn besvikelse.
Mediauppspelning stöds inte på den här enheten
Ändå gav Sri Lankas stoicism den magra Chester-le-Street publiken sin möjlighet för ett ögonblick av historia, med kapten Cook leverera.
Behöver fem för att bli den första engelsmannen till 10 000 Testkörningar, vänsterhandare inside-edged spinnare Herath för en singel, sedan klippt tempot av Nuwan Pradeep till ben-side repet.
Han blir den 12: e mannen i historien om Test cricket att nå landmärket och vid 31 år, fem månader och fem dagar, den yngsta, slå rekordet av Indien legenden Sachin Tendulkar, som var 31 år, 10 månader och 20 dagar.
Cook förlorade öppningspartnern Alex Hales, skålad av Siriwardana, men samlad fritt, i motsats till Nick Compton, som började preliminärt.
Ändå var det Compton som drog Siriwardana för back-to-back gränser för att försegla en fyra dagars seger, 11: e testet i följd i England som har misslyckats med att nå den femte dagen.
England kapten Alastair Cook: "Det är svårt för Sri Lankas smeter i en bemärkelse, men de är mycket bra spelare, och för det mesta på platta wickets du måste arbeta mycket hårt mot dem.
"Tillgodohavandet till Sri Lanka, sättet de slogs på i den andra innings, och det visar hur hårt du måste arbeta för Test match vinner. Det var bara för två år sedan som de slog oss på Rubrikeley, så vi borde inte ta något för givet."
Sri Lanka kapten Angelo Mathews: " Det har varit ett par tuffa veckor för oss. Vi slog inte bra i de första innings men vi visade en hel del motståndskraft i den andra innings. Vi hade en lysande första dag men vi lät Moeen Ali och Chris Woakes gå tidigt på dag två och vårt slag var en dålig insats."
England tränare Trevor Bayliss: "När du kan vinna två Tests i rad och vinna en serie, slå in den efter två matcher, är en fantastisk insats. Wicketen tillplattades och Sri Lankanerna visade en del av kampen som de är fullt kapabla till. De har bra spelare i sitt lag. Ja, de har några unga spelare men vi kan verkligen inte ta det för givet i den tredje matchen. "
England avslutade Sri Lankas motstånd för att vinna det andra testet med nio wickets och slutföra en serie seger - med kapten Alastair Cook når 10.000 Testruns.