Världsmästaren, som vann alla tre titlarna från ryssen genom ett kontroversiellt poängbeslut i sin första match, är obesegrad i 32 matcher.
Den amerikanska wobbled Kovalev med en höger i åttonde och avslutade honom med en serie av kroppsskott.
Kovalev sa att han drabbades av ett lågt slag och tillade att han ville ha ännu en returmatch.
"Han är en stor kämpe, inte många människor kommer att slå honom", sade 33-årige Ward, som har 16 knockouts från sina 32 matcher.
"Men när du står inför en stor fighter måste du höja ditt spel till nästa nivå.
"Jag skadade honom med ett skott i huvudet och jag var bara tvungen att få rätt skott in för att göra slut på honom."
Kovalev började starkt innan Ward kom tillbaka in i striden på Mandalay Bay Hotel.
Domare Tony Weeks stoppade sedan matchen med 31 sekunder i åttonde med Kovalev, 34, knäböjande.
"Det var ett lågt slag, återigen en annan", sade Kovalev.
"Vi är boxare. Jag kan fortfarande fortsätta. Varför sluta slåss?"
Andre Ward stoppade Sergey Kovalev i åttonde omgången för att vinna sin lätt tunga rematch i Las Vegas och behålla sina WBO, WBA och IBF bälten.