Ennis-Hill, 30, vann 800m - tävlingens slutliga disciplin - men det räckte inte att köra om belgiska Thiam som vann med 35 poäng.
Kanadensiska Brianne Theisen-Eaton vann brons, med Storbritanniens Katarina Johnson-Thompson efter sjätte.
Efter händelsen antydde Ennis-Hill att hon nu kunde gå i pension.
"Det kommer att bli ett tufft beslut, jag kommer att gå bort och tänka på det," sade hon. "I det här ögonblicket är jag trött och känslosam, det är ett stort beslut."
Fyrfaldig olympisk guldmedaljör Michael Johnson berättade för BBC Sport att han tror Ennis Hills karriär "är klar".
Amerikanen tillade: " Varför kom du tillbaka? Hon vann på OS, så VM i London 2017 kommer att blekna i jämförelse."
Ennis-Hill sa att hon var stolt över att vara tillbaka på podiet.
Det var den tredje medaljen Storbritannien slutade med att vinna inne i Olympiastadion på lördagen efter Mo Farah behöll sin 10 000m olympiska titel och Greg Rutherford tog brons i det långa hoppet.
"Mo var otrolig och Greg var fantastisk också", sade Ennis-Hill. "Vi har alla klarat oss riktigt bra."
Efter att ha vunnit OS-guld i London fick Ennis-Hill sitt första barn, Reggie, 2014 och vann en andra världstitel bara 13 månader senare.
"Jag har haft en fantastisk några år och uppnått så mycket i denna sport", sade hon. "Jag är verkligen stolt."
London 2012 mästare, som vill bli den första brittiska kvinnliga spår och fältidrottare att vinna back-to-back olympiska titlar, ledde efter dag ett men halkade tillbaka till andra efter lördag morgon långa hopp.
En fantastisk javelföreställning av Thiam, 21, innebar att Ennis-Hill var tvungen att slå belgarna med 9,47 sekunder i den sjunde och sista händelsen. Hon kunde bara avsluta 7,47 seks framåt i avgörande 800m.
"Det är mer än en dröm att vara olympisk mästare," sade Thiam. "Jag skadade armbågen för sex veckor sen när jag kastade spjutet i belgiska mästerskapet.
"I början var läkaren inte särskilt optimistisk om det. De sa att jag måste gå igenom smärtan, men om jag kastade rätt skulle det vara okej.
"Jag förväntade mig inte att vinna. Kanske topp åtta, men inte guldet."
Johnson-Thompson såg sina medaljhopp nedslagna av dåliga föreställningar i skottet och spjutet, där hon bara kunde klara det bästa av 36.36m.
Det var andra året i rad där 23-åringen från Liverpool har misslyckats med att leva upp till förväntningarna vid en stor händelse, efter hennes kollaps i det långa hoppet vid förra årets VM.
"Jag är besviken på min prestation", sade hon. "Jag känner att jag var kapabel till det, men det finns inget jag kan göra. Jag har inga ursäkter, jag har bara inte avrättat."
BBC Sports chefssportförfattare Tom Fordyce sade Thiam förtjänade sin seger, tillägger: "Fem personliga bests över sju händelser, en kvinna som bara kommer att komma igång och bör fortsätta att dominera heptathlon i flera år framöver."
Den före detta brittiske sprintern och den olympiska guldmedaljören Darren Campbell sade: "Det är en läxa för Katarina Johnson-Thompson. Detta är den nivå av idrottare hon kommer att behöva slå för att vinna på stora mästerskap. "
Tidigare javelin världsrekordhållare Steve Backley tillade: "Om Katarina ska vinna OS-mästaren om fyra år, måste hon reda ut sitt spjut och skjuta satt väg innan dess.
"Vi trodde att hon kunde höja sitt spel på grund av vikten men det har inte hänt."
Storbritanniens Jessica Ennis-Hill misslyckades snävt med att behålla sin olympiska heptathlontitel när hon vann silver bakom Nafissatou Thiam i Rio 2016.