Primakov dog i Moskva efter en långvarig sjukdom, rapporterade den ryska nyhetsbyrån Interfax.
Kremlins talesman Dmitry Peskov sade att president Vladimir Putin hade informerats om den tidigare premiärministerns död och var "djupt ledsen".
Primakov var chef för den ryska regeringen i bara åtta månader mellan september 1998 och maj 1999.
Född 1929 i den ukrainska huvudstaden Kiev, växte han upp i Tbilisi, Georgiens huvudstad.
Han studerade arabiska vid Moskvainstitutet för orientaliska studier och fortsatte att vara korrespondent för statlig radio och TV.
Efter att ha gått in i politiken och blivit ordförande i det sovjetiska parlamentet mellan 1989 och 1990 spelade Primakov en framträdande roll i förhandlingarna med Saddam Hussein inför det första Gulfkriget.
När Sovjetunionen kollapsade 1991 utnämndes han till chef för Rysslands utrikesunderrättelsetjänst (SVR) och senare utrikesminister i januari 1996.
Sedan 1998 utnämndes han till premiärminister av dåvarande president Boris Jeltsin, och han fick äran att ha infört svåra reformer och en viss stabilitet i ett land som fortfarande vacklar från finanskrisen.
I mars 1999 försökte Primakov förhindra Natostrejker mot Jugoslavien.
Han befallde berömda piloten att vända sig halvvägs över Atlanten medan han var på väg till Förenta staterna på ett officiellt besök, efter att ha fått veta att Washington hade beslutat att inleda flygräderna. Händelsen blev känd som "Primakovs loop".
Men Primakovs roll som premiärminister var kortlivad. Han avskedades 1999 av president Boris Jeltsin, som enligt uppgift blev rädd för hans ökande popularitet.
Primakov signalerade att han hade för avsikt att ställa upp i presidentvalet 2000, men hoppade av när Kremls maktmäklare förenade sig kring Vladimir Putin.
År 2003 reste han återigen till Irak och träffade Saddam Hussein i ett försök att förhindra krig, denna gång på Putins begäran. Men tre dagar senare började en USA-ledd offensiv.
I senare liv ledde Primakov en lobbygrupp och respekterades som en av Rysslands ledande äldre statsmän.
Yevgeny Primakov, tidigare rysk premiärminister, utrikesminister och spionchef, har dött vid 85 års ålder.