Borge hjälpte till att skapa Sandinista National Liberation Front 1961.
1979 störtade Sandinistarevolutionen diktatorn Anastasio Somoza och Borge som inrikesminister i Daniel Ortegas nya regering.
USA:s president Ronald Reagan såg revolutionärerna som ett hot och stödde högerkontrasterna i inbördeskriget som följde.
Uppskattningsvis 30 000 människor dog i de strider som varade i tio år och förstörde landets ekonomi.
Borge föddes i en fattig familj och ägnade sig åt kampen mot familjen Somoza, som hade styrt Nicaragua i 40 år.
Han fick militär utbildning på Kuba innan han hjälpte till att hitta Sandinistarörelsen.
Organisationen uppkallades efter Augusto Cesar Sandino, som kämpade mot USA:s ingripande i Nicaragua på 1930-talet.
Borge blev den mäktiga inrikesministern i Ortegas regering på 1980-talet, där han påtvingade medierna censur och anklagades för kränkningar av de mänskliga rättigheterna.
Men han förnekade anklagelserna om att han var ansvarig för att ha fördrivit och trakasserat präster under kriget.
Sandinistas röstades bort från makten 1990.
Kongressledamoten Jacinto Suarez citerades av nyhetsbyrån Associated Press och sade att Borge var "en transcendental figur i Nicaraguas historia".
Men nyhetsbyrån citerade också den nicaraguanska författaren Gioconda Belli, som sade om Borges senare liv: " Efter 1990 har jag en känsla av att han gav upp sina revolutionära idéer.... Han blev en tragisk och komisk figur."
Borges sista år såg Daniel Ortega återvända till regeringen - han vann presidentval 2006 och 2011 igen.
Borge togs in på sjukhus tidigare denna månad för en lunginfektion och opererades.
Den siste överlevande grundaren av vänsterns Sandinista-rörelse i Nicaragua, Tomas Borge, har avlidit i åldern 81 år.