Erwägungen:
1.
1.1. Mit Zahlungsbefehl Nr. xxx des Betreibungsamtes U._ vom 25. Juni 2014 betrieb der Beschwerdegegner den Beschwerdeführer gestützt auf die "Pfändungsurkunde/Verlustschein" Nr. yyy des Betreibungsamtes V._ vom 4. Januar 1989 und den Pfändungsverlustschein Nr. zzz des Betreibungsamtes V._ vom 24. Januar 1989 für insgesamt Fr. 110'404.60. Der Beschwerdeführer erhob Rechtsvorschlag.
Das daraufhin angehobene Rechtsöffnungsverfahren durchlief mehrmals den kantonalen Instanzenzug (abweisender Entscheid des Kreisgerichts Rheintal vom 3. Oktober 2014; Rückweisungsentscheid des Kantonsgerichts St. Gallen vom 20. Februar 2015; gutheissender Rechtsöffnungsentscheid des Kreisgerichts vom 10. September 2015; Rückweisungsentscheid des Kantonsgerichts vom 28. April 2016). Mit Entscheid vom 3. August 2016 erteilte das Kreisgericht erneut provisorische Rechtsöffnung für Fr. 110'404.60 nebst Betreibungskosten.
Gegen diesen Entscheid erhob der Beschwerdeführer am 15./16. Oktober 2016 Beschwerde an das Kantonsgericht. Mit Entscheid vom 9. Oktober 2017 wies das Kantonsgericht die Beschwerde ab, soweit es darauf eintrat. Dieser Entscheid wurde am 13. Oktober 2017 per Einschreiben versandt und dem Beschwerdeführer am Samstag, 14. Oktober 2017, zur Abholung gemeldet. Am Montag, 23. Oktober 2017, sandte die Post die nicht abgeholte Sendung zurück. Mit Schreiben vom 25. Oktober 2017 sandte das Kantonsgericht das Urteil dem Beschwerdeführer per A-Post zur Information nochmals zu. Es verwies dabei auf die Regel, wonach eingeschriebene Sendungen, die nicht innerhalb der siebentägigen Frist am Postschalter in Empfang genommen werden, als am letzten Tag dieser Frist als zugestellt gelten. Mit Schreiben vom gleichen Tag (25. Oktober 2017) gelangte der Beschwerdeführer an das Kantonsgericht, wobei er um nochmalige Zustellung bat, "und zwar zum Zwecke der Rechtssicherheit und zur Auslösung der Rekursfristen nochmals eingeschrieben". Zudem legte er dar, weshalb die erste Sendung seiner Auffassung nach nicht als zugestellt gelten könne. Mit Schreiben vom 26. Oktober 2017 (gleichentags der Post übergeben) versandte das Kantonsgericht das Urteil nochmals eingeschrieben. Es hielt dabei fest, dass es nicht an ihm (dem Einzelrichter) liege zu bestätigen, dass erst diese Zustellung (und nicht schon die gescheiterte vom 13. Oktober 2017 bzw. allenfalls die gestrige mit A-Post) die Beschwerdefrist auslöse, sondern dass für diesen Entscheid das Bundesgericht zuständig sei. Auch diese Sendung konnte dem Beschwerdeführer nicht zugestellt werden (ausweislich des Track&Trace-Auszugs Meldung zur Abholung am Freitag, 27. Oktober 2017, und Rücksendung durch die Post am Samstag, 4. November 2017). Daraufhin liess das Kantonsgericht mit Schreiben vom 7. November 2017 diese Sendung dem Beschwerdeführer zur Information nochmals per A-Post zukommen (wiederum unter Hinweis auf die Sieben-Tage-Regel). Am 22. November 2017 berichtigte das Kantonsgericht das Rechtsöffnungsurteil im Kostenpunkt, wobei es darauf hinwies, dass mit der Berichtigung die Beschwerdefrist nur in Bezug auf die berichtigte Kostenregelung neu zu laufen beginne. Dieses Urteil wurde dem Beschwerdeführer am 30. November 2017 zugestellt.
1.2. Am 20. November 2017 hat der Beschwerdeführer Beschwerde in Zivilsachen und subsidiäre Verfassungsbeschwerde an das Bundesgericht erhoben. Er verlangt, das Urteil des Kantonsgerichts vom 9. Oktober 2017 sei ihm per Einschreiben zuzustellen. Eine ergänzende und weiter begründete Eingabe sei abzuwarten. Zudem ersucht er um aufschiebende Wirkung.
Das Bundesgericht hat der Beschwerde mit Verfügung vom 22. November 2017 superprovisorisch die aufschiebende Wirkung zuerkannt. Zudem hat es die Akten beigezogen und Stellungnahmen in der Sache (Art. 102 BGG) und zum Gesuch um aufschiebende Wirkung (Art. 103 BGG) eingeholt. Das Kantonsgericht hat auf Stellungnahme zum Gesuch um aufschiebende Wirkung ausdrücklich verzichtet und sich in der Sache nicht geäussert (Eingabe vom 23. November 2017). Der Beschwerdegegner hat sich der aufschiebenden Wirkung mit Stellungnahme vom 29. November 2017 widersetzt. In der Sache hat er keine Anträge gestellt. Aus der Begründung seiner Stellungnahme zum Gesuch um aufschiebende Wirkung geht jedoch hervor, dass nach seiner Ansicht auf die Beschwerde nicht einzutreten und sie jedenfalls abzuweisen sei.
Am 7. Dezember 2017 hat der Beschwerdeführer um Reduktion des Gerichtskostenvorschusses ersucht. Die abweisende Verfügung des Bundesgerichts (mit Nachfristansetzung) vom 8. Dezember 2017 wurde vom Beschwerdeführer auf der Post nicht abgeholt. Sie wurde ihm am 19. Dezember 2017 (mit Hinweis auf die fehlende fristverlängernde Wirkung der zweiten Zustellung) noch einmal zugestellt.
Am 10. Januar 2018 hat der Beschwerdeführer zu den Eingaben des Beschwerdegegners und des Kantonsgerichts Stellung genommen. Er hat diese später (angeblich nach Schliessung der Poststelle nochmals am 10. Januar 2018 und - identisch - am 13. Januar 2018) ergänzt. Das Kantonsgericht und der Beschwerdegegner haben sich nicht mehr vernehmen lassen.
2.
Gegen den angefochtenen Entscheid vom 9. Oktober 2017 steht die Beschwerde in Zivilsachen zur Verfügung (Art. 72 Abs. 2 lit. a, Art. 74 Abs. 1 lit. b, Art. 75, Art. 76, Art. 90 BGG). Die subsidiäre Verfassungsbeschwerde ist damit unzulässig (Art. 113 BGG).
Der Beschwerdeführer ist der Auffassung, der angefochtene Entscheid sei ihm noch gar nicht ordnungsgemäss zugestellt worden. Beim ersten Zustellversuch sei die Abholfrist über das Wochenende verlängert worden und erst am Montag, 23. Oktober 2017, abgelaufen. Er habe die Sendung an jenem Tag abholen wollen, doch habe die Post sie vorzeitig zurückgeschickt. Diese Auffassung trifft nicht zu: Zunächst musste der Beschwerdeführer mit einer Zustellung im kantonalen Verfahren rechnen, womit für ihn die sogenannte Zustellfiktion gilt, d.h. dass die Zustellung der eingeschriebenen Sendung spätestens als am siebten Tag nach dem ersten erfolglosen Zustellversuch als erfolgt gilt (Art. 44 Abs. 2 BGG; vgl. auch Art. 138 Abs. 3 lit. a ZPO). Das versandte Urteil wurde ihm unbestrittenermassen am Samstag, 14. Oktober 2017, zur Abholung gemeldet. Die siebentägige Abholfrist begann somit am Sonntag, 15. Oktober 2017, zu laufen und endete am Samstag, 21. Oktober 2017 (Urteil 5A_2/2010 vom 17. März 2010 E. 3.1). Die siebentägige Frist gilt strikt, d.h. sie kann insbesondere auch an einem Samstag enden, womit die Rechtsmittelfrist am Sonntag beginnt (<ref-ruling> E. 2b S. 35; Urteil 1C_85/2010 vom 4. Juni 2010 E. 1.4.2). Art. 45 Abs. 1 BGG ist auf die Abholfrist nicht anwendbar. Mit dieser Bestimmung soll einzig verhindert werden, dass die Frist zur Vornahme einer prozessualen Handlung an einem der genannten Tage (Samstag, Sonntag oder vom Bundesrecht oder kantonalen Recht anerkannter Feiertag) abläuft. Abgesehen davon, dass dadurch dem Rechtssuchenden für bestimmte Tage Ruhe gewährt wird, wäre die Vornahme prozessualer Handlungen an diesen Tagen mitunter schwierig oder die Fristwahrung - insbesondere durch Übergabe an die Schweizerische Post - zumindest nicht ohne weiteres beweisbar. Art. 44 Abs. 2 BGG enthält jedoch keine Frist zur Vornahme einer prozessualen Handlung, sondern bestimmt bloss den Beginn einer solchen Frist und dieser Beginn kann ohne weiteres auf einen Sonntag fallen (vgl. Urteil 1C_85/2010 vom 4. Juni 2010 E. 1.4.2 zu Art. 46 Abs. 1 BGG). Entgegen dem, was der Beschwerdeführer vorbringt, besteht auch kein Recht darauf, die Abholfrist bis Mitternacht auszunützen bzw. auf Fristverlängerung, wenn die Poststelle nicht solange geöffnet hat. Das angefochtene Urteil vom 9. Oktober 2017 gilt somit als am Samstag, 21. Oktober 2017, zugestellt. Die Rechtsmittelfrist gegen dieses Urteil begann folglich am Sonntag, 22. Oktober 2017, zu laufen und endete am Montag, 20. November 2017 (Art. 100 Abs. 1 BGG; Urteil 5A_2/2010 vom 17. März 2010 E. 3.3). Die dem ersten gescheiterten Zustellversuch nachfolgenden Zustellversuche durch das Kantonsgericht (zweimal per A-Post und nochmals per Einschreiben) dienten der Information des Beschwerdeführers und änderten am Fristenlauf nichts. Auf seine diesbezüglichen Einwände (Abholungseinladung des zweiten Zustellversuchs nicht erhalten, Unzuverlässigkeiten auf der Post nach dem Wechsel des Poststellenleiters) braucht deshalb nicht eingegangen zu werden. Zu Recht macht er nicht geltend, er habe aufgrund des Verhaltens des Kantonsgerichts darauf vertrauen dürfen, dass die Rechtsmittelfrist noch nicht am 22. Oktober 2017 zu laufen begonnen habe. Dafür böte die in den Akten liegende Korrespondenz (vgl. oben E. 1.1) keine Grundlage.
Mit seiner Eingabe vom 20. November 2017 an das Bundesgericht hat der Beschwerdeführer die Beschwerdefrist zwar gewahrt. Er befasst sich darin jedoch bloss mit den soeben behandelten Zustell- und Fristenfragen. Abgesehen von einigen summarischen Bemerkungen dazu, dass das Betreibungsamt in der Vergangenheit über Jahre hinweg bestätigt habe, dass gegen ihn keine Verlustscheine bestünden, fehlen eine inhaltliche Auseinandersetzung mit dem angefochtenen Urteil und entsprechende Anträge. Die Beschwerde genügt damit den Anforderungen von Art. 42 Abs. 1 und Abs. 2 BGG nicht. Der Beschwerdeführer kann seine Beschwerde - entgegen dem, wovon er auszugehen scheint - auch nicht nach Fristablauf ergänzen, was er bis heute ohnehin nicht getan hat (vgl. Art. 43 BGG).
Auf die Beschwerde kann deshalb nicht eingetreten werden. Das Gesuch um aufschiebende Wirkung wird mit dem Entscheid in der Sache gegenstandslos.
3.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG). Der Beschwerdegegner hat keine ausdrücklichen Anträge in der Sache gestellt. Für seine nunmehr nicht mehr zu behandelnde Stellungnahme zum Gesuch um aufschiebende Wirkung ist er jedoch angemessen zu entschädigen (Art. 68 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um aufschiebende Wirkung wird als gegenstandslos abgeschrieben.
3.
Die Gerichtskosten von Fr. 5'500.-- werden dem Beschwerdeführer auferlegt.
4.
Der Beschwerdeführer hat den Beschwerdegegner mit Fr. 500.-- zu entschädigen.
5.
Dieses Urteil wird den Parteien und dem Kantonsgericht St. Gallen schriftlich mitgeteilt.
Lausanne, 14. Februar 2018
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: von Werdt
Der Gerichtsschreiber: Zingg