Sachverhalt:
A.
A._ (Beschwerdeführer) stand in einem Agenturverhältnis zur B._ AG (Beschwerdegegnerin) und verkaufte für sie Häuser an Dritte. Er war aber auch Kunde der B._ AG, da er bei ihr auch Häuser bestellte. In der Folge kam es zu Streit zwischen den Parteien. Der Agenturvertrag wurde aufgelöst, und die Parteien stellten gegeneinander Forderungen.
A._ leitete gegen die B._ AG zwei Betreibungen ein. Die B._ AG erhob jeweils innert Frist Rechtsvorschlag.
B.
Mit Eingabe vom 25. Oktober 2016 klagte die B._ AG vor dem Handelsgericht des Kantons St. Gallen gegen A._. Sie verlangte, es sei festzustellen, dass sie nicht Schuldnerin der von A._ beim Betreibungsamt St. Gallen in Betreibung gesetzten Forderung in der Höhe von Fr. 1'100'000.-- zuzüglich Zins (Betreibung Nr. xxx) sei. Die Betreibung sei in ungerechtfertigter Weise eingeleitet worden und aus dem Betreibungsregister zu löschen. Damit verband sie ein Rechtsbegehren auf Bezahlung von Fr. 10'000.--. Nachdem die B._ AG einen Gerichtskostenvorschuss von Fr. 15'000.-- geleistet hatte, wurde die Klage A._ zugestellt mit der Aufforderung zur Einreichung einer Klageantwort.
Mit Eingabe vom 22. Dezember 2016 machte die B._ AG beim Handelsgericht des Kantons St. Gallen eine zweite Klage anhängig mit dem Rechtsbegehren, es sei festzustellen, dass sie nicht Schuldnerin der von A._ beim Betreibungsamt St. Gallen in Betreibung gesetzten Forderung in der Höhe von Fr. 113'000.-- zuzüglich Zins (Betreibung Nr. yyy) sei. Die Betreibung sei in ungerechtfertigter Weise eingeleitet worden und aus dem Betreibungsregister zu löschen. Die B._ AG leistete den Gerichtskostenvorschuss von Fr. 15'000.--.
Zur Begründung der beiden Feststellungsklagen brachte die B._ AG zusammengefasst was folgt vor: Der Rechtsvertreter von A._ habe mit Schreiben vom 19. August 2016 wegen Kündigung des Agenturvertrages eine Zahlung von Fr. 1'100'000.-- gefordert. Warum die Summe geschuldet sei und wie sie sich zusammensetze, sei nicht begründet worden. Nachdem sie (die B._ AG) in der Folge von A._ grundlos betrieben worden sei, wolle sie mit ihrer Klage feststellen lassen, dass die in Betreibung gesetzte Forderung nicht bestehe. A._ habe sie sodann zu Unrecht auf Bezahlung von weiteren Fr. 113'000.-- betrieben. Er mache gemäss Schreiben vom 7. November 2016 aus den angeblich von ihr gekündigten Bauverträgen im Zusammenhang mit dem Projekt X._ einen Schaden von Fr. 60'000.-- (Architektur Honorar für ein neues Fünf-Familienhaus-Projekt) geltend, aus dem Projekt Y._ einen solchen von Fr. 36'000.-- (je Fr. 12'000.-- pro Haus für nicht durchgeführte KAG und Ausführungsplanung). Diese Verträge seien jedoch nicht durch sie (die B._ AG) gekündigt worden. Vielmehr sei sie aufgrund des Zahlungsverzugs von A._ von den Verträgen unter Verzicht auf eine nachträgliche Leistung zurückgetreten und habe Schadenersatz wegen Nichterfüllung (positives Vertragsinteresse) geltend gemacht. Zudem behaupte er, sie schulde ihm gemäss Vereinbarung noch Fr. 17'000.-- für in seinen Häusern durchgeführte Hausbesichtigungen. Da die für die Besichtigungen zur Verfügung gestellten Häuser A._ selber gehörten, seien keine Entschädigungen geschuldet. Solche Entschädigungen würden nur an frühere Kunden (Hausbesitzer) ausgerichtet, die nicht selber Agenten oder Kundenberater von ihr seien. Auch diese in Betreibung gesetzten Forderungen bestünden somit nicht.
Mit Verfügung vom 9. Januar 2017 wurden die beiden Verfahren vereinigt. A._ wurde eine neue Frist bis zum 28. Februar 2017 angesetzt, um eine einheitliche Klageantwort über das ganze Verfahren einzureichen.
Am 6. Februar 2017 reichte A._ ein Gesuch um Leistung einer Parteikostensicherheit von Fr. 70'000.-- ein und beantragte die Erhöhung des Gerichtskostenvorschusses auf mindestens Fr. 62'000.--. Mit Verfügung vom 16. Februar 2017 wurde A._ die Frist zur Einreichung der Klageantwort abgenommen und die B._ AG aufgefordert, sich zum Gesuch um Leistung einer Parteikostenkaution zu äussern.
Mit Schreiben vom 13. März 2017 zog die B._ AG die Klagen zurück, beantragte die Feststellung der Gegenstandslosigkeit des Gesuchs von A._ betreffend Sicherheitsleistung und ersuchte um Abschreibung der Verfahren. A._ warf der B._ AG sodann in einer Eingabe vom 22. März 2017 vor, die Verfahren ohne Not eingeleitet zu haben, und führte aus, mit dem Rückzug sei sein Anspruch anerkannt. Die B._ AG bestritt, die Forderungen anerkannt zu haben. Mit Verfügung vom 31. Mai 2017 schrieb der Handelsgerichtspräsident die Verfahren unter Kostenfolge zu Lasten der B._ AG ab.
C.
Am 21. Juli 2017 stellte A._ beim Handelsgericht des Kantons St. Gallen ein Gesuch um Rechtsschutz in klaren Fällen mit dem Antrag, die B._ AG sei zu verurteilen, ihm Fr. 1'100'000.-- sowie Fr. 113'000.-- zu bezahlen, jeweils zuzüglich Zins. Ferner verlangte er, in den zwei von ihm eingeleiteten Betreibungen sei jeweils der Rechtsvorschlag zu beseitigen "sowie [...] die definitive Rechtsöffnung zu erteilen". Er machte geltend, nach dem Rückzug der negativen Feststellungsklagen habe zwischen den Parteien als rechtskräftig entschieden zu gelten, dass die von der B._ AG bestrittene Forderung bestehe. Dementsprechend seien die Rechtslage und der Sachverhalt klar. Die B._ AG beantragte, auf das Gesuch nicht einzutreten, eventualiter es abzuweisen, da der Rückzug einer negativen Feststellungsklage nicht dazu führe, dass der Bestand der Forderung als bewiesen zu gelten habe.
Mit Entscheid vom 1. Dezember 2017 trat der Handelsgerichtspräsident auf das Gesuch um Rechtsschutz in klaren Fällen nicht ein.
D.
A._ verlangt mit Beschwerde in Zivilsachen, der Entscheid des Handelsgerichtspräsidenten vom 1. Dezember 2017 sei aufzuheben, und seine erstinstanzlich gestellten Anträge seien gutzuheissen. Eventualiter sei die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen. Mit Eingabe vom 11. Januar 2018 ergänzte er die Beschwerde.
Es wurden keine Vernehmlassungen eingeholt.
Erwägungen:
1.
Der angefochtene Entscheid des Handelsgerichts ist ein Endentscheid (Art. 90 BGG) einer einzigen kantonalen Instanz im Sinne von Art. 75 Abs. 2 lit. b BGG. Dagegen steht die Beschwerde in Zivilsachen offen, gemäss Art. 74 Abs. 2 lit. b BGG unabhängig vom Streitwert (siehe BGE 139 III 67 E. 1.2; 138 III 799 E. 1.1, 2 E. 1.2.2).
2.
2.1. Mit Beschwerde in Zivilsachen können Rechtsverletzungen nach Art. 95 und 96 BGG gerügt werden.
Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist somit weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden. Es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen oder mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (BGE 141 III 426 E. 2.4; 134 III 102 E. 1.1 S. 104; je mit Hinweisen).
2.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Dazu gehören sowohl die Feststellungen über den streitgegenständlichen Lebenssachverhalt als auch jene über den Ablauf des vor- und erstinstanzlichen Verfahrens, also die Feststellungen über den Prozesssachverhalt (BGE 140 III 16 E. 1.3.1 mit Hinweisen). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 140 III 115 E. 2 S. 117; 135 III 397 E. 1.5). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein können (Art. 97 Abs. 1 BGG).
Die Partei, welche die Sachverhaltsfeststellung der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern diese Voraussetzungen erfüllt sein sollen (BGE 140 III 16 E. 1.3.1 S. 18 mit Hinweisen). Wenn sie den Sachverhalt ergänzen will, hat sie zudem mit präzisen Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (BGE 140 III 86 E. 2 S. 90). Genügt die Kritik diesen Anforderungen nicht, können Vorbringen mit Bezug auf einen Sachverhalt, der vom angefochtenen Entscheid abweicht, nicht berücksichtigt werden (BGE 140 III 16 E. 1.3.1 S. 18).
Demnach kann der Beschwerdeführer nicht gehört werden, soweit er in seiner Beschwerde von den Sachverhaltsfeststellungen des Handelsgerichts abweicht, ohne im Einzelnen hinreichend begründete Sachverhaltsrügen gemäss den eben dargelegten Grundsätzen zu formulieren. Das gilt namentlich, wenn er in Randziffer 16 der Beschwerde ausführt, die Beschwerdegegnerin habe ihre Klagen "im Bewusstsein" zurückgezogen, "dass sie vollumfänglich unterliegen würde".
3.
3.1. Der Beschwerdeführer macht geltend, die Vorinstanz hätte sein Gesuch um Rechtsschutz in klaren Fällen gemäss Art. 257 ZPO gutheissen müssen. Er rügt einerseits, durch den Nichteintretensentscheid habe die Vorinstanz gegen "den Grundsatz der res iudicata (Art. 65, 64 ZPO) " und die Vorschriften zur Feststellungsklage (Art. 88 ZPO) verstossen sowie die Folgen des Klagerückzugs gemäss Art. 241 Abs. 2 ZPO verkannt. Andererseits beanstandet er eine Verletzung von Art. 257 ZPO. Ferner macht er Willkür im Sinne von Art. 9 BV "bei der Sachverhaltsdarstellung" und in der Rechtsanwendung geltend.
3.2. Laut Art. 257 Abs. 1 ZPO gewährt das Gericht Rechtsschutz im summarischen Verfahren, wenn a. der Sachverhalt unbestritten oder sofort beweisbar ist; und b. die Rechtslage klar ist. Kann dieser Rechtsschutz nicht gewährt werden, tritt das Gericht nach Abs. 3 der Bestimmung auf das Gesuch nicht ein.
Ein Sachverhalt ist dann sofort beweisbar, wenn er ohne zeitliche Verzögerung und ohne besonderen Aufwand nachgewiesen werden kann. Der Beweis ist - entsprechend Art. 254 Abs. 1 ZPO - in der Regel durch Urkunden zu erbringen. Eine klare Rechtslage im Sinne von lit. b der Vorschrift liegt vor, wenn sich die Rechtsfolge bei der Anwendung des Gesetzes unter Berücksichtigung der Lehre und Rechtsprechung ohne Weiteres ergibt und damit die Rechtsanwendung zu einem eindeutigen Ergebnis führt (BGE 141 III 23 E. 3.2 S. 26 mit weiteren Hinweisen).
3.3. Das Handelsgericht erwog, mit Bezug auf die negative Feststellungsklage vom 25. Oktober 2016 sei zum einen fraglich, ob die Forderung genügend konkretisiert sei, um davon ausgehen zu können, es habe "in Bezug auf die positive Umschreibung der Forderung materielle Rechtskraft eintreten können." Letztlich bleibe "doch unklar, welche Forderung oder gar welche Forderungen Gegenstand jenes Verfahrens" gewesen seien. Zum anderen sei durchaus umstritten, ob und unter welchen Voraussetzungen aus der Abweisung oder gar dem Rückzug einer negativen Feststellungsklage darauf geschlossen werden dürfe, dass die Forderung auch tatsächlich bestehe. Es folgerte, die Rechts- und die Sachverhaltslage seien zu wenig klar, um im Verfahren des Rechtsschutzes in klaren Fällen entschieden werden zu können. Mit Bezug auf die negative Feststellungsklage vom 22. Dezember 2016 nahm das Handelsgericht an, die Forderungen seien zwar sehr genau umschrieben worden. Dies ändere aber nichts daran, dass der Erstprozess beendet gewesen sei, bevor der Beschwerdeführer eine Klageantwort habe einreichen können. Das Bestehen der Forderungen habe damit im Erstprozess "noch gar nicht positiv behauptet werden" können. Es erscheine "zumindest fraglich, ob eine Forderung, deren Bestand im Zivilprozess gar nie behauptet wurde, allein aufgrund einer zurückgezogenen negativen Feststellungsklage und eines e contrario Schlusses als bestehend beurteilt werden kann". Es bedürfe der genaueren Abklärung, ob es der Beschwerdegegnerin tatsächlich schade, dass sie die vom Beschwerdeführer vorprozessual behauptete Forderung von Fr. 113'000.-- in ihrer zurückgezogenen negativen Feststellungsklage recht genau geschildert habe. Auch in Bezug auf diese Forderung sei somit die Rechtslage zu wenig klar, um im Summarverfahren des Rechtsschutzes in klaren Fällen entschieden werden zu können.
3.4. Gemäss Art. 65 ZPO kann, wer eine Klage beim zum Entscheid zuständigen Gericht zurückzieht, "gegen die gleiche Partei über den gleichen Streitgegenstand keinen zweiten Prozess mehr führen, sofern das Gericht die Klage der beklagten Partei bereits zugestellt hat und diese dem Rückzug nicht zustimmt." Art. 241 Abs. 2 ZPO statuiert, dass ein Vergleich, eine Klageanerkennung oder ein Klagerückzug "die Wirkung eines rechtskräftigen Entscheides" hat. Entgegen dem Beschwerdeführer folgt aus dem Wortlaut dieser beiden Bestimmungen nicht ohne Weiteres, welche Rechtsfolge der Rückzug einer negativen Feststellungsklage im Sinne von Art. 88 ZPO hinsichtlich einer später erhobenen Leistungsklage hat.
3.5. Auch unter Berücksichtigung von Rechtsprechung und Lehre ergibt sich kein eindeutiges Ergebnis, betreffen die angeführten Präjudizien doch nicht den vorliegenden Fall des Rückzugs einer negativen Feststellungsklage:
3.5.1. Der Beschwerdeführer beruft sich auf BGE 142 III 210. In diesem Entscheid ging das Bundesgericht im Grundsatz davon aus, dass die Gutheissung einer negativen Feststellungsklage einer späteren Leistungsklage (des Feststellungsbeklagten) über dieselbe Forderung entgegensteht. Der Entscheid befasst sich also mit der Situation, dass das erste Gericht die negative Feststellungsklage gutgeheissen hat.
Weiter verweist der Beschwerdeführer wie bereits die Vorinstanz auf die bundesgerichtliche Rechtsprechung, welche die betreibungsrechtliche Klagen gemäss Art. 83 Abs. 2 und Art. 85a SchKG zum Gegenstand hat. Bei der Aberkennungsklage gemäss Art. 83 Abs. 2 SchKG handelt es sich um eine negative Feststellungsklage, mit der die Feststellung des Nichtbestehens der in Betreibung gesetzten Forderung verlangt werden kann (BGE 131 III 268 E. 3.1; 130 III 285 E. 5.3.1 mit weiteren Hinweisen). In der Tat hat das Bundesgericht in einem publizierten Urteil entschieden, dass definitive Rechtsöffnung aufgrund eines Urteils gewährt werden kann, in dem die Aberkennungsklage abgewiesen wurde, die der Betriebene im Zuge einer früheren und nunmehr verwirkten Betreibung bezüglich derselben Forderung angehoben hatte (BGE 134 III 656 E. 5 mit Hinweisen). Wie die Aberkennungsklage bezweckt auch die Klage nach Art. 85a SchKG einerseits als materiellrechtliche Klage die Feststellung der Nichtschuld bzw. der Stundung; anderseits hat sie aber auch betreibungsrechtliche Wirkung, indem der Richter mit ihrer Gutheissung die Betreibung aufhebt oder einstellt (BGE 132 III 89 E. 1.1 S. 93; 125 III 149 E. 2c S. 151 mit Hinweisen). Das Bundesgericht hat wiederholt ausgeführt, dass, wenn das Gericht nach Art. 85a SchKG "den Bestand oder Nichtbestand der Schuld festgestellt" hat, diese Feststellung "materielle Wirkung [auch] auf zukünftige Betreibungen" hat und "in volle Rechtskraft" tritt (Urteile 4A_106/2008 vom 15. Mai 2008 E. 3.2; 5P.337/2006 vom 27. November 2006 E. 4).
Aus dieser Rechtsprechung zu Art. 83 Abs. 2 und Art. 85a SchKG folgt jedoch zumindest nicht ohne Weiteres, dass von der Abweisung einer negativen Feststellungsklage in jedem Fall auf das Bestehen der umstrittenen Forderung geschlossen werden kann. Vielmehr wird diese Frage im Schrifttum differenziert beantwortet, wobei insbesondere unterschiedlich beurteilt wird, ob und inwieweit die Gründe zu berücksichtigen sind, aus denen das Gericht die negative Feststellungsklage abgewiesen hat (siehe dazu etwa bereits GERHARD WALTER, Zur Abweisung einer negativen Feststellungsklage, ZBJV 1987 S. 558-565 und neuerdings LORENZ DROESE, Res iudicata ius facit, 2015, S. 361-370; NICOLAS GUT, Die prozessrechtlichen Wirkungen des eine negative Feststellungsklage abweisenden Urteils, in: Das Zivilrecht und seine Durchsetzung, 2016, S. 165-166; MARC WEBER, in: Basler Kommentar, Schweizerische Zivilprozessordnung, 3. Aufl. 2017, N. 27 f. zu Art. 88 ZPO).
3.5.2. Jedenfalls hat die zitierte Rechtsprechung aber den Fall zum Gegenstand, dass die negative Feststellungsklage vom Gericht beurteilt wurde. Demgegenüber hat sich das Bundesgericht darin nicht mit der vorliegenden Situation auseinandergesetzt, dass der Kläger die negative Feststellungsklage zurückzieht, und der Beschwerdeführer nennt auch keine Literatur, die sich dazu in seinem Sinne äussert. Im Gegenteil misst der von ihm erwähnte DROESE dem Rückzug einer Feststellungsklage im Sinne von Art. 65 ZPO lediglich die Wirkung zu, dass eine identische Klage künftig ausgeschlossen sei (a.a.O., S. 321 f.). Die Autoren, die er in Fussnote 1577 zitiert, sprechen sich allgemein dafür aus, dass der Klagerückzug nur beschränkte Rechtkraftwirkung haben soll (so namentlich LEUMANN LIEBSTER, IN: KOMMENTAR ZUR SCHWEIZERISCHEN ZIVILPROZESSORDNUNG [ZPO], SUTTER-SOMM/HASENBÖHLER/LEUENBERGER [HRSG.], 3. AUFL. 2016, N. 18 ZU ART. 241 ZPO; OBERHAMMER, IN: BASLER KOMMENTAR, SCHWEIZERISCHE ZIVILPROZESSORDNUNG, 2010, N. 29 F ZU ART. 241 ZPO). In dem bereits angeführten neueren Beitrag von GUT findet sich zwar die Aussage, mit dem Klagerückzug sei "der Bestand des Anspruchs", dessen Nichtbestand die klagende Partei geltend gemacht habe, "rechtskräftig festgestellt", allerdings ohne nähere Auseinandersetzung mit der Frage (a.a.O., S. 166 f.).
3.6. Unter diesen Umständen liegt kein klares Recht vor und ist es im Ergebnis nicht bundesrechtswidrig geschweige denn willkürlich, wenn die Vorinstanz befand, der Rechtsschutz könne nicht im summarischen Verfahren gemäss Art. 257 ZPO gewährt werden. Die Kritik des Beschwerdeführers erweist sich als unbegründet. Demnach ist nicht entscheidend, ob unklar geblieben ist, welche Forderung oder gar welche Forderungen Gegenstand der negativen Feststellungsklage vom 25. Oktober 2016 war, wie die Vorinstanz annahm, der Beschwerdeführer dagegen für willkürlich hält. Die dahingehende Sachverhaltsrüge geht ins Leere. Ebenso wenig muss beurteilt werden, ob es mit Bezug auf die negative Feststellungsklage vom 22. Dezember 2016 einen Unterschied macht, dass der Beschwerdeführer beim Rückzug der Klage noch keine Klageantwort eingereicht und die Forderung nicht positiv behauptet hat.
4.
Die Beschwerde ist abzuweisen. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten gemäss Art. 66 Abs. 1 BGG dem Beschwerdeführer aufzuerlegen. Der Beschwerdegegnerin ist kein Aufwandentstanden, für den sie nach Art. 68 Abs. 2 BGG zu entschädigen wäre.
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 15'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Handelsgerichtspräsidenten des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 15. Juni 2018
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Der Gerichtsschreiber: Kölz