Erwägungen:
1.
1.1. Der Beschwerdeführer betrieb B._ aus einem Darlehensvertrag für Fr. 318'500.-- zuzüglich 5 % Zins seit 1. Juni 2009. Nachdem B._ Rechtsvorschlag erhoben hatte, verlangte der Beschwerdeführer am 12. April 2017 (Postaufgabe) Rechtsöffnung. Am 4. Juli 2017 fand eine Verhandlung vor dem Zivilgericht des Kantons Basel-Stadt (unter Zivilgerichtspräsidentin C._) statt. Mit Entscheid vom gleichen Tag wies das Zivilgericht das Rechtsöffnungsgesuch ab. Das Dispositiv dieses Entscheides wurde dem Beschwerdeführer am 8. Juli 2017 ohne schriftliche Begründung zugestellt.
Mit Eingabe vom 12. Juli 2017 (Postaufgabe) an das Zivilgericht verlangte der Beschwerdeführer "die Löschung der stattgefundenen Verhandlung", die Neubeurteilung und die Einleitung eines Disziplinarverfahrens gegen die Zivilgerichtspräsidentin. Mit Verfügung vom 18. Juli 2017 wurde dem Beschwerdeführer Frist zur Mitteilung gesetzt, ob er seine Eingabe als Antrag auf schriftliche Begründung oder als Aufsichtsbeschwerde verstanden haben wolle. Er wurde darauf hingewiesen, dass eine schriftliche Begründung für einen Weiterzug des Entscheids nötig sei.
Mit als "Berufung/Einrede/Aufsichtsbeschwerde" bezeichneter Eingabe vom 24. Juli 2017 (Postaufgabe) an die "Justizleitung" des Zivilgerichts und an das Appellationsgericht des Kantons Basel-Stadt beantragte der Beschwerdeführer die Aufhebung des Entscheids vom 4. Juli 2017, die Löschung der Verhandlung und die Rückweisung zur Neubeurteilung. Auf die "Aufsichtsbeschwerde/Berufung/Einrede" sei einzutreten und das Rechtsmittel gutzuheissen. Mit Verfügung vom 1. August 2017 überwies das Appellationsgericht die Eingabe dem Zivilgericht mit der Bitte um Prüfung, ob sie als Gesuch um schriftliche Entscheidbegründung entgegenzunehmen sei. Die Zivilgerichtspräsidentin verneinte dies. Mit Verfügung vom 7. August 2017 stellte sie fest, dass innert Frist keine schriftliche Begründung des Entscheids vom 4. Juli 2017 beantragt worden sei. Sie leitete die Eingabe vom 24. Juli 2017 betreffend Aufsichtsbeschwerde an das Appellationsgericht weiter.
Am 10. August 2017 reichte der Beschwerdeführer beim Appellationsgericht eine weitere Eingabe ein. Er beantragte die Wiederherstellung des rechtmässigen Zustands, eine ausserordentliche Untersuchung (Dokument Schuldanerkennung/Darlehensvertrag B._) und eine angemessene Wiedergutmachung und Genugtuung von mindestens Fr. 5'000.-- aus Staatshaftung des Kantons Basel-Stadt.
Das Appellationsgericht nahm die Berufung gegen den Entscheid des Zivilgerichts vom 4. Juli 2017 als Beschwerde entgegen und trat darauf mit Entscheid vom 30. August 2017 nicht ein (Verfahren BEZ.2017.31). Ebenfalls mit Entscheid vom 30. August 2017 wies es die aufsichtsrechtliche Anzeige ab, soweit darauf einzutreten war. Auf die Anträge auf Wiedergutmachung und Genugtuung trat es nicht ein (Verfahren DG.2017.27).
1.2. Mit separaten Beschwerden vom 16. Oktober 2017 (Postaufgabe) hat der Beschwerdeführer "aufsichtsrechtliche und subsidiäre Verfassungsbeschwerde" gegen die beiden genannten Entscheide des Appellationsgerichts erhoben. Er verlangt die Wiederherstellung des rechtmässigen Zustands und eine ausserordentliche Untersuchung (Dokument Schuldanerkennung/Darlehensvertrag). Er verlangt Wiedergutmachung und Genugtuung von mindestens Fr. 10'000.-- aus Staatshaftung des Kantons Basel-Stadt und er beantragt, B._ zu verpflichten, die Schuld von Fr. 318'500.-- zu bezahlen.
Das Bundesgericht hat die Akten beigezogen, aber keine Vernehmlassungen eingeholt.
2.
Die beiden Beschwerden sind weitgehend deckungsgleich. Die beiden angefochtenen Entscheide hängen eng zusammen. Beide Eingaben sind demnach als Beschwerden in Zivilsachen (<ref-law>) zu behandeln und die beiden Verfahren sind zu vereinigen (<ref-law> i.V.m. <ref-law> [SR 273] e contrario).
Gemäss <ref-law> hat die Beschwerde Anträge zu enthalten und nach <ref-law> ist in der Beschwerdebegründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Die Begründung muss sachbezogen sein und sich auf den Streitgegenstand beziehen und beschränken; die beschwerdeführende Partei hat in gezielter Auseinandersetzung mit den für das Ergebnis des angefochtenen Entscheides massgeblichen Erwägungen plausibel aufzuzeigen, welche Rechte bzw. Rechtsnormen die Vorinstanz verletzt haben soll (<ref-ruling> E. 2 S. 88 f.; <ref-ruling> E. 2 S. 116).
3.
Das Appellationsgericht ist auf die Beschwerde gegen den Rechtsöffnungsentscheid vom 4. Juli 2017 nicht eingetreten, weil dieser Entscheid ohne schriftliche Begründung eröffnet worden ist, der Beschwerdeführer keinen Antrag auf Begründung gestellt habe und ein Entscheid ohne schriftliche Begründung nicht mit Beschwerde angefochten werden könne.
Hinsichtlich der Aufsichtsanzeige hat das Appellationsgericht erwogen, die Zivilgerichtspräsidentin habe keinen Anlass gehabt, Äusserungen des Vertreters von B._ anlässlich der Rechtsöffnungsverhandlung zu unterbinden. Der Rechtsvertreter hatte die Echtheit des Darlehensvertrags bestritten mit Hinweis auf ein noch nicht rechtskräftiges Urteil des Strafgerichts des Kantons Basel-Stadt, das den Beschwerdeführer wegen mehrfachen versuchten Betrugs zum Nachteil des Schuldners, der mehrfachen Urkundenfälschung, des mehrfachen Fälschens von Ausweisen und der Verleumdung schuldig erklärt und festgestellt hatte, dass auch bezüglich des Darlehensvertrags erhebliche Zweifel an der Echtheit bestünden. Es liege sodann kein pflichtwidriges Verhalten der Zivilgerichtspräsidentin darin, dass die Verhandlung rund 35 Minuten zu spät begonnen habe. Sie habe sich dafür nicht entschuldigen und die Verspätung nicht erklären müssen. Zudem mangle es dem Vorwurf am nötigen Gewicht für ein Einschreiten der Aufsichtsbehörde. Ein Tatverdacht auf Prozessbetrug durch den Schuldner und seinen Vertreter fehle und insoweit wäre die Zivilgerichtspräsidentin Getäuschte und nicht Täterin. Die geltend gemachte Staatshaftung sei nicht Gegenstand eines Aufsichtsverfahrens.
4.
Die Beschwerden an das Bundesgericht genügen den Begründungsanforderungen offensichtlich nicht. Sie sind teilweise unverständlich und eine Auseinandersetzung mit den soeben wiedergegebenen Erwägungen fehlt. Stattdessen verunglimpft der Beschwerdeführer den Beschwerdegegner, seinen Rechtsvertreter und die Zivilgerichtspräsidentin mit einer Flut von Vorwürfen. Auf die diversen Sachverhaltsbehauptungen des Beschwerdeführers (z.B. fehlende Vollmacht des Vertreters des Beschwerdegegners) ist nicht einzugehen (Art. 105 Abs. 1, Art. 97 Abs. 1 und Art. 99 Abs. 1 BGG). Nicht ersichtlich ist, weshalb der Beschwerdeführer dadurch beschwert sein soll, dass die Basler Gerichte in ihren Entscheiden die vom Beschwerdeführer gewählte Berufs- bzw. Geschäftsbezeichnung nicht verwenden, sondern bloss den Namen. Die Gründe hiefür wurden vom Appellationsgericht dargelegt.
Die Beschwerden enthalten somit offensichtlich keine hinreichende Begründung. Zudem sind sie rechtsmissbräuchlich und querulatorisch. Auf sie ist im vereinfachten Verfahren gemäss Art. 108 Abs. 1 lit. b und c BGG durch den Abteilungspräsidenten nicht einzutreten.
5.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (<ref-law>). Diese werden festgesetzt auf je Fr. 500.-- pro Verfahren, d.h. auf Fr. 1'000.-- insgesamt.

Demnach erkennt der Präsident:
1.
Die Verfahren 5A_816/2017 und 5A_821/2017 werden vereinigt.
2.
Auf die Beschwerden wird nicht eingetreten.
3.
Die Gerichtskosten von insgesamt Fr. 1'000.-- (Fr. 500.-- pro Verfahren) werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt, Dreiergericht, schriftlich mitgeteilt.
Lausanne, 1. November 2017
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: von Werdt
Der Gerichtsschreiber: Zingg