Sachverhalt:
A.
A.a. PolyReg Allg. Selbstregulierungs-Verein ist eine Selbstregulierungsorganisation im Sinn von Art. 24 des Bundesgesetzes vom 10. Oktober 1997 zur Bekämpfung der Geldwäscherei und der Terrorismusfinanzierung (Geldwäschereigesetz, GwG; SR 955.0). A._ trat diesem Verein am 18. Juni 2001 als Mitglied bei.
A.b. Im Rahmen einer für den 24. August 2017 angesetzten ordentlichen GwG-Prüfung mit "besonderem Prüffokus" kam es zu Differenzen zwischen A._ und der Geschäftsstelle des Vereins, welche die Vorgaben für die Prüfung formuliert hatte. Am 20. Juli 2017 beschloss der Vorstandsausschuss, am Prüftermin vom 24. August 2017 und am "besonderen Prüffokus" festzuhalten. A._ verzichtete darauf, gegen diesen Entscheid an das statutarische Schiedsgericht zu gelangen.
A.c. Weil die Prüfung vom 24. August 2017 nicht ordnungsgemäss durchgeführt werden konnte, eröffnete der Verein am 23. Oktober 2017 das in den Statuten vorgesehene Sanktionsverfahren. Dieses mündete am 8. Februar 2018 in einen Sanktionsentscheid, mit welchem A._ eine Konventionalstrafe von Fr. 10'000.-- auferlegt wurde. Erneut verzichtete A._ darauf, dagegen beschwerdeweise das statutarische Schiedsgericht anzurufen.
A.d. Zwischenzeitlich, nämlich mit Schreiben vom 1. September 2017, hatte A._ seinen Austritt aus dem Verein erklärt. Dies wurde ihm am 5. September 2017 seitens des Vereins unter Vorbehalt bestätigt.
B.
Nachdem A._ die Konventionalstrafe nicht bezahlt, auf zwei Mahnungen nicht reagiert und gegen einen Zahlungsbefehl Rechtsvorschlag erhoben hatte, wandte sich der Verein am 6. September 2018 an das statutarische Schiedsgericht mit dem Begehren, A._ sei zu verpflichten, dem Verein Fr. 10'000.-- nebst Zins zu 5 % seit dem 3. April 2018 zu bezahlen, alles unter Kosten- und Entschädigungsfolgen. Mit Entscheid vom 13. November 2018 gab der Einzelschiedsrichter des PolyReg-Schiedsgerichts diesen Begehren vollumfänglich statt.
C.
Mit Beschwerde in Zivilsachen vom 16. Dezember 2018 gelangt A._ (Beschwerdeführer) an das Bundesgericht, dem er beantragt, der Entscheid des PolyReg-Schiedsgerichts vom 13. November 2018 sei kostenfällig aufzuheben.

Erwägungen:
1.
Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (<ref-law>; <ref-ruling> E. 1; <ref-ruling> E. 1; <ref-ruling> E. 2.1; je mit Hinweisen).
1.1. Angefochten ist ein Schiedsspruch über eine Streitigkeit zwischen Parteien, die im Zeitpunkt des Abschlusses der Schiedsvereinbarung ihren Sitz bzw. Wohnsitz in der Schweiz hatten. Weder in der Schiedsvereinbarung noch später haben die Parteien vereinbart, dass die Bestimmungen über die internationale Schiedsgerichtsbarkeit (Art. 176 ff. des Bundesgesetzes über das internationale Privatrecht [IPRG; SR 291]) Anwendung finden sollen (vgl. <ref-law>). Es gelten somit die Regeln über die interne Schiedsgerichtsbarkeit gemäss dem 3. Teil der Schweizerischen Zivilprozessordnung (<ref-law>). Die Parteien haben von der ihnen durch <ref-law> eingeräumten Möglichkeit, als Rechtsmittelinstanz ein kantonales Gericht zu bezeichnen, nicht Gebrauch gemacht. Der ergangene Endschiedsspruch unterliegt somit der Beschwerde an das Bundesgericht (Art. 389 Abs. 1 und Art. 391 Bst. a ZPO sowie Art. 77 Abs. 1 Bst. b BGG).
1.2. Die Beschwerdegründe gegen einen Schiedsspruch sind beschränkter als gegen ein staatliches Urteil; sie sind im Gesetz abschliessend aufgezählt (<ref-law>). Das Bundesgericht prüft zudem nur die Beschwerdegründe, die in der Beschwerde vorgebracht und begründet werden (<ref-law>). Diese Anforderung entspricht der nach <ref-law> für die Verletzung von Grundrechten vorgesehenen Rügepflicht (<ref-ruling> E. 5). Die beschwerdeführende Partei muss die einzelnen Beschwerdegründe, die nach ihrem Dafürhalten erfüllt sind, benennen; es ist nicht Aufgabe des Bundesgerichts, danach zu forschen, welcher Beschwerdegrund nach <ref-law> mit den einzelnen erhobenen Rügen geltend gemacht werden soll, wenn dies von der beschwerdeführenden Partei im Zusammenhang mit diesen nicht präzisiert wird. Sodann hat die beschwerdeführende Partei im Detail aufzuzeigen, warum die angerufenen Beschwerdegründe erfüllt sind, wobei sie mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen des Schiedsgerichts anzusetzen hat (Urteile 4A_338/2018 vom 28. November 2018 E. 1.2; 4A_356/2017 vom 3. Januar 2018 E. 1.2 mit Hinweisen).
Nicht speziell zielführend ist dabei, in süffisanter Art die Angelegenheit als solche, die Gegenpartei oder Dritte mit Äusserungen wie " abgekartetes Spiel ", " die noblen Herren der [Gegenpartei] ", " schikanöses Vorgehen ", " Vendetta der verantwortlichen Personen ", " Unverfrorenheit ", " inszeniertes Affentheater ", " hinterhältige Art " zu verunglimpfen.
2.
Der Beschwerdeführer macht geltend, der Schiedsrichter habe sich zu Unrecht für zuständig erklärt (Art. 393 Bst. b ZPO), weil von vornherein keine gültige Schiedsvereinbarung zustande gekommen sei.
2.1. Die für die interne Schiedsgerichtsbarkeit in Art. 393 Bst. b ZPO vorgesehene Zuständigkeitsrüge prüft das Bundesgericht in rechtlicher Hinsicht frei, einschliesslich materieller Vorfragen, von deren Beantwortung die Zuständigkeit abhängt. Demgegenüber überprüft es tatsächliche Feststellungen des angefochtenen Schiedsentscheids auch im Rahmen der Zuständigkeitsrüge nicht, da es an den vom Schiedsgericht festgestellten Sachverhalt gebunden ist und diesen weder ergänzen noch berichtigen kann. Nur wenn gegenüber den Sachverhaltsfeststellungen zulässige Rügen im Sinn von <ref-law> vorgebracht oder ausnahmsweise Noven berücksichtigt werden (<ref-law>), kann das Bundesgericht die tatsächlichen Feststellungen des angefochtenen Schiedsentscheids überprüfen (vgl. zum Ganzen: <ref-ruling> E. 4.1 mit Hinweisen).
2.2. Der Einzelschiedsrichter stellte vorab fest, der Beschwerdeführer habe die "allgemeine Beitrittserklärung" des Vereins unterzeichnet. Unter anderem heisse es dort: " wir anerkennen namentlich die §§ 35 und folgende sowie § 45 der Statuten, worin ein Schiedsgericht und ein Sanktionensystem vorgesehen werden, und unterziehen uns dem Schiedsgericht und dem Sanktionensystem ". Die §§ 12 Abs. 2 und 37 Abs. 1-3 der Statuten umschrieben die Beschwerdemöglichkeiten eines Vereinsmitglieds gegen Entscheide des Vorstands des Vereins. Sodann heisse es in § 37 Abs. 4 der Statuten wörtlich: " Im übrigen ist das Schiedsgericht zuständig für alle Rechtsstreitigkeiten zwischen dem Verein und den Mitgliedern... ". Mithin könne am Vorliegen einer Schiedsabrede und an der Zuständigkeit des Schiedsgerichts kein Zweifel bestehen. Daran ändere auch der am 1. September 2017 erklärte Austritt nichts, denn gemäss § 9 Abs. 2 der Statuten werde ein Austritt erst nach vollständigem Abschluss einer vorher angeordneten Prüfung und eines allfällig daran anschliessenden Sanktionsverfahrens wirksam, was im Bestätigungsschreiben vom 5. September 2017 ausdrücklich festgehalten worden sei. Dazu gehöre auch das Inkasso einer durch den Beschwerdegegner verhängten Busse.
2.3. Der Beschwerdeführer macht geltend, der Beschwerdegegner sei ein ideeller Verein und es möge sinnvoll sein, vereinsrechtliche Fragen einem Schiedsgericht zu unterwerfen. Hingegen sei der Einschluss zivilrechtlicher Forderungen unter ein Schiedsgericht für einen ideellen Verein zumindest ungewöhnlich. Jedenfalls würde es einen klaren Hinweis in der Beitrittserklärung erforderlich machen, wenn auch zivilrechtliche oder kommerzielle Fragen dem verfassungsmässig vorgesehenen Zivilrichter entzogen werden sollten. Ein solcher Hinweis fehle vollständig. Für einen ideellen Verein sei es klar ungewöhnlich, wenn auch die zivilrechtlichen Beziehungen unter eine Schiedsgerichtsregelung fielen. Da kein entsprechender Hinweis erfolgt sei, habe mit dem Beitritt kein Konsens entstehen können, der es erlauben würde, von der verfassungsmässigen Regelung von <ref-law> abzuweichen. Für einen Verein mit ideellem Zweck sei die entsprechende Hervorhebung einer solchen Regelung schlicht zwingend, weil ungewöhnlich, und könne ohne Hervorhebung oder Hinweis keine Gültigkeit in Anspruch nehmen. § 37 Abs. 4 der Statuten enthalte eine Generalklausel, wonach "[i]m Übrigen das Schiedsgericht für alle Rechtsstreitigkeiten zwischen dem Verein und den Mitgliedern oder zwischen den Mitgliedern unter sich [zuständig ist], soweit der Streit Vereinsangelegenheiten betrifft." Es sei mehr als fraglich, ob eine solche Generalklausel zulässig sei, wenn sie irgendwo in einem von 46 Paragraphen versteckt werde, ohne dass ein besonderer Hinweis gemacht werde, dass damit von der " verfassungsmässigen Ordnung des natürlichen Richters (<ref-law>) " abgewichen werde. Er, der Beschwerdeführer, sei überzeugt, dass dies nicht angehe. Auf jeden Fall sei mit der Beitrittserklärung kein Konsens zu einem derartigen Ausschluss des natürlichen Zivilrichters gegeben.
2.4. Statutarische Schiedsvereinbarungen in Gesellschaftsverhältnissen sind grundsätzlich zulässig. Allerdings müssen sie von den betroffenen Personen zum einen wirksam übernommen worden sein, dem Bestimmtheitserfordernis genügen und die Anforderungen an die Form erfüllen (Daniel Girsberger, in: Basler Kommentar, Schweizerische Zivilprozessordnung, 3. Aufl. 2017, N. 29 zu <ref-law>). Diese Voraussetzungen sind, wie nachfolgend aufgezeigt wird, gegeben:
2.4.1. Nach Lehre und Rechtsprechung gilt bei Personengesellschaften und Vereinen eine statutarische Schiedsvereinbarung als gültig übernommen, wenn entweder ein Globalverweis auf die Statuten besteht und die Statuten der Vertragspartei abgegeben werden, oder die Beitrittserklärung einen spezifischen Verweis auf die Schiedsklausel in den Statuten enthält (Girsberger, a.a.O., N. 30a zu <ref-law>; vgl. dazu auch <ref-ruling> E. 3.4.2 und 3.4.3).
Die Beitrittserklärung, die der Beschwerdeführer unterzeichnet hat, verweist ausdrücklich auf konkrete Bestimmungen der Statuten und erwähnt ausserdem das Schiedsgericht sowie ein Sanktionensystem. Mit seiner Unterschrift hat er ausserdem bekräftigt, sich dem Schiedsgericht und dem Sanktionensystem zu unterziehen. Damit hat der Beschwerdeführer die Schiedsvereinbarung gültig übernommen; eines weitergehenden Hinweises in der Beitrittserklärung bedurfte es nicht.
2.4.2. § 37 Abs. 4 der Statuten, auf welchen sich das Schiedsgericht bezieht, lautet wie folgt: "Im Übrigen ist das Schiedsgericht zuständig für alle Rechtsstreitigkeiten zwischen dem Verein und den Mitgliedern oder zwischen den Mitgliedern unter sich, soweit der Streit Vereinsangelegenheiten betrifft." Zu Recht macht der Beschwerdeführer nicht etwa geltend, diese Formulierung erfülle das Bestimmtheitserfordernis nicht.
2.4.3. Die streitgegenständliche Schiedsklausel datiert aus der Zeit vor Inkrafttreten der ZPO am 1. Januar 2011. Gemäss <ref-law> beurteilt sich im Binnenverhältnis die Gültigkeit von Schiedsvereinbarungen, die vor Inkrafttreten des Gesetzes geschlossen wurden, nach dem für sie günstigeren Recht. Weder der Schiedsrichter noch der Beschwerdeführer äussern sich zu dieser Frage. Während <ref-law> ganz allgemein Schriftlichkeit oder eine andere Form, die den Nachweis durch Text ermöglicht, fordert, verlangte Art. 6 Abs. 2 des Konkordats vom 27. März 1969 über die Schiedsgerichtsbarkeit (KSG) für die Gültigkeit einer statutarischen Schiedsabrede nebst der schriftlichen Beitrittserklärung eine ausdrückliche Bezugnahme auf die Schiedsabrede. Nach ständiger Rechtsprechung gelten die formellen Anforderungen der ZPO an eine Schiedsvereinbarung gegenüber denjenigen des früheren kantonalen Rechts als günstiger (<ref-ruling> E. 3.2; <ref-ruling> E. 2.1).
Während Art. 6 Abs. 1 des Konkordats die einfache Schriftlichkeit forderte, hat die Schiedsvereinbarung nach <ref-law> " schriftlich oder in einer anderen Form zu erfolgen, die den Nachweis durch Text ermöglicht. " Mit der schriftlichen Abfassung der Statuten, welche die Schiedsabrede enthält, sind die Formerfordernisse so oder anders erfüllt.
3.
Ausserdem macht der Beschwerdeführer sinngemäss geltend, die vom Schiedsrichter behandelte Streitsache sei von der Schiedsklausel gar nicht erfasst. So betreffe § 37 Abs. 4 der Statuten nur Vereinsangelegenheiten. Es sei keine Vereinsangelegenheit mehr, wenn die Vereinsleitung nach einer Betreibung einen Vollstreckungstitel erstreiten wolle, um den Rechtsvorschlag zu beseitigen. Die Vereinssanktion werde dann zur normalen Zivilforderung. Wohl könne man in einer ideellen Vereinigung Vereinsangelegenheiten und Streitfragen einem Schiedsgericht unterstellen. Es sei aber unzulässig, ohne speziellen Hinweis sämtliche, auch kommerzielle Interessen einem Schiedsgericht zu unterstellen.
Dieser Einwand ist unbegründet. Gemäss § 37 Abs. 4 der Statuten "ist das Schiedsgericht zuständig für alle Rechtsstreitigkeiten zwischen dem Verein und den Mitgliedern. " Wenn ein Vereinsmitglied einer aus seiner Mitgliedschaft resultierenden Pflicht, wozu die Bezahlung einer ausgesprochenen Vereinssanktion gehört, nicht nachkommt, handelt es sich um eine Rechtsstreitigkeit zwischen dem Verein und seinem Mitglied.
4.
Schliesslich wendet der Beschwerdeführer ein, nach seinem Austritt aus dem Verein sei das statutarische Schiedsgericht nicht mehr zuständig gewesen. Der in § 9 Abs. 2 der Statuten angebrachte Vorbehalt gelte nur bei " Anordnung eines Überprüfungsverfahrens durch den Vorstand". In seinem Fall sei es um einen ordentlichen Prüftermin gegangen. Dieser sei in keiner Weise vom Vorstand angeordnet worden, weshalb jegliche Voraussetzung für ein nachträgliches Sanktionsverfahren gefehlt habe. Er, der Beschwerdeführer, habe deshalb keinerlei Anlass gesehen, "sich an diesem offensichtlich inszenierten Affentheater weiter zu beteiligen."
Diese Argumente zielen in erster Linie auf den Sanktionsentscheid vom 8. Februar 2018, welcher ein Vereinsbeschluss im Sinn von <ref-law> darstellt (vgl. Urteil 4A_600/2016 vom 29. Juni 2017 E. 3.2.1). Diesen hat der Beschwerdeführer nicht angefochten (vgl. zur Verwirkung des Anfechtungsrechts <ref-ruling> E. 3; <ref-ruling> E. 3.2; Urteil 5A_153/2009 vom 29. Mai 2009 E. 2.2.). Mit dem vorliegend angefochtenen Schiedsurteil wird der Beschwerdeführer verpflichtet, die im Sanktionsentscheid vom 8. Februar 2018 ausgesprochene Konventionalstrafe zu bezahlen. Die (Nicht-) Bezahlung einer Konventionalstrafe beschlägt, wie ausgeführt, eine Rechtsstreitigkeit zwischen dem Verein und einem Mitglied (E. 3.). Der fragliche Sanktionsentscheid könnte im hiesigen Verfahren höchstens dann eine Rolle spielen, wenn er nichtig wäre (s. Urteil 5A_205/2013 vom 16. August 2013 E. 4). Solches behauptet der Beschwerdeführer nicht und lässt sich auch nicht aus der Bezeichnung des Verfahrens als "Affentheater " ableiten. Sodann liegt Nichtigkeit nicht geradezu auf der Hand, denn die ausgesprochene Sanktion beruht auf Vorgängen, die sich während der Mitgliedschaft des Beschwerdeführers beim Beschwerdegegner zugetragen haben.
5.
Nach dem Ausgeführten erweist sich die Beschwerde als unbegründet; sie ist abzuweisen, soweit darauf einzutreten ist. Bei diesem Verfahrensausgang wird der Beschwerdeführer kostenpflichtig (<ref-law>). Dem Beschwerdegegner ist kein entschädigungspflichtiger Aufwand entstanden.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem PolyReg-Schiedsgericht schriftlich mitgeteilt.
Lausanne, 22. Juli 2019
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Herrmann
Die Gerichtsschreiberin: Nyffeler