Sachverhalt:
A.
A.a. B._ (Kläger, Beschwerdegegner) leitete am 13. Februar 2015 ein Schiedsverfahren gegen A._ (Beklagter, Beschwerdeführer) ein. Er verlangte die Edition verschiedener Unterlagen und beantragte, A._ sei zu verurteilen, ihm den Betrag von Fr. 1'972'291.50 nebst Zins zu 5 % seit 26. Juni 2014 zu bezahlen. Ausserdem ersuchte B._, ihm in der Betreibung Nr. xxx des Betreibungsamts Seeland, Dienststelle Seeland, "die definitive Rechtsöffnung im Betrag von CHF 1'213'269.50 zu gewähren". Ferner bezeichnete er einen Schiedsrichter.
Mit Schreiben vom 25. Januar 2016 ernannte auch A._ einen Schiedsrichter. In der Folge einigten sich die beiden Schiedsrichter auf einen Obmann.
Am 23./25./27. Mai 2016 erliess das Ad-hoc-Schiedsgericht den Konstituierungsbeschluss. Gemäss Ziffer 3 befindet sich der Sitz in Freiburg. In Ziffer 11 heisst es:
Das Schiedsgericht bestimmt die von den Parteien zu leistenden Verfahrenskostenvorschüsse mit je hälftiger Vorschusspflicht jeder Partei (<ref-law>) und entscheidet im Schiedsspruch über die Höhe und Tragung der Gerichts- und Parteikosten (<ref-law>). Für die Kosten des Schiedsgerichts sind die Bestimmungen gemäss Anhang 1 massgebend, für die Parteientschädigung die Bestimmungen des Justizreglements (JR) vom 30. November 2010 (SGF 130.11).
Mit Verfügung vom 27. Mai 2016 forderte das Schiedsgericht von den Parteien einen Gerichtskostenvorschuss von je Fr. 30'000.-- ein. B._ bezahlte diesen Betrag. A._ erklärte mit Eingabe vom 25. August 2016, er sei weder bereit noch in der Lage, den Kostenvorschuss zu bezahlen. Er begehrte, es sei B._ anzubieten, auch den beklagtischen Kostenvorschuss einzuzahlen.
Mit Verfügung vom 5. September 2016 wurde B._ unter Hinweis auf <ref-law> eingeladen, auch den gegnerischen Anteil des Gerichtskostenvorschusses in Höhe von Fr. 30'000.-- zu bezahlen. In der Folge bezahlte B._ auch diesen Teil des Vorschusses.
A.b. Mit Schiedsklage vom 31. Januar 2018 verlangte B._ unter anderem, A._ sei zu verurteilen, ihm "im Rahmen eines Teilschiedsspruchs den Kostenvorschuss des Schiedsgerichts von CHF 30'000.--" zu bezahlen, nebst Zins zu 5 % seit 31. Oktober 2016.
A._ beantragte seinerseits in seiner Klageantwort - neben dem Begehren auf Nichteintreten, eventualiter Abweisung der Schiedsklage -, B._ sei zu verurteilen, seine "mutmasslichen Parteikosten [...] in der Höhe von CHF 80'000.-- innert einer Frist von 60 Tagen sicher zu stellen".
Am 19. Dezember 2018 wies das Schiedsgericht das Gesuch von A._ um Sicherstellung ab.
Mit Zwischenentscheid vom 31. Oktober 2019 bejahte das Schiedsgericht seine Zuständigkeit zur Beurteilung der Schiedsklage.
Mit Teilentscheid vom 23. Dezember 2019 verurteilte das Schiedsgericht A._, B._ den Betrag von Fr. 30'000.-- nebst Zins zu 5 % seit 31. Oktober 2016 zu bezahlen.
B.
A._ verlangt mit Beschwerde in Zivilsachen, der Teilentscheid des Ad-hoc-Schiedsgerichts vom 23. Dezember 2019 sei aufzuheben. Ausserdem sei der Beschwerde die aufschiebende Wirkung zu erteilen.
Das Schiedsgericht verzichtete auf Vernehmlassung, unter Hinweis auf den angefochtenen Entscheid. Der Beschwerdegegner beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei.
Mit Präsidialverfügung vom 23. April 2020 wurde das Gesuch um Erteilung der aufschiebenden Wirkung abgewiesen.

Erwägungen:
1.
1.1. Das Schiedsverfahren wurde gestützt auf eine Schiedsvereinbarung eingeleitet, deren Parteien im Zeitpunkt des Vertragsabschlusses ihren Wohnsitz in der Schweiz hatten. Weder in der Schiedsvereinbarung noch später haben die Parteien vereinbart, dass die Bestimmungen über die internationale Schiedsgerichtsbarkeit (<ref-law>) Anwendung finden sollen (vgl. <ref-law>). Es gelten somit die Regeln über die interne Schiedsgerichtsbarkeit gemäss dem 3. Teil der Schweizerischen Zivilprozessordnung (<ref-law>). Die Parteien haben von der ihnen durch <ref-law> eingeräumten Möglichkeit, als Rechtsmittelinstanz ein kantonales Gericht zu bezeichnen, nicht Gebrauch gemacht.
1.2. Angefochten ist ein "Teilentscheid", in dem über einen "Antrag auf Rückerstattung des hälftigen Gerichtskostenvorschusses" entschieden wurde.
1.2.1. Die Beschwerde in Zivilsachen gemäss <ref-law> in Verbindung mit <ref-law> ist nur zulässig gegen Schiedssprüche. Dabei bestimmt sich nicht nach der äusseren Bezeichnung, sondern ausschliesslich nach dem Inhalt der schiedsgerichtlichen Anordnung, ob es sich um einen anfechtbaren Schiedsspruch im Sinne der genannten Bestimmungen handelt (<ref-ruling> E. 4; Urteil 4A_546/2016 vom 27. Januar 2017 E. 1.2 mit weiteren Hinweisen).
1.2.2. Zu den mit Beschwerde in Zivilsachen anfechtbaren Schiedssprüchen gehören die Endschiedssprüche, mit denen ein Schiedsgericht die Klage ganz oder teilweise gutheisst, abweist oder darauf nicht eintritt (<ref-law>, 2. Variante). Anfechtbar sind weiter Teilschiedssprüche, mit denen das Schiedsverfahren für einen quantitativen Teil des Streitgegenstands abgeschlossen wird, indem einzelne streitige Ansprüche vorweg umfassend beurteilt werden und das Verfahren über die anderen vorerst ausgesetzt wird (<ref-law>, 1. Variante). Schliesslich können aus den in Art. 393 lit. a und b ZPO genannten Gründen auch Zwischenschiedssprüche angefochten werden, mit denen das Schiedsgericht eine prozessuale oder materielle Vorfrage vorab gesondert entscheidet (<ref-law>; vgl. <ref-ruling> E. 4.1 mit Hinweisen).
Nicht unter die anfechtbaren Schiedssprüche im Sinne von <ref-law> fallen demgegenüber prozessleitende Verfügungen, die das Schiedsgericht nicht binden und auf die es im Verlaufe des Verfahrens wieder zurückkommen kann. Dazu zählt unter anderem der Entscheid des Schiedsgerichts über die Leistung eines Kostenvorschusses (<ref-ruling> E. 4.2; Urteil 4A_546/2016 vom 27. Januar 2017 E. 1.2.2).
1.2.3. Gemäss <ref-law> kann das Schiedsgericht einen Vorschuss für die mutmasslichen Verfahrenskosten verlangen und die Durchführung des Verfahrens von dessen Leistung abhängig machen. Dies ist mit der unangefochten gebliebenen schiedsgerichtlichen Verfügung vom 27. Mai 2016 geschehen. Vorliegend geht es nicht um einen solchen Entscheid über die Leistung eines Kostenvorschusses. Im Streit steht vielmehr ein (Teil-) Schiedsspruch, in welchem dem Schiedskläger, der die gesamten Kosten vorgeschossen hat, ein Rückgriffsrecht gegen den Schiedsbeklagten gegeben wird, der seinen Teil des Vorschusses nicht bezahlt hat. Im angefochtenen Entscheid wird der Schiedsbeklagte vorbehaltlos zur Zahlung von Fr. 30'000.-- an den Schiedskläger verurteilt. Dagegen steht gemäss <ref-law> sowie Art. 389 Abs. 1 und <ref-law> die Beschwerde an das Bundesgericht offen, woran nichts ändert, dass das Schiedsgericht im Endschiedsspruch über die definitive Höhe und Verteilung der Verfahrenskosten entscheiden wird (vgl. <ref-law>).
1.3. Das Bundesgericht prüft nur die Beschwerdegründe, die in der Beschwerde vorgebracht und begründet werden (<ref-law>). Diese Anforderung entspricht der nach <ref-law> für die Verletzung von Grundrechten vorgesehenen Rügepflicht (<ref-ruling> E. 5).
2.
2.1. Die Bestimmungen der ZPO zur Binnenschiedsgerichtsbarkeit halten zum Kostenvorschuss fest: Leistet eine Partei den von ihr verlangten Vorschuss nicht, so kann die andere Partei die gesamten Kosten vorschiessen oder auf das Schiedsverfahren verzichten. Verzichtet sie auf das Schiedsverfahren, so kann sie für diese Streitsache ein neues Schiedsverfahren einleiten oder Klage vor dem staatlichen Gericht erheben (<ref-law>).
Entscheidet sie sich dafür, die gesamten Kosten vorzuschiessen, stellt sich die Frage, ob ihr ein sofortiges Rückgriffsrecht gegen die säumige Partei zusteht und - falls ja - in welcher Form das Schiedsgericht darüber entscheidet (insbesondere: [Teil-]Schiedsspruch oder vorsorgliche Massnahme). Darüber streiten die Parteien im vorliegenden Verfahren.
2.2. Das Schiedsgericht bejahte im angefochtenen Entscheid einen solchen Rückgriffsanspruch und führte zudem aus, darüber sei in Form eines Teilschiedsspruchs zu befinden. Es hielt dafür, die Parteien hätten sich mit der Schiedsvereinbarung implizit verpflichtet, die Kosten des Schiedsgerichts anteilsmässig vorzufinanzieren. Diesen Anspruch könne der Schiedskläger gegenüber dem Schiedsbeklagten (der diese Vorfinanzierung nicht leiste) durchsetzen, unbesehen darum, wer die Verfahrenskosten endgültig zu tragen habe. Es handle sich hierbei um zwei verschiedene Streitgegenstände.
3.
Der Beschwerdeführer rügt unter Ziffer III.4, das Schiedsgericht sei für diesen Entscheid über die "Leistungspflicht hinsichtlich der Gerichtskostenvorschüsse" mangels entsprechender Schiedsabrede nicht zuständig.
Damit ist er nicht zu hören:
Gemäss <ref-law> kann ein Schiedsspruch zwar angefochten werden, wenn sich das Schiedsgericht zu Unrecht für zuständig oder für unzuständig erklärt hat. Indes hatte das Schiedsgericht bereits mit - unangefochten gebliebenem - Zwischenentscheid vom 31. Oktober 2019 seine Zuständigkeit zur Beurteilung der Schiedsklage bejaht, und zwar insbesondere auch für eine " (allfällige) Verurteilung zur Erfüllung der Kostenvorschusspflicht" beziehungsweise für den "Antrag des Schiedsklägers auf Rückerstattung des hälftigen Gerichtskostenvorschusses". Nachdem es der Beschwerdeführer unterlassen hat, gegen diesen Zwischenschiedsspruch eine Unzuständigkeitsbeschwerde zu erheben - wie ihm dies nach Art. 392 lit. b in Verbindung mit <ref-law> offen gestanden wäre -, sind seine diesbezüglichen Einwände im vorliegenden Verfahren verwirkt (siehe <ref-ruling> E. 3.1 S. 478).
4.
Der Beschwerdeführer wirft dem Schiedsgericht verschiedene offensichtliche Rechtsverletzungen im Sinne von <ref-law> vor.
4.1. Gemäss <ref-law> kann gegen den Schiedsspruch vorgebracht werden, er sei im Ergebnis willkürlich, weil er auf offensichtlich aktenwidrigen tatsächlichen Feststellungen oder auf einer offensichtlichen Verletzung des Rechts oder der Billigkeit beruht.
Mit offensichtlicher Verletzung des Rechts ist nur eine Verletzung des materiellen Rechts gemeint und nicht eine solche des Verfahrensrechts (<ref-ruling> E. 3.2 S. 288; <ref-ruling> E. 3.4; <ref-ruling> E. 2b; Urteile 4A_395/2019 vom 2. März 2020 E. 4.1; 4A_536/2014 vom 3. März 2015 E. 2.1 mit zahlreichen Hinweisen). Vorbehalten bleiben in Analogie zur Rechtsprechung zu <ref-law> Prozessfehler, die den verfahrensrechtlichen Ordre public verletzen (Urteile 4A_152/2019 vom 4. Juni 2019 E. 4.1; 4A_338/2018 vom 28. November 2018 E. 2; 4A_494/2015 vom 17. Februar 2016 E. 2.2.1; je mit Hinweisen).
4.2. Die Vorwürfe des Beschwerdeführers bleiben daher von vornherein insoweit unbeachtlich, als sie sich in Kritik an der schiedsgerichtlichen Verfahrensführung erschöpfen, ohne dass eine Verletzung des Ordre public geltend gemacht würde. Dies gilt insbesondere für die unter Ziffer III.2 erhobene Rüge, die Vorinstanz habe "offensichtlich allgemein anerkannte Prozessgrundsätze" verletzt, "im Besonderen auch <ref-law>" sowie <ref-law>, weil - so der Beschwerdeführer - der Entscheid über die Rückerstattung des Gerichtskostenvorschusses nicht "Gegenstand eines Teilurteils", sondern nur Teil der "definitiven Kostenverlegung im Endurteil" sein könne. Auch der vom Beschwerdeführer angestellte "Vergleich mit der staatlichen Gerichtsbarkeit" - wo ein Teilurteil über die Rückerstattungspflicht vorgeschossener Gerichtskosten ebenfalls "völlig unzulässig" sei - hilft ihm nicht.
4.3.
4.3.1. In Abschnitt III.3 der Beschwerdeschrift bringt der Beschwerdeführer vor, das Schiedsgericht habe zu Unrecht die Schiedsvereinbarung "als schuldrechtliche Grundlage für die Rückerstattungspflicht" herangezogen und gestützt darauf auf einen klagbaren Anspruch des Beschwerdegegners auf Bezahlung von Fr. 30'000.-- geschlossen.
4.3.2. Die Frage nach der Rechtsnatur der schiedsverfahrensrechtlichen Vorschusspflicht - materiell- oder prozessrechtlich - und die damit zusammenhängende, hier im Zentrum stehende Frage, ob ein klagbarer Anspruch auf Erstattung des zu viel geleisteten Gerichtskostenvorschusses besteht, sind in der Doktrin umstritten. Das Schiedsgericht scheint sich mit seiner Lösung auf die Mehrheit der Autoren stützen zu können (siehe nur GIRSBERGER/GABRIEL, Die Rechtsnatur der Schiedsvereinbarung im schweizerischen Recht, in: Mélanges en l'honneur de Pierre Tercier, 2008, S. 822 und 828 f.; DIETER GRÄNICHER, in: Basler Kommentar, Internationales Privatrecht, 3. Aufl. 2013, N. 82 zu <ref-law> [zum IPRG]; PHILIPP HABEGGER, in: Basler Kommentar, Schweizerische Zivilprozessordnung, 3. Aufl. 2017, N. 23 zu <ref-law>; ROHNER/LAZOPOULOS, Respondent's Refusal to Pay its Share of the Advance on Costs, ASA Bull. 2011, S. 552-558; MARCO STACHER, in: Berner Kommentar, Schweizerische Zivilprozessordnung, Bd. III, 2014, N. 92-101 zu <ref-law>; jedenfalls teilweise anderer Ansicht etwa BERGER/KELLERHALS, International and Domestic Arbitration in Switzerland, 3. Aufl. 2015, Rz. 313 und 1583-1585; XAVIER FAVRE-BULLE, Les conséquences du non-paiement de la provision pour frais de l'arbitrage par une partie, ASA Bull. 2001, S. 241 f.; RÜEDE/HADENFELDT, Schweizerisches Schiedsgerichtsrecht, 2. Aufl. 1993, S. 225).
4.3.3. Darauf braucht indes nicht weiter eingegangen zu werden. Denn nach der bundesgerichtlichen Rechtsprechung zu <ref-law> handelt es sich auch bei der Verteilung der Partei- und Gerichtskosten um eine Frage des Verfahrensrechts - und nicht um eine solche des materiellen Rechts -, die einzig unter dem Blickwinkel des (prozessualen) Ordre public überprüft werden kann (siehe <ref-ruling> E. 3.2 S. 288; Urteile 4A_338/2018 vom 28. November 2018 E. 6; 4A_597/2014 vom 1. April 2015 E. 5; 4A_536/2014 vom 3. März 2015 E. 2.2; 4A_378/2014 vom 24. November 2014 E. 2.2.3; 4A_511/2013 vom 27. Februar 2014 E. 2.3.3). Ob ein Schiedsgericht vorgängig in einem separaten Teilschiedsspruch über die Erstattung des Gerichtskostenvorschusses entscheidet oder ob es im Endschiedsspruch über die Kostenverlegung befindet, kann mit Blick auf die bundesgerichtliche Kognition keinen Unterschied machen. Es geht in beiden Fällen um die Anwendung prozessualer Regeln und es kann in diesem Zusammenhang keine Rolle spielen, ob eine Schiedspartei ihrer schiedsvertraglichen Verpflichtung zur Leistung der vom Schiedsgericht verfügten Kostenvorschüsse direkt gegenüber dem Schiedsgericht nachkommt oder mittelbar über die Erstattung an die Gegenpartei, die an ihrer Stelle die Kostenvorschusspflicht gegenüber dem Schiedsgericht erfüllt hat. Nachdem aber der Beschwerdeführer auch in diesem Punkt keine Verletzung des Ordre public moniert, kann auf seine Kritik nicht eingetreten werden.
4.4. Unbehelflich sind schliesslich seine Einwände, die er gegen die Verurteilung zur Zahlung von Zinsen auf den Rückerstattungsbetrag vorträgt (Ziffer III.5). Der Beschwerdeführer meint, diese Anordnung verstosse "gegen die einschlägige Praxis zur Prozesskostenliquidation". Das Schiedsgericht habe sich zu Unrecht an die Regeln zum Schadenszins angelehnt. Auch "in der staatlichen Gerichtsbarkeit" würden "Gerichtskostenrückerstattungen ohne Zins zugesprochen" und "Bereicherungsansprüche [...] soweit ersichtlich nirgends verzinst".
Auch in diesem Rügekomplex beanstandet der Beschwerdeführer in der Sache primär eine Verletzung prozessualer Regeln. Abgesehen davon zeigt er nicht auf, inwiefern es im vorliegenden Fall im Ergebnis geradezu offensichtlich unhaltbar sein soll, ihn zur Zahlung von Zinsen auf einen Betrag zu verpflichten, den er entgegen der (auf <ref-law> gestützten) Ziffer 11 des Konstituierungsbeschlusses nicht bezahlte und der vom Beschwerdegegner vorgeschossen wurde, diesem folglich in der Zwischenzeit nicht zur Verfügung stand.
5.
Die Beschwerde enthält keine zulässigen und hinreichend begründeten Rügen. Es ist nicht auf sie einzutreten. Dem Ausgang des Verfahrens entsprechend wird der Beschwerdeführer kosten- und entschädigungspflichtig (siehe Art. 66 Abs. 1 und Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Der Beschwerdeführer hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem ad hoc-Schiedsgericht mit Sitz in Freiburg schriftlich mitgeteilt.
Lausanne, 3. Juni 2020
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Der Gerichtsschreiber: Stähle