Sachverhalt:
A.
Mit Urteil vom 26. April 2019 schied das Kantonsgericht Schaffhausen die Ehe von A._ und B._. Beiden Parteien war die unentgeltliche Rechtspflege gewährt worden. A._ wurde verpflichtet, seiner Frau eine Parteientschädigung von Fr. 4'976.20 zu bezahlen, zahlbar an die Staatskasse. Dieses Urteil erwuchs am 12. Juni 2019 in Rechtskraft.
B.
B.a. Am 23. Juli 2019 stellte A._ bei der Finanzverwaltung des Kantons Schaffhausen ein Gesuch um Erlass der Parteientschädigung. Das Finanzdepartement wies das Gesuch mit Verfügung vom 15. August 2019 ab. Den dagegen von A._ erhobenen Rekurs wies der Regierungsrat des Kantons Schaffhausen am 24. September 2019 ab.
B.b. A._ legte beim Obergericht des Kantons Schaffhausen Verwaltungsgerichtsbeschwerde ein. Er beantragte sinngemäss die Aufhebung des regierungsrätlichen Rekursentscheids und hielt an seinem Erlassgesuch fest. Das Obergericht hiess die Beschwerde teilweise gut und wies die Sache zur materiellen Prüfung des Erlassgesuchs an das Finanzdepartement zurück. Der Entscheid datiert vom 16. Juni 2020 und wurde am 23. Juni 2020 an die Parteien versandt.
C.
C.a. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 10. August 2020 wendet sich der Kanton Schaffhausen (Beschwerdeführer) an das Bundesgericht. Er beantragt, den Entscheid des Obergerichts (Bst. B.b) aufzuheben und den Rekursentscheid des Regierungsrats des Kantons (Bst. B.a) zu bestätigen.
C.b. Dazu eingeladen, sich zur Beschwerde zu äussern, schliesst sich das Finanzdepartement den Beschwerdebegehren (Bst. C.a) an (Schreiben vom 21. August 2020). A._ (Beschwerdegegner) verlangt, die Beschwerde abzuweisen und den angefochtenen Entscheid zu bestätigen (Eingabe vom 25. August 2020). In gleicher Weise äussert sich die Vorinstanz (Schreiben vom 28. August 2020). In seiner Replik vom 9. September 2020 geht der Kanton Schaffhausen auf diese Stellungnahme ein und hält an seiner Beschwerde fest. Die Eingabe wurde dem Beschwerdegegner und dem Finanzdepartement zur Wahrung des rechtlichen Gehörs zur Kenntnis gebracht.

Erwägungen:
1.
Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (<ref-law>; <ref-ruling> E. 1).
2.
Der angefochtene Entscheid handelt davon, nach welchen Vorschriften des kantonalen Rechts ein an den Kanton gerichtetes Gesuch um Erlass einer Parteientschädigung zu beurteilen ist, die nach <ref-law> auf den Kanton übergegangen ist. Das Obergericht findet, ein Erlass auf der Grundlage von Art. 94 des Justizgesetzes des Kantons Schaffhausen vom 9. November 2009 (JG, SHR 173.200) falle nicht in Betracht. Hingegen stelle Art. 35 Abs. 2 des Finanzhaushaltsgesetzes des Kantons Schaffhausen vom 20. Februar 2017 (FHG, SHR 611.100) eine gesetzliche Grundlage dar, die den Erlass der auf den Kanton übergegangenen Parteientschädigung grundsätzlich ermögliche. Das ist eine Angelegenheit des öffentlichen Rechts im Sinne von Art. 82 Abs. a BGG. Daran ändert nichts, dass die Parteientschädigung, um deren Erlass der Beschwerdegegner ersucht, von einem Zivilgericht in einem Scheidungsprozess gesprochen wurde und die ursprüngliche Gläubigerin die frühere Ehefrau des Beschwerdegegners, also eine Privatperson ist. Die unentgeltliche Rechtspflege, auf deren Gewährung an die Ehefrau des Beschwerdegegners die Legalzession der Entschädigungsforderung an den Kanton beruht (s. <ref-law>), ist ein Institut des öffentlichen Rechts. Hier beschlägt der angefochtene Entscheid losgelöst vom Ursprung der Entschädigungsforderung überdies allein die dem öffentlichen Recht zuzuordnende Frage, nach welchen Vorschriften das Gemeinwesen seinen Willen bildet, auf eine ihm zustehende Geldforderung bzw. auf deren Geltendmachung oder zwangsweise Durchsetzung ganz oder teilweise, gegebenenfalls vorläufig, zu verzichten.
3.
Nach Art. 89 Abs. 1 Bst. a-c BGG ist zur Beschwerde in öffentlich-rechtlichen Angelegenheiten berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat, durch den angefochtenen Entscheid besonders berührt ist und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung hat.
3.1. <ref-law> ist in erster Linie auf Privatpersonen zugeschnitten, doch kann sich auch das Gemeinwesen darauf stützen, falls es durch einen angefochtenen Entscheid gleich oder ähnlich wie ein Privater oder aber in spezifischer Weise in der Wahrnehmung einer hoheitlichen Aufgabe betroffen wird und nicht bloss das allgemeine Interesse an der richtigen Rechtsanwendung geltend macht (<ref-ruling> E. 4.1; <ref-ruling> E. 1.3.1; <ref-ruling> E. 1.4; <ref-ruling> E. 1.4). Was Entscheide mit finanziellen Auswirkungen anbelangt, genügt zur Begründung des allgemeinen Beschwerderechts nicht jedes beliebige, mit der Erfüllung einer öffentlichen Aufgabe direkt oder indirekt verbundene finanzielle Interesse des Gemeinwesens. Die in der Rechtsprechung verwendete Formulierung, wonach der Kanton in Bezug auf den Schutz seines Verwaltungs- oder Finanzvermögens wie ein Privater betroffen sei, kann nicht so verstanden werden, dass die Legitimation des Gemeinwesens immer schon dann zu bejahen wäre, wenn sich ein Entscheid auf das Vermögen auswirkt. Wie ein Privater betroffen ist das Gemeinwesen im Streit um finanzielle Leistungen aus Rechtsverhältnissen, die zwar öffentlich-rechtlich geregelt sind, aber Analogien zu entsprechenden privatrechtlichen Instituten aufwiesen, zum Beispiel als öffentlicher Arbeitgeber, in Fällen der Staatshaftung oder als Schuldner einer Enteignungsentschädigung (<ref-ruling>, E. 2.1.2, 2.1.3 und 2.3 mit zahlreichen Hinweisen). Im Übrigen ist das Gemeinwesen in seinen fiskalischen Interessen aber grundsätzlich nicht wie ein Privater, sondern in seiner Eigenschaft als Hoheitsträger betroffen. Soweit die Streitsache einzig die finanziellen Folgen der Verwaltungstätigkeit beschlägt, die das Gemeinwesen in seiner Stellung als hoheitlich verfügende Behörde treffen, verneint die Rechtsprechung eine allgemeine Beschwerdelegitimation nach <ref-law>, denn in solchen Fällen deckt sich das finanzielle Interesse des Gemeinwesens mit der Frage der richtigen Rechtsanwendung, was zur Legitimation nicht genügt (BGE a.a.O., E. 2.3 mit Hinweisen).
Gestützt auf die vorstehend resümierte Rechtsprechung verneinte das Bundesgericht die Beschwerdelegitimation des Kantons Graubünden in einem Fall, wo sich der Streit um die (übergangsrechtliche) Frage drehte, ob der Anspruch auf Nachzahlung von Prozesskosten aus einem Scheidungsprozess, die der Kanton etliche Jahre vor Inkrafttreten der ZPO zufolge Gewährung der unentgeltlichen Rechtspflege übernommen hatte, nach Art. 123 Abs. 2 der am 1. Januar 2011 in Kraft getretenen ZPO verjährt. Das Bundesgericht befand, sowohl in Bezug auf den konkreten Einzelfall als auch die Präzedenzwirkung für weitere Fälle habe der angefochtene Entscheid lediglich Auswirkungen auf die Kantonsfinanzen, was für sich allein zur Bejahung des Beschwerderechts nach <ref-law> nicht genüge. Inwiefern infolge des angefochtenen Entscheids über diese finanziellen Auswirkungen hinaus die Erfüllung öffentlicher Aufgaben tangiert werden könnte, sei nicht ersichtlich (<ref-ruling> E. 2.4 S. 512).
3.2. Wie erwähnt, dreht sich der vorliegende Streit um Art. 35 FHG. Laut Absatz 2 dieser Norm, wie ihn der angefochtene Entscheid wiedergibt, ist ein Verzicht auf die Geltendmachung von Forderungen und auf die Schuldbetreibung zulässig, wenn anzunehmen ist, dass die Schuldbetreibung erfolglos sein wird oder der Aufwand beziehungsweise das Prozessrisiko zur ausstehenden Summe in einem offensichtlichen Missverhältnis steht. Das Obergericht führt aus, dies könne beispielsweise bei ausgewiesener Mittellosigkeit oder bei unbekanntem Aufenthalt der Fall sein. Es erklärt, dies müsse auch für die auf den Kanton übergegangenen Kostenbeteiligungen Dritter gelten, und kommt zum Schluss, es bestehe eine gesetzliche Grundlage, die den Erlass einer nach Massgabe von <ref-law> auf den Kanton übergegangenen Parteientschädigung grundsätzlich ermöglicht.
Die Erkenntnis der Vorinstanz erschöpft sich darin, dass sie ohne Prüfung des konkreten Falls die grundsätzliche Möglichkeit bejaht, dem Beschwerdegegner bei der Tilgung seiner Schuld in Anwendung von Art. 35 FHG entgegenzukommen. Nachdem das Obergericht die Sache mit dieser abstrakt gehaltenen Vorgabe an das Finanzdepartement zurückweist, sein Entscheid das Verfahren betreffend den Erlass der besagten Parteientschädigung also nicht zum Abschluss bringt, erscheint fraglich, ob der angefochtene Entscheid den neuen Entscheid des Finanzdepartements im konkreten Einzelfall überhaupt in irgendeiner Weise präjudiziert. So oder anders wirkt sich schon die hier streitige Anweisung des Obergerichts, das Erlassgesuch auf der Grundlage des kantonalen Finanzhaushaltsrechts zu prüfen, jedenfalls nur in finanzieller Hinsicht auf die Verwaltungstätigkeit des Kantons Schaffhausen aus. Mithin deckt sich das finanzielle Interesse des Kantons als hoheitlich verfügendes Gemeinwesen mit der Frage der richtigen Rechtsanwendung, was zum Beschwerderecht im Sinne von <ref-law> nach dem Gesagten nicht genügt.
An alledem ändert auch der Umstand nichts, dass der Kanton sich vor Bundesgericht über eine Verletzung seines rechtlichen Gehörs beklagt, weil ihn die Vorinstanz zur Auslegung von Art. 35 FHG, mit dessen Anwendung er "in keiner Art und Weise" habe rechnen müssen, nicht vorgängig angehört habe (s. dazu <ref-ruling> E. 5; <ref-ruling> E. 2a). Das schutzwürdige Interesse, von dem das Beschwerderecht nach Art. 89 Abs. 1 Bst. c BGG abhängt, bezieht sich auf die Aufhebung oder Änderung des angefochtenen Entscheids, das heisst auf die gestellten kassatorischen oder reformatorischen Rechtsbegehren. Auf die Rügen, die in der Beschwerde zur Begründung dieser Rechtsbegehren (vgl. <ref-law>) vorgetragen werden, kommt es für das schutzwürdige Interesse somit nicht an. Wie die Ausführungen in der Beschwerde im Übrigen zeigen, ist auch die erwähnte Gehörsrüge von der Befürchtung des Kantons beherrscht, allenfalls auf die Geltendmachung einer begründeten Forderung gegen den Beschwerdegegner verzichten zu müssen. Auch in dieser Hinsicht deckt sich die Sorge des Kantons Schaffhausen um die Rechtsanwendung also mit derjenigen um seine Finanzen.
4.
Nach alledem kann auf die Beschwerde nicht eingetreten werden. Bei diesem Ausgang des Verfahrens unterliegt der Kanton Schaffhausen. Er hat deshalb für die Gerichtskosten aufzukommen, zumal er in seinem Vermögensinteresse handelt (Art. 66 Abs. 1 und 4 BGG). Der Beschwerdegegner hat keinen Anspruch auf eine Entschädigung. Er tritt vor Bundesgericht ohne anwaltliche Vertretung auf; dass ihm persönlich für das bundesgerichtliche Beschwerdeverfahren konkrete notwendige Kosten entstanden sind, macht er nicht geltend.

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Die Gerichtskosten von Fr. 1'000.-- werden dem Kanton Schaffhausen auferlegt.
3.
Es werden keine Parteientschädigungen zugesprochen.
4.
Dieses Urteil wird den Verfahrensbeteiligten und dem Obergericht des Kantons Schaffhausen schriftlich mitgeteilt.
Lausanne, 20. April 2021
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Herrmann
Der Gerichtsschreiber: Monn