Faits :
A.
Le 23 mai 2006, le Département de l'économie et de la santé de la République et canton de Genève, devenu le Département de l'économie et de l'emploi, a autorisé A._ à exploiter un service de limousine, moyennant le paiement d'une taxe unique de 82'500 fr. Quelques années plus tard, le Conseil d'Etat genevois a réduit le montant de la taxe en question à 40'000 fr., ce de manière générale pour tous les chauffeurs de taxis et de limousine à la suite d'un arrêt 2C_609/2010 du 18 juin 2011 du Tribunal fédéral. Le Service de police du commerce et de lutte contre le travail au noir de la République et canton de Genève (ci-après: le Service cantonal) a alors remboursé la somme de 42'500 fr. à A._.
En date du 13 octobre 2016, la République et canton de Genève a adopté une nouvelle loi cantonale sur les taxis et les voitures de transport avec chauffeur. Cette loi a aboli l'obligation de payer une taxe unique, tout en prévoyant le remboursement de celles qui avaient déjà été payées. Le 29 août 2017, en application de cette loi, le Service cantonal a remis une nouvelle autorisation d'usage du domaine public et une nouvelle carte professionnelle à A._.
B.
Par courrier du 6 mai 2021, A._ a requis le remboursement de la somme de 40'000 fr., correspondant au montant résiduel de la taxe unique de 82'500 fr. qu'il avait payée en 2006. Par décision du 12 mai 2021, le Service cantonal a rejeté cette demande, au motif que la requête avait été formée hors délai.
A._ a formé recours contre la décision précitée auprès de la Chambre administrative de la Cour de justice de la République et canton de Genève (ci-après: la Cour de justice). Celle-ci a rejeté le recours par arrêt du 14 septembre 2021.
C.
A._ (ci-après: le recourant) dépose un recours en matière de droit public et un recours constitutionnel subsidiaire auprès du Tribunal fédéral contre l'arrêt de la Cour de justice du 14 septembre 2021. Il conclut à l'annulation de l'arrêt attaqué et demande que la République et canton de Genève soit condamnée à lui verser la somme de 40'000 fr. plus intérêts moratoires à 5% l'an dès le 6 mai 2021.
La Cour de justice et le Service cantonal ont renoncé à déposer des observations sur le recours.

Considérant en droit :
1.
1.1. La décision attaquée, par laquelle la Cour de justice a confirmé le refus de rembourser au recourant la taxe unique que celui-ci avait payée en 2006 afin d'obtenir le droit d'exploiter un service de limousine à Genève, est une décision finale (<ref-law>). Elle a été rendue par une autorité cantonale supérieure de dernière instance (art. 86 al. 1 let. d et al. 2 LTF) dans une cause de droit public (<ref-law>) qui ne tombe sous le coup d'aucune exception figurant à l'<ref-law>. Il s'ensuit que la voie du recours en matière de droit public est en principe ouverte.
Pour le reste, le présent recours en matière de droit public a été déposé en temps utile (<ref-law>) et dans les formes prescrites par la loi (<ref-law>), par le destinataire de l'arrêt attaqué qui a un intérêt digne de protection à son annulation ou à sa modification (<ref-law>). Il est donc recevable.
1.2. La recevabilité du recours en matière de droit public entraîne l'irrecevabilité du recours constitutionnel subsidiaire que le recourant a également formulé à titre superfétatoire (cf. <ref-law> a contrario).
2.
2.1. Sauf dans les cas cités expressément à l'<ref-law>, le recours devant le Tribunal fédéral ne peut pas être formé pour violation du droit cantonal (ou communal) en tant que tel. En revanche, il est possible de faire valoir que la mauvaise application du droit cantonal ou communal constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. ou contraire à d'autres droits constitutionnels. Le Tribunal fédéral n'examine toutefois les moyens tirés de la violation d'une norme de rang constitutionnel que si les griefs ont été invoqués et motivés de manière précise (<ref-law>).
2.2. Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits constatés par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. Selon l'<ref-law>, le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire - ou en violation du droit au sens de l'<ref-law> et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-ruling> consid. 6; <ref-ruling> consid. 1.6), ce qu'il lui appartient d'expliquer de manière circonstanciée dans son recours (cf. <ref-law>).
2.3. En l'espèce, le présent litige porte sur le remboursement de la taxe unique que le recourant a payée en 2006 pour avoir le droit d'exploiter un service de limousine à Genève en application d'une ancienne loi cantonale, en l'occurrence la loi genevoise sur les taxis et les limousines (transport professionnel de personnes au moyen de voitures automobiles) du 21 janvier 2005 (ci-après: aLTaxis/GE; RSG H 1 30). Cette loi a été abrogée à la suite de l'adoption de l'actuelle loi genevoise sur les taxis et les voitures de transport avec chauffeur du 13 octobre 2016 (ci-après: LTVTC/GE; RSG H 1 31), laquelle prévoit un tel remboursement à certaines conditions (cf. infra consid. 3). Dans cette affaire qui relève du droit public cantonal, la cognition du Tribunal fédéral est donc limitée aux seuls griefs de violation des droits constitutionnels que le recourant a pu soulever dans son mémoire en respectant les exigences de l'<ref-law> (cf. <ref-ruling> consid. 1.2; arrêt 2C_222/2016 du 29 septembre 2016 consid. 2.1, non publié in <ref-ruling>).
3.
Dans l'arrêt attaqué, la Cour de justice a reconnu que le recourant aurait eu droit, sur le principe, au remboursement du montant résiduel de la taxe unique qu'il avait versée à l'Etat en 2006 conformément à l'aLTaxis/GE. En effet, selon l'ancien droit, cette taxe servait avant tout à réguler le nombre d'autorisations d'exploiter un service de taxis octroyées dans le canton. Son montant était ainsi affecté à un fonds constitué aux fins d'améliorer les conditions sociales de la profession de chauffeur de taxi (cf. art. 21 al. 4 aLTaxis/GE). Les détenteurs d'un permis étaient par ailleurs censés percevoir un montant compensatoire d'au moins 40'000 fr. lorsqu'ils cessaient leur activité de transport de personnes (cf. art. 21 al. 6 et 22 al. 2 et 3 aLTaxis/GE). La taxe unique payée par les chauffeurs de taxis n'était ainsi pas entièrement acquise à l'Etat. Au moment de l'adoption de la nouvelle LTVTC/GE qui l'a abolie, le législateur genevois a donc prévu, à des fins transitoires et d'égalité de traitement, que les exploitants de taxi en exercice avaient le droit de percevoir, avant même l'abandon de leur activité, un montant compensatoire correspondant à la taxe unique qu'ils avaient payée par le passé, déduction faite des remboursements partiels déjà effectués par le canton (art. 46 al. 3 LTVTC/GE). Un tel versement impliquait néanmoins le dépôt d'une demande écrite auprès du département cantonal compétent, au plus tard dans les trois ans dès l'entrée en vigueur de la loi, laquelle a été fixée au 1er juillet 2017 (art. 46 al. 4 LTVTC/GE). Or, en l'espèce, la Cour de justice a constaté que le recourant avait réclamé le versement d'un montant compensatoire le 6 mai 2021, c'est-à-dire presque quatre ans après l'entrée en vigueur de la LTVTC/GE. Elle en a conclu qu'une telle demande était tardive et qu'elle devait par conséquent être rejetée, comme l'avait décidé l'autorité administrative inférieure, étant précisé que le délai de péremption de trois ans s'avérait proportionné sous l'angle de la garantie de la propriété.
4.
Dans son mémoire, le recourant ne conteste pas la manière dont la Cour de justice a interprété et appliqué la LTVTC/GE et, en particulier, son art. 46 al. 4, qui prévoit la péremption du droit au remboursement de la taxe unique après trois ans; il n'invoque en particulier aucune violation du principe de l'interdiction de l'arbitraire à cet égard. Il admet avoir déposé sa demande de remboursement en dehors du délai triennal prévu par cette disposition cantonale. Il soutient en revanche que la loi cantonale serait inconstitutionnelle dans son principe en tant qu'elle permet à l'Etat de ne plus rembourser certaines taxes uniques payées sous l'ancien droit, du simple fait que leur remboursement serait réclamé hors délai. Il affirme en substance que le droit des chauffeurs de taxis à obtenir un montant compensatoire de 40'000 fr. en remboursement des taxes uniques versées avant le 1er juillet 2017 constituerait un droit acquis à l'aune de l'aLTaxis/GE, lequel serait protégé aussi bien par la garantie de la propriété ancrée à l'art. 26 Cst. que par le principe de protection de la bonne foi consacré à l'art. 9 Cst. D'après lui, un tel droit ne devrait pas pouvoir être retiré sans indemnisation pleine et entière de l'Etat. Or, tel serait le cas si l'on admettait qu'il ne peut plus percevoir de montant compensatoire au motif qu'il n'en a pas requis le versement dans le délai de trois ans dès l'entrée en vigueur de la LTVTC/GE.
4.1. D'un point de vue juridique, nul ne peut en principe revendiquer un droit au maintien de règles de droit en vigueur (<ref-ruling> consid. 4; <ref-ruling> consid. 8.1). Le principe de la bonne foi suppose tout au plus que, dans certaines circonstances, l'Etat adopte des délais transitoires raisonnables avant de mettre en oeuvre de nouvelles réglementations contraignantes, afin que les personnes concernées disposent d'une période adéquate pour s'y adapter (<ref-ruling> consid. 4; <ref-ruling> consid. 7.6.1). Seuls les "droits acquis" jouissent d'une stabilité juridique accrue face à d'éventuelles modifications législatives; il s'agit de droits qui découlent de la loi, d'un acte administratif ou d'un contrat de droit administratif et que l'autorité s'est volontairement engagée à ne pas supprimer ou restreindre lors de modifications législatives ultérieures (cf. ATF <ref-ruling> consid. 8.2.1; <ref-ruling> consid. 7a; arrêt 2P.134/2003 du 6 septembre 2004 consid. 8.2). Ces droits sont liés à la confiance réciproque pouvant exister entre l'Etat et l'administré lorsque tous deux partent de bonne foi de l'idée que leurs relations juridiques resteront en principe inchangées pour une durée déterminée. Ils bénéficient ainsi d'une protection renforcée face au changement de loi qui se fonde à l'origine sur la garantie de la propriété (cf. art. 26 Cst.), mais qui repose aujourd'hui en premier lieu sur la protection de la bonne foi (cf. 9 Cst.). Ils ne sont cependant pas totalement intangibles. Il est possible d'y porter atteinte pour des raisons prépondérantes d'intérêt public, en s'appuyant sur une base légale et en respectant le principe de proportionnalité. Les éventuelles atteintes à la "substance" desdits droits doivent néanmoins être indemnisées (<ref-ruling> consid. 4.2 et 4.3; <ref-ruling> consid. 7.1).
4.2. Cela étant dit, la protection des droits acquis, telle qu'elle vient d'être décrite, n'empêche pas le législateur de soumettre à de nouveaux délais de prescription ou de péremption des créances de droit public existantes sous l'empire d'anciennes règles de droit; la protection des droits acquis exige uniquement que, lorsque la réglementation antérieure ne prévoyait pas de tels délais, ceux-ci ne commencent à courir qu'à partir de l'entrée en vigueur du nouveau droit (cf. <ref-ruling> consid. 3.2; <ref-ruling> consid. 2; <ref-ruling> consid. 2; <ref-ruling>). Il s'ensuit qu'un législateur cantonal peut, par exemple, instaurer un délai durant lequel les demandes de remboursement de frais de formation doivent obligatoirement être déposées, sous peine de péremption, même si les frais en question sont intervenus avant l'entrée en vigueur d'une telle règle. Il importe sous cet angle peu qu'il ait pu exister ou non un droit acquis à l'obtention des aides financières en question sous l'empire de l'ancien droit cantonal, ni que celui-ci ne prévoyait à l'origine aucun délai pour formuler ce genre de requêtes (cf. arrêt 2C_144/2014 du 15 septembre 2014 consid. 5).
4.3. Sur le vu de ce qui précède, on ne voit pas que le législateur genevois aurait violé les 9 ou 26 Cst. en instaurant, à l'art. 46 al. 4 LTVTC/GE, un délai de trois ans durant lequel les chauffeurs de taxis devaient réclamer le remboursement de la taxe unique qu'ils avaient payée avant l'entrée en vigueur de ladite loi, sous peine de péremption, sachant que la jurisprudence reconnaît depuis très longtemps l'existence d'un intérêt public à l'instauration de limites temporelles de ce genre (cf. <ref-ruling> consid. 3; 78 I 89). Il en va ainsi même s'il fallait considérer - comme le soutient le recourant - qu'il existait un droit acquis à un tel remboursement sous l'empire de l'aLTaxis/GE, étant précisé qu'il s'agit là d'une question sujette à caution que la Cour de justice n'a pas jugé utile de traiter dans son arrêt. En effet, comme on vient de le voir, la protection des droits acquis n'interdit en principe pas à l'État de conditionner la validité d'anciennes créances de droit public au respect de nouveaux délais de prescription ou de péremption. Le recourant se prévaut donc en vain de l'existence d'un droit acquis en lien avec sa créance en remboursement de la taxe unique.
4.4. Relevons enfin qu'il est erroné d'affirmer, comme le fait le recourant, que le législateur genevois l'aurait formellement "exproprié" de sa créance en remboursement de la taxe unique sans l'indemniser. L'instauration d'un délai de péremption de trois ans pour réclamer le remboursement de ladite taxe jusqu'au 30 juin 2017 a certes eu pour conséquence d'empêcher toute répétition de celle-ci depuis le 1er juillet 2020. En comparaison, sous l'ancien droit, un versement serait intervenu d'office au moment de la reddition du permis de taxi ou de limousine. Il n'en demeure pas moins que le recourant aurait eu la possibilité de récupérer la totalité de sa taxe unique s'il avait déposé une simple requête en ce sens auprès du département compétent dans les temps, soit jusqu'au 30 juin 2020; il ne prétend d'ailleurs pas avoir été dans l'incapacité d'agir dans ce délai triennal, qui n'apparaît pas exagérément court. Il se contente d'affirmer de manière générale que la garantie de la propriété consacrée à l'art. 26 Cst. et la protection de la bonne foi de l'art. 9 al. 1 Cst. lui conféreraient à elles seules le droit de réclamer aussi longtemps qu'il l'entend le remboursement de sa taxe unique, sans prétendre pour autant avoir reçu d'assurance sur ce point précis. Une telle argumentation ne peut être suivie, ainsi qu'on l'a exposé. Le recourant perd par ailleurs de vue que l'Etat peut exiger des administrés qu'ils se plient à quelques incombances raisonnables, comme l'obligation d'agir dans un délai donné, lorsqu'ils entendent exercer certaines prérogatives déduites de leurs droits fondamentaux (cf. notamment <ref-ruling> consid. 2) et notamment lorsqu'ils souhaitent se prévaloir de créances pécuniaires à son encontre, que ces dernières constituent des droits acquis ou non (cf. <ref-ruling> consid. 3; cf. art. 37 al. 3 de la loi fédérale du 20 juin 1930 sur l'expropriation, LEx; RS 711).
4.5. Il s'ensuit que la Cour de justice n'a pas violé le droit à la garantie de la propriété ancrée à l'art. 26 Cst. ni le droit à la protection de la bonne foi consacré à l'art. 9 Cst. en considérant que le Département cantonal n'avait pas à rembourser au recourant le solde de la taxe unique payée en 2006, en raison du fait que l'intéressé avait tardé à le réclamer au sens du droit cantonal.
5.
Partant, le recours en matière de droit public doit être rejeté et le recours constitutionnel déclaré irrecevable.
Succombant, le recourant doit supporter un émolument judiciaire (<ref-law>). Il ne sera pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours constitutionnel subsidiaire est irrecevable.
2.
Le recours en matière de droit public est rejeté.
3.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué au recourant, au Service de police du commerce et de lutte contre le travail au noir de la République et canton de Genève, à la Cour de justice de la République et canton de Genève, Chambre administrative, et au Secrétariat d'Etat à l'économie SECO.
Lausanne, le 2 février 2022
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
La Présidente : F. Aubry Girardin
Le Greffier : E. Jeannerat