Faits :
A.
A.a. A._, chauffeur de taxi à Genève, est titulaire depuis le mois d'avril 2010 d'un permis de service public et d'une autorisation d'exploiter un taxi de service public en qualité d'indépendant. Pour obtenir ce permis et cette autorisation, A._ s'est acquitté, le même mois, d'une taxe unique de 60'000 fr., auprès du Service du commerce de la République et canton de Genève (devenu, depuis le 1 er janvier 2017, le Service de police du commerce et de lutte contre le travail au noir, ci-après: le Service cantonal).
A.b. Par arrêté du 19 mai 2010, le Conseil d'Etat de la République et canton de Genève (ci-après: le Conseil d'Etat) a fixé le montant de la taxe unique à verser pour l'octroi d'un permis de service public, ainsi que le montant compensatoire perçu pour l'annulation d'un permis de service public, à 82'500 francs.
Par arrêt du 18 juin 2011 (2C_609/2010), le Tribunal fédéral, statuant sur recours de l'association de défense des intérêts des chauffeurs de taxi et de plusieurs chauffeurs de taxis agissant individuellement, a annulé l'arrêté du 19 mai 2010 pour défaut de base légale.
A.c. Dans un arrêt du 12 juin 2012 (ATA/378/2012), la Cour de Justice de la République et canton de Genève, chambre administrative (ci-après: la Cour de Justice), saisie d'un recours d'un chauffeur de taxi contestant une décision du Service cantonal qui maintenait à 82'500 fr. le montant de la taxe unique, a retenu qu'il découlait de l'arrêt du Tribunal fédéral 2C_609/2010 que la perception de la taxe unique ne pouvait se fonder que sur l'art. 21 al. 6 de la loi cantonale genevoise sur les taxis et limousines du 21 janvier 2005 (LTaxis; RS/GE H 1 30), qui fixait son montant à 40'000 francs. Elle a partant considéré que, dans le cas d'espèce, le Service cantonal devait délivrer le permis sollicité contre le versement d'une taxe unique de 40'000 francs.
B.
Le 25 août 2015, A._ a requis du Service cantonal la restitution d'un montant de 20'000 fr. sur la taxe unique de 60'000 fr. dont il s'était acquitté.
Par décision du 24 septembre 2015, le Service cantonal a rejeté cette demande, en relevant que seuls les permis de service public délivrés postérieurement à l'arrêté du Conseil d'Etat du 19 mai 2010 étaient soumis à la taxe unique de 40'000 francs.
Contre cette décision, A._ a formé un recours auprès de la Cour de justice, qui l'a rejeté par arrêt du 21 mars 2017. En substance, la Cour de justice a retenu que A._ avait obtenu l'autorisation d'exploiter avant l'arrêté du Conseil d'Etat du 19 mai 2010 et que, selon les dispositions transitoires de la LTaxis alors applicables, le montant de la taxe unique s'élevait à cette période à 60'000 francs.
C.
Contre l'arrêt du 21 mars 2017 de la Cour de justice, A._ forme un "recours de droit public" au Tribunal fédéral. Il conclut, sous suite de dépens, principalement à ce que l'arrêt entrepris soit annulé et à ce qu'il soit ordonné au Service cantonal de lui rembourser la somme de 20'000 fr., et, subsidiairement, à ce que la cause soit renvoyée à l'instance précédente pour "l'administration des preuves". Il se plaint de la violation des principes de la bonne foi, de l'égalité de traitement, ainsi que de l'interdiction de l'arbitraire.
La Cour de justice s'en rapporte à justice quant à la recevabilité du recours et persiste dans les considérants et le dispositif de son arrêt. Le Service cantonal, pour le Département de la sécurité et de l'économie de la République et canton de Genève (ci-après: le Département), conclut, sous suite de frais, principalement à l'irrecevabilité du recours, et, subsidiairement, à son rejet. A._ n'a pas répliqué.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office sa compétence (<ref-law>) et contrôle librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 116).
1.1. Le recours est dirigé contre une décision finale (<ref-law>), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF), dans une cause de droit public concernant la réglementation de la profession des chauffeurs de taxis (<ref-law>), qui ne tombe pas sous le coup des exceptions de l'<ref-law>. Partant, la voie du recours en matière de droit public est en principe ouverte. Bien que l'institution du "recours de droit public" devant le Tribunal fédéral ait disparu avec l'entrée en vigueur de la LTF au 1 er janvier 2007, la dénomination erronée employée par le recourant, qui agit en personne, ne saurait lui nuire dans la mesure où, comme en l'espèce, son acte répond aux exigences de la voie de droit à disposition (cf. <ref-ruling> consid. 1.1 p. 370).
1.2. Le recours a en outre été déposé en temps utile compte tenu des féries (cf. art. 100 al. 1 et 46 al. 1 let. a LTF). Il respecte les formes prescrites (<ref-law>), à l'exception du renvoi, sous point A., p. 5 du mémoire, aux arguments développés devant les instances cantonales. En effet, le simple renvoi à des écritures antérieures ne remplit pas les exigences de motivation de l'<ref-law> et n'est partant pas recevable (cf. arrêt 2C_263/2014 du 21 janvier 2015 consid. 1.3).
1.3. Les conclusions et griefs dirigés contre des décisions émanant d'autres instances que celle ayant rendu l'arrêt attaqué sont irrecevables en raison de l'effet dévolutif du recours auprès de la Cour de justice (cf. arrêts 2C_1060/2016 du 13 juin 2017 consid. 3.2; 2C_621/2015 du 11 décembre 2015 consid. 1.4).
Le recourant dénonce une violation du principe de la bonne foi en tant que le Département lui a reproché d'avoir déposé tardivement sa requête en restitution. La Cour de justice n'a pas examiné cette question et a rejeté le recours pour un autre motif. Dès lors que le grief du recourant est dirigé contre la décision de première instance, il est irrecevable.
Sous les réserves qui précèdent, le présent recours est a priori recevable.
1.4. Reste la question de la qualité pour recourir (<ref-law>), que le Service cantonal conteste.
1.4.1. Le Service cantonal relève que la loi sur les taxis et les voitures de transport avec chauffeur du 13 octobre 2016, entrée en vigueur le 1 er juillet 2017 (LTVTC; RS/GE H 1 31; ci-après également: la nouvelle loi sur les taxis), permet aux détenteurs de permis de service public d'obtenir le remboursement intégral du montant de la taxe unique qu'ils ont effectivement payée, même s'ils poursuivent leur activité. Le recourant ne disposerait partant plus d'un intérêt actuel à solliciter la restitution d'un montant de 20'000 fr. sur la taxe unique de 60'000 fr. qu'il a versée.
1.4.2. Selon l'<ref-law>, a qualité pour former un recours en matière de droit public quiconque a pris part à la procédure devant l'autorité précédente ou a été privé de la possibilité de le faire (let. a), est particulièrement atteint par la décision ou l'acte normatif attaqué (let. b) et a un intérêt digne de protection à son annulation ou à sa modification (let. c). La qualité pour recourir au Tribunal fédéral suppose un intérêt actuel et pratique à obtenir l'annulation de l'acte attaqué (cf. <ref-ruling> consid. 1.3.1 p. 143; <ref-ruling> consid. 4.2 p. 299). Cet intérêt doit exister tant au moment du dépôt du recours qu'à celui où l'arrêt est rendu (cf. <ref-ruling> consid. 1.3.1 p. 143; 137 II 296 consid. 4.2 p. 299).
1.4.3. La LTaxis soumettait la délivrance d'un permis de service public (lié à l'autorisation d'exploiter un taxi de service public et dont le nombre était limité [cf. art. 19 al. 3 et 20 LTaxis]) au paiement d'une taxe unique affectée à un fonds constitué pour améliorer les conditions sociales de la profession de chauffeur de taxi et réguler le nombre de permis (cf. art. 21 al. 4 LTaxis; ci-après: le fonds). La nouvelle loi sur les taxis, qui a abrogé au 1 er juillet 2017 la LTaxis (art. 40 LTVTC), ne reprend pas la notion de permis de service public, ni le système de la taxe unique et du fonds constitué par le paiement de cette taxe (cf. Projets de loi PL 11'709 et PL 11'710 présentés par le Conseil d'Etat de la République et canton de Genève, p. 52, MGC [en ligne], séance du jeudi 17 septembre 2015 à 17h - 1re législature - 2e année - 8e session - 49e session, disponible sur: http://ge.ch/grandconseil/ memorial/seances/010208/49/). Un régime transitoire a été mis en place pour les chauffeurs qui se sont acquittés de la taxe unique. Ainsi, selon l'art. 46 al. 3 LTVTC, tout exploitant de taxi ou toute entreprise de taxis qui a payé une taxe unique pour obtenir un permis de service public au sens de la loi sur les taxis et limousines, du 21 janvier 2005, a le droit de percevoir un montant compensatoire égal, en valeur nominale, au montant de la taxe unique qu'il a effectivement payée, déduction faite des éventuels remboursements partiels déjà effectués par le Département. Le requérant doit solliciter par le biais d'une demande écrite auprès du Département, au plus tard dans les trois ans après l'entrée en vigueur de la loi, la perception du montant compensatoire, sous peine de péremption (art. 46 al. 4 LTVTC et art. 62 al. 1 du règlement d'exécution de la loi sur les taxis et les voitures de transport avec chauffeur [RTVTC; RS/GE H 1 31 01]). Il lui appartient d'apporter tous les éléments de preuve permettant de déterminer la quotité de la taxe unique payée (cf. art. 46 al. 4 LTVTC et art. 62 al. 1 RTVTC). Le paiement du montant compensatoire s'opère dans un délai de 12 mois suivant la date du dépôt d'une requête valable (cf. art. 46 al. 4 LTVTC et 62 al. 2 RTVTC).
1.4.4. En l'occurrence, le recourant s'est acquitté en avril 2010 d'une taxe unique d'un montant de 60'000 francs. Il requiert devant le Tribunal fédéral, comme devant l'instance précédente, qu'une partie de ce montant, à savoir 20'000 fr., lui soit restituée. Compte tenu de l'art. 46 al. 3 de la nouvelle loi sur les taxis et comme le relève le Service cantonal, il apparaît que le recourant a désormais le droit d'obtenir la restitution d'un montant de 60'000 fr., correspondant à l'intégralité de la taxe unique dont il s'est effectivement acquitté. De ce point de vue, il est douteux que le recourant ait un intérêt actuel et pratique à la restitution d'un montant de 20'000 francs (cf. arrêt 2A.73/2007 du 30 juillet 2007 consid. 2.2 sur l'intérêt actuel au recours à la suite d'une modification législative). La restitution de l'intégralité de la taxe unique selon la nouvelle loi sur les taxis est toutefois soumise à la condition que le recourant dépose une demande écrite, dans les trois ans à compter de l'entrée en vigueur de la loi. Le Service cantonal observe certes dans ses déterminations qu'une telle demande a peut-être déjà été déposée par le recourant, mais il n'affirme pas, ni ne démontre, que tel serait le cas. A ce stade, la restitution de l'intégralité de la taxe unique que le recourant a versée est donc incertaine. En outre, la restitution peut intervenir jusqu'à 12 mois après la date du dépôt de la requête, ce qui est un délai relativement long. Dans ces circonstances, on ne peut affirmer de manière certaine que l'intéressé n'a plus d'intérêt actuel et pratique à l'issue de la présente cause comme le prétend le Service cantonal. Quoi qu'il en soit, le point de savoir si, sous l'angle de l'intérêt actuel, il se justifierait de ne pas entrer en matière peut demeurer indécis au vu de l'issue du recours.
2.
2.1. Hormis dans les cas visés à l'art. 95 let. c-e LTF, la violation du droit cantonal en tant que tel ne peut être invoquée devant le Tribunal fédéral. Il est néanmoins possible de faire valoir que son application consacre une violation du droit fédéral, comme la protection contre l'arbitraire au sens de l'art. 9 Cst. ou la garantie d'autres droits constitutionnels (<ref-ruling> consid. 6.1 p. 324; <ref-ruling> consid. 1.2 p. 308). Le Tribunal fédéral n'examine alors de tels moyens que s'ils sont formulés conformément aux exigences de motivation qualifiée prévues à l'<ref-law> (cf. <ref-ruling> consid. 2.1 p. 372; <ref-ruling> consid. 1.3 p. 41).
2.2. L'examen du Tribunal fédéral se fonde sur les faits établis par l'autorité précédente (<ref-law>; <ref-ruling> consid. 4.4.3 p. 156), sous réserve des cas prévus par l'<ref-law>. Selon l'<ref-law>, le recours ne peut critiquer les constatations de fait que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire - ou en violation du droit au sens de l'<ref-law> et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-ruling> consid. 6 p. 358; <ref-ruling> consid. 1.6 p. 377). La partie recourante doit expliquer de manière circonstanciée en quoi ces conditions seraient réalisées (cf. <ref-law>).
2.3. En l'espèce, le litige relève du droit cantonal, dès lors qu'il porte sur le refus de restituer au recourant une partie de la taxe unique prévue par le droit cantonal pour la délivrance d'un permis de service public. Partant, la cognition du Tribunal fédéral est limitée aux griefs du recourant qui répondent aux exigences de l'<ref-law>.
En l'occurrence, le seul grief du recours qui répond à ces exigences est celui tiré de la violation du principe d'égalité et qui sera examiné ci-après. En effet, le grief tiré de la violation de la bonne foi n'est pas recevable (cf. supra consid. 1.3). Quant à celui de la violation de l'interdiction de l'arbitraire (art. 9 Cst.), le recourant expose dans ce contexte que l'argumentation de la Cour de justice est sommaire et que celle-ci n'a pas instruit le "nombre maximal de permis de service public", ce qui revient en réalité à dénoncer une violation du droit d'être entendu (art. 29 al. 2 Cst.), sous l'angle du droit à une décision motivée, d'une part, et du droit à l'administration des preuves, d'autre part. Comme le grief n'est pas motivé sous cet angle, il n'a pas à être examiné.
3.
Le recourant se plaint de la violation du principe d'égalité de traitement consacré à l'art. 8 al. 1 Cst.
3.1. L'ancienne loi genevoise sur les taxis prévoyait ce qui suit:
"Le montant de la taxe unique est fixé à 60'000 fr. tant que le nombre de permis de service public déterminé dès la deuxième année après l'entrée en vigueur de la loi [soit le 15 mai 2005] n'est pas atteint" (art. 58 al. 5 LTaxis).
"Dès que le Département considère que le nombre de permis de service public adéquat est atteint et reste stable, le Conseil d'Etat fixe le montant de la taxe et du montant compensatoire selon les principes de l'art. 21 al. 6 LTaxis" (art. 58 al. 6 LTaxis). En vertu de l'art. 21 al. 6 LTaxis, le montant de la taxe unique, à fixer par le Conseil d'Etat, devait être égal ou supérieur au montant compensatoire, lequel devait être au moins égal à 40'000 francs.
3.2. Dans son arrêt, la Cour de justice a retenu que le nombre de permis de service public adéquat avait été considéré comme atteint et était stable lorsque le Conseil d'Etat avait, par arrêté du 19 mai 2010, fixé le montant de la taxe unique en vertu de l'art. 58 al. 6 LTaxis, l'annulation de cet arrêté par le Tribunal fédéral ne remettant pas en cause ce fait. Dans la mesure où le recourant se contente d'alléguer qu'il conviendrait de vérifier à quel moment le nombre de permis de service public adéquat a été atteint et est resté stable, sans démontrer en quoi la date retenue par le Tribunal cantonal serait manifestement inexacte ou arbitraire, le Tribunal fédéral ne peut pas tenir compte de la critique (cf. supra consid. 2.3).
Dès lors que le recourant a obtenu son permis de service public en avril 2010, soit avant que le nombre de permis de service public adéquat soit considéré comme atteint, on ne saurait reprocher à la Cour de justice d'avoir retenu que la situation de l'intéressé tombait sous le coup de l'art. 58 al. 5 LTaxis, qui prévoit expressément que le montant de la taxe unique est de 60'000 francs.
Le recourant ne peut rien tirer d'utile, sous l'angle du principe d'égalité de traitement, de la comparaison de sa situation avec celle des chauffeurs ayant obtenu leur permis de service public après le 19 mai 2010, ceux-ci n'étant pas soumis au même régime. C'est le propre d'un changement de législation (ou d'un régime transitoire comme en l'espèce) d'introduire des différences entre des situations (comparables) qui ont pris naissance avant ou après certaines dates (cf. arrêts 2C_417/2011 du 13 janvier 2012 consid. 4; 9C_566/2007 du 3 janvier 2008 consid. 2.5.2; 1P.23/2000 du 8 novembre 2000 consid. 5b). Ces différences ne sont pas en tant que telles contraires à l'égalité de traitement (cf. arrêts 2C_138/2017 du 4 janvier 2018 consid. 5.2; 2C_581/2016 du 29 novembre 2016 consid. 3.4.3; 2C_417/2011 du 13 janvier 2012 consid. 4). Pour le surplus, le recourant ne prétend pas que d'autres chauffeurs de taxis placés dans une situation semblable, c'est-à-dire des chauffeurs de taxis qui auraient obtenu leur permis de service public avant le 19 mai 2010, auraient été astreints à une taxe unique d'un autre montant que celui qu'il a payé.
Il s'ensuit que le grief tiré de la violation de l'art. 8 al. 1 Cst., infondé, doit être écarté.
4.
Les considérants qui précèdent conduisent au rejet du recours dans la mesure de sa recevabilité. Succombant, le recourant doit supporter les frais judiciaires (cf. art. 66 al. 1 première phrase LTF). Il n'est pas alloué de dépens (cf. art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure de sa recevabilité.
2.
Les frais judiciaires, arrêtés à 2'500 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au recourant, au Service de police du commerce et de lutte contre le travail au noir et à la Cour de justice de la République et canton de Genève, Chambre administrative, 1ère section.
Lausanne, le 5 février 2018
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Kleber