Faits : A. A.a. Par ordonnance pénale du 5 août 2013, X._ a été condamné pour faux dans les titres à une peine pécuniaire de 90 jours-amende, à 70 fr. le jour, ainsi qu'aux frais de procédure par 260 francs. Par ordonnance du 27 janvier 2014, l'opposition formée par X._ contre cette ordonnance pénale a été jugée tardive et des frais de procédure ont été mis à sa charge par 295 francs. A.b. Par jugement du 25 janvier 2016, rendu dans une affaire pénale distincte, le Tribunal de police de la République et canton de Genève a acquitté X._ des accusations de faux dans les titres et d'infraction à la LEtr. Il lui a accordé une indemnité pour les dépenses occasionnées par l'exercice raisonnable de ses droits de procédure (art. 429 al. 1 let. a CPP) de 13'284 francs. Cette décision est entrée en force. B. B.a. Par courrier du 15 avril 2016, le conseil de X._ a requis des Services financiers du pouvoir judiciaire de la République et du canton de Genève (ci-après: SFPJ) de lui verser le montant de 13'284 fr. sur son compte bancaire. B.b. Par courrier du 20 avril 2016, les SFJP ont informé le conseil de X._ que le montant de 13'284 fr., dû à ce dernier dans la procédure pénale exposée sous let. Ab, était compensé avec celui de 6'580 fr., correspondant au solde dû par X._ au pouvoir judiciaire afférant à la procédure exposée sous let. Aa ci-dessus. Seul le solde, par 6'704 fr. lui sera versé. Les SFJP ont maintenu leur position dans plusieurs courriers successifs. B.c. Par décision du 31 janvier 2017, la Commission de gestion du pouvoir judiciaire de la République et du canton de Genève a estimé que la compensation à laquelle avaient procédé les SFJP était licite. C. Par arrêt du 18 juillet 2017, la Chambre administrative de la Cour de justice de la République et canton de Genève a rejeté le recours formé contre cette décision par X._. D. Ce dernier forme un recours en matière de droit public auprès du Tribunal fédéral contre l'arrêt du 18 juillet 2017. Il conclut, avec suite de frais et dépens, à ce qu'il soit constaté que les SFPJ n'étaient pas en droit de compenser l'indemnité allouée en vertu de l'art. 429 al. 1 let. a CPP dans une procédure pénale avec des montants dus par lui dans une autre. Il sollicite que la somme de 6'580 fr. lui soit versée, avec intérêts, sur le compte de son conseil. Subsidiairement, il requiert l'annulation de l'arrêt du 18 juillet 2017 et le renvoi de la cause à l'autorité précédente pour nouvelle décision.