Faits : A. Par jugement du 18 mars 2016, dont les motifs ont été notifiés le 13 avril 2016, le Tribunal correctionnel de la République et canton de Genève a condamné A._ à une peine privative de liberté de 2 ans et 6 mois, assortie d'un sursis partiel, et a fixé l'indemnisation de son conseil d'office, Me X._, à 4721 francs. Par ce même jugement, B.B._ et C.B._, autres prévenus dans la procédure pénale, ont également été condamnés à des peines privatives de liberté. B. B.B._ et C.B._ ont fait part dans un délai de dix jours à compter de la notification du dispositif de leur intention d'appeler de ce jugement. Pour sa part, par acte expédié le 25 avril 2016 à la Chambre pénale des recours de la Cour de justice, Me X._ a contesté le montant de son indemnisation, faisant valoir que le Tribunal correctionnel lui avait appliqué à tort un tarif horaire de 125 fr., tarif applicable aux collaborateurs, alors qu'il pouvait prétendre à un tarif horaire de chef d'étude, à savoir 200 fr. de l'heure. Il a adressé le même jour un courrier au Tribunal correctionnel lui demandant de rectifier l'erreur commise et de calculer son indemnité sur une base de 200 fr. l'heure. C. Par arrêt du 2 mai 2016, la Chambre pénale d'appel et de révision de la Cour de justice a déclaré le recours de Me X._ irrecevable pour tardiveté. Pour le surplus, elle a considéré que les conditions d'application de l'art. 83 CPP n'étaient pas réalisées. D. Me X._ forme un recours en matière pénale auprès du Tribunal fédéral contre cet arrêt. Il conclut, avec suite de frais et dépens, principalement à son annulation et à la modification du jugement de première instance en ce sens qu'il soit indemnisé au tarif de chef d'étude, que le forfait " courriers/téléphones " soit modifié en conséquence et que l'octroi d'un montant à titre de TVA soit supprimé. Subsidiairement, il conclut à la dispense du remboursement des frais mis à sa charge par la cour cantonale.