Faits : A. B._, née en 1981, suivait une formation en cours d'emploi auprès de la Fondation C._ et était, à ce titre, assurée contre le risque d'accidents auprès de la Vaudoise Générale Compagnie d'Assurances SA (ci-après: la Vaudoise). Le 17 janvier 2009, un résident pris de malaise a chuté lourdement sur sa jambe droite. Le cas a été pris en charge par la Vaudoise, qui a versé des indemnités journalières jusqu'au 31 janvier 2012. Par décision du 16 mars 2012, la Vaudoise a mis fin au versement des indemnités journalières à la date du dernier jour indemnisé, soit le 31 janvier 2012. Estimant, par ailleurs, que l'incapacité de travail de l'assurée ne se justifiait plus médicalement au-delà du 30 avril 2010, elle lui a réclamé un montant de 53'908 fr. 10 au titre d'indemnités journalières versées, à tort selon elle, du 1 er mai 2010 au 31 janvier 2012. Elle refusait par ailleurs de prendre en charge les frais médicaux non encore remboursés. Cette décision a été confirmée sur opposition le 7 juin 2012. B. Par écriture du 25 juillet 2012, B._ a recouru contre cette dernière décision devant la Cour des assurances sociales du Tribunal cantonal du Valais. Elle a demandé à être mise au bénéfice de l'assistance judiciaire pour la procédure cantonale. Statuant en la voie incidente le 13 novembre 2012, la Présidente de la Cour des assurances sociales a rejeté la requête d'assistance judiciaire, au motif que la condition d'indigence n'était pas remplie. B._ a recouru contre cette décision incidente devant le Tribunal fédéral, lequel a admis le recours par arrêt du 24 mai 2013 et renvoyé la cause à l'autorité cantonale pour nouvelle décision (cause xxx). Par une nouvelle décision du 18 juin 2013, la Présidente de la Cour des assurances sociales a mis B._ au bénéfice de l'assistance judiciaire avec effet au 25 juillet 2012 et désigné A._, avocat à V._, en qualité d'avocat d'office. Par jugement du 4 octobre 2013, la juridiction cantonale a rejeté le recours (ch. 1 du dispositif). L'indemnité d'office de M e A._, conseil de l'assurée, a été arrêtée à 1'460 fr. (ch. 3 du dispositif). C. En son nom, A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut, principalement, à l'octroi d'une indemnité de 5'011 fr. 55 et, subsidiairement, au renvoi de la cause à l'instance inférieure pour complément d'instruction. Le tribunal cantonal a renoncé à se déterminer. D. Par arrêt de ce jour, le Tribunal fédéral a rejeté le recours formé par B._ contre le jugement du 4 octobre 2013.