Faits: A. A.a. Par décision du 2 août 2007, la Justice de paix du district de Vevey a ordonné l'ouverture d'une enquête tendant à l'interdiction civile de A.A._, prononcé l'interdiction provisoire, au sens de l'art. 368 al. 2 aCC, de celui-ci et désigné X._ en qualité de tuteur provisoire, avec mission de produire en main de l'assesseur surveillant un inventaire d'entrée des biens du pupille dans un délai de soixante jours dès réception de la décision. L'inventaire d'entrée des actifs et passifs du pupille, établi le 23 octobre 2007, fait état d'un actif net de 42'057'240 fr.; le 20 mars 2008, l'état du compte de l'intéressé pour la période du 1er septembre au 31 décembre 2007 indique une fortune de 41'579'755 fr. et une diminution de patrimoine de 477'485 fr. durant la période concernée. A.b. B.A._, fils de A.A._, a demandé la destitution de X._. Par ordonnance de mesures préprovisionnelles du 10 juillet 2008, le Juge de paix du district de Vevey a mis fin au mandat du prénommé et désigné Me C._ en qualité de tutrice provisoire. Le 24 juillet 2008, la Justice de paix du district de Vevey a confirmé la destitution de X._, dit que celui-ci devra produire en main de l'assesseur surveillant un rapport et des comptes concernant la période durant laquelle il a exercé son mandat de tuteur provisoire, à savoir du 6 août 2007 au 10 juillet 2008, et confirmé la désignation de Me C._. Le 5 novembre 2008, la Justice de paix de la Riviera-Pays-d'Enhaut (ci-après: Justice de paix) a sommé le tuteur destitué de produire dans les dix jours le rapport et les comptes réclamés précédemment. Le 18 novembre suivant, la Justice de paix a réitéré sa sommation. A.c. Le 3 décembre 2008, la Justice de paix a clos l'enquête tendant à l'interdiction de A.A._, prononcé la mainlevée de la mesure de tutelle provisoire et relevé Me C._ de son mandat de tutrice provisoire, institué une mesure de tutelle volontaire, au sens de l'art. 372 aCC, en faveur de A.A._ et désigné la notaire précitée en qualité de tutrice; le même jour, la Justice de paix a désigné D._ aux fins d'établir les comptes de la gestion des avoirs de A.A._ pour la période du 6 août 2007 au 10 juillet 2008 et invité X._ à lui remettre toute pièce utile relative à la gestion des avoirs du pupille durant cette période. A.A._ est décédé le 18 décembre 2008. X._ ayant recouru au Tribunal cantonal du canton de Vaud contre la décision précitée, le Président de la Chambre des tutelles a invité la Justice de paix le 12 février 2009 à envoyer au recourant la formule officielle de compte de tutelle avec un délai de quinze jours pour produire les comptes, à défaut de quoi l'instruction du recours serait reprise. X._ ayant produit le 5 mars 2009 un état du compte du pupille relatif à la période du 1 er janvier au 28 août 2008, la Chambre des tutelles a, par arrêt du 27 avril 2009, déclaré le recours sans objet; elle a toutefois précisé qu'il appartenait à la Justice de paix d'examiner la conformité des comptes, de les approuver ou de les refuser et de les faire établir par un tiers, en rendant une nouvelle décision susceptible de recours. A.d. Statuant le 16 juin 2009, la Justice de paix a refusé d'approuver les comptes produits le 5 mars 2009 par X._, désigné la Fiduciaire D._ SA afin qu'elle établisse les comptes pour la période du 6 août 2007 au 10 juillet 2008, aux frais du tuteur destitué, et invité ce dernier à remettre à la fiduciaire toutes les pièces comptables en sa possession. Le 31 mars 2010, sur recours de X._, la Chambre des tutelles a annulé cette décision et renvoyé la cause à la Justice de paix pour qu'elle complète l'instruction et statue à nouveau dans le sens des considérants. A.e. A la suite de cet arrêt, la juridiction inférieure a imparti à X._ par courrier du 6 mai 2010 un délai au 30 juin 2010 pour produire des pièces. Par décision du 19 octobre 2010, la Justice de paix a constaté que les documents requis n'avaient pas été produits en temps utile, à savoir dans le délai prolongé au 31 août 2010, refusé en conséquence d'approuver les comptes de X._, désigné la Fiduciaire D._ SA aux fins d'établir les comptes pour la durée du mandat du tuteur provisoire, à savoir du 16 août 2007 au 10 juillet 2008, aux frais de celui-ci, et invité X._ à remettre à la fiduciaire toutes les pièces comptables en sa possession. Cette décision a été confirmée par arrêt du 9 mars 2011 de la Chambre des tutelles. A.f. Statuant le 1 er décembre 2011 sur le recours interjeté par X._ contre cette décision, le Tribunal de céans l'a déclaré irrecevable au motif que la décision qui refuse d'approuver le compte final du tuteur ne constitue pas - contrairement à la décision approuvant ledit compte - une décision finale au sens de l'art. 90 LTF, mais uniquement une décision incidente au sens de l'art. 93 al. 1 LTF et que les conditions ouvrant le recours contre une telle décision n'étaient pas remplies en l'espèce (cf. ATF 137 III 637). B. B.a. Le 30 août 2012, la Fiduciaire D._ SA a adressé à la Justice de paix les comptes et rapports de la tutelle établis pour la période du 16 août 2007 au 10 juillet 2008. Ces comptes ont été approuvés par décision du 1 er novembre 2012 de la Justice de paix, laquelle a également mis les honoraires de la fiduciaire s'élevant à 15'876 fr. à charge de X._. B.b. Statuant par arrêt du 3 mai 2013 sur le recours interjeté le 18 mars 2013 par X._ contre cette décision, la Chambre des curatelles du Tribunal cantonal vaudois (ci-après: Chambre des curatelles) l'a rejeté et a confirmé la décision entreprise. C. Par acte du 13 septembre 2013, X._ exerce un recours en matière civile et un recours constitutionnel subsidiaire au Tribunal fédéral contre cette décision. Il conclut principalement à la réforme de l'arrêt entrepris en ce sens que les comptes qu'il a rendus en sa qualité de tuteur provisoire sont approuvés, que l'approbation des comptes rendus par la Fiduciaire D._ SA est refusée et que les honoraires de cette dernière sont mis à la charge de la curatelle; subsidiairement, il conclut à l'annulation de l'arrêt entrepris et au renvoi de la cause à la Justice de paix du district de la Riviera-Pays-d'Enhaut pour nouvelle décision dans le sens des considérants et enfin, très subsidiairement, il conclut à l'annulation de l'arrêt entrepris et au renvoi de la cause à la Chambre des curatelles du Tribunal cantonal vaudois pour nouvelle décision au sens des considérants. A l'appui de ses conclusions, il invoque une violation de l'art. 423 aCC, respectivement de l'art. 415 CC, la violation de l'interdiction de l'arbitraire, du principe de l'égalité de traitement, du principe de proportionnalité, de l'interdiction du formalisme excessif, du droit d'être entendu, la constatation manifestement inexacte des faits au sens de l'art. 97 al. 1 LTF, un déni de justice et la violation du droit de recours au sens des art. 29 al. 1 Cst., 13 CEDH et 3 lit. a du Pacte international relatif aux droits civils et politiques. Des observations n'ont pas été requises.