Faits:
A. A.a C.X._ est décédée le 4 octobre 2007, laissant comme héritiers ses deux frères, D._ et E.X._ et en désignant A._ en qualité d'exécuteur testamentaire.
A.b E.X._ est décédé le 5 octobre 2009, désignant B._ en qualité d'exécuteur testamentaire.
B. Le 25 mars 2010, B._ a dénoncé A._ au Président du Tribunal d'arrondissement de la Sarine, en qualité d'autorité de surveillance.
B.a Par décision du 10 janvier 2012, le Président du Tribunal a révoqué A._ de sa fonction d'exécuteur testamentaire. A._ (ci-après: le dénoncé) a recouru contre cette décision le 9 février 2012, concluant à son annulation et à la constatation que la procédure est devenue sans objet. B._ (ci-après: le dénonçant) a conclu au rejet du recours dans sa réponse du 13 mars 2012.
B.b Par arrêt du 23 avril 2012, la Ie Cour d'appel civil du Tribunal cantonal du canton de Fribourg (ci-après: la Cour d'appel), a admis le recours; partant, elle a annulé la décision du Président du Tribunal du 10 janvier 2012 et rejeté la plainte. Elle a en outre mis les frais de la procédure d'appel à la charge du dénonçant, sans allouer de dépens au dénoncé.
C. Par acte du 25 mai 2012, le dénoncé interjette un recours au Tribunal fédéral. Il conclut principalement à l'annulation de l'arrêt entrepris et à sa réforme en ce sens qu'il lui est alloué des dépens pour la procédure d'appel, à la charge du dénonçant.
Invités à se déterminer, le dénonçant a conclu au rejet du recours dans la mesure de sa recevabilité et l'autorité précédente s'est ralliée à la conclusion du recourant, admettant que son arrêt est erroné sur ce point, le dénoncé ayant conclu à ce que des dépens lui soient alloués pour l'instance d'appel.

Considérant en droit:
1. 1.1 La recevabilité du recours au Tribunal fédéral contre une décision portant sur l'octroi de dépens de l'instance cantonale se détermine en fonction de la question principale (<ref-ruling> consid. 3 p. 144; arrêts 5D_6/2011 du 3 juin 2011 consid. 1, 5A_218/2007 du 7 août 2007 consid. 2.1). En l'espèce, celle-ci portait sur le prononcé de mesures administratives dans le cadre de la surveillance de l'activité de l'exécuteur testamentaire. Le présent recours est ainsi dirigé contre une décision finale (<ref-law>) en matière de surveillance d'un exécuteur testamentaire (art. 72 al. 2 let. b ch. 5 LTF), rendue sur recours par une autorité supérieure statuant en dernière instance cantonale (art. 75 al. 1 et 2 LTF).
Le montant des dépens ne doit pas être pris en considération pour le calcul de la valeur litigieuse (<ref-law>). Partant, la voie du recours en matière civile est ouverte lorsque les conclusions sur le fond encore en cause devant l'autorité précédente atteignaient la valeur litigieuse minimale (<ref-law>), même si les dépens faisant l'objet exclusif du recours restent au-dessous de cette valeur (<ref-ruling> consid. 1.2.3 p. 48). En l'occurrence, la valeur litigieuse de la cause, qui se détermine au regard de la valeur des actes accomplis ou devant être accomplis par l'exécuteur testamentaire contesté, excède le seuil de 30'000 fr. fixé à l'<ref-law> (arrêt 5A_414/2012 du 19 octobre 2012 consid. 1.1). Le recours en matière civile a par ailleurs été déposé en temps utile (<ref-law>) et dans la forme prévue par la loi (<ref-law>), par une partie ayant pris part à la procédure devant l'autorité précédente et ayant un intérêt à l'annulation ou à la modification de l'arrêt entrepris (<ref-law>); il est ainsi en principe recevable au regard de ces dispositions.
1.2 Le recours en matière civile des <ref-law> est une voie de réforme (<ref-law>). Si le Tribunal fédéral admet le recours, il peut en principe statuer lui-même sur le fond (<ref-law>). La partie recourante ne peut dès lors se borner à demander l'annulation de la décision attaquée, mais elle doit également, en principe, prendre des conclusions sur le fond du litige (arrêt 5A_835/2010 du 1er juin 2011 consid. 1.2). Les conclusions réformatoires doivent en outre être déterminées et précises, c'est-à-dire indiquer exactement quelles modifications sont demandées (FABIENNE HOHL, Procédure civile, tome II, 2ème éd., 2010, n° 2871 p. 510); ainsi, celles qui portent sur une somme d'argent doivent être chiffrées (<ref-ruling> consid. 2 p. 237). Il n'est fait exception à cette règle que lorsque le Tribunal fédéral, en cas d'admission du recours, ne serait de toute manière pas en situation de statuer lui-même sur le fond et ne pourrait que renvoyer la cause à l'autorité cantonale (<ref-ruling> consid. 1.3 p. 383; <ref-ruling> consid. 3.1 p. 489 s.; <ref-ruling> consid. 1.2 p. 139).
En l'occurrence, le recourant prend une conclusion réformatoire tendant à l'allocation de dépens pour la procédure de recours cantonale, mais ne chiffre pas sa prétention. L'intimé fait valoir que la conclusion du recourant est "tout à fait similaire à celle de l'<ref-ruling>, qui a été déclarée irrecevable par le Tribunal fédéral". La jurisprudence à laquelle se réfère l'intimé (<ref-ruling>) a pour objet une action en paiement d'une somme d'argent découlant d'un contrat, alors que, au cours de la procédure cantonale, le recourant avait déjà été averti de l'exigence de chiffrer sa prétention (consid. 2 p. 237). Contrairement à ce que soutient l'intimé, le cas d'espèce ne saurait être assimilé à cette jurisprudence. Il apparaît en effet que, en cas d'admission du présent recours, la cour de céans ne serait de toute manière pas en mesure de réformer l'arrêt entrepris (cf. infra consid. 5.2), faute d'éléments au dossier pour se prononcer sur ce point, en sorte qu'elle devrait renvoyer la cause à l'autorité précédente pour instruction. Dans ces circonstances, une conclusion non chiffrée est exceptionnellement admissible.
2. 2.1 Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Cela étant, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (<ref-law>), il n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une autorité de première instance, toutes les questions juridiques pouvant se poser, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.4 p. 400; <ref-ruling> consid. 1.1 p. 104). En outre, le Tribunal fédéral ne connaît de la violation de droits fondamentaux que si un tel grief a été invoqué et motivé par le recourant, c'est-à-dire s'il a été expressément soulevé et exposé de façon claire et détaillée (<ref-law>; principe d'allégation; <ref-ruling> consid. 3.3 p. 310 s.; <ref-ruling> consid. 1.2 p. 234; <ref-ruling> consid. 3.2 p. 88; <ref-ruling> consid. 1.4.2 p. 254).
2.2 Le Tribunal fédéral doit conduire son raisonnement juridique sur la base des faits constatés dans la décision attaquée (<ref-law>). Il peut compléter ou rectifier même d'office les constatations de fait qui se révèlent manifestement inexactes, c'est-à-dire arbitraires aux termes de l'art. 9 Cst. (<ref-ruling> consid. 4.1.2 p. 62; <ref-ruling> consid. 1.1.2 p. 252), ou établies en violation du droit (<ref-law>). La partie recourante est autorisée à contester des constatations de fait ainsi irrégulières si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Cette partie ne peut toutefois pas se borner à contredire les constatations litigieuses par ses propres allégations ou par l'exposé de sa propre appréciation des preuves; elle doit plutôt indiquer de façon précise en quoi ces constatations sont contraires au droit ou entachées d'une erreur indiscutable, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (ATF <ref-ruling> consid. 1.2.2 p. 252). Une critique des faits qui ne satisfait à cette exigence est irrecevable (cf. supra consid. 2.1; art. 106 al. 2 Cst.; ATF <ref-ruling> consid. 1.4.3 p. 254; <ref-ruling> consid. 1.3 p. 261 s.).
3. Le recours a pour objet l'allocation de dépens en instance cantonale.
A cet égard, la cour cantonale a considéré que l'exécuteur testamentaire dénoncé ne sollicitait pas l'octroi de dépens ni pour la procédure de première instance pour laquelle le premier juge n'en avait pas alloués, ni pour l'instance d'appel, concluant seulement à ce que les frais judiciaires soient mis à la charge du dénonçant. L'autorité précédente n'a donc pas alloué de dépens, précisant que l'exécuteur testamentaire dénoncé, qui exerce la profession d'avocat et était de surcroît représenté par un avocat, ne le demandait pas.
4. Dans un premier moyen, le recourant se plaint d'un état de fait manifestement inexact et incomplet au sens de l'<ref-law>. Le recourant fait valoir qu'en omettant de tenir compte de sa conclusion d'appel tendant à ce que les frais judiciaires et les dépens soient mis à la charge de la partie adverse, la cour cantonale a retenu de manière arbitraire qu'il ne sollicitait pas l'octroi de dépens pour les deux instances cantonales.
En l'espèce, le constat selon lequel le dénoncé ne requérait pas l'octroi de dépens pour la procédure devant les instances cantonales, retenu par la Cour d'appel dans son arrêt du 23 avril 2012, relève d'une inadvertance qui constitue une constatation de fait arbitraire (HOHL, op. cit., n° 2940, p. 520), ce que l'autorité précédente a au demeurant admis dans ses déterminations sur le présent recours. Le mémoire de recours déposé par l'exécuteur testamentaire dénoncé le 9 février 2012 devant la cour précédente contient en effet des conclusions tendant à la réforme du jugement du Président du Tribunal du 10 janvier 2012 en ce qui concerne les frais judiciaires (II) et à ce que "[l]es frais judiciaires et les dépens so[ie]nt mis à la charge de B._" (III). Au surplus, ainsi que le recourant l'a exposé dans son mémoire, ce constat partiellement inexact des conclusions du recourant a influé sur le résultat de l'arrêt entrepris, dès lors que la Cour d'appel a refusé de lui allouer une indemnité de dépens pour la procédure d'appel, au terme de laquelle il a obtenu gain de cause, faute de conclusion à ce sujet (cf. supra consid. 3). Le grief, répondant à l'exigence minimale de motivation de l'<ref-law> (cf. supra consid. 2.2) - contrairement à ce que prétend l'intimé -, est fondé. L'état de fait doit être corrigé en ce sens que le dénoncé a conclu en instance d'appel à l'octroi d'une indemnité de dépens à charge du dénonçant.
5. Dans un second grief, le recourant reproche à l'autorité précédente d'avoir violé les art. 95 al. 1 et 106 al. 1 CPC, en mettant les frais judiciaires de la procédure d'appel à la charge du dénonçant, mais en refusant de lui allouer des dépens pour la seconde instance, en dépit de sa conclusion à ce sujet, alors que son appel a été admis et la décision du premier juge annulée.
5.1 En matière civile, le droit à une indemnité pour frais d'avocat à la partie qui obtient gain de cause découle, depuis l'introduction du Code de procédure civile fédéral le 1er janvier 2011 (CPC), de l'<ref-law>, à savoir du droit fédéral. A teneur de cette dernière disposition, "les frais sont mis à la charge de la partie succombante". L'<ref-law> précise en outre que les frais comprennent les frais judiciaires et les dépens.
5.2 L'intimé soutient que l'autorité cantonale aurait implicitement appliqué l'<ref-law> pour statuer sur l'allocation de dépens en instance d'appel. Il expose que les circonstances de l'espèce rendaient inéquitable la répartition des dépens en fonction du sort de la cause, en particulier parce qu'il avait de bonnes raisons pour introduire une procédure contre le recourant. L'intimé ne saurait être suivi dans son raisonnement. Au contraire, la Cour d'appel a refusé l'octroi d'une indemnité de dépens, constatant que "le dénoncé, qui est un avocat expérimenté et qui est de plus défendu par un avocat, ne le demandant pas".
L'autorité précédente a mis les frais judiciaires de la procédure d'appel à la charge du dénonçant au sens de l'<ref-law>; ce faisant, elle a implicitement reconnu que le dénonçant avait succombé. Dès lors qu'il apparaît que le dénoncé a effectivement conclu à l'octroi de dépens en deuxième instance (cf. supra consid. 4), la cour cantonale devait se prononcer sur sa conclusion. Le grief de violation du droit fédéral est fondé.
L'arrêt entrepris ne contient aucune considération relative au montant des dépens, dès lors que la Cour d'appel a d'emblée exclu l'octroi d'une telle indemnité au dénoncé. Il s'ensuit que la cour de céans n'est pas en mesure de statuer elle-même sur cette question, faute d'éléments permettant de fixer cette indemnité (cf. supra consid. 1.2). La cause est ainsi renvoyée à l'autorité précédente pour qu'elle détermine le montant des dépens cas échéant alloués au recourant.
6. Vu ce qui précède, le recours doit être admis, la décision attaquée annulée dans la mesure où elle refuse d'octroyer des dépens à l'exécuteur testamentaire dénoncé pour l'instance d'appel et la cause renvoyée à l'autorité précédente pour nouvelle décision dans le sens des considérants. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge de l'intimé qui a conclu au rejet du recours dans la mesure de sa recevabilité (<ref-law>). Une indemnité de 2'000 fr., à payer à titre de dépens au recourant, est mise à la charge de l'intimé (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé en tant qu'il prononce le refus d'allouer au recourant une indemnité de dépens pour l'instance d'appel et la cause est renvoyée à l'autorité précédente pour nouvelle décision dans le sens des considérants.
2. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge de l'intimé.
3. Une indemnité de 2'000 fr., à verser au recourant à titre de dépens pour la procédure devant le Tribunal fédéral, est mise à la charge de l'intimé.
4. Le présent arrêt est communiqué aux parties et à la Ie Cour d'appel civile du Tribunal cantonal de l'Etat de Fribourg.
Lausanne, le 3 décembre 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Carlin