Faits:
A. L'avocat X._ a été désigné avec effet au 7 avril 2010 comme défenseur d'office de A._, prévenu indigent. Celui-ci a été condamné par jugement du 21 décembre 2010 à 18 mois de peine privative de liberté avec sursis durant 5 ans, pour infraction grave à la LStup. Dans le cadre de l'appel, A._ a consulté un défenseur de choix. X._ a ainsi été relevé de sa mission.
Le 30 août 2011, X._ a adressé à la Cour d'appel pénal du Tribunal cantonal fribourgeois sa liste de frais. Il prétendait à l'octroi d'une indemnité globale de 11'346 fr. 70.
B. Par arrêt du 13 décembre 2011, la Cour d'appel pénal du Tribunal cantonal fribourgeois a fixé l'indemnité équitable due à X._ pour la défense d'office de A._ à 8'059 fr. 90. Postérieurement à son arrêt, la Cour d'appel pénal a transmis à X._ les notes du juge rapporteur fixant le nombre d'heures admissibles pour les phases de la procédure.
C. X._ forme un recours en matière pénale au Tribunal fédéral contre cet arrêt, concluant, sous suite de dépens, à son annulation.
La Cour d'appel pénal du Tribunal cantonal fribourgeois a déclaré n'avoir pas d'observation à formuler.

Considérant en droit:
1. Le recours en matière pénale est ouvert contre une décision fixant l'indemnité de l'avocat d'office pour une procédure pénale (cf. <ref-ruling> consid. 1.1.1 p. 45 s.).
2. 2.1 L'indemnité accordée a été fixée sur la base de l'ancienne loi fribourgeoise sur l'assistance judiciaire (art. 24 aLAJ/FR), en vigueur jusqu'au 31 décembre 2010, et du règlement fribourgeois sur la justice (art. 57 RJ/FR), en vigueur dès le 1er janvier 2011. Le recourant ne conteste pas l'application de cette réglementation mais invoque une violation de son droit d'être entendu garanti par l'art. 29 al. 2 Cst. Il se réfère en particulier à l'arrêt 1P.85/2005 du 15 mars 2005. Il relève avoir présenté une liste de frais comme l'exigent les dispositions cantonales et se plaint de ce que l'autorité précédente a uniquement donné le nombre d'heures admissible par phases, soit celle de l'instruction, de première et de deuxième instance, sans dire quelles opérations n'étaient pas nécessaires à la défense du prévenu.
2.2 Le droit d'être entendu, garanti par l'art. 29 al. 2 Cst., implique notamment pour l'autorité l'obligation de motiver sa décision, afin que le destinataire puisse la comprendre, l'attaquer utilement s'il y a lieu et que l'autorité de recours puisse exercer son contrôle. Pour répondre à ces exigences, il suffit que l'autorité mentionne, au moins brièvement, les motifs qui l'ont guidée et sur lesquels elle a fondé sa décision de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause (<ref-ruling> consid. 4.1 p. 88; <ref-ruling> consid. 3.3 p. 445). Selon la jurisprudence rendue en matière de dépens, qui s'applique aux indemnités dues au défenseur d'office, la décision par laquelle le juge fixe le montant des dépens n'a en principe pas besoin d'être motivée, du moins lorsque celui-ci ne sort pas des limites définies par un tarif ou une règle légale et que des circonstances extraordinaires ne sont pas alléguées par les parties (<ref-ruling> consid. 2a; <ref-ruling> consid. 2). En revanche, il en va différemment lorsque le juge statue sur la base d'une liste de frais; s'il entend s'en écarter, il doit alors au moins brièvement indiquer les raisons pour lesquelles il tient certaines prétentions pour injustifiées, afin que son destinataire puisse attaquer la décision en connaissance de cause (arrêts 5D_45/2009 du 26 juin 2009 consid. 3.1; 1P.85/2005 du 15 mars 2005 consid. 2 et les réf. cit.).
2.3 Les deux derniers arrêts précités concernaient déjà des causes fribourgeoises et l'application de l'art. 24 aLAJ/FR, selon lequel l'Etat paie au défenseur d'office un montant équitable fixé, sur présentation de sa liste de frais, qui tient compte des circonstances de la cause et du nombre d'audiences. L'actuel art. 57 al. 2 RJ/FR, dont le contenu est cité dans l'arrêt attaqué (p. 3), prévoit quant à lui que l'indemnité horaire est de 180 fr. en cas de fixation sur la base d'une liste de frais. Il apparaît ainsi que la réglementation cantonale appliquée ne s'en tient pas à l'octroi d'une simple indemnité équitable fixée par le juge. Cela a pour conséquence de contraindre l'autorité judiciaire à prendre en compte la liste de frais présentée et à motiver au moins brièvement les postes sur lesquels elle n'entend pas confirmer les montants ou les durées y figurant (arrêts précités 5D_45/2009 consid. 3.1 in fine et 1P.85/2005 consid. 2.1 in fine).
2.4 En l'espèce, la Cour d'appel a quelque peu réduit le montant des débours et des honoraires relatifs à l'activité du stagiaire du recourant, ce que ne conteste pas celui-ci. Elle a fixé le nombre d'heures admissible pour l'activité du recourant à 29 heures, réduisant ainsi d'environ 30 % le nombre d'heures annoncé dans la liste de frais. Elle a certes détaillé pour chaque phase de la procédure (5h pour l'instruction, 15h pour la première instance et 9h pour l'appel, soit 29h au total) le temps qu'elle estimait nécessaire à l'accomplissement de la défense d'office. Elle n'a néanmoins pas spécifié les postes de la liste de frais qu'elle jugeait superflus ou pour lesquels le nombre d'heures indiqué était surfait. En l'absence de ces indications, le recourant n'était pas en mesure de contester en connaissance de cause l'arrêt cantonal. La Cour d'appel a donc failli à son obligation de motiver les décisions fixant le montant de l'indemnité d'office, telle qu'elle découle de l'art. 29 al. 2 Cst. et de la jurisprudence précitée. La transmission au recourant postérieurement à l'arrêt attaqué des notes du juge rapporteur permet certes de cerner les opérations qui ont été jugées nécessaires à la défense des intérêts du prévenu. En revanche, dites notes ne fournissent aucune indication sur les raisons pour lesquelles d'autres postes de la liste de frais ont été écartés ou pourquoi certaines des opérations accomplies ont été tenues pour exagérées. L'arrêt attaqué doit par conséquent être annulé et la cause renvoyée à la cour cantonale pour qu'elle statue à nouveau. La présente solution et la motivation y relative rejoignent celles figurant dans les arrêts 5D_45/2009 et 1P.85/2005 précités, dont il n'y a pas lieu de se distancier.
3. Il ne sera pas perçu de frais (<ref-law>). Le recourant, même s'il a plaidé dans sa propre cause a droit, eu égard à l'objet du litige (cf. <ref-ruling> consid. 5b), à des dépens à la charge du canton de Fribourg pour la procédure devant le Tribunal fédéral (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité cantonale afin qu'elle rende une nouvelle décision au sens des considérants.
2. Il n'est pas perçu de frais judiciaires.
3. Une indemnité de 1'000 fr., à verser au recourant à titre de dépens, est mise à la charge du canton de Fribourg.
4. Le présent arrêt est communiqué au recourant et au Tribunal cantonal du canton de Fribourg, Cour d'appel pénal.
Lausanne, le 22 juin 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Livet