Faits:
A. X._, ressortissant ivoirien né en 1970, séjourne en Suisse depuis le mois de janvier 2001. Le 22 novembre 2006, il a épousé A._, de nationalité suisse. A la suite de ce mariage, il a été mis au bénéfice d'une autorisation de séjour, régulièrement renouvelée.
X._ est le père de B._, ressortissante ivoirienne née le *** 2000. Le 19 juillet 2010, X._ a déposé auprès du Service de la population et des migrants du canton de Fribourg (ci-après l'Administration cantonale) une demande d'autorisation d'entrée et de séjour aux fins de regroupement familial pour B._.
Par décision du 5 avril 2011, l'Administration cantonale a rejeté la requête relative à B._.
B. X._ a recouru contre cette décision auprès du Tribunal cantonal de Fribourg. Par arrêt du 28 juillet 2011, ce dernier a rejeté le recours et confirmé la décision de l'Administration cantonale. Le Tribunal cantonal a relevé qu'aucun document officiel dûment authentifié n'attestait que le recourant détiendrait l'autorité parentale sur sa fille, condition dont dépendait le regroupement familial. Il a par ailleurs retenu que le regroupement familial sollicité était contraire à l'intérêt de l'enfant et que les liens existant entre le père et sa fille ne justifiaient pas la protection de l'art. 8 CEDH.
C. Par acte du 14 septembre 2011, X._ a déposé un recours en matière de droit public, subsidiairement un recours constitutionnel, auprès du Tribunal fédéral. Il conclut, sous suite de frais et dépens, à l'annulation de l'arrêt du Tribunal cantonal du 28 juillet 2011 et au renvoi de la cause devant l'instance cantonale pour investigations complémentaires et nouvelle décision, subsidiairement à ce que la demande de regroupement familial en faveur de B._ soit admise.
L'Administration cantonale n'a pas formulé de remarques sur le recours et confirmé sa décision de refus d'autorisation. Le Tribunal cantonal s'est référé aux motifs de l'arrêt attaqué et a conclu au rejet du recours. L'Office fédéral des migrations propose le rejet du recours en se référant aux considérants des instances précédentes.
Par courrier du 19 septembre 2011, le recourant a transmis au Tribunal fédéral trois nouveaux documents à l'appui de ses conclusions.

Considérant en droit:
1. 1.1 Selon l'art. 83 let. c ch. 2 LTF, le recours en matière de droit public est irrecevable à l'encontre des décisions en matière de droit des étrangers qui concernent une autorisation à laquelle ni le droit fédéral ni le droit international ne donnent droit.
Aucun traité international n'étant applicable en l'espèce (cf. art. 2 LEtr; RS 142.20), le regroupement familial est régi par les art. 42 ss LEtr. En vertu du droit interne, lorsque la demande tend à ce qu'un enfant puisse vivre en Suisse avec l'un de ses parents seulement (regroupement familial partiel) et que celui-ci est (re)marié, le droit de l'enfant à séjourner en Suisse dépend du statut du parent concerné, indépendamment du statut ou de la nationalité du nouveau conjoint (cf. <ref-ruling> consid. 1.2 p. 286 s.). En l'occurrence, c'est donc la situation du recourant et non celle de son épouse, ressortissante suisse, qui est déterminante. Le recourant étant titulaire d'une autorisation de séjour depuis son mariage en novembre 2006, le regroupement familial doit être envisagé sous l'angle de l'art. 44 LEtr. Or, cette disposition ne confère pas un droit à une autorisation de séjour au sens de l'art. 83 let. c ch. 2 LTF, l'octroi d'une telle autorisation étant laissé à l'appréciation de l'autorité. Il s'ensuit que la voie du recours en matière de droit public n'est pas ouverte sur la base de cette disposition (cf. <ref-ruling> consid. 1.2 p. 286 s. et les arrêts cités).
1.2 Le recourant invoque l'art. 8 CEDH pour faire venir sa fille en Suisse. Un étranger peut se prévaloir de la protection de la vie familiale découlant de l'art. 8 CEDH à condition qu'il entretienne une relation étroite et effective avec une personne de sa famille ayant le droit de résider durablement en Suisse (cf. <ref-ruling> consid. 1.3 p. 287 et les arrêts cités).
En tant qu'époux d'une citoyenne suisse, le recourant a en principe un droit au renouvellement de son autorisation de séjour en Suisse, pour autant qu'il fasse ménage commun avec son épouse (cf. art. 42 al. 1 LEtr) ou bénéficie d'une exception à cette exigence en vertu de l'art. 49 LEtr. L'arrêt attaqué ne retient pas que le recourant ne vivrait pas avec son épouse. Il a ainsi le droit de résider durablement en Suisse. Enfin, il ressort de l'arrêt attaqué que le père et sa fille entretiennent une relation - à distance certes - mais étroite et effective, de sorte qu'un droit au regroupement familial peut a priori découler de l'art. 8 CEDH en ce qui concerne sa fille mineure (cf. <ref-ruling> consid. 1.3 p. 287 et les arrêts cités). Le recours en matière de droit public est par conséquent ouvert. La question de savoir si le regroupement familial doit en définitive être accordé relève en revanche du fond (cf. <ref-ruling> consid. 1.2 p. 180).
1.3 Pour le surplus, l'arrêt attaqué est une décision finale (<ref-law>), rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF). Déposé en temps utile (<ref-law>) et dans les formes requises (<ref-law>) par le destinataire de l'arrêt attaqué qui a qualité pour recourir au sens de l'<ref-law>, le recours en matière de droit public est par conséquent recevable.
Le recours en matière de droit public étant recevable, le recours constitutionnel subsidiaire, formé subsidiairement par le recourant, ne l'est pas (cf. <ref-law> a contrario).
2. 2.1 L'<ref-law> dispose qu'aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente. Ainsi, il n'est pas possible de fournir au Tribunal fédéral des pièces qui n'ont pas été produites devant l'autorité précédente (cf. BERNARD CORBOZ, in Commentaire de la LTF, 2009, n° 17 ad <ref-law>). Il y a lieu de se baser sur l'état de fait existant lors du prononcé de la décision attaquée (cf. <ref-ruling> consid. 3.3 p. 500 s.). Le Tribunal fédéral doit en effet examiner si l'autorité précédente a correctement appliqué le droit. Or, la prise en compte d'une modification des circonstances conduirait à vider ce contrôle de son sens (cf. arrêt 2C_417/2008 du 18 juin 2010 consid. 2.1).
Au vu de ce qui précède, la Cour de céans ne tiendra pas compte des nouveaux documents déposés par le recourant par-devant le Tribunal fédéral, car ils sont postérieurs à l'arrêt attaqué.
2.2 Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'<ref-law>. Aux termes de cet alinéa, le Tribunal fédéral n'examine la violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal que si ce grief a été invoqué et motivé par le recourant.
3. Le recourant se plaint d'une violation de son droit d'être entendu garanti par l'art. 29 al. 2 Cst. Il reproche au Tribunal cantonal de limiter systématiquement les débats publics aux plaidoiries de sorte que, même si le recourant n'avait pas renoncé aux débats publics, le Tribunal cantonal n'aurait pas procédé à son audition ni à celle des témoins requis.
Le droit d'être entendu est une garantie constitutionnelle de nature formelle, dont la violation entraîne l'annulation de la décision attaquée sans égard aux chances de succès du recours sur le fond (<ref-ruling> consid. 2.6.1 p. 285). Ce moyen doit par conséquent être examiné en premier lieu (<ref-ruling> consid. 2.2 p. 197).
Les garanties minimales en matière de droit d'être entendu découlant de l'art. 29 al. 2 Cst. ne comprennent en principe pas le droit d'être entendu oralement (<ref-ruling> consid. 5.3 p. 148). Dans ces conditions, il importe peu de savoir si le droit d'être entendu oralement peut être valablement restreint aux plaidoiries et s'il est exact que le Tribunal cantonal du canton de Fribourg, lorsqu'il ordonne des débats publics, limite systématiquement ceux-ci aux plaidoiries. Le grief de violation constitutionnelle n'est ainsi pas fondé.
En matière de droit d'être entendu, le droit cantonal peut, selon les cas, offrir une protection plus étendue aux justiciables (cf. arrêt 2C_382/2011 du 16 novembre 2011 consid. 3.3.1). Or, le recourant ne fait état de la violation d'aucune disposition de droit cantonal, de sorte que le grief ne doit pas être examiné sous cet angle (<ref-law>).
4. 4.1 Aux termes de l'art. 8 CEDH, toute personne a notamment droit au respect de sa vie privée et familiale. Cette disposition ne confère cependant pas un droit à séjourner dans un État déterminé. Le fait de refuser un droit de séjour à un étranger dont la famille se trouve en Suisse peut toutefois porter atteinte au droit au respect de la vie privée et familiale garanti par cette disposition (<ref-ruling> consid. 1.3.1 p. 145, 153 consid. 2.1 p. 154 s.). Pour autant, les liens familiaux ne sauraient conférer de manière absolue, en vertu de l'art. 8 CEDH, un droit d'entrée et de séjour. Ainsi, lorsqu'un étranger a lui-même pris la décision de quitter sa famille pour aller vivre dans un autre État, ce dernier ne manque pas d'emblée à ses obligations de respecter la vie familiale s'il n'autorise pas la venue des proches du ressortissant étranger ou qu'il la subordonne à certaines conditions (cf. arrêt 2C_553/2011 du 4 novembre 2011 consid. 2.1 et les références citées).
4.2 Une ingérence dans l'exercice du droit au respect de la vie privée et familiale garanti par l'art. 8 CEDH est possible aux conditions de l'art. 8 par. 2 CEDH. La question de savoir si, dans un cas d'espèce, les autorités de police des étrangers sont tenues d'accorder une autorisation de séjour fondée sur l'art. 8 CEDH doit être résolue sur la base d'une pesée de tous les intérêts publics et privés en présence (cf. <ref-ruling> consid. 2.1 p. 287 s. et les références citées).
S'agissant d'un regroupement familial partiel, il convient de tenir compte dans la pesée des intérêts notamment des exigences auxquelles le droit interne soumet celui-ci (cf. <ref-ruling> consid. 2.6 p. 292 s.). Il n'est en effet pas concevable que, par le biais de l'art. 8 CEDH, un étranger qui ne dispose, en vertu de la législation interne, d'aucun droit à faire venir sa famille proche en Suisse, puisse obtenir des autorisations de séjour pour celle-ci sans que les conditions posées par les art. 42 ss LEtr et en particulier lorsque les délais de l'art. 47 LEtr ont été respectés, celles figurant à l'art. 44 LEtr ne soient réalisées. Du reste, les conditions de logement et d'absence d'aide sociale posées par cette dernière disposition se retrouvent dans la législation relative au regroupement familial de la plupart des États parties à la Convention (cf. arrêt 2C_508/2009 du 20 mai 2010 consid. 4.2).
4.3 Il faut également tenir compte de l'intérêt de l'enfant, ainsi que l'exige l'art. 3 al. 1 de la Convention relative aux droits de l'enfant du 20 novembre 1989 (CDE; RS 0.107). Cette Convention implique de se demander si la venue en Suisse d'un enfant au titre du regroupement familial partiel n'entraînerait pas un déracinement traumatisant, ne reviendrait pas de facto à le couper de tout contact avec la famille résidant dans son pays d'origine et n'interviendrait pas contre sa volonté (cf. <ref-ruling> consid. 2.3.1 p. 290 s. et les arrêts cités). Toutefois, comme il appartient en priorité aux parents de décider du lieu de séjour de leur enfant, en prenant en considération l'intérêt de celui-ci, les autorités compétentes n'ont qu'un pouvoir d'examen limité à cet égard: elles ne peuvent et ne doivent refuser le regroupement familial que si celui-ci est manifestement contraire à l'intérêt de l'enfant (<ref-ruling> consid. 4.8 p. 86 ss). Cette jurisprudence ne s'applique pas seulement au regroupement familial fondé sur les art. 42 et 43 LEtr, mais aussi aux requêtes basées sur l'art. 44 LEtr (cf. <ref-ruling> consid. 2.3.2 p. 291).
Afin d'évaluer si le regroupement familial est manifestement contraire à l'intérêt de l'enfant, l'autorité compétente peut être amenée, selon les circonstances, à entendre l'enfant de façon appropriée (cf. art. 12 CDE) afin de vérifier que le regroupement n'intervient pas contre sa volonté clairement exprimée. Lorsque la procédure est essentiellement écrite, comme en droit des étrangers, il n'est pas indispensable que l'enfant soit entendu personnellement et oralement, à condition que son point de vue puisse s'exprimer de façon appropriée, soit par une déclaration écrite de l'enfant lui-même, soit par l'intermédiaire d'un représentant (cf. <ref-ruling> consid. 3c p. 368, confirmé récemment dans l'arrêt 2C_746/2009 du 16 juin 2010 consid. 4.1). Selon la jurisprudence en matière de droit des étrangers, la représentation des enfants peut souvent se faire par l'intermédiaire du ou des parents parties à la procédure, dès lors que les intérêts des deux parents et ceux de l'enfant coïncident (cf. arrêt 2C_746/2009 du 16 juin 2010 consid. 4.1 et les arrêts cités). Tel est le cas lorsque le regroupement tend à permettre à l'enfant de rejoindre ses deux parents ou son seul parent survivant, de sorte qu'il n'est pas nécessaire de recueillir formellement l'avis de l'enfant, sous réserve de l'hypothèse prévue à l'art. 47 al. 4 in fine LEtr.
4.4 En résumé, l'étranger qui bénéficie d'une autorisation de séjour durable est en droit de réclamer le regroupement familial selon l'art. 44 LEtr pour ses enfants en se prévalant de l'art. 8 CEDH (et de l'art. 13 Cst.) aux conditions cumulatives suivantes: (1) l'étranger souhaite vivre en ménage commun avec l'enfant (art. 44 let. a LEtr); (2) il dispose d'un logement approprié (art. 44 let. b LEtr); (3) il ne dépend pas de l'aide sociale (art. 44 let. c LEtr); (4) le regroupement familial est demandé dans les délais prévus à l'art. 47 LEtr; (5) le regroupement familial n'intervient pas en violation claire des intérêts et des relations familiales de l'enfant, la relation antérieure entre l'enfant et le parent qui requiert le regroupement devant faire l'objet d'une appréciation; (6) il n'y a pas d'abus de droit; (7) on n'est pas en présence d'une cause de révocation selon l'art. 62 LEtr (cf. <ref-ruling> consid. 2.7 p. 293 s.). Enfin, (8) le parent qui fait valoir le regroupement familial doit disposer de l'autorité parentale ou au moins du droit de garde sur l'enfant (cf. <ref-ruling> consid. 2.3.1 p. 290; confirmé in arrêts 2C_578/2011 du 1er décembre 2011 consid. 3.4.3; 2C_194/2011 du 17 novembre 2011 consid. 2.2.1; 2C_132/2011 du 28 juillet 2011 consid. 4). En effet, le regroupement familial doit être réalisé en conformité avec les règles du droit civil régissant les rapports entre parents et enfants et il appartient aux autorités compétentes en matière de droit des étrangers de s'en assurer (<ref-ruling> consid. 4.8 p. 86 ss). Une simple déclaration du parent resté à l'étranger autorisant son enfant à rejoindre l'autre parent en Suisse n'est en principe pas suffisante (cf. arrêts 2C_132/2011 du 28 juillet 2011 consid. 6.2.3; 2C_537/2009 du 31 mars 2010 consid. 4).
5. Le recourant fait état d'une violation de l'art. 44 LEtr, de l'art. 8 CEDH, des art. 3 et 10 CDE, ainsi que des art. 9 et 13 al. 1 Cst. Il allègue que, les conditions de l'art. 44 LEtr étant remplies, il peut se prévaloir d'un droit au regroupement familial en vertu de l'art. 8 CEDH et de l'art. 13 Cst. Il ajoute que l'attestation produite en procédure cantonale suffit pour donner tout pouvoir parental au recourant sur sa fille et que les critères permettant aux autorités administratives de s'opposer au déménagement de l'enfant d'un parent vers l'autre ne sont pas remplis en l'espèce.
6. En ce qui concerne l'autorité parentale, le Tribunal cantonal a retenu qu'aucun document officiel dûment authentifié n'attestait que le recourant détiendrait celle-ci sur sa fille, même conjointement. L'autorité parentale du recourant sur sa fille n'étant pas démontrée, une condition impérative du regroupement familial ferait ainsi défaut. Le recourant, en se prévalant d'une appréciation arbitraire des preuves, fait valoir qu'une telle pièce a bien été produite et que c'est à tort que le Tribunal cantonal a retenu que la mère de sa fille détiendrait seule l'autorité parentale dès lors que l'autorité judiciaire compétente de Côte d'Ivoire a établi en sa faveur un certificat d'autorisation parentale.
6.1 Parmi les conditions posées par la jurisprudence (cf. supra consid. 4.4), l'étranger qui demande le regroupement familial partiel pour son enfant doit être légitimé, sous l'angle du droit civil, à vivre avec son enfant en Suisse. Il appartient au parent requérant de collaborer à la remise des documents permettant d'établir l'existence d'un tel droit (cf. arrêt 2C_132/2011 du 28 juillet 2011 consid. 6.2.1). Savoir si les documents produits permettent d'en inférer que le parent qui demande le regroupement familial dispose d'un droit lui permettant de vivre avec son enfant n'est pas une question de fait, mais relève du droit. Partant, le Tribunal fédéral l'examine librement, sans être limité à l'arbitraire.
6.2 En l'espèce, le recourant a produit en procédure cantonale un document établi le 22 novembre 2010 par le Juge des tutelles du Tribunal de première instance de C._ (Côte d'Ivoire) qui, à la suite de la requête de la mère de l'enfant, donne acte à celle-ci de son accord à autoriser B._ à solliciter un visa pour rejoindre son père et résider auprès de lui. Ce document précise que l'enfant a été reconnue par son père dès sa naissance et que la mère exerce les droits de la puissance paternelle à cause de l'éloignement du père.
Il convient donc de se demander si, sur la base de ce document, on peut reprocher aux juges cantonaux d'avoir violé le droit fédéral en parvenant à la conclusion que le recourant ne pouvait faire valoir qu'il disposerait d'un droit sous l'angle du droit civil lui permettant de vivre avec sa fille en Suisse.
Le document produit en procédure cantonale retient que la mère "exerce les droits" découlant de l'autorité parentale. Il en découle en outre que la mère entend que l'enfant prenne résidence auprès de son père. Établie par l'autorité tutélaire compétente, on doit en déduire que cette autorisation officielle de vivre avec le père légitime ce dernier, sous l'angle du droit civil, à vivre avec sa fille en Suisse. En pareilles circonstances, en considérant qu'un document émanant d'une autorité officielle n'était pas suffisant pour établir que le recourant disposerait d'un droit lui permettant de vivre avec sa fille en Suisse, le Tribunal cantonal a procédé à une déduction qui ne peut être confirmée. On n'est pas en présence d'une simple déclaration écrite d'un parent, considérée comme insuffisante par la jurisprudence. L'arrêt attaqué doit donc être réformé sur ce point.
7. Le Tribunal cantonal a par ailleurs retenu que le regroupement familial était indéniablement contraire à l'intérêt de l'enfant, car il provoquerait un déracinement culturel et social important, alors même que l'enfant ne connaît que peu son père. Le recourant conteste cette appréciation. Il relève toute une série d'éléments de fait et reproche au Tribunal cantonal d'en avoir arbitrairement fait abstraction.
7.1 Le Tribunal fédéral se fonde sur les faits constatés par l'autorité précédente (cf. <ref-law>), à moins que ces faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law>, à savoir arbitrairement (cf. <ref-law>; <ref-ruling> consid. 2.4). La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées; à défaut, il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée. En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (ATF137 II 353 consid. 5.1 p. 356).
Le recourant méconnaît à l'évidence ces principes. Il fonde une partie de son argumentation sur des faits et sa propre interprétation des événements qui ne ressortent pas de l'arrêt attaqué, sans démontrer que cet acte serait manifestement inexact ou arbitraire. Le Tribunal fédéral n'est pas une autorité d'appel habilitée à revoir librement les faits. Partant, l'Autorité de céans se limitera à examiner si le droit fédéral a été correctement appliqué par le Tribunal cantonal sur la base des faits ressortant de l'arrêt entrepris.
7.2 Dans le cas particulier, le Tribunal cantonal a retenu que l'enfant, née en 2000, a été confiée à sa mère lors du départ du recourant et a été séparée de celui-ci pendant 10 ans. La jeune fille, aujourd'hui âgée de 12 ans, a été en mesure de se développer dans son pays d'origine, notamment sur le plan scolaire. En outre, selon les juges cantonaux, la relation qu'elle entretient avec son père pourra être maintenue de la même manière qu'elle l'a été jusqu'à présent, sans nécessiter sa venue en Suisse, le recourant pouvant en particulier continuer à l'aider matériellement. Par ailleurs, selon l'arrêt querellé, les conséquences du déracinement de l'enfant seraient particulièrement néfastes, bien que l'enfant elle-même souhaite se rapprocher de son père, dès lors que le recourant et son épouse exercent une activité lucrative et ne pourront pas assurer par leur présence le suivi nécessaire de l'enfant. Enfin, les juges cantonaux ont relevé que rien n'indiquait que la mère de l'enfant ne pouvait plus se charger de son éducation de sorte ou que l'environnement ne serait plus propice à l'évolution de l'enfant.
Une telle position ne peut être suivie. En effet, la jeune fille est certes élevée par sa mère, dans un entourage qui lui permet une scolarité normale, alors qu'elle n'a jamais vécu avec son père. Un transfert auprès de celui-ci serait constitutif d'un déracinement culturel et social, mais celui-ci est inhérent à tout regroupement familial et rien ne permet de conclure que la fille du recourant, qui a 12 ans, aurait des problèmes qui empêcheraient son adaptation. Du reste, le raisonnement du Tribunal cantonal reviendrait à considérer qu'un regroupement familial serait par principe contraire à l'intérêt d'un enfant qui a passé plus de dix ans dans son pays d'origine, ce qui va à l'encontre même du système des délais prévus à l'art. 47 LEtr qui autorise le regroupement familial quel que soit l'âge de l'enfant. En outre, la situation politique et économique en Côte-d'Ivoire est très instable, le pays étant périodiquement au bord de la guerre civile, ce qui peut influer négativement sur le développement d'une jeune fille. Celle-ci rencontrera en Suisse, auprès de son père et de sa belle-mère, un environnement stable qui devrait favoriser son épanouissement. Que ces deux personnes de référence exercent une activité lucrative ne saurait être l'élément déterminant et surtout ne signifie pas qu'un enfant de plus de 12 ans ne pourrait recevoir l'attention et l'affection nécessaires. Enfin, il ressort de l'arrêt cantonal que l'enfant elle-même a exprimé, dans un courrier adressé au mandataire de son père, son v?u de vivre auprès de son père. Au vu de ces éléments, c'est à tort que le Tribunal cantonal a retenu que le regroupement familial serait manifestement contraire à l'intérêt de l'enfant. L'arrêt attaqué doit donc être réformé sur ce point également.
8. En ce qui concerne les autres conditions du regroupement familial (cf. supra consid. 4.4), il ressort de l'arrêt attaqué que le regroupement familial a été demandé dans les délais prévus à l'art. 47 LEtr, qu'il n'y a pas d'abus de droit et qu'on n'est pas en présence d'une cause de révocation selon l'art. 62 LEtr. L'arrêt attaqué est en revanche muet sur l'existence d'un logement approprié pour recevoir la jeune fille et la non-dépendance de l'aide sociale du recourant.
Au vu de ce qui précède, le recours en matière de droit public doit par conséquent être admis, la décision attaquée annulée et la cause renvoyée au Tribunal cantonal de Fribourg pour qu'il examine ces points et statue à nouveau.
Il n'y a pas lieu de percevoir de frais de justice (cf. <ref-law>). Succombant, le canton de Fribourg versera au recourant une indemnité à titre de dépens (cf. <ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis dans la mesure où il est recevable et l'arrêt du Tribunal cantonal du canton de Fribourg du 28 juillet 2011 annulé.
2. La cause est renvoyée au Tribunal cantonal du canton de Fribourg afin qu'il statue à nouveau dans le sens des considérants.
3. Il n'est pas perçu de frais judiciaires.
4. Le canton de Fribourg versera au recourant une indemnité de CHF 2'000.- à titre de dépens.
5. Le présent arrêt est communiqué au mandataire du recourant, au Service de la population et des migrants du canton de Fribourg, au Tribunal cantonal du canton de Fribourg, Ie Cour administrative, et à l'Office fédéral des migrations.
Lausanne, le 2 mars 2012
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: Zünd
La Greffière: Beti