Faits:
A. Par jugement du 3 avril 2009, le Tribunal pénal économique a reconnu X._ coupable de gestion déloyale qualifiée, de gestion fautive et d'infractions commises comme complice et comme auteur principal à la loi fédérale sur l'impôt fédéral direct et à la loi fribourgeoise sur les impôts cantonaux directs. Il l'a en revanche acquitté des chefs d'accusation de faux dans les titres, d'obtention frauduleuse d'une constatation fausse, de gestion déloyale et de complicité de tentative d'escroquerie. X._ a été condamné à une peine privative de liberté de sept mois avec sursis pendant un délai d'épreuve de deux ans, sous déduction de la détention préventive subie pendant huit jours.
B. Le 16 juillet 2009, X._ a demandé à l'Etat de Fribourg le paiement d'une indemnité de 41'551 fr. 60. Ce montant comprenait un tort moral de 1'600 fr. pour la détention préventive injustifiée et de 5'000 fr. pour les autres actes de procédure ainsi que le remboursement de ses frais d'avocat, à hauteur de 34'951 fr. 60.
Par arrêt du 1er décembre 2010, la Chambre pénale du Tribunal cantonal fribourgeois a entièrement rejeté la demande.
C. X._ forme un recours en matière pénale. Il conclut à la réforme de l'arrêt attaqué en ce sens que le canton de Fribourg lui verse 34'951 fr. 60 au titre de frais d'avocat encourus dans la procédure pénale.

Considérant en droit:
1. La décision entreprise concerne l'obtention d'une indemnité en remboursement des frais d'avocat suite au prononcé d'un acquittement partiel. Elle est fondée sur le droit cantonal de procédure pénale, soit l'art. 242 de l'ancien code de procédure pénale fribourgeois (RS/FR 32.1; ci-après : CPP/FR). Il s'agit donc d'un arrêt rendu en matière pénale au sens de l'<ref-law> (<ref-ruling> consid. 1.1). Dirigé contre un jugement final (<ref-law>) prononcé par une autorité cantonale de dernière instance (art. 80 et 130 al. 1 LTF), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 46 al. 1 let. c et 100 al. 1 LTF) et la forme (<ref-law>) prévus par la loi.
2. Le recourant se plaint d'une application arbitraire de l'art. 242 al. 2 CPP/FR. Selon lui, les conditions d'octroi d'une indemnité prévues par cette disposition sont réalisées.
2.1 Le Tribunal fédéral revoit l'interprétation et l'application du droit cantonal sous l'angle restreint de l'arbitraire (<ref-ruling> consid. 2.3; <ref-ruling> consid. 1.2.1). Il ne s'écarte alors de la solution retenue que si celle-ci apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs et en violation d'un droit certain. En revanche, si l'application de la loi défendue par l'autorité cantonale ne s'avère pas déraisonnable ou manifestement contraire au sens et au but de la disposition ou de la législation en cause, cette interprétation sera confirmée, même si une autre solution - éventuellement plus judicieuse - paraît possible (<ref-ruling> consid. 2.4 p. 5; <ref-ruling> consid. 2.2.2 p. 318/319).
2.2 Aux termes de l'art. 242 CPP/FR, celui qui subit un préjudice causé par une arrestation ou une détention injustifiées ou par une erreur judiciaire, en obtient réparation sur requête, dans la mesure où il n'a pas provoqué ni aggravé le préjudice par son fait (al. 1). Celui qui subit un préjudice important en raison d'un autre acte de procédure peut en demander réparation. Il y est fait droit si et dans la mesure où l'équité l'exige (al. 2). La réparation du dommage au sens de cette disposition est subordonnée à l'existence de quatre conditions cumulatives : l'existence d'un préjudice, une détention ou un autre acte de procédure injustifiés, un rapport de causalité entre le préjudice et l'acte ou la détention injustifiés et l'absence d'un comportement fautif du prévenu qui aurait provoqué ou compliqué l'instruction pénale (FÉLIX BAUMANN/PIERRE CORBOZ, L'indemnisation des personnes poursuivies à tort [art. 242 ss CPP] in : RFJ 2007 p. 355 ss, 365 et 396).
L'acte de procédure est injustifié lorsque l'action pénale a pris fin par un non-lieu ou par un jugement d'acquittement, ce dernier fût-il obtenu au bénéfice du doute (FÉLIX BAUMANN/PIERRE CORBOZ, op. cit., p. 370). Le non-lieu ou l'acquittement peuvent être partiels. Le critère déterminant pour l'octroi d'une indemnisation est alors le bien-fondé de la poursuite pénale. En effet, l'art. 242 CPP/FR peut sans arbitraire être compris en ce sens qu'il ne garantit pas une indemnité au lésé, même partiellement acquitté, s'il a été poursuivi à juste titre (arrêt 1P.429/2006 du 13 novembre 2006 consid. 2.4.2; cf. aussi arrêt 1P.207/2000 du 29 septembre 2000 consid. 2).
2.3 En l'espèce, la cour cantonale a constaté d'une part que les faits étaient étroitement enchevêtrés entre eux et d'autre part que des faits semblables avaient donné lieu à plusieurs chefs de préventions, dont certains avaient été retenus alors que d'autres avaient été abandonnés. Il n'apparaissait ainsi pas que des actes de procédure spécifiques se soient révélés injustifiés. Il était de surcroît impossible de relier à des actes de procédure injustifiés des frais d'avocat déterminés.
Au vu des principes exposés au considérant précédent, ce raisonnement n'est pas arbitraire. En effet, il ressort de la motivation de la cour cantonale qu'aucune mesure d'instruction spécifique n'apparaissait injustifiée en considération de la relation existant entre les infractions pour lesquelles le recourant a été condamné et celles pour lesquelles le recourant a été libéré (cf. dans ce sens : DONATSCH/SCHMID, Kommentar zur Strafprozessordnung des Kantons Zürich n. 6 ad § 189; ZR 1997 n° 7). Le recourant prétend certes qu'il a été acquitté de certains chefs de prévention sur la base de circonstances différentes de celles qui ont fondé sa condamnation. Il s'en prend ainsi aux constatations de fait de l'autorité précédente qui lient le Tribunal fédéral (<ref-law>) puisque le recourant ne fait valoir aucune des exceptions qui permettraient de s'écarter de l'état de fait retenu dans l'arrêt attaqué (<ref-law>; <ref-ruling> consid. 4.1.2).
L'une des conditions cumulatives à l'octroi de l'indemnité n'étant pas remplie, la cour cantonale pouvait, sans arbitraire, rejeter les prétentions du recourant. Cela étant, dans la mesure où les griefs articulés sous ch. II du recours en matière pénale se rapportent à une autre condition, à savoir l'existence d'un lien de causalité entre l'acte injustifié et le préjudice, il n'y a pas lieu de les examiner.
3. Le recourant estime que la mise à sa charge d'une partie des frais d'avocat viole la présomption d'innocence.
3.1 La condamnation d'un prévenu acquitté à supporter tout ou partie des frais doit respecter la présomption d'innocence, consacrée par les art. 32 al. 1 Cst. et 6 ch. 2 CEDH, qui interdit de condamner aux frais un prévenu libéré en laissant entendre que ce dernier serait néanmoins coupable des infractions qui lui étaient reprochées (<ref-ruling> consid. 2 et 3 p. 302 s.). La condamnation aux frais, fondée sur la seule commission de l'infraction pénale, ne doit pas constituer une sanction pénale déguisée (arrêt 6B_387/2009 du 20 octobre 2009, consid. 1.1).
En cas d'acquittement partiel, la cour devra réduire les frais, sous peine de porter atteinte à la présomption d'innocence si le point sur lequel le prévenu a été acquitté a donné lieu à des frais supplémentaires et si le prévenu n'est pas, de par un comportement fautif et contraire à une règle juridique, à l'origine de la procédure pénale ayant engendré ces frais (arrêt 6S.421/2006 du 6 mars 2007 consid. 2.1.2 in fine; ZR 1997 n° 7; cf. aussi <ref-ruling> consid. 3b p. 155; <ref-ruling> consid. 1b; <ref-ruling> consid. 2c p. 168). Une certaine marge d'appréciation doit être laissée à l'autorité dès lors qu'il est difficile de déterminer avec exactitude les frais qui relèvent de chaque fait imputable ou non au condamné (arrêt 6S.421/2006 du 6 mars 2007 consid. 2.1.2 in fine).
3.2 En l'espèce, la condamnation à la prise en charge - partielle - des frais d'avocat ne viole pas la présomption d'innocence. En effet, comme on l'a vu ci-dessus (consid. 2), il n'a pas été possible d'isoler une mesure d'instruction spécifique qui aurait été ordonnée du fait des infractions pour lesquelles le recourant a été libéré. En outre, le recourant, par son comportement répréhensible, est à l'origine de l'enquête et des frais en résultant.
4. Le recourant, qui succombe, supporte les frais de justice (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Fribourg, Chambre pénale.
Lausanne, le 12 septembre 2011
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Rey-Mermet