Faits:
A. Par jugement du 12 avril 2010, le Juge de police de l'arrondissement de la Sarine a reconnu X._ coupable de violation simple des règles de la circulation routière, injure, menaces et contrainte. Il l'a condamné à une peine pécuniaire de 20 jours-amende à 40 francs le jour, assortie du sursis pendant trois ans, et à une amende de 600 francs (peine de substitution de 6 jours de privation de liberté en cas de non-paiement fautif). Il s'est enfin prononcé sur les conséquences civiles ainsi que les frais de procédure.
B. Statuant le 16 juin 2011 sur appel de X._, la Cour d'appel pénal du Tribunal cantonal fribourgeois a partiellement réformé le jugement entrepris en ce sens qu'elle l'a acquitté de l'infraction d'injure. Elle a réduit la peine pécuniaire à 18 jours-amende et les frais judiciaires de première instance en conséquence. Cet arrêt se fonde en substance sur les faits suivants.
Le 7 décembre 2008, X._ a emprunté, au volant de son véhicule, une voie de circulation réservée aux bus et a dépassé A._ par la droite. Celle-ci lui a alors signalé, au moyen d'appels de phares, la faute de circulation qu'il venait de commettre. Il a alors manifesté en direction de la conductrice un geste de rage avec la main. Arrivé à un feu de circulation, X._ est sorti de sa voiture et s'est dirigé, d'un air menaçant, vers le véhicule de A._. Cette dernière a tenté de l'éviter en quittant la colonne de voitures pour s'engager dans un parking situé sur la droite. X._ est alors remonté dans son véhicule et est allé s'arrêter devant la sortie dudit parking de manière à bloquer celle-ci, empêchant ainsi A._ de poursuivre sa route. Il est à nouveau sorti de son véhicule et s'est avancé vers elle en gesticulant et en étant très énervé. Comme elle refusait de baisser la vitre, il a finalement quitté les lieux.
C. X._ interjette un recours en matière pénale contre cet arrêt dont il demande l'annulation. Il conclut, avec suite de frais et dépens, à la réforme de la décision cantonale en ce sens qu'il est libéré du chef d'accusation de menaces, qu'une peine pécuniaire de 5 jours-amende ainsi qu'une amende de 100 francs sont prononcées et que les conclusions civiles de l'intimée sont rejetées. Il demande finalement que les 3/5 des frais de justice de première instance soient mis à la charge de l'Etat, de même que la totalité de ceux de l'instance précédente, et qu'une indemnité de partie de 3'000 francs lui soit allouée. Il sollicite finalement l'octroi de l'effet suspensif au recours.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. Le recourant soutient que les conditions d'application de l'<ref-law> ne sont pas réalisées.
1.1 Cette disposition réprime le comportement de celui qui, par une menace grave, aura alarmé ou effrayé une personne. Sur le plan objectif, l'infraction suppose que l'auteur ait émis une menace, qu'elle soit grave et qu'elle ait eu pour conséquence que la victime a été alarmée ou effrayée. Par menace, il faut entendre que l'auteur, par ses paroles ou son comportement, fait volontairement redouter à la victime la survenance d'un préjudice au sens large (<ref-ruling> consid. 2b p. 100 et les références citées). Une menace est qualifiée de grave si elle est objectivement de nature à alarmer ou à effrayer la victime. Il faut donc se demander si une personne raisonnable, dotée d'une résistance psychologique normale, aurait ressenti la menace comme grave (<ref-ruling> consid. 1a p. 215 s., voir aussi arrêt 6B_435/2011 du 6 octobre 2011 consid. 3.1). Pour déterminer si une menace grave a été proférée, il ne faut pas se fonder exclusivement sur les termes utilisés par l'auteur ou une attitude en particulier. Il faut tenir compte de l'ensemble de la situation, parce que la menace peut aussi bien résulter d'un geste que d'une allusion (<ref-ruling> consid. 1a p. 215 s). Le comportement de l'auteur doit être examiné dans son ensemble pour déterminer ce que le destinataire était fondé à redouter (Bernard Corboz, Les infractions en droit suisse, vol. I, 3ème éd., 2010, n. 8 ad <ref-law>). Le juge dispose d'un certain pouvoir d'appréciation pour dire si la menace doit être qualifiée de grave (Andreas Donatsch, Strafrecht III, Delikte gegen den Einzelnen, 9ème éd., 2008, p. 402). Subjectivement, l'auteur doit avoir l'intention non seulement de proférer des menaces graves, mais aussi d'alarmer ou d'effrayer le destinataire. Le dol éventuel suffit.
1.2 Selon la cour d'appel pénal, le comportement du recourant, pris dans sa globalité, constituait une menace qui pouvait être qualifiée objectivement de grave, compte tenu des circonstances. Il avait adopté une posture menaçante dès les appels de phare de la plaignante. Il avait ensuite cherché à l'impressionner en sortant de son véhicule pour s'expliquer, puis voyant qu'elle lui échappait, il l'avait suivie, allant jusqu'à entraver la sortie du parking pour s'avancer jusqu'à elle en gesticulant et en étant très énervé. Son attitude hostile et sa persistance à vouloir absolument se confronter à elle fondaient le caractère grave de la menace. Il fallait admettre que n'importe quelle conductrice placée dans semblable situation pouvait nourrir des craintes et se sentir apeurée. Il n'y avait nul doute que la plaignante avait ressenti cette frayeur.
1.3 Le recourant soutient que son comportement - même considéré dans sa globalité - ne constitue pas une menace d'une gravité suffisante pour tomber sous le coup de l'<ref-law>.
Le recourant ne conteste pas avoir adopté, lors du déroulement des événements, les différents comportements décrits dans l'arrêt cantonal. En particulier, il ne remet pas en cause les constatations cantonales - qui lient le Tribunal fédéral (<ref-law>) - selon lesquelles il apparaissait que, dès le dépassement du véhicule de l'intimée, il avait manifesté de l'agressivité et de l'hostilité envers celle-ci par les gestes et les attitudes adoptées décrits dans l'arrêt cantonal (signe de rage de la main, air menaçant en se dirigeant à deux reprises vers le véhicule de l'intimée, fait de gesticuler, manifestation de nervosité). Il ne saurait ainsi reprocher à la cour d'appel pénal de ne pas avoir détaillé les faits sur lesquels elle s'était fondée pour retenir que son comportement, considéré globalement, était menaçant.
En affirmant que, même mis bout à bout, ses gestes ou comportements ne constituaient pas une menace d'une gravité suffisante, il se borne à opposer de manière irrecevable son appréciation à celle de l'autorité cantonale, sans motiver en quoi celle-ci aurait violé le droit fédéral (<ref-law>) en retenant que le seuil de gravité était atteint.
Il se méprend quand il fait valoir que l'autorité précédente n'aurait pas fait abstraction de l'extrême sensibilité de la plaignante et aurait ainsi examiné la gravité de la menace de manière subjective, à savoir sans faire abstraction de la sensibilité propre à son destinataire. Après avoir énuméré les différentes attitudes adoptées par le recourant, l'autorité cantonale a retenu que, dans ces circonstances, n'importe quelle conductrice, placée dans une situation semblable, pouvait nourrir des craintes. Elle a ainsi considéré, à l'instar du Juge de police de l'arrondissement de la Sarine, que le comportement du recourant était objectivement de nature à effrayer la plaignante, ou autrement dit, que toute personne raisonnable, dotée d'une résistance psychologique plus ou moins normale, aurait ressenti cette menace comme grave.
Le recourant ne saurait davantage soutenir que la menace n'était pas grave au motif qu'à l'intérieur de son véhicule, l'intimée était en sécurité et ne pouvait pas objectivement se sentir menacée. Comme exposé supra, la gravité objective a été appréciée au regard de l'ensemble des événements, parmi lesquels le fait pour la personne menacée d'être à l'abri dans son véhicule, circonstance qui n'a pas été considérée comme suffisante pour amoindrir la gravité de la menace. Le Tribunal fédéral a déjà eu l'occasion de traiter d'un cas comparable, dans lequel il avait considéré que le fait de suivre une personne sur une distance de plusieurs kilomètres en se tenant très proche de son véhicule, avant de la forcer à s'arrêter pour s'approcher d'elle dans un état d'énervement avancé, constituait déjà une menace d'une gravité suffisante pour justifier l'application de l'<ref-law>, et cela malgré que son destinataire soit resté dans son véhicule (cf. arrêt 6P.86/2005 consid. 8).
Le recourant considère que la cour d'appel pénal a examiné la gravité objective en fonction de la sensibilité des femmes en général, alors que rien ne permettrait de considérer que les femmes seraient plus craintives que les hommes. Ce faisant, il a mal apprécié l'emploi du terme conductrice dans l'examen de la condition de la gravité de la menace. La cour d'appel a confirmé, en s'y ralliant expressément, le jugement de première instance qui n'émet aucune considération relative à une distinction de sexe dans l'appréciation du caractère objectivement grave de la menace. En employant le terme "conductrice", la cour d'appel pénal n'entendait ainsi pas réduire la portée dudit jugement.
Au vu des faits exposés, l'autorité cantonale pouvait sans violer le droit fédéral conclure que le comportement du recourant atteignait une intensité suffisante pour le qualifier de menace grave. Celui-ci a agi de manière impulsive et colérique dès les premiers appels de phare de l'intimée, étant précisé que ces derniers faisaient suite à une violation des règles de la circulation routière qu'il avait lui-même commise. Il lui a adressé un signe de rage de la main avant de sortir, à deux reprises, de son véhicule et de se diriger en direction de l'intimée d'un air menaçant, la seconde fois en gesticulant, après avoir bloqué son véhicule à la sortie d'un parking où elle s'était réfugiée. De simples appels de phare, destinés à signaler à un usager de la route l'infraction qu'il vient tout juste de commettre, ne sont pas censés conduire à ce genre de comportement excessif, de sorte qu'il y a lieu d'admettre que toute personne raisonnable, placée dans les mêmes circonstances, aurait pensé, comme l'intimée, avoir croisé la route d'un individu particulièrement agressif, qui cherchait probablement à lui occasionner un préjudice, l'intimée ayant pensé qu'il allait s'en prendre à son intégrité physique. Par ailleurs, selon les faits retenus, cette dernière a effectivement été effrayée de sorte que la cour cantonale n'a pas violé le droit fédéral en admettant que les conditions objectives de l'infraction étaient réalisées. Le grief est rejeté dans la mesure de sa recevabilité.
1.4 Le recourant conteste que l'élément subjectif de l'infraction soit réalisé. Il considère que la cour d'appel a retenu la réalisation de cette condition sur la base de sa conviction que le recourant entendait donner des explications plutôt qu'en recevoir. Tel n'est pas le cas. L'autorité cantonale a retenu, en renvoyant aux extraits du jugement auquel elle a déclaré se rallier, que le recourant ne pouvait ignorer que son attitude était clairement menaçante. Elle s'est ainsi prononcée sur les éléments qui lui ont permis de retenir que le recourant avait agi intentionnellement. Il s'agit là d'une constatation de fait qui lie le Tribunal fédéral (<ref-law>). Or, le recourant, qui se limite à contester la réalisation de cette condition, ne démontre pas au moyen d'une motivation conforme aux exigences des art. 42 al. 2 et 106 al. 2 LTF qu'il était inadmissible de retenir, sur la base des faits établis, qu'il savait que son attitude était clairement menaçante et de nature à alarmer la plaignante. Le grief est irrecevable.
2. Dans le cadre de la fixation de la peine, le recourant reproche à l'autorité précédente de ne pas avoir retenu un concours imparfait entre les menaces de l'<ref-law> et la contrainte au sens de l'<ref-law>.
2.1 Se rend coupable de contrainte au sens de l'<ref-law> celui qui, en usant de violence envers une personne ou en la menaçant d'un dommage sérieux ou en l'entravant de quelque autre manière dans sa liberté d'action, l'aura obligée à faire, à ne pas faire ou à laisser faire un acte.
Selon la jurisprudence, lorsque des menaces au sens de l'<ref-law> sont utilisées comme moyen de pression pour obliger autrui à faire, à ne pas faire ou à laisser faire un acte, on se trouve en présence d'un concours imparfait, l'<ref-law> étant seul applicable (<ref-ruling> consid. 1b p. 216).
2.2 Le grief apparaît mal fondé. Le recourant a été reconnu coupable de contrainte pour avoir entravé l'intimée dans sa liberté d'action au moyen de son véhicule qu'il a arrêté à la sortie du parking de manière à en bloquer l'accès à l'intimée. Ce n'est que dans l'hypothèse où le recourant aurait empêché temporairement la plaignante de poursuivre sa route au moyen de menaces qu'un concours imparfait aurait pu entrer en ligne de compte. Dans la mesure où le recourant s'est servi de sa voiture pour bloquer la sortie du parking, il ne l'a pas contrainte dans sa liberté d'action par le biais de menaces ou de violences, mais d'une autre manière (José Hurtado Pozo, Droit pénal, Partie spéciale, 2009, n. 2462 ss). Partant, le concours imparfait entre ces deux infractions était exclu.
3. Il résulte de ce qui précède que le recours est rejeté dans la mesure où il est recevable. Le recourant, qui succombe, supporte les frais judiciaires (<ref-law>). La requête d'effet suspensif devient sans objet. Elle l'était au demeurant de toute manière en vertu de l'<ref-law>.

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 2000 francs, sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Fribourg, Cour d'appel pénal.
Lausanne, le 27 juillet 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
Le Greffier: Rieben