Faits:
A. Par décision du 18 septembre 2008, confirmée sur opposition le 15 juin 2009, la Caisse vaudoise (ci-après: la Caisse) a refusé d'octroyer une rente d'invalidité à L._ (domicilié à C._ dans le canton de Fribourg), au motif que ses troubles à l'épaule droite n'étaient pas en relation de causalité naturelle avec les accidents survenus les 27 et 29 mars 2001.
Par jugement du 27 juillet 2010, la Cour des assurances sociales du Tribunal cantonal du canton de Vaud a admis le recours interjeté par L._ contre la décision sur opposition du 15 juin 2009, annulé cette dernière et renvoyé la cause à la Caisse pour instruction complémentaire et nouvelle décision.
Par lettre du 21 octobre 2010, l'assuré a demandé à la Caisse de mandater le docteur N._ pour compléter l'instruction. Il s'est en revanche opposé à la désignation du docteur K._, les conclusions de ce dernier n'ayant pas été suivies par le tribunal.
Le 4 novembre 2010, la Caisse a informé l'assuré que l'instruction complémentaire serait effectuée auprès du docteur K._.
Le 13 décembre 2010, l'assuré a sollicité la Caisse de rendre une décision formelle concernant la désignation du docteur K._.
B. Sans nouvelles de la Caisse, L._ a formé le 9 mars 2011 un recours pour déni de justice formel devant la Cour des assurances sociales du Tribunal cantonal du canton de Vaud. Il a demandé la récusation du docteur K._ ainsi que la désignation d'un autre expert pour compléter l'instruction.
Le 30 mars 2011, la Caisse a rendu une décision par laquelle elle a confirmé la désignation du docteur K._ pour procéder au complément d'instruction requis par le tribunal cantonal. L._ a recouru contre cette décision devant la Cour des assurances sociales du Tribunal cantonal du canton de Vaud le 28 avril 2011, en concluant derechef à ce que le docteur K._ soit récusé et qu'un autre expert soit désigné à sa place.
Par une autre décision du 30 mars 2011, confirmée sur opposition le 27 mai 2011, la Caisse a nié le droit de L._ à une rente d'invalidité. L'assuré a recouru contre cette décision devant la Cour des assurances sociales du Tribunal cantonal du canton de Vaud le 27 juin 2011.
Dans ses réponses aux recours, la Caisse a soulevé l'exception d'incompétence ratione loci du tribunal saisi, au motif qu'elle avait son siège dans le canton du Valais depuis le 10 septembre 2010 et que l'assuré était domicilié dans le canton de Fribourg.
Par jugements des 3 mai 2011 (cause AA 31/2011 - 52/2011), 7 juillet 2011 (cause AA 48/11 - 78/2011) et 13 octobre 2011 (cause AA 64/11 - 113/2011), la Cour des assurances sociales du Tribunal cantonal du canton de Vaud a admis cette exception et renvoyé les causes à la Cour des assurances sociales du Tribunal cantonal de Fribourg comme objet de sa compétence.
C. Par actes des 10 juin 2011 (affaire 8C_466/2011), 3 août 2011 (affaire 8C_565/2011) et 9 novembre 2011 (affaire 8C_832/2011), L._ a interjeté un recours en matière de droit public contre chacun de ces jugements. Sous suite de frais et dépens, il conclut principalement à leur réforme, en ce sens que la requête en déclinatoire soit rejetée et que ses recours soient jugés par la Cour des assurances sociales du Tribunal cantonal vaudois.
D. L._ demande la jonction des causes, ce à quoi l'intimée ne s'oppose pas.

Considérant en droit:
1. Les trois recours portent sur des états de faits connexes, concernent les mêmes parties et portent sur la même question juridique, soit celle de savoir quel tribunal, du canton de Vaud ou de Fribourg, est compétent pour statuer. Il convient par conséquent de joindre les causes.
2. Le recours au Tribunal fédéral est immédiatement ouvert contre les décisions préjudicielles et incidentes qui sont notifiées séparément et qui portent sur la compétence (<ref-law>). Lorsqu'il décline sa compétence, un tribunal ne rend pas une décision incidente mais une décision de non-entrée en matière qui met fin à la procédure au sens de l'<ref-law>. La question de savoir si la décision par laquelle un tribunal décline sa compétence et transmet par ailleurs - comme en l'espèce - la cause au tribunal qu'il estime compétent (cf. <ref-law>) doit être qualifiée de finale ou incidente, peut rester ouverte. Dans un cas comme dans l'autre, cette décision peut faire l'objet d'un recours immédiat au Tribunal fédéral (arrêt 9C_1000/2009 du 6 janvier 2010, consid. 1.2, publié in SVR 2010 IV n° 40 p. 126).
3. Le recourant fait valoir que l'arrêt de renvoi rendu le 27 juillet 2010 est une décision incidente qui n'a pas mis fin à la procédure pendante devant la juridiction vaudoise, de sorte que la compétence ratione loci des tribunaux vaudois est maintenue pour les présentes procédures.
4. 4.1 Selon l'<ref-law>, la date décisive pour juger de la compétence ratione loci du tribunal des assurances est celle du dépôt du recours et non celle de la décision attaquée (voir UELI KIESER, ATSG-Kommentar, 2e éd., 2009, n° 9 ad art. 58). Le dépôt d'un recours a pour effet de créer la litispendance. Celle-ci prend fin avec le terme formel de la procédure, c'est-à-dire par le prononcé d'une décision ou d'un jugement au fond, ou par celui d'une décision de procédure, lorsque l'une des conditions préalables au prononcé d'une décision au fond fait défaut (BENOÎT BOVAY, Procédure administrative, Berne 2000, p. 173). Si la décision mettant fin à l'instance est attaquée, la litispendance qui a pris fin auprès de l'instance ayant été saisie de la cause renaît auprès d'une nouvelle autorité dans le cadre d'une autre procédure. Lorsque la décision n'est en revanche pas attaquée, elle entre en force et la litispendance prend également fin (MERKLI/AESCHLIMANN/HERZOG, Kommentar zum Gesetz über die Verwaltungsrechtspflege im Kanton Bern, 1997, n° 7 ad art. 16).
4.2 En l'espèce, la procédure ouverte devant la Cour des assurances sociales du Tribunal cantonal vaudois par le dépôt du recours de l'assuré contre la décision de la Caisse du 15 juin 2009 a pris fin avec l'arrêt de la Cour des assurances sociales du 27 juillet 2010. En annulant la décision du 15 juin 2009 et en renvoyant la cause à la Caisse pour instruction complémentaire et nouvelle décision, le Tribunal cantonal du canton de Vaud a ainsi mis un terme à la procédure ouverte devant lui. Que l'arrêt du 27 juillet 2010 soit une décision incidente, non attaquable devant le Tribunal fédéral, ne change rien au fait qu'il a eu pour effet de mettre fin à la litispendance devant la juridiction cantonale. Aussi, au moment où l'assuré a déposé ses recours, respectivement les 9 mars, 28 avril et 27 juin 2011, aucune procédure n'était pendante devant le tribunal des assurances du canton de Vaud. Le tribunal des assurances compétent ratione loci pour se prononcer sur ces recours est, conformément à l'<ref-law>, celui du domicile de l'assuré au moment du dépôt des recours. L'assuré étant domicilié dans le canton de Fribourg en date des 9 mars, 28 avril et 27 juin 2011, c'est le tribunal des assurances du canton de Fribourg qui est donc compétent pour se prononcer sur lesdits recours.
Compte tenu de ce qui précède, c'est à juste titre que la Cour des assurances sociales du Tribunal cantonal vaudois à décliné sa compétence ratione loci dans les trois procédures (causes AA 31/11 - 52/2011, AA 48/11 - 78/2011 et AA 64/11 - 113/2011) dont elle a été saisie par le recourant et qu'elle a transmis les causes à la Cour des assurances sociales du Tribunal cantonal de Fribourg comme objets de sa compétence.
5. De toute façon, le tribunal des assurances du canton de Vaud n'était pas compétent ratione loci au moment où il a rendu son jugement du 27 juillet 2010. Selon l'<ref-law>, en corrélation avec l'<ref-law>, le tribunal des assurances compétent pour connaître d'un recours contre une décision en matière d'assurance-accidents obligatoire est celui du canton de domicile de l'assuré ou d'une autre partie. Or, au moment du dépôt de son recours contre la décision sur opposition du 15 juin 2009, le recourant était déjà domicilié dans le canton de Fribourg. Quant à la Caisse vaudoise, elle n'est pas une "autre partie" au sens de l'<ref-law> (cf. <ref-ruling> consid. 4.9 et 4.10 p. 161; voir aussi UELI KIESER, ATSG-Kommentar, 2ème éd., 2009, n° 3 s. ad art. 58). Ainsi, que l'assureur ait eu son siège dans le canton de Vaud ou dans le canton du Valais ne jouait en l'espèce aucun rôle pour la compétence ratione loci. Lorsqu'une autorité incompétente ratione loci a statué sur le fond de l'affaire, sa décision n'est en principe pas nulle, mais seulement annulable (BENOÎT BOVAY, op. cit., p. 93). En l'occurrence, la décision du 27 juillet 2010 n'a pas été attaquée et le Tribunal fédéral n'a pas à se saisir d'office de la question.
6. Le recourant, qui succombe, supportera les frais judiciaires afférents à la présente procédure (art. 66 al. 1, 1ère phrase, LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Les causes 8C_466/2011, 8C_565/2011 et 8C_832/2011 sont jointes.
2. Les recours sont rejetés.
3. Les frais judiciaires, arrêtés à 1'500 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, et à l'Office fédéral de la santé publique.
Lucerne, le 10 mai 2012
Au nom de la Ire Cour de droit social
du Tribunal fédéral suisse
Le Président: Ursprung
La Greffière: Fretz Perrin