Faits:
A. Par jugement du 19 juillet 2010, le Tribunal correctionnel de l'arrondissement de Lausanne a condamné X._ pour faux dans les titres et contrainte à une peine privative de liberté de douze mois, peine complémentaire à celles prononcées les 7 septembre 2007 et 19 février 2010, avec sursis et délai d'épreuve de trois ans.
Par arrêt du 6 décembre 2010, la Cour de cassation pénale du Tribunal cantonal vaudois a rejeté le recours de X._.
Par arrêt 6B_382/2011 du 26 septembre 2011, le Tribunal fédéral a admis le recours en matière pénale de X._ et annulé l'arrêt du 6 décembre 2010, en ce qu'il condamnait ce dernier pour faux dans les titres. Il a renvoyé la cause à la Cour de cassation pénale pour nouvelle décision au sens des considérants, en particulier pour que la peine soit à nouveau fixée.
B. Par arrêt du 21 novembre 2011, la Cour de cassation pénale a réformé le jugement du 19 juillet 2010 en ce sens que X._ était libéré du chef d'accusation de faux dans les titres, sa peine ramenée à 210 jours-amende, à 50 fr. le jour, avec sursis pendant trois ans, et les frais de première instance mis à sa charge étaient réduits. Les frais de deuxième instance, dont 388 fr. 80 à titre d'indemnité allouée à son défenseur d'office, ont en revanche été laissés à la charge de l'Etat.
C. X._ forme un recours en matière pénale auprès du Tribunal fédéral. Il conclut, sous suite de frais et dépens, à l'annulation de l'arrêt du 21 novembre 2011 et au renvoi de la cause à la Cour de cassation pour nouvelle décision au sens des considérants.
Cette autorité s'est référée à son arrêt. Le Ministère public a renoncé à se déterminer.

Considérant en droit:
1. Le recourant conteste la compétence de la Cour de cassation ainsi que le droit de procédure appliqué, soit l'ancien droit cantonal de procédure pénale.
1.1 Aux termes de l'<ref-law>, les recours formés contre les décisions rendues avant l'entrée en vigueur du CPP sont traités selon l'ancien droit par les autorités compétentes sous l'empire de ce droit (al. 1). Lorsqu'une procédure est renvoyée à l'autorité inférieure pour nouveau jugement par l'autorité de recours ou le Tribunal fédéral, le nouveau droit est applicable. Le nouveau jugement est rendu par l'autorité qui eût été compétente selon le CPP pour rendre la décision annulée (al. 2).
1.2 Selon la jurisprudence récente du Tribunal fédéral, lorsque l'arrêt de renvoi a été rendu après l'entrée en vigueur du CPP, c'est ce dernier code qui est applicable à la nouvelle procédure instruite à la suite du renvoi (arrêts 6B_389/2012 du 6 novembre 2012 consid. 4.2; 6B_425/2011 du 10 avril 2012 consid. 2.2.2). L'arrêt 6B_382/2011 a été rendu le 26 septembre 2011. C'est donc bien le CPP et non plus le code de procédure pénale vaudois qui aurait dû être appliqué dans la procédure instruite à la suite du renvoi.
1.3 Appliquant cette jurisprudence à la question de l'autorité compétente, il y a lieu de retenir que lorsque l'arrêt de renvoi a été rendu après l'entrée en vigueur du CPP, l'autorité compétente pour rendre l'arrêt postérieur au renvoi est celle, comme le précise l'art. 453 al. 2 deuxième phrase CPP, qui l'eût été en vertu du CPP pour rendre la décision annulée.
En l'espèce, le jugement de première instance émane d'un tribunal de première instance et a clos la procédure pénale. Conformément aux règles du CPP, si elles avaient été applicables à l'époque, ce jugement aurait dû être attaqué par la voie de l'appel, auprès de la juridiction d'appel (art. 398 al. 1 et 2 CPP). C'est donc cette autorité qui était compétente pour rendre un nouveau jugement de deuxième instance au fond. Il est vrai que l'arrêt 6B_382/2011 a renvoyé la cause à la Cour de cassation cantonale. Cette désignation n'avait d'autre portée que de se référer à l'autorité précédente comme le prévoit l'<ref-law>. Elle ne liait pas l'autorité cantonale, à qui il incombait d'appliquer l'<ref-law> dans le cadre du renvoi.
1.4 Aux termes de l'art. 79 al. 1 let. a de la loi vaudoise d'organisation judiciaire du 12 décembre 1979 (LOJV; RS/VD 173.01), dans sa teneur en vigueur au 1er janvier 2011, la juridiction d'appel est la Cour d'appel pénale du Tribunal cantonal du canton de Vaud. L'art. 81a du règlement organique du 13 novembre 2007 du Tribunal cantonal vaudois (ROTC; RS/VD 173.311), entré en vigueur le 1er janvier 2011, réserve la compétence de la Cour de cassation pénale, telle que régie par l'art. 17 ROTC dans sa teneur en vigueur jusqu'au 31 décembre 2010, pour statuer sur les recours soumis au code de procédure pénale vaudois du 12 septembre 1967 (CPP/VD; RS/VD 312.01). La cause à trancher après renvoi étant soumise au CPP, l'art. 81 aROTC est toutefois inapplicable.
La Cour de cassation n'était par conséquent pas compétente pour rendre l'arrêt entrepris.
1.5 Dans le délai de 10 jours imparti par la Cour de cassation, à réception de l'arrêt du Tribunal fédéral, pour déposer un mémoire complémentaire, le recourant a expressément requis que celle-ci se déclare incompétente et transmette le dossier à la Cour d'appel pénale. Aucune attitude contraire à la bonne foi ne peut dès lors être opposée au recourant. Son recours est bien-fondé. L'annulation de l'arrêt entrepris se justifie non seulement pour le motif que la Cour de cassation, qui n'est pas une juridiction d'appel, n'était pas l'autorité compétente en vertu du CPP pour rendre la décision au fond, mais surtout car elle n'a pas appliqué ce code dans le cadre du renvoi. Ainsi, contrairement à l'<ref-law>, aucun débat n'a été organisé et le recourant n'a pas été entendu. L'autorité appelée à rendre le jugement postérieur à l'arrêt de renvoi devait également, en tant qu'autorité d'appel, fixer la peine à nouveau en arrêtant le nombre et le montant des jours-amende ainsi que la durée du délai d'épreuve au regard de la situation actualisée du recourant.
Dans le cadre de la décision à intervenir sur le fond, l'autorité d'appel devra en outre tenir compte, s'agissant de la fixation des dépens, que le conseil actuel du recourant est un conseil de choix et non d'office, comme cela ressort expressément du mémoire de recours cantonal, p. 2.
2. Compte tenu du sort du recours et du renvoi en instance cantonale, il n'y a pas lieu de traiter les autres griefs soulevés par le recourant.
3. Le recours doit être admis, l'arrêt entrepris annulé et la cause renvoyée à l'autorité cantonale pour nouvelle décision.
Le recourant peut prétendre à une indemnité de dépens à la charge du canton de Vaud (art. 68 al. 1 et 2 LTF). Il est statué sans frais (art. 66 al. 1 et 4 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité cantonale pour nouvelle décision.
2. Il n'est pas perçu de frais judiciaires.
3. Le canton de Vaud versera au recourant une indemnité de 3'000 fr. pour la procédure devant le Tribunal fédéral.
4. Le présent arrêt est communiqué aux parties et à la Cour de cassation pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 18 février 2013
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
La Greffière: Cherpillod