Faits: A. Par jugement du 24 mars 2011, le Tribunal correctionnel de la Broye et du Nord vaudois a notamment libéré X._ des chefs d'accusation de lésions corporelles simples qualifiées, de mise en danger de la vie d'autrui, de rixe et d'agression et l'a condamné à une amende de 100 francs pour contravention à la loi fédérale sur les stupéfiants. Il a ordonné la relaxation immédiate de X._, détenu depuis 267 jours, pour autant qu'il ne doive pas être détenu pour une autre cause. Après le retrait de l'appel formé par le Ministère public, ce jugement est devenu définitif et exécutoire. B. Le 9 mars 2012, X._ a formé une demande en indemnisation fondée sur l'art. 429 CPP et tendant à l'allocation d'un montant de 75'750 francs 20. Le Tribunal d'arrondissement de la Broye et du Nord vaudois a, par décision du 21 mars 2012, alloué à X._, à la charge de l'Etat de Vaud, une indemnité de 17'053 francs 20 pour ses frais de défense ainsi qu'une indemnité pour tort moral de 40'000 francs. A la suite de l'appel formé par le Ministère public, cette décision a été annulée par jugement de la Cour d'appel pénale du Tribunal cantonal vaudois du 3 juillet 2012. Elle a jugé que la demande d'indemnisation du recourant aurait dû être présentée dans le cadre de la procédure au fond et ne pouvait pas faire l'objet d'une décision séparée, postérieure au jugement au fond définitif et exécutoire. Le 13 novembre 2012, le Tribunal fédéral a admis le recours formé par X._ contre cette décision, annulé celle-ci et renvoyé la cause à la cour cantonale pour nouveau jugement (arrêt 6B_472/2012). C. Par décision du 6 mars 2013, la Cour d'appel pénale du Tribunal cantonal vaudois a refusé de désigner un défenseur d'office à X._ dans le cadre de la demande en indemnisation qu'il a formée. D. X._ forme un recours en matière pénale et un recours constitutionnel subsidiaire au Tribunal fédéral contre la décision du 6 mars 2013. Il conclut à la réforme de cette dernière en ce sens que Cyrille Piguet est désigné en qualité de conseil d'office et a droit à une indemnité fixée à dire de justice pour son intervention. Il sollicite l'octroi de l'assistance judiciaire pour la procédure de recours devant la cour de céans. Invité à se déterminer sur le recours, le Ministère public s'est référé à la décision attaquée. La cour cantonale a, implicitement, conclu à la confirmation de sa décision.