Faits :
A.
Par jugement du 3 mars 2011, confirmé le 15 août 2011 par la Cour d'appel pénale du Tribunal cantonal du canton de Vaud, le Tribunal correctionnel de l'arrondissement de Lausanne a condamné X._ (alias X.X._) à une peine privative de liberté de sept ans, sous déduction de 278 jours de détention avant jugement, pour tentative de meurtre, agression, lésions corporelles simples qualifiées et infraction à la Loi fédérale sur les étrangers. L'exécution de cette peine privative de liberté est arrivée à son terme le 29 mai 2017. X._ est toutefois resté incarcéré au titre d'exécution de peines privatives de liberté de substitution relatives à des peines pécuniaires qui lui avaient été infligées les 7 février 2014 et 30 septembre 2015.
A.a. Par décision du 1er mars 2016, la Chambre des recours pénale du Tribunal cantonal du canton de Vaud a refusé la libération conditionnelle à X._ et a saisi le Tribunal d'arrondissement de Lausanne en vue de l'examen du prononcé éventuel d'une mesure thérapeutique institutionnelle ou d'un internement. Sur ordre du Président du Tribunal criminel de l'arrondissement de Lausanne, le Dr A._ a rendu un rapport d'expertise psychiatrique le 16 décembre 2016.
A.b. Par jugement du 30 juin 2017, le Tribunal criminel a invité le Ministère public du canton de Vaud à examiner l'opportunité de saisir la Cour d'appel pénale en vue de l'examen du prononcé d'un internement à l'endroit de X._. Par requête du 4 juillet 2017, le Ministère public central a demandé la révision, en défaveur du condamné, des jugements rendus le 3 mars 2011 par le Tribunal correctionnel et le 15 août 2011 par la Cour d'appel pénale.
A.c. Par ordonnance superprovisionnelle du 5 juillet 2017 et ordonnance du 7 juillet 2017, le Président de la Chambre des recours pénale a ordonné le maintien en détention de X._ pour le cas oùil viendrait à être libéré de l'exécution des peines privatives de liberté qu'il purgeait.
B.
Par jugement du 1er septembre 2017, la Cour d'appel pénale a admis la demande de révision du jugement rendu le 3 mars 2011 par le Tribunal correctionnel et renvoyé la cause au Tribunal criminel pour nouvelle décision dans le sens des considérants. Elle a également ordonné le maintien en détention de X._ pour des motifs de sûreté.
C.
X._ forme un recours en matière pénale au Tribunal fédéral contre ce jugement, dont il demande la réforme, avec suite de frais et dépens, en ce sens que la demande de révision du jugement rendu le 3 mars 2011 par le Tribunal correctionnel est rejetée, sa libération immédiate est ordonnée et une indemnité pour détention injustifiée de 200 fr. par jour à compter du 20 juillet 2017 lui est accordée. Subsidiairement, il conclut à son annulation et au renvoi de la cause à l'autorité inférieure pour nouvelle décision dans le sens des considérants. Il sollicite en outre l'effet suspensif au recours et l'assistance judiciaire.
D.
Par ordonnance incidente du 23 novembre 2017, le Président de la Cour de céans a rejeté la requête d'effet suspensif présentée par X._.

Considérant en droit :
1.
Le Tribunal fédéral examine d'office et librement la recevabilité des recours qui lui sont soumis (<ref-ruling> consid. 1 p. 197).
1.1. Les recours au Tribunal fédéral sont recevables contre les décisions finales (<ref-law>), les décisions partielles au sens de l'<ref-law> et les décisions préjudicielles ou incidentes aux conditions prévues par les art. 92 et 93 LTF.
L'<ref-law> prévoit que si, pendant l'exécution de la peine privative de liberté, des faits ou des moyens de preuve nouveaux permettent d'établir qu'un condamné remplit les conditions de l'internement et que ces conditions étaient déjà remplies au moment du jugement sans que le juge ait pu en avoir connaissance, le juge peut ordonner l'internement ultérieurement. La compétence et la procédure sont déterminées par les règles sur la révision.
La procédure de révision, prévue par les art. 410 et ss CPP, est classiquement divisée en deux phases. Dans une première phase, appelée le "rescindant", la juridiction supérieure examine si les conditions nécessaires pour ouvrir une procédure de révision sont données. Lorsque la révision est accordée, au stade du "rescindant", la cause est, en règle générale, renvoyée à une autre autorité pour qu'elle statue au fond au stade du "rescisoire". Dans la seconde phase, appelée le "rescisoire", le tribunal rejuge l'affaire en tenant compte des faits ou des moyens de preuve nouveaux (cf. <ref-law>; arrêt 6B_1062/2009 du 3 novembre 2010 consid. 2.2 non publié in <ref-ruling> et la jurisprudence citée).
La décision d'admission de la révision et de renvoi de la cause à une autre autorité a un caractère de procédure et ne tranche pas définitivement un point de droit matériel, que précisément elle soumet à l'autorité compétente pour trancher au rescisoire (<ref-ruling> consid. 1 p. 136). Il ne s'agit donc pas d'une décision finale au sens de l'<ref-law> (MARC RÉMY, in Commentaire romand du Code de procédure pénale suisse, 2011, n° 6 ad <ref-law>).
1.2. En l'espèce, la décision attaquée admet la demande de révision du jugement du 3 mars 2011 et renvoie le dossier de la cause au Tribunal criminel. Ce faisant, elle ne met pas fin à la procédure, de sorte qu'il s'agit d'une décision incidente.
Dès lors qu'elle ne porte pas sur la compétence ou sur une demande de récusation (<ref-law>), la décision attaquée ne peut faire l'objet d'un recours en matière pénale (<ref-law>) qu'aux conditions de l'<ref-law>, à savoir si elle peut causer un préjudice irréparable à son destinataire (<ref-law>) ou si l'admission du recours peut conduire immédiatement à une décision finale qui permet d'éviter une procédure probatoire longue et coûteuse (<ref-law>). Il appartient au recourant d'expliquer en quoi la décision incidente qu'il attaque remplit les conditions de l'<ref-law>, à moins que celles-ci ne fassent d'emblée aucun doute (<ref-ruling> consid. 4 p. 95).
1.2.1. Un préjudice irréparable se rapporte à un dommage de nature juridique qui ne puisse pas être réparé ultérieurement par un jugement final ou une autre décision favorable au recourant (<ref-ruling> consid. 2.2 p. 287). Un dommage de pur fait, comme la prolongation de la procédure ou un accroissement des frais de celle-ci, n'est pas suffisant (<ref-ruling> consid. 6 p. 192).
A cet égard, le recourant fait valoir qu'il est en détention pour des motifs de sûreté alors qu'il a purgé l'entier de la peine privative de liberté à laquelle il avait été condamné le 3 mars 2011.
La décision de maintien en détention du recourant pour des motifs de sûreté rendue par la cour cantonale est une décision distincte de celle du rescindant, contre laquelle des voies de droit spécifiques sont ouvertes (arrêt 6B_1087/2014 du 4 novembre 2015 consid. 2.1). Le recourant ne conteste pas son maintien en détention en tant que tel; il réclame sa libération immédiate uniquement en tant que conséquence de l'admission éventuelle de son recours sur le rescindant. Dans la mesure où la détention ne fait pas l'objet de la décision présentement attaquée, cette dernière n'entraîne aucun préjudice irréparable, pour ce motif ou pour toute autre raison. La condition de l'<ref-law> n'est donc pas réalisée.
1.2.2. En ce qui concerne le second cas de recevabilité du recours contre une décision incidente, le recourant fait valoir que la procédure du rescisoire conduira inévitablement à de nouvelles mesures d'instruction ainsi qu'à la tenue d'une audience. Or, pour que la condition de l'<ref-law> soit réalisée, il faut que la procédure probatoire, par sa durée et son coût, s'écarte notablement des procès habituels. Le recourant ne soutient rien de tel. Compte tenu de ce que le tribunal auquel la cause a été renvoyée pourra se fonder sur une expertise psychiatrique d'ores et déjà réalisée, cette condition n'apparaît manifestement pas remplie.
1.3. Aucune des deux conditions alternatives de l'<ref-law> n'est réalisée. Le jugement attaqué ne peut donc pas faire l'objet d'un recours immédiat au Tribunal fédéral, étant précisé que le recourant pourra faire valoir ses moyens de défense devant le juge du fond.
Le recours doit par conséquent être déclaré irrecevable.
2.
Comme les conclusions du recours étaient dépourvues de chances de succès, l'assistance judiciaire ne peut pas être accordée (<ref-law>). Le recourant devra donc supporter les frais (<ref-law>), dont le montant sera toutefois fixé en tenant compte de sa situation financière qui n'apparaît pas favorable.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est irrecevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1200 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 22 décembre 2017
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Musy