Faits : A. Par jugement du 20 mai 1986, le Tribunal correctionnel du district de Lausanne a condamné X._ pour escroquerie manquée, faux dans les titres et faux dans les titres qualifiés à une peine privative de liberté de deux ans et demi ainsi qu'au paiement d'une partie des frais de justice. Son recours contre cette décision a été rejeté dans la mesure de sa recevabilité par la Cour de cassation pénale du Tribunal cantonal vaudois par arrêt du 29 septembre 1986. Le recours formé par X._ contre cet arrêt a été déclaré irrecevable par le Tribunal fédéral par arrêt du 5 mars 1987. B. Par jugement du 23 juillet 2013, la Cour d'appel pénale du canton de Vaud a refusé d'entrer en matière sur la demande de révision formée par X._ le 12 juillet 2013 contre le jugement du 20 mai 1986. C. X._ forme un recours en matière pénale et un recours constitutionnel subsidiaire auprès du Tribunal fédéral contre le jugement du 23 juillet 2013. Il requiert, avec suite de frais et dépens, sa réforme en ce sens que la demande en révision est admise, les décisions des 20 mai 1986 et 29 septembre 1986 sont annulées et la cause est renvoyée à une nouvelle autorité judiciaire pour nouvelle instruction et nouvelle décision. Il sollicite le bénéfice de l'assistance judiciaire.