Faits : A. Par jugement du 7 juillet 2013, le Tribunal correctionnel de l'arrondissement de Lausanne a condamné X._ pour lésions corporelles simples, tentative de viol et infraction à la LEtr (RS 142.20) à une peine privative de liberté de trois ans, sous déduction de 274 jours de détention avant jugement. Le tribunal a également constaté que X._ avait été détenu durant neuf jours dans des conditions de détention illicites et ordonné que cinq jours de détention soient réduits de la peine fixée, à titre de réparation du tort moral subi. B. Statuant le 15 décembre 2015, la Cour d'appel pénale du Tribunal cantonal vaudois a rejeté l'appel de X._ et confirmé le jugement précité. C. X._ forme un recours en matière pénale au Tribunal fédéral contre ce jugement, concluant, avec suite de frais et dépens, principalement à sa réforme en ce sens qu'une indemnité de 450 fr. lui est versée et, subsidiairement, que neuf jours sont déduits de la peine prononcée en compensation du tort moral. Plus subsidiairement, il conclut à son annulation et au renvoi de la cause à l'autorité précédente pour nouvelle décision. Il sollicite également l'assistance judiciaire.