Faits :
A.
Par ordonnance pénale du 16 mars 2012, le Ministère public de l'arrondissement de La Côte a notamment condamné X._ pour infraction et contravention à la LStup et infraction à la LEtr (RS 142.20) à une peine pécuniaire de 90 jours-amende, le montant du jour-amende étant fixé à 10 fr., avec sursis pendant deux ans, ainsi qu'à une amende de 400 fr., convertible en cas de non-paiement fautif en une peine privative de liberté de substitution de 40 jours.
B.
Par prononcé du 15 juillet 2014, le Tribunal de police de l'arrondissement de La Côte a déclaré irrecevable l'opposition formée le 1 er avril 2014 par X._ contre l'ordonnance pénale du 16 mars 2012 pour tardiveté.
C.
Le 24 juillet 2014, la Chambre des recours pénale du Tribunal cantonal du canton de Vaud a rejeté le recours de X._, confirmé le prononcé précité et rejeté la requête de désignation d'un défenseur d'office pour la procédure de recours, au motif que le recours était d'emblée dénué de chances de succès.
D.
Par arrêt du 19 août 2015 (6B_771/2014), la Cour de droit pénal du Tribunal fédéral a admis le recours formé par X._. La cause a été renvoyée à la Chambre des recours pénale du Tribunal cantonal du canton de Vaud afin qu'elle examine la problématique d'une application et d'une interprétation conformes de l'<ref-law> avec l'art. 6 CEDH, l'examen d'un tel grief impliquant notamment de vérifier si le ministère public a accompli toutes les démarches en vue de déterminer le lieu de séjour de X._. Elle devait également, compte tenu de l'issue du recours, désigner le conseil du prénommé en qualité de défenseur d'office et lui allouer une indemnité de deuxième instance.
E.
Par nouvel arrêt du 8 septembre 2015, la Chambre d'appel pénale du Tribunal cantonal du canton de Vaud a jugé que les conditions de l'art. 88 al. 1 let. c CPP étaient réalisées, ce qui la dispensait de procéder à l'examen des conditions alternatives de l'<ref-law>, qui conduirait notamment à rechercher si le ministère public a accompli toutes les démarches en vue de déterminer le lieu de séjour de X._. Elle a ainsi rejeté le recours de ce dernier et confirmé le prononcé du 15 juillet 2014. Me Fabien Mingard a en outre été désigné en qualité de défenseur d'office de X._ pour la procédure de recours et une indemnité lui a été allouée.
F.
X._ forme un recours en matière pénale au Tribunal fédéral contre l'arrêt du 8 septembre 2015, concluant, avec suite de frais et dépens, principalement à sa réforme en ce sens que le prononcé du 15 juillet 2014 est annulé. Subsidiairement, il requiert son annulation et le renvoi de la cause à la cour cantonale pour nouvelle décision. Il sollicite par ailleurs l'assistance judiciaire.

Considérant en droit :
1.
Le recourant reproche en substance à la cour cantonale d'avoir violé les <ref-law> et 6 par. 1 CEDH. Il soutient tout d'abord que la fiction de notification de l'<ref-law> ne pourrait lui être opposée dans la mesure où elle serait, de manière absolue, contraire à l'art. 6 par. 1 CEDH. Il fait ensuite valoir, qu'en tout état, la cour cantonale aurait violé le principe de l'autorité de l'arrêt de renvoi, en n'examinant pas si le ministère public avait accompli toutes les démarches en vue de déterminer son lieu de séjour, et que de toute manière, les conditions de l'art. 88 al. 1 let. a ou c CPP ne seraient pas réalisées en l'espèce.
1.1. La notification d'une ordonnance pénale fait partir le délai d'opposition de 10 jours prévu à l'<ref-law>. Le tribunal de première instance statue sur la validité de l'opposition (cf. <ref-law>), en particulier le respect du délai de 10 jours.
Les <ref-law> régissent les formes de notification. L'<ref-law> prévoit que la notification a lieu dans la Feuille officielle désignée par le canton ou la Confédération: lorsque le lieu de séjour du destinataire est inconnu et n'a pas pu être déterminé en dépit des recherches qui peuvent raisonnablement être exigées (let. a); lorsqu'une notification est impossible ou ne serait possible que moyennant des démarches disproportionnées (let. b); lorsqu'une partie ou son conseil n'a pas désigné un domicile de notification en Suisse, alors qu'ils ont leur domicile, leur résidence habituelle ou leur siège à l'étranger (let. c). Selon l'al. 4, les ordonnances de classement et les ordonnances pénales sont réputées notifiées même en l'absence d'une publication.
La fiction prévue par l'<ref-law> est problématique. Selon le mécanisme de l'<ref-law>, elle n'est possible que si les conditions exigées par l'art. 88 al. 1 let. a, b ou c sont réalisées (cf. Message du 21 décembre 2005 relatif à l'unification du droit de la procédure pénale, FF 2006 1136 ch. 2.2.8.6; CHRISTOF RIEDO, in Basler Kommentar, Schweizerische Strafprozessordnung, 2 e éd. 2014, n o 11 ad <ref-law>; DANIELA BRÜSCHWEILER, in Kommentar zur Schweizerischen Strafprozessordnung, Donatsch/Hansjakob/Lieber [éd.], 2e éd. 2014, no 8 ad <ref-law>). Il faut donc notamment que le lieu de séjour du prévenu n'ait pas pu être déterminé en dépit des recherches pouvant raisonnablement être exigées (cf. <ref-law>) ou que le prévenu sans domicile en Suisse n'ait pas désigné de domicile de notification en Suisse (cf. art. 88 al. 1 let. c CPP). Avant de pouvoir envisager l'application de l'art. 88 al 4 CPP, le ministère public doit toutefois avoir entrepris des démarches approfondies pour localiser le prévenu (cf. arrêt 6B_738/2011 du 20 mars 2012 consid. 3.3; CHRISTIAN DENYS, Ordonnance pénale: Questions choisies et jurisprudence récente, SJ 2016 II p. 130 s.).
1.2. En substance, la cour cantonale a jugé que le fait que le recourant ait ou non reçu l'ordonnance pénale à l'adresse de son amie était sans incidence sur la tardiveté de son opposition. Il était clandestin en Suisse. On pouvait donc en déduire qu'il avait sa résidence habituelle à l'étranger, même si l'on ignorait à quel endroit exactement. Il n'avait pas désigné de domicile de notification en Suisse alors même que son attention avait été attirée sur ce fait par le biais d'un document qu'il avait signé lors de son audition du 16 septembre 2010. Il avait été formellement informé par la police puis par le juge d'instruction de l'ouverture d'une procédure à son encontre et il devait s'attendre à ce que des actes judiciaires, y compris une condamnation pénale, lui soient adressés. Il connaissait également les conséquences d'une notification au greffe s'il omettait de se rendre atteignable. Il se devait dès lors de se comporter conformément aux règles de la bonne foi, à savoir notamment de faire en sorte que les décisions relatives à la procédure puissent lui être notifiées. Toutefois, bien qu'il ait été formellement invité à communiquer à l'autorité d'instruction les coordonnées d'une personne de confiance en Suisse, il n'avait jamais communiqué une telle adresse. Dans ce contexte particulier, la cour cantonale a considéré que les conditions de l'art. 88 al. 1 let. c CPP étaient réalisées, ce qui la dispensait de l'examen des conditions alternatives de l'<ref-law>, qui conduirait notamment à rechercher si le ministère public avait accompli toutes les démarches en vue de déterminer le lieu de séjour du recourant. Elle a ajouté que ce dernier ne pouvait pas non plus ignorer qu'il ne pourrait pas faire valoir ses droits s'il se rendait inatteignable, puisque les conséquences de son inaction lui avaient été clairement signifiées dans le formulaire signé le 16 septembre 2010 devant le juge d'instruction. Le fait que l'ordonnance pénale n'ait finalement été rendue qu'une année et demie plus tard ne permettait pas de considérer que le recourant était dispensé de fournir les informations concernant une éventuelle élection de domicile. Au contraire, le recourant avait disposé d'un laps de temps suffisant pour remplir cette obligation, sans toutefois s'exécuter. On pouvait donc conclure de son comportement qu'il s'était désintéressé de la procédure en ayant parfaitement connaissance des conséquences de son omission. Dans ce contexte particulier, la fiction de notification de l'<ref-law> n'était pas incompatible avec les garanties de l'art. 6 par. 1 CEDH et elle devait être appliquée. L'ordonnance pénale du 16 mars 2012 était donc réputée avoir été notifiée le jour de son prononcé, soit le 16 mars 2012, de sorte que le délai pour former opposition était échu depuis le 26 mars 2012. L'opposition formée par le recourant le 1 er avril 2014 étant manifestement tardive, le prononcé du 15 juillet 2014 du Tribunal de police de l'arrondissement de La Côte devait être confirmé.
1.3. Ce faisant, la cour cantonale perd de vue qu'il lui incombait, dans le cadre de son analyse de la conformité de l'<ref-law> avec les garanties offertes par l'art. 6 CEDH, de vérifier - indépendamment des conditions alternatives de l'<ref-law> - si le ministère public avait entrepris toutes les démarches en vue de localiser le recourant. Elle a omis de le faire, alors que l'arrêt de renvoi 6B_771/2014 le lui imposait. L'application éventuelle de l'<ref-law> impose nécessairement une telle analyse, peu important à cet égard de savoir dans quel cas de figure visé par l'<ref-law> on se trouve.
2.
Le recours doit, en conséquence, être admis et l'arrêt attaqué annulé, la cause étant renvoyée à l'autorité cantonale pour qu'elle instruise dans le sens du considérant précité.
Vu le sort du recours, il n'y a pas lieu d'examiner les autres griefs soulevés par le recourant qui deviennent sans objet. Il ne sera pas perçu de frais judiciaires (art. 66 al. 1 et 4 LTF). Le recourant a droit à des dépens à la charge du canton de Vaud (<ref-law>), ce qui rend sans objet sa requête d'assistance judiciaire.
Dès lors que l'admission du recours résulte de l'irrespect de l'arrêt de renvoi, il n'y a pas lieu d'inviter la cour cantonale et le ministère public à se déterminer.

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à la cour cantonale pour nouvelle décision.
2.
Il n'est pas perçu de frais judiciaires.
3.
Le canton de Vaud versera à l'avocat du recourant une indemnité de 3'000 fr. à titre de dépens pour la procédure devant le Tribunal fédéral.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 6 septembre 2016
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Nasel