Faits :
A.
Par jugement du 24 octobre 2017, le Tribunal de police de l'arrondissement de La Broye et du Nord vaudois a reconnu X._ coupable d'escroquerie et d'exercice d'une activité lucrative sans autorisation, l'a condamné à une peine pécuniaire de 330 jours-amende à 50 fr. le jour, a suspendu l'exécution de cette peine et imparti au condamné un délai d'épreuve de 2 ans, a mis les frais, par 5'855 fr. 70, y compris l'indemnité de défense d'office, par 3'505 fr. 70, à la charge de X._ et dit que le remboursement de cette indemnité ne serait exigible que lorsque la situation financière de ce dernier se serait améliorée.
B.
Statuant sur l'appel de X._, la Cour d'appel pénale du Tribunal cantonal vaudois l'a rejeté par jugement du 25 janvier 2018.
Ce jugement repose sur les faits suivants.
X._ est né en 1971 au Kosovo, pays dont il est originaire. Arrivé en Suisse le 12 juillet 2004, il a obtenu, fin 2014, un permis F, dont il est toujours titulaire dans l'attente d'une décision finale sur son statut. A la suite des faits résumés ci-après, il est débiteur de l'Etablissement A._ d'un montant supérieur à 100'000 fr., qu'il rembourse régulièrement chaque mois depuis 2015 en fonction de ses revenus. Selon ses déclarations, il a déjà remboursé plus de 20'000 fr. sur le montant dû, par des acomptes entre 500 et 2'000 fr. par mois.
X._ a bénéficié, avec sa famille, des prestations de l'aide sociale délivrées par l'Etablissement A._ du 21 juillet 2004 au 31 décembre 2007. Puis, entre le 1er janvier 2008 et le 11 août 2014, date à laquelle une décision d'admission provisoire a été rendue en sa faveur, il a uniquement perçu des prestations d'aide d'urgence, ceci après avoir été débouté de sa demande d'asile. Durant l'ensemble de la période précitée, l'intéressé avait l'obligation de déclarer à l'Etablissement A._ les éventuels revenus qu'il percevait, de manière à réduire d'autant les aides obtenues.
Les investigations entreprises ont permis d'établir que, nonobstant cette obligation et sous réserve de la période pendant laquelle X._ avait été détenu administrativement, soit entre le 6 juillet et le 23 octobre 2006, celui-ci avait travaillé entre le 1 er janvier 2006 et le 28 février 2009 pour l'entreprise B._ Sàrl, sans déclarer cette activité auprès de l'Etablissement A._. Les prestations perçues indûment par X._ se sont finalement élevées, pour cette période, à 112'231 fr. 15.
En outre, durant la période du 1 er février au 30 avril 2015, X._ a perçu, pour sa famille et lui-même, des prestations d'assistance de l'Etablissement A._. Pendant ce laps de temps, il a exercé une activité lucrative au sein de la société C._ SA, à tout le moins à compter du 2 mars 2015. Aucune information en ce sens n'avait alors été donnée à l'Etablissement A._. Le montant perçu indûment par X._ au titre de l'assistance touchée s'élève, pour cette seconde période, à 7'863 fr. 05.
Durant la période du 2 au 22 mars 2015, X._ a travaillé alors qu'il n'était pas autorisé à le faire.
Le 2 juillet 2015, l'Etablissement A._ a dénoncé X._.
C.
X._ forme un recours en matière pénale au Tribunal fédéral contre le jugement de la Cour d'appel pénale du Tribunal cantonal vaudois du 25 janvier 2018. Il conclut, avec suite de frais et dépens, principalement, à la réforme du jugement entrepris et à son acquittement du chef d'accusation d'escroquerie pour la période s'étendant entre le 1 er janvier 2006 et le 28 février 2009, et, subsidiairement, à l'annulation du jugement entrepris et au renvoi de la cause à l'autorité cantonale pour nouvelle décision dans le sens des considérants. Il sollicite également l'octroi de l'assistance judiciaire.

Considérant en droit :
1.
Le recourant se plaint d'arbitraire dans l'appréciation des preuves et d'une violation de la présomption d'innocence en rapport avec sa condamnation pour escroquerie.
1.1. Le Tribunal fédéral n'est pas une autorité d'appel, auprès de laquelle les faits pourraient être rediscutés librement. Il est lié par les constatations de fait de la décision entreprise (<ref-law>), à moins qu'elles n'aient été établies en violation du droit ou de manière manifestement inexacte au sens des art. 97 al. 1 et 105 al. 2 LTF, à savoir, pour l'essentiel, de façon arbitraire au sens de l'art. 9 Cst. Une décision n'est pas arbitraire du seul fait qu'elle apparaît discutable ou même critiquable; il faut qu'elle soit manifestement insoutenable et cela non seulement dans sa motivation mais aussi dans son résultat (<ref-ruling> consid. 1.1 p. 503 et l'arrêt cité). En matière d'appréciation des preuves et d'établissement des faits, il n'y a arbitraire que lorsque l'autorité ne prend pas en compte, sans aucune raison sérieuse, un élément de preuve propre à modifier la décision, lorsqu'elle se trompe manifestement sur son sens et sa portée, ou encore lorsque, en se fondant sur les éléments recueillis, elle en tire des conclusions insoutenables (<ref-ruling> consid. 1.1 p. 503 et les références citées).
La présomption d'innocence, garantie par les <ref-law>, 32 al. 1 Cst., 14 par. 2 Pacte ONU II et 6 par. 2 CEDH, ainsi que son corollaire, le principe " in dubio pro reo ", concernent tant le fardeau de la preuve que l'appréciation des preuves au sens large (arrêt 6B_804/2017 du 23 mai 2018 consid. 2.2.3.1 [destiné à la publication aux ATF]; <ref-ruling> consid. 2a p. 40 s.). En tant que règle sur le fardeau de la preuve, elle signifie, au stade du jugement, que le fardeau de la preuve incombe à l'accusation et que le doute doit profiter au prévenu. Comme règle d'appréciation des preuves (sur la portée et le sens précis de la règle sous cet angle, cf. arrêt 6B_804/2017 précité consid. 2.2.3.3 [destiné à la publication aux ATF]), la présomption d'innocence signifie que le juge ne doit pas se déclarer convaincu de l'existence d'un fait défavorable à l'accusé si, d'un point de vue objectif, il existe des doutes quant à l'existence de ce fait. Il importe peu qu'il subsiste des doutes seulement abstraits et théoriques, qui sont toujours possibles, une certitude absolue ne pouvant être exigée. Il doit s'agir de doutes sérieux et irréductibles, c'est-à-dire de doutes qui s'imposent à l'esprit en fonction de la situation objective. Dans cette mesure, la présomption d'innocence se confond avec l'interdiction générale de l'arbitraire, qui prohibe une appréciation reposant sur des preuves inadéquates ou sans pertinence (arrêt 6B_804/2017 précité consid. 2.2.3.1 [destiné à la publication aux ATF]; <ref-ruling> consid. 7 p. 82).
Lorsque, comme en l'espèce, l'appréciation des preuves et la constatation des faits sont critiquées en référence au principe " in dubio pro reo ", celui-ci n'a pas de portée plus large que l'interdiction de l'arbitraire (arrêt 6B_804/2017 précité consid. 2.2.3.3 [destiné à la publication aux ATF]; <ref-ruling> consid. 1.1 p. 503; <ref-ruling> consid. 7 p. 82).
1.2. Les critiques du recourant semblent en partie dirigées contre les constatations de fait du jugement de première instance. Les griefs qu'il soulève à cet égard sont en tous les cas irrecevables (<ref-law>).
1.3. Cela étant, le recourant conteste en substance avoir travaillé pour la société B._ Sàrl entre 2006 et 2009 et soutient que la cour cantonale aurait versé dans l'arbitraire et violé la présomption d'innocence en tenant cette situation pour établie. Son grief repose pour l'essentiel sur le fait qu'il existe des décomptes de salaire le concernant qui portent sur une période durant laquelle il se trouvait, courant 2006, en détention administrative. Il en déduit que ces décomptes de salaires seraient erronés et qu'il serait par conséquent arbitraire de s'y fier pour lui imputer une activité salariée en 2006, respectivement entre 2007 et 2009.
La cour cantonale a expressément donné acte au recourant de ce qu'il était " étonnant que des fiches de salaires aient été établies en 2006 alors qu'il se trouvait en détention administrative ". Elle a cependant relevé, à la suite du premier juge, que cette incohérence ne concernait pas toute l'année 2006. La cour cantonale a encore relevé, toujours à la suite du premier juge, que l'activité salariée imputée au recourant reposait sur la conjonction de différents éléments allant des décomptes AVS au décompte d'impôts, en passant par les observations du dénonciateur, auxquelles s'ajoutaient encore les déclarations contradictoires du recourant. La cour cantonale a de surcroît relevé que le recourant remboursait régulièrement la somme de 112'231 fr. 15 à l'Etablissement A._ par acomptes mensuels, pointant une totale contradiction entre le fait de contester une activité salariée non déclarée durant les années 2006 à 2009 et d'accepter de rembourser les prestations d'assistance relatives à cette période. Au vu de ces différents éléments, la cour cantonale pouvait admettre sans arbitraire que les quelques incohérences n'avaient pas pour effet de remettre en cause le constat relatif à l'existence d'une activité salariée durant la période précitée, qui se fonde sur une pluralité d'éléments convergents. Le grief du recourant s'avère par conséquent infondé.
2.
Il s'ensuit que le recours doit être rejeté dans la mesure où il est recevable. Comme il était dénué de chances de succès, la demande d'assistance judiciaire doit également être rejetée (<ref-law>). Le recourant devra donc supporter les frais judiciaires (<ref-law>), dont le montant sera toutefois fixé en tenant compte de sa situation financière, laquelle n'apparaît pas favorable (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La demande d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1'200 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud.
Lausanne, le 22 août 2018
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
Le Greffier : Dyens