Faits :
A.
Par jugement du 7 décembre 2012, le Juge du district de l'Entremont a condamné X._ pour tentative d'escroquerie à une peine privative de liberté de 18 mois, sous déduction de la détention avant jugement.
B.
Statuant sur l'appel formé par X._, la Cour pénale II du tribunal cantonal valaisan l'a rejeté par jugement du 30 avril 2014.
Il en ressort les éléments suivants.
Début février 2011, X._ a acheté, pour 250 euros, en France où il réside, trois cartes de crédit American Express, l'une de type « black » et les deux autres de type « platinium » ainsi qu'une carte d'identité italienne, toutes libellées au nom de E._. Sachant que la limite de ces cartes était élevée, X._ a décidé de les utiliser pour acquérir des bijoux de luxe en Suisse.
A cet effet, X._ a pris contact avec un ami de longue date, B._, qui a appelé une connaissance en Suisse, soit C._. Celui-ci connaissait B._ comme étant amené à côtoyer des gens fortunés désireux d'investir dans différents domaines. Il a lui-même contacté une connaissance, D._, à qui il a exposé qu'il recherchait pour un client très fortuné les bonnes personnes pour investir notamment dans des montres et des bijoux. D._ a avisé A._, patron de la bijouterie du même nom à F._ qu'il connaissait pour s'être chargé de son site Internet, de l'intérêt d'une relation à acquérir de l'or et des pièces de bijouterie et d'horlogerie de valeur. Le 17 février 2011, D._ et C._ se sont rendus à la bijouterie pour rencontrer A._, lui confirmer l'intérêt de leur client et lui annoncer qu'il viendrait le lendemain ou le surlendemain.
Le 19 février 2011, X._ et B._, qui devait jouer le rôle du garde du corps du premier nommé, ont quitté Cannes et se sont rendus à Evian où ils ont rencontré C._ qui les a conduits à F._ où ils sont arrivés peu avant midi. Durant le trajet, C._ a appelé D._ pour qu'il prie A._ de laisser son commerce ouvert durant la pause de midi. Celui-ci a refusé pour des raisons de sécurité indiquant que la bijouterie serait ouverte dès 15h. Vers 12h15, X._, B._ et C._ ont examiné durant quelques minutes la vitrine de la bijouterie. Resté dans sa boutique parce qu'il trouvait l'affaire suspecte, A._ les a observés au moyen d'une caméra de surveillance. Au vu de leur attitude, il a pris contact avec la police qui lui a dit d'ouvrir son magasin comme prévu et a mis en place une surveillance discrète.
A l'ouverture de la bijouterie, C._ est entré dans la boutique et a demandé si le patron pouvait s'occuper discrètement de son client. A._ a acquiescé et quelques minutes plus tard, X._ et B._ sont arrivés. Ce dernier est demeuré silencieux, en retrait, comme le supposait sa fonction de garde du corps et comme l'a compris A._. C._ a présenté X._ comme l'acheteur et mené l'essentiel de la conversation. En quelques minutes, celui-ci a choisi six montres, pour un prix total de 103'700 fr., sans chercher à négocier. Il a tendu sa carte American Express « black », prise dans son portefeuille. A cette occasion, A._ a également vu d'autres cartes American Express dans celui-ci. Il a introduit la carte de crédit dans le terminal et invité X._ à saisir son code. Celui-ci lui a répondu que cela n'était pas nécessaire, mais qu'il devait signer. L'appareil a indiqué « solde insuffisant ». Pour ne pas perdre la face, C._ a indiqué que des achats importants avaient été réalisés à Genève. A._ a restitué la carte à X._ lui faisant remarquer qu'elle n'était pas signée. Il lui a demandé de la signer et de lui présenter une carte d'identité. X._ n'a pas osé présenter la fausse carte d'identité et a prétexté devoir retourner à son hôtel pour y prendre ses documents d'identité. Les trois hommes ont quitté la boutique annonçant leur retour dix à quinze minutes plus tard. A._ a rappelé la police qui a interpellé les trois hommes à Martigny.
Le casier judiciaire français de X._ fait état de quatre condamnations. Trois d'entre elles concernent des infractions en matière de stupéfiants, soit celles du 19 mars 2002, du 3 mars 2008 et du 18 février 2009 pour lesquelles des peines de respectivement trois ans d'emprisonnement, dont un avec sursis et 2250 euros d'amende, et deux fois deux ans d'emprisonnement ont été prononcées. X._ a également été condamné le 10 novembre 2005, pour escroquerie, à trois mois d'emprisonnement et 1500 euros d'amende.
C.
X._ forme un recours en matière pénale au Tribunal fédéral contre le jugement du 30 avril 2014. Il conclut, avec suite de frais et dépens, principalement à sa réforme en ce sens qu'il est acquitté et qu'une indemnité de 725 fr. pour détention injustifiée et de 2400 fr. pour tort moral lui est versée par l'Etat du Valais, subsidiairement, qu'il est condamné à une peine n'excédant pas six mois, avec sursis, voire que la cause est renvoyée à l'autorité précédente pour qu'elle statue à nouveau sur la quotité de la peine. Il requiert par ailleurs l'assistance judiciaire.

Considérant en droit :
1.
1.1.
Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). La partie recourante ne peut ainsi critiquer ces faits que s'ils ont été établis en violation du droit au sens de l'<ref-law> ou de manière manifestement inexacte, c'est-à-dire arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 2.3 p. 266; sur la notion d'arbitraire, v. <ref-ruling> consid. 6.1 p. 205), et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>). Le Tribunal fédéral n'examine, en général, que les questions juridiques que la partie recourante soulève conformément aux exigences légales relatives à la motivation du recours (<ref-law>; <ref-ruling> consid. 2.1 p. 93). De plus, il n'entre en matière sur les moyens fondés sur la violation de droits fondamentaux que s'ils ont été invoqués et motivés de manière précise (<ref-law>). L'acte de recours doit, à peine d'irrecevabilité, contenir un exposé succinct des droits violés et préciser en quoi consiste la violation (<ref-ruling> consid. 2.2 p. 69; <ref-ruling> consid. 1.3.1 p. 68 et les références citées). Le Tribunal fédéral n'entre pas en matière sur les critiques de nature appellatoire (<ref-ruling> consid. 2.3 p. 266; <ref-ruling> consid. 5.1 p. 356 et les références citées).
1.2. Le recourant débute son mémoire par une présentation personnelle des faits. Il ne cherche pas à démontrer que les faits auraient été établis arbitrairement et ne formule de la sorte aucun grief recevable au regard des art. 42 al. 2 et 106 al. 2 LTF.
2.
Le recourant conteste s'être rendu coupable de tentative d'escroquerie. Il nie avoir agi astucieusement.
2.1.
2.1.1. L'<ref-law> qui réprime l'escroquerie exige l'existence d'une tromperie astucieuse. Pour qu'il y ait escroquerie, une simple tromperie ne suffit donc pas. Il faut encore qu'elle soit astucieuse. L'astuce est réalisée lorsque l'auteur recourt à un édifice de mensonges, à des manoeuvres frauduleuses ou à une mise en scène, mais aussi lorsqu'il donne simplement de fausses informations, si leur vérification n'est pas possible, ne l'est que difficilement ou ne peut raisonnablement être exigée, de même que si l'auteur dissuade la dupe de vérifier ou prévoit, en fonction des circonstances, qu'elle renoncera à le faire (<ref-ruling> consid. 5.2 p. 81 s. et les arrêts cités). L'astuce n'est toutefois pas réalisée si la dupe pouvait se protéger avec un minimum d'attention ou éviter l'erreur avec le minimum de prudence que l'on pouvait attendre d'elle. Il n'est cependant pas nécessaire qu'elle ait fait preuve de la plus grande diligence ou qu'elle ait recouru à toutes les mesures de prudence possibles pour éviter d'être trompée. L'astuce n'est exclue que si la dupe est coresponsable du dommage parce qu'elle n'a pas observé les mesures de prudence élémentaires qui s'imposaient. Une coresponsabilité de la dupe n'exclut l'astuce que dans des cas exceptionnels (<ref-ruling> consid. 5.2 p. 81).
2.1.2. En matière de cartes de crédit, l'usage commercial (et même le contrat qui lie l'entreprise contractuelle à l'organisme d'émission dans un système tripartite) n'exige pas du fournisseur de prestations qu'il demande la carte d'identité de l'utilisateur de la carte de paiement. Il suffit que le titulaire présente sa carte et signe la facture qu'on lui présente. En effet, un contrôle systématique de l'identité irait à l'encontre de la rapidité des échanges commerciaux et remettrait entièrement en cause le système même du paiement par carte de crédit. Toutefois, le fournisseur de prestations est tenu à un certain nombre de contrôles élémentaires, tels l'échéance de la carte, la consultation des cartes bloquées et le contrôle de la correspondance entre la signature de la carte et la signature sur la facture. Ces vérifications sont imposées au fournisseur de prestations pour qu'il obtienne le remboursement de l'organisme d'émission en cas d'usage d'une carte de crédit volée ou perdue. La vérification de la correspondance de la signature de la facture avec celle apposée sur la carte fait donc partie des mesures de prudence élémentaires que doit prendre tout fournisseur de prestations lorsqu'il accepte une carte de crédit comme moyen de paiement. L'astuce devra ainsi être niée si les deux signatures n'ont rien de commun au premier coup d'oeil et qu'un contrôle de routine aurait permis de déceler le faux. La simple présentation de la carte de crédit et la signature de la facture ne suffisent dès lors pas pour retenir l'astuce. Encore faut-il que l'auteur entreprenne une manoeuvre supplémentaire, qui empêche le fournisseur de prestations de déceler la fausse identité, par exemple qu'il imite la signature du titulaire de la carte ou qu'il dissuade le commerçant de vérifier la conformité de sa signature avec celle figurant sur la carte (arrêt 6S.90/2005 du 22 juillet 2005 consid. 2.3 et les références citées).
2.1.3. Il y a tentative d'escroquerie si l'auteur, agissant intentionnellement et dans un dessein d'enrichissement, a commencé l'exécution de cette infraction sans poursuivre son exécution jusqu'à son terme ou que le résultat dommageable ne se produit pas (cf. <ref-law>). Toute tromperie qui ne réussit pas n'est pas nécessairement dénuée de caractère astucieux. Abstraction faite de l'échec de la tromperie, il importe d'examiner si la tromperie prévue paraissait ou non facilement décelable compte tenu des possibilités de protection dont disposait la victime et dont l'auteur avait connaissance. Autrement dit, c'est dans le cadre d'un examen hypothétique qu'il faut déterminer si le plan élaboré par l'auteur était objectivement astucieux ou non. S'il l'était et que la tromperie échoue parce que la victime était plus attentive ou plus avisée que l'auteur ne se l'était figuré ou en raison du hasard ou d'une autre circonstance non prévisible, il y a alors lieu de retenir une tentative de tromperie astucieuse (<ref-ruling> consid. 3b p. 21 et les références citées).
2.2. La cour cantonale a retenu que le recourant, contrairement à ce qu'il soutenait, n'avait pas simplement l'intention de se rendre dans une bijouterie, de choisir des montres et de les « payer » avec une carte de crédit dont il n'était pas le titulaire. A cet égard, il ne s'était pas contenté d'entrer dans la première bijouterie venue comme un simple client, puis de choisir des montres pour un montant de l'ordre de 100'000 fr. et de payer par carte de crédit. Il avait en effet pris soin de se faire recommander préalablement à un bijoutier, à l'étranger, comme une personne aisée désireuse d'acquérir de l'or, des bijoux ou des montres de prix en toute discrétion. Même s'il ne connaissait pas en détail tout ce que son intermédiaire en Suisse avait dit au bijoutier, le recourant savait que celui-là l'avait présenté de manière avenante. Ensuite, le jour de son forfait, il avait sollicité, par l'entremise d'une tierce personne en relation professionnelle avec le bijoutier, d'ouvrir le magasin en dehors des horaires officiels. Il s'était également entouré de deux autres personnes, respectivement d'un intermédiaire qui avait mené la discussion et d'une autre, aussitôt perçue par le commerçant comme un garde du corps, ne se rendant lui-même dans les locaux qu'une fois que ses acolytes eurent obtenu de traiter avec le patron. En outre, il avait présenté au commerçant une carte de crédit qu'il savait dotée d'une limite élevée, tout en lui laissant voir qu'il en détenait d'autres du même genre. Il avait dès lors parfaitement conscience que tous ces éléments réunis devaient inspirer confiance au bijoutier afin qu'il lui remette la marchandise à crédit contre une simple signature.
La cour cantonale a estimé qu'en présentant la carte de crédit au bijoutier, le recourant avait prétendu, par acte concluant, en être le titulaire légitime. Ce faisant, il avait trompé le commerçant. Située dans son contexte, cette manoeuvre était astucieuse. Tout d'abord, elle comportait un document - une carte de crédit American Express - apparemment bien imitée puisque tant le recourant que le bijoutier l'avaient considéré comme authentique. Ensuite, tous les éléments relevés ci-dessus constituaient une mise en scène destinée à mettre le bijoutier en confiance et à rendre possible le transfert des montres sans bourse délier. A cet égard, les contacts préalables par l'intermédiaire d'une tierce personne ayant des relations professionnelles récentes avec la future dupe, décrivant un étranger fortuné désireux d'acheter des articles de joaillerie, la demande d'ouverture spéciale du magasin ainsi que le fait d'être accompagné, éventuellement même d'un garde du corps, et de traiter uniquement avec le patron sont des faits objectivement propres à convaincre l'intéressé qu'il avait affaire à une personne fortunée, avec les exigences de ce genre de clientèle ainsi que les bénéfices que l'on peut en attendre. En choisissant rapidement plusieurs montres pour un prix supérieur à 100'000 fr., le recourant avait également adopté un comportement propre à laisser croire qu'il était un nanti, habitué à des dépenses importantes. Le fait que le bijoutier, déjà victime de plusieurs cambriolages, se soit méfié ne signifiait pas qu'il n'y ait pas eu astuce. La tromperie avait échoué, d'une part, grâce au terminal électronique, à la pointe de la technologie selon le bijoutier, qui avait bloqué la transaction en indiquant « solde insuffisant » et, d'autre part, à cause de l'imprévoyance du recourant, qui ignorait que la carte n'était pas signée. Dans son esprit, il s'attendait à devoir simplement parapher le ticket, sans effectuer de code d'identification personnel. Pris en défaut quant à l'absence de signature et sommé de présenter une pièce d'identité pour se légitimer, il avait renoncé. Il s'était ainsi rendu coupable de tentative d'escroquerie.
2.3. Le recourant critique l'établissement des faits. Il soutient qu'il n'aurait pas intentionnellement fait voir au bijoutier l'intérieur de son portemonnaie contenant les autres cartes de crédit du même type que celle utilisée et qu'il ignorait que la carte de crédit devait être signée pour être utilisée. Ce faisant, le recourant se borne à opposer sa propre appréciation des faits à celle de la cour cantonale sans démontrer en quoi celle-ci serait arbitraire. Purement appellatoire, son grief est irrecevable.
2.4. Le recourant conteste que son comportement ait été astucieux. Il prétend que la tromperie prévue, soit utiliser une carte de crédit sans avoir besoin de faire le code, ni de la signer n'était objectivement pas astucieuse, compte tenu des précautions dont doit faire preuve tout fournisseur de prestations.
Contrairement à ce que semble vouloir soutenir le recourant, il ne s'est pas contenté de présenter pour le paiement une carte de crédit sans en avoir le code et sans la signer. Bien plutôt, il a échafaudé un plan détaillé et mis en place toute une mise en scène avant et pendant la transaction. A cet égard, les éléments décrits par la cour cantonale - que le recourant ne conteste pas ou pour lesquels il n'a pas démontré l'arbitraire - sont pertinents et il peut y être renvoyé (cf. supra consid. 2.2). La mise en scène avait manifestement pour but de gagner la confiance du bijoutier et d'endormir sa vigilance. Dans le cadre d'une tentative d'escroquerie, il convient d'examiner si le plan, tel que prévu par l'auteur, était astucieux. Or, en l'espèce, le recourant n'avait pas prévu que le solde de la carte serait insuffisant pour couvrir le montant de ses achats. Le fait que l'intimée soit équipée d'un terminal à la pointe de la technologie est une circonstance extérieure non prévue par le recourant. A ce titre, il ne peut s'en prévaloir pour soutenir que son plan n'était pas astucieux. Quant à l'absence de signature de la carte, elle ne constituait pas un obstacle en soi dès lors que le recourant était muni d'une carte d'identité au même nom que celui figurant sur la carte de crédit. Ainsi, était-il en mesure de pallier le manque de signature en présentant ce document. En acquérant une carte d'identité au même nom que la carte de crédit, le recourant s'était préparé à devoir faire face à un contrôle, qui plus est plus poussé que celui exigé par l'usage commercial (cf. supra consid. 2.1.2). Au vu de ces éléments, c'est à bon droit que la cour cantonale a retenu que le plan élaboré par le recourant était astucieux. Les autres éléments constitutifs de l'escroquerie, au demeurant non contestés par le recourant, étant réalisés (au stade de la tentative), sa condamnation pour cette infraction ne viole pas le droit fédéral.
3.
Le recourant conteste la quotité de la peine.
3.1. Les règles générales régissant la fixation de la peine ont été rappelées dans les arrêts publiés aux <ref-ruling> consid. 5.4 ss p. 59 ss et 134 IV 17 consid. 2.1 p. 19 s. Il suffit d'y renvoyer en soulignant que, pour fixer la peine, le juge dispose d'un large pouvoir d'appréciation. Sa décision sur ce point ne viole le droit fédéral que s'il est sorti du cadre légal, s'il s'est fondé sur des critères étrangers à l'<ref-law>, s'il a omis de prendre en considération des éléments prévus par cette disposition ou s'il a abusé de son pouvoir d'appréciation en fixant une peine exagérément sévère ou excessivement clémente (<ref-ruling> consid. 5.6 p. 60 et l'arrêt cité).
3.2. S'agissant de la fixation de la peine, la cour cantonale a renvoyé aux éléments relevés dans le jugement de première instance (consid. 4b/aa), qui n'étaient pas remis en cause par le recourant. Il en ressort que le juge de première instance a estimé que la faute du recourant était moyenne. Eu égard aux moyens utilisés, il avait déployé une énergie certaine pour parvenir à ses fins. Durant le trajet de plusieurs heures, mais aussi sur place entre midi et 15h, il avait largement eu le temps de réfléchir aux risques de son entreprise et d'y renoncer. On devait en déduire une volonté criminelle intense. Le prix des montres choisies par le recourant dépassait les 100'000 francs. Dès lors, nonobstant l'échec qu'il avait subi, son comportement était susceptible de causer un préjudice important. Le recourant n'avait pas agi pour d'autres mobiles que celui d'obtenir un enrichissement auquel il n'avait pas droit. Même après déduction des frais engagés par celui-ci (achat des cartes, voyage, rémunérations de ses accompagnants), le bénéfice qu'il aurait pu retirer de cette opération correspondait à plusieurs mois du salaire qu'il réalisait à cette époque. En faveur du recourant, on devait retenir qu'une fois confronté aux preuves matérielles, il avait raisonnablement collaboré avec la police et le ministère public. Par contre, ses antécédents judiciaires étaient très mauvais, ce qui devait être retenu à son détriment. Enfin, si l'on en croyait les titres produits, le recourant était intégré professionnellement. Compte tenu des éléments retenus, notamment des mauvais antécédents judiciaires, cette dernière circonstance ne justifiait cependant pas le prononcé d'une peine inférieure à sa culpabilité. Pour le surplus, il n'y avait pas de circonstance atténuante particulière. S'agissant de la question de la tentative, la cour cantonale a relevé que le premier juge n'avait pas méconnu la circonstance atténuante de la réalisation sous forme de tentative, mais en avait relativisé la portée, considérant que l'escroquerie avait échoué grâce à la vigilance du bijoutier, soit alors que le recourant avait posé tous les actes nécessaires à la réalisation de l'infraction. Comme c'étaient les circonstances externes qui avaient empêché la survenance du résultat, seule une atténuation minime de la peine s'imposait, dans le cadre de l'appréciation globale effectuée en application de l'<ref-law>, la mesure de l'atténuation dépendant de la proximité du résultat et des conséquences effectives des actes commis. Au vu de l'ensemble de ces éléments, la cour cantonale a estimé qu'une peine privative de liberté de 18 mois était adéquate.
3.3. Le recourant fait grief à la cour cantonale d'avoir fixé sa peine à 18 mois ferme, ce qui correspondrait à la quotité requise par le ministère public en première instance alors que celui-ci avait soutenu qu'il s'était rendu coupable de deux infractions en concours réel. A cet égard, c'est à bon droit que la cour cantonale a relevé que le juge n'est pas tenu, dans la fixation de la peine, par les réquisitions du ministère public (cf. arrêts 6B_889/2010 du 24 mai 2011 consid. 3.4; 6S.17/2003 du 3 février 2003 consid. 3.4). C'est ainsi en vain que le recourant prétend qu'il conviendrait de retrancher de ces 18 mois la part de l'augmentation sanctionnant un concours.
3.4. Le recourant soutient que sa peine serait excessivement lourde eu égard à d'autres condamnations dans d'autres affaires similaires.
3.4.1. Comme le Tribunal fédéral a eu l'occasion de le rappeler à maintes reprises, la comparaison d'une peine d'espèce avec celle prononcée dans d'autres cas concrets est d'emblée délicate, compte tenu des nombreux paramètres qui interviennent dans la fixation de la peine, et elle est généralement stérile, dès lors qu'il existe presque toujours des différences entre les circonstances, objectives et subjectives, que le juge doit prendre en considération dans chacun des cas (<ref-ruling> consid. 3a p. 144). Les disparités en cette matière s'expliquent normalement par le principe de l'individualisation des peines, voulu par le législateur. Elles ne suffisent pas en elles-mêmes pour conclure à un abus du pouvoir d'appréciation (<ref-ruling> consid. 3.1 p. 193; <ref-ruling> consid. 2a p. 153). La jurisprudence a par ailleurs toujours souligné la primauté du principe de la légalité sur celui de l'égalité (<ref-ruling> consid. 2c p. 47), de sorte qu'il ne suffirait pas que le recourant puisse citer l'un ou l'autre cas où une peine particulièrement clémente a été fixée pour prétendre à un droit à l'égalité de traitement (<ref-ruling> consid. 3a p. 144).
3.4.2. Le recourant cite trois cas dans lesquels les auteurs ont été condamnés notamment pour escroquerie. D'une part, il mentionne pour chacun d'eux les infractions imputées au condamné mais ne donne aucune indication sur les circonstances personnelles de l'auteur. D'autre part, dans deux des cas, le Tribunal fédéral n'a pas été saisi d'un grief relatif à la quotité de la peine et la motivation des autorités cantonales à cet égard n'est pas indiquée. Enfin, dans le dernier cas, le Tribunal fédéral, qui a qualifié la peine prononcée d'encore modérée, a rejeté le recours du condamné contre la quotité de la peine, ce qui signifie simplement que la sanction n'a pas été considérée comme trop sévère, mais non pas qu'une peine plus sévère n'eût pas été encore compatible avec le large pouvoir d'appréciation dont dispose l'autorité cantonale. Le recourant ne peut ainsi tirer aucun argument de ces différentes affaires pour démontrer que la peine prononcée à son encontre serait exagérément sévère et son grief doit être rejeté.
3.5. Le recourant reproche à la cour cantonale de n'avoir pas tenu compte du fait que l'infraction n'a été réalisée qu'au stade de la tentative.
3.5.1. Selon l'<ref-law>, le juge peut atténuer la peine si l'exécution d'un crime ou d'un délit n'est pas poursuivie jusqu'à son terme ou que le résultat nécessaire à la consommation de l'infraction ne se produit pas ou ne pouvait pas se produire. Dans ce cas, ce sont des circonstances extérieures qui viennent faire échec à la consommation de l'infraction, de sorte que l'atténuation de la peine n'est que facultative. Toutefois, selon la jurisprudence, si le juge n'a pas l'obligation de sortir du cadre légal, il doit alors tenir compte de l'absence de résultat dommageable, comme élément à décharge, dans le cadre de l'application de l'<ref-law>. La mesure de cette atténuation dépend notamment de la proximité du résultat ainsi que des conséquences effectives des actes commis (<ref-ruling> consid. 2b p. 103; <ref-ruling> consid. 1b p. 54 s.; arrêt 6B_423/2013 du 27 juin 2013 consid. 4.1.2). En d'autres termes, la réduction devra être d'autant plus faible que le résultat était proche et ses conséquences graves. Cette réduction peut en outre être compensée par une augmentation de la peine s'il existe des circonstances aggravantes, celles-ci pouvant de la sorte neutraliser les effets de circonstances atténuantes (<ref-ruling> consid. 2b p. 103).
3.5.2. Le recourant soutient qu'il ne ressortirait pas de la motivation du jugement de première instance, contrairement à ce qu'aurait retenu la cour cantonale, que l'escroquerie aurait échoué grâce à la vigilance du bijoutier. Le recourant se contente d'une simple affirmation sans exposer ce qu'il entend tirer de cet argument. Son grief est insuffisamment motivé au regard des exigences de l'<ref-law>.
3.5.3. Le recourant reproche à la cour cantonale d'avoir refusé une réduction de peine en se fondant sur le fait que la survenance du résultat avait été empêchée par des circonstances externes. Ce serait le propre d'une tentative qu'un élément externe empêche la consommation de l'infraction et le juge ne pourrait retenir cet élément pour nier la réduction. Tout d'abord, le recourant se trompe lorsqu'il affirme que la cour cantonale aurait nié la réduction. Elle a en effet relevé que la tentative impliquait une réduction minime de sa peine, étant rappelé qu'elle n'est pas tenue d'exprimer en chiffres ou en pourcentages l'importance qu'elle accorde à chacun des éléments qui entrent en ligne de compte dans la fixation de la peine (cf. ATF 136 VI 55 consid. 5.6 p. 61; <ref-ruling> consid. 2c p. 105). Si la motivation cantonale fait certes référence au fait que l'escroquerie a échoué grâce à la vigilance du bijoutier, soit un élément externe, elle précise que c'est alors que le recourant avait posé tous les actes nécessaires à la réalisation de l'infraction. On comprend ainsi que ce qui est déterminant n'est pas tant l'intervention d'un élément extérieur mais le fait que le résultat était imminent, élément pertinent dans l'examen de la mesure de l'atténuation. Au vu de l'ensemble des circonstances, en particulier de l'imminence du résultat et des éléments à charge relevés par la cour cantonale, tels que l'énergie certaine nécessaire à l'élaboration du plan et à sa réalisation, le bénéfice, partant le préjudice, important escompté, l'absence d'autre mobile que l'enrichissement facile, c'est sans violer le droit fédéral que cette autorité a admis que la réduction de peine due au fait que l'on avait affaire à une tentative ne devait être que minime et ce même en tenant compte de la collaboration raisonnable du recourant et de son insertion professionnelle.
3.6. Pour le surplus, les éléments énumérés par le recourant, soit sa collaboration à l'enquête et son intégration professionnelle, ont été pris en compte par la cour cantonale (cf. supra consid. 3.2). Le recourant reproche en outre à la cour cantonale d'avoir lourdement insisté sur ses antécédents. Il n'expose toutefois pas en quoi la cour cantonale aurait accordé une importance particulière à ceux-ci, ce d'autant moins qu'il s'agit d'un élément - au demeurant pertinent sous l'angle de l'<ref-law> - parmi d'autres dont la cour cantonale a tenu compte.
En définitive, le recourant ne cite aucun élément important, propre à modifier la peine, qui aurait été omis ou pris en considération à tort par la cour cantonale. Au regard des circonstances, il n'apparaît pas qu'elle soit exagérément sévère au point de constituer un abus du pouvoir d'appréciation. Le grief de violation de l'<ref-law> est infondé.
4.
Le recourant conteste le refus de l'octroi du sursis.
4.1. Aux termes de l'<ref-law>, le juge suspend en règle générale l'exécution d'une peine privative de liberté de six mois au moins et de deux ans au plus lorsqu'une peine ferme ne paraît pas nécessaire pour détourner l'auteur d'autres crimes ou délits (al. 1). En cas de condamnation dans les cinq ans qui précèdent l'infraction à une peine privative de liberté ferme ou avec sursis de six mois au moins, le sursis n'est toutefois possible qu'en présence de circonstances particulièrement favorables (al. 2).
Dans ce dernier cas, la présomption d'un pronostic favorable, respectivement du défaut d'un pronostic défavorable, ne s'applique plus, la condamnation antérieure constituant un indice faisant craindre que l'auteur puisse commettre d'autres infractions. L'octroi du sursis n'entre donc en considération que si, malgré l'infraction commise, on peut raisonnablement supposer, à l'issue de l'appréciation de l'ensemble des facteurs déterminants, que le condamné s'amendera. Le juge doit examiner si la crainte de récidive fondée sur l'infraction commise peut être compensée par les circonstances particulièrement favorables, soit des circonstances qui empêchent que l'infraction antérieure ne détériore le pronostic. Tel sera notamment le cas si l'infraction à juger n'a aucun rapport avec l'infraction antérieure ou que les conditions de vie du condamné se sont modifiées de manière particulièrement positive (<ref-ruling> consid. 4.2.3 p. 6 s.).
Lorsque l'hypothèse visée par l'<ref-law> est réalisée, un sursis partiel au sens de l'<ref-law> est exclu (arrêts 6B_97/2014 du 26 juin 2014 consid. 1.1; 6B_492/2008 du 19 mai 2009 consid. 3.1.3 non publié in <ref-ruling>).
4.2. La cour cantonale a exposé que le recourant avait été condamné à deux ans d'emprisonnement, à deux reprises, en 2008 et 2009, dans les cinq années ayant précédés l'infraction en cause. Le sursis ne pouvait donc lui être octroyé qu'à la faveur de circonstances particulièrement favorables, qu'elle cherchait en vain. Le fait qu'il ait raisonnablement collaboré à l'enquête avait déjà été pris en compte lors de la fixation de la quotité de la peine et n'entrait plus en considération à ce stade. L'intégration professionnelle du recourant semblait pour le moins précaire, puisqu'alors même qu'il ne pouvait quitter son employeur pour participer aux débats de première instance, il s'était rapidement trouvé au chômage durant plus d'un an, jusqu'à la veille des débats d'appel. Son emploi actuel, soumis à un temps de probation d'un mois, datait du 1 er avril 2014, soit à peine un mois avant le jugement d'appel. Enfin, contrairement à ce qu'affirmait le recourant, l'absence de récidive connue depuis les faits reprochés n'était pas pertinente, dès lors que pareille évolution correspondait à ce que l'on pouvait attendre de tout un chacun. En revanche, les mauvais antécédents sur les douze dernières années (l'un relevant de l'escroquerie et plusieurs en matière de stupéfiants), s'opposaient au prononcé du sursis, même partiel, vu l'absence de prise de conscience et de changement de comportement dont ils témoignaient.
4.3. Le recourant a été condamné à deux peines privatives de liberté de plus de six mois dans les cinq ans précédant les faits, si bien que le sursis ne pourrait être accordé qu'en cas de circonstances particulièrement favorables. S'agissant de ses antécédents, le recourant soutient qu'il serait de notoriété publique que les juges français seraient plus sévères en matière d'infraction contre les stupéfiants que les juges suisses, ce dont témoigneraient les peines qu'il avait encourues. Son argumentation tombe à faux. Tout d'abord, il n'est pas établi que cette thèse serait exacte, la référence à une prétendue notoriété publique étant à cet égard insuffisante. Ensuite, on ignore tout de la gravité objective des infractions commises par le recourant et il n'expose pas en quoi celle-ci ne justifierait pas les peines qu'il a subies. Il était ainsi pertinent de tenir compte de ces différentes condamnations sous l'angle de l'<ref-law>. Pour le surplus, la collaboration à l'enquête dont se prévaut le recourant a été qualifiée de raisonnable par la cour cantonale, ce qui ne permet pas de retenir qu'il s'agit d'une circonstance particulièrement favorable. Il en va de même s'agissant de son insertion professionnelle. A cet égard, il ressort du jugement entrepris que le recourant occupait un poste depuis un mois au moment du jugement d'appel et que celui-ci faisait suite à une période de plus d'un an de chômage. Quant à l'absence de récidive depuis les faits dont se targue le recourant, elle n'est d'aucune pertinence, dès lors qu'un comportement conforme au droit correspond à ce que l'on doit pouvoir attendre de tout un chacun (cf. arrêt 6B_442/2014 du 18 juillet 2014 consid. 3.5 et les références citées). Les seules circonstances personnelles et professionnelles du recourant ne suffisent ainsi pas à infirmer le constat d'une propension persistante à la délinquance, malgré les avertissements répétés que représentaient les condamnations précédentes. C'est à bon droit que la cour cantonale a constaté que l'absence de circonstances particulièrement favorables excluait tant l'octroi d'un sursis complet que d'un sursis partiel. Le grief du recourant est infondé.
5.
Vu le sort du recours, la demande d'indemnité du recourant fondée sur l'<ref-law> est infondée.
6.
Le recours doit être rejeté dans la mesure où il est recevable. Il était d'emblée dénué de chances de succès. L'assistance judiciaire doit être refusée (<ref-law>). Le recourant, qui succombe, supporte les frais judiciaires qui seront fixés en tenant compte de sa situation économique, qui n'apparaît pas favorable (art. 65 al. 2 et 66 al. 1 LTF). Il n'y a pas lieu d'allouer des dépens au ministère public (<ref-law>), ni à l'intimée qui n'a pas été invitée à procéder (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté dans la mesure où il est recevable.
2.
La requête d'assistance judiciaire est rejetée.
3.
Les frais judiciaires, arrêtés à 1600 fr., sont mis à la charge du recourant.
4.
Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Cour pénale II.
Lausanne, le 24 avril 2015
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Livet