Faits:
A. Entre mai 2008 et le 17 juin 2009, jour de son arrestation, X._, né en 1978, a remis à des tiers 30 grammes de marijuana et 65 comprimés d'ecstasy. Dans le courant de l'automne 2008, il a acquis, en plusieurs fois, une cinquantaine de grammes de cocaïne, dont il a écoulé une vingtaine de grammes lors de soirées. De novembre ou décembre 2008 jusqu'en mai 2009, il a acheté auprès d'un autre fournisseur 200 grammes de cocaïne. Il en a remis 80 grammes à des tiers et en a réservé 65 grammes pour sa consommation personnelle ainsi que celle de sa s?ur. Lors de son interpellation par la police, il s'est en outre débarrassé de 60 ou 70 grammes, également destinés à la revente. Compte tenu d'un taux de pureté moyen de 33%, X._ a remis à des tiers, ou détenu en prévision d'une telle remise, 52,8 grammes de cocaïne pure. Enfin, un couteau à cran d'arrêt à ouverture latérale a été découvert lors de la fouille de son véhicule.
Par jugement du 10 février 2010, le juge II du district de Sion a reconnu X._ coupable d'infractions aux art. 19 ch. 2 let. a et 19a ch. 1 de la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (LStup; RS 812.121) ainsi que d'infraction à l'art. 33 al. 1 let. a de la loi fédérale du 20 juin 1997 sur les armes, les accessoires d'armes et les munitions (LArm; RS 514.54). Il l'a condamné à une peine privative de liberté de 18 mois ainsi qu'à une amende de 300 fr., peine partiellement complémentaire à celle prononcée le 18 juin 2008 par le juge III du district de Sion.
B. Statuant le 16 juin 2011 sur appel du condamné, la IIème Cour pénale du Tribunal cantonal valaisan a confirmé la décision attaquée en tant qu'elle a reconnu X._ coupable des infractions précitées et l'a condamné à une peine privative de liberté de dix-huit mois. Elle l'a en revanche mis au bénéfice du sursis partiel, la partie de la peine à exécuter étant de neuf mois, et a fixé le délai d'épreuve à quatre ans.
C. X._ interjette un recours en matière pénale au Tribunal fédéral contre ce jugement. Il conclut à ce que la durée de la peine privative de liberté prononcée à son encontre soit réduite à douze mois et à ce que le sursis complet lui soit accordé. Il requiert que son recours bénéficie de l'effet suspensif. Il sollicite en outre l'octroi de l'assistance judiciaire.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. L'art. 103 al. 2 lit. b LTF prévoit qu'en matière pénale, le recours a effet suspensif, dans la mesure des conclusions formulées, s'il est dirigé contre une décision qui prononce une peine privative de liberté ferme ou une mesure entraînant une privation de liberté. L'effet suspensif résulte donc, en l'espèce, de la loi elle-même, sans qu'il doive être prononcé par la cour de céans. La conclusion du recourant sur ce point est sans objet.
2. Le recourant reproche à la cour cantonale d'avoir violé l'art. 47 CP en prononçant une peine privative de liberté exagérément sévère.
2.1 Selon l'art. 47 CP, le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2). Ces critères correspondent à ceux développés par la jurisprudence relative à l'art. 63 aCP, à laquelle on peut se référer (<ref-ruling> consid. 2.1 p. 19).
Le Tribunal fédéral a rappelé les éléments dont il fallait tenir compte, plus spécialement, en matière de trafic de stupéfiants dans ses arrêts publiés auxquels il suffit de se référer (<ref-ruling>, 121 IV 202; cf. plus récemment arrêt 6B_921/2010 du 25 janvier 2011 consid. 2.1).
L'art. 47 CP confère un large pouvoir d'appréciation au juge. Par conséquent, celui-ci ne viole le droit fédéral en fixant la peine que s'il sort du cadre légal, s'il se fonde sur des critères étrangers à l'art. 47 CP, s'il omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 2.1; <ref-ruling> consid. 6.1 et les références citées).
2.2 Le recourant fait valoir que le tribunal cantonal ne pouvait pas tenir compte des condamnations prononcées à son encontre en 1998 et 1999 en raison de leur ancienneté, respectivement qu'il leur a accordé trop de poids.
Les antécédents de l'auteur sont l'un des critères de fixation de la peine qui résulte du texte même de la loi. Si les condamnations qui ont été éliminées du casier judiciaire ne peuvent plus être utilisées pour l'appréciation de la peine dans le cadre d'une nouvelle procédure pénale (art. 369 al. 7 CP; <ref-ruling> consid. 2), il peut en revanche être tenu compte de celles qui y figurent, l'importance de ce critère diminuant toutefois avec le temps, surtout si elles concernent une autre période de vie de l'auteur et des infractions d'une autre nature (<ref-ruling> consid. 2b p. 49; arrêt 6S.199/2004 du 27 avril 2005 consid. 3.3).
Le recourant a été sanctionné à trois reprises, soit les 22 juin 1998 (peine de réclusion de 26 mois), 17 décembre 1999 (deux mois d'emprisonnement) et 18 juin 2008 (15 jours-amende à 50 francs le jour ainsi qu'une amende de 300 francs), à chaque fois pour violation de la loi fédérale sur les stupéfiants, notamment. Le tribunal cantonal a estimé que ces condamnations n'avaient manifestement pas eu l'effet préventif escompté; en particulier la peine ferme de quinze jours amende de 50 fr. et l'amende prononcée par le juge de district le 18 juin 2008 n'avaient pas dissuadé le recourant de poursuivre son trafic de stupéfiants.
Prononcées pour des infractions du même type que celles qui sont reprochées au recourant dans le cadre de la présente procédure, ces condamnations démontrent en effet sa persistance à ne pas se conformer à la législation en matière de stupéfiants. Le recourant ne saurait tirer argument de leur ancienneté dès lors qu'il a récidivé en 2008 et persisté dans son comportement délictueux jusqu'à son interpellation. Le tribunal cantonal était ainsi parfaitement fondé à prendre en considération les condamnations prononcées en 1998 et 1999 dans l'évaluation de la culpabilité du recourant. En outre, ces antécédents ont constitué un élément parmi d'autres (cf. infra consid. 2.4) et il n'apparaît pas que le tribunal cantonal lui a donné une importance particulière. La critique est infondée.
2.3 Le recourant reproche au tribunal cantonal de "ne pas avoir entièrement tenu compte" du fait qu'il avait un travail et de l'effet que pourrait avoir dans ces circonstances l'exécution d'une peine privative de liberté.
La perspective que l'exécution d'une peine privative de liberté puisse détacher le condamné d'un environnement favorable peut, selon les circonstances concrètes du cas, déployer un effet atténuant et conduire au prononcé d'une peine inférieure à celle qui serait proportionnée à sa culpabilité (<ref-ruling> consid. 3.4 p. 24). Cela étant, il est inévitable que l'exécution d'une peine ferme d'une certaine durée ait des répercussions sur la vie professionnelle et familiale du condamné. Ces conséquences ne peuvent conduire à une réduction de la peine qu'en cas de circonstances extraordinaires (arrêt 6B_488/2010 du 4 octobre 2010 consid. 2.2).
En l'espèce, de telles circonstances ne sont pas réalisées. Certes, le recourant bénéficie d'un emploi régulier depuis le 1er juin 2010, ce que le tribunal cantonal n'a pas ignoré. Sa situation ne présente toutefois pas une quelconque particularité et ne se distingue pas de celle de n'importe quel condamné ayant un emploi. Au surplus, l'effet de la peine sur l'avenir du condamné, en tant qu'élément de prévention spéciale, ne permet que des corrections marginales dans la fixation de la peine au regard des autres éléments d'appréciation de la culpabilité et des infractions commises (arrêt 6B_14/2007 du 17 avril 2007 consid. 5.2; 6B_445/2010 du 4 octobre 2010 consid. 3.2).
Enfin, autant que le recourant fait valoir, à titre de facteur de réduction de sa peine, que sa durée de dix-huit mois est incompatible avec la semi-détention, prévue pour des peines de six mois à un an (art. 77b CP), il se méprend puisqu'il y a lieu de prendre en compte, en cas de sursis partiel, la durée de la peine à exécuter, qui a été fixée à neuf mois en l'espèce (arrêt 6B_668/2007 du 15 avril 2008 consid. 5.4; 6B_471/2009 du 24 juillet 2009 consid. 4.2; cf. également Markus Hug in: Strafgesetzbuch, 18ème éd., 2010, n. 3 ad art. 77b CP). Ainsi, dans l'hypothèse où le recourant ne bénéficie pas d'un sursis complet (sur cette question, cf. infra consid. 3.3), la peine prononcée pourrait être exécutée sous la forme d'une semi-détention, si l'autorité compétente en la matière estime que les autres conditions sont par ailleurs réunies. En outre, contrairement à ce que semble soutenir le recourant, un tel régime ne l'empêchera pas d'effectuer d'éventuelles heures supplémentaires pour le compte de son employeur dans la mesure où en Valais, en principe, le condamné peut quitter la prison le matin à six heures et doit rentrer le soir à 20h30 au plus tard (art. 86 al. 2 du Règlement du 10 décembre 1993 sur les établissements de détention du canton du Valais; RS/VS 340.200).
Le grief selon lequel l'autorité cantonale aurait omis de prendre en considération, ou même n'aurait pas suffisamment tenu compte du fait qu'il a un emploi est dès lors infondé.
2.4 Le recourant ne cite en définitive aucun élément important, propre à modifier la peine, qui aurait été omis ou pris en considération à tort. Il convient dès lors d'examiner si, au vu des circonstances, la peine infligée apparaît exagérément sévère au point de constituer un abus du pouvoir d'appréciation.
La cour cantonale a qualifié la culpabilité du recourant de lourde, ce qu'il ne conteste pas. Elle a considéré qu'il avait participé à un trafic de stupéfiants, certes local, mais portant sur plusieurs substances différentes et des quantités importantes, notamment pour la cocaïne. De plus, il avait essentiellement agi par appât du gain et son comportement au cours de l'instruction n'avait pas été particulièrement méritoire puisqu'il n'avait admis qu'avec difficulté sa participation aux faits qui lui étaient reprochés et qu'il avait semblé davantage préoccupé par son propre sort que par les conséquences de ses actes sur autrui. Ses antécédents judiciaires étaient mauvais. La rupture sentimentale qu'il avait vécue ne pouvait en outre excuser son comportement. Enfin, sa responsabilité était pleine et entière, il ne bénéficiait d'aucune circonstance atténuante et il fallait tenir compte du concours d'infractions comme facteur d'aggravation de la peine. Au vu de ces éléments, le tribunal cantonal, en prononçant une peine privative de liberté de dix-huit mois, qui se situe dans le cadre légal, n'apparaît pas exagérément sévère au point de constituer un abus du pouvoir d'appréciation dont l'autorité cantonale disposait. Le recours est donc rejeté en tant qu'il tend à une réduction de la peine.
3. Invoquant l'art. 42 CP, le recourant soutient que le tribunal cantonal aurait dû lui octroyer un sursis complet au motif qu'il a un travail, qu'il donne satisfaction à son employeur et qu'il n'a plus commis d'infraction à la loi sur les stupéfiants depuis les faits qui lui sont reprochés.
3.1 Selon l'art. 42 al. 1 CP, le juge suspend en règle générale l'exécution d'une peine pécuniaire, d'un travail d'intérêt général ou d'une peine privative de liberté de six mois au moins et de deux ans au plus lorsqu'une peine ferme ne paraît pas nécessaire pour détourner l'auteur d'autres crimes ou délits. En l'espèce le recourant qui a été condamné à une peine inférieure à deux ans remplit la condition objective du sursis.
3.2 Sur le plan subjectif, le juge doit poser un pronostic quant au comportement futur de l'auteur. En l'absence de pronostic défavorable, il doit prononcer le sursis. Celui-ci est ainsi la règle dont le juge ne peut s'écarter qu'en présence d'un pronostic défavorable ou hautement incertain (<ref-ruling> consid. 4.2.2 p. 5). Pour émettre ce pronostic, le juge doit se livrer à une appréciation d'ensemble, tenant compte des circonstances de l'infraction, des antécédents de l'auteur, de sa réputation et de sa situation personnelle au moment du jugement, notamment de l'état d'esprit qu'il manifeste. Il doit tenir compte de tous les éléments propres à éclairer l'ensemble du caractère de l'accusé et ses chances d'amendement. Il ne peut accorder un poids particulier à certains critères et en négliger d'autres qui sont pertinents (<ref-ruling> consid. 4.2.1 p. 5).
Dans le cas des peines privatives de liberté qui entrent dans le champ d'application commun des art. 42 et 43 CP (soit entre un et deux ans), le sursis ordinaire (art. 42 CP) constitue la règle et le sursis partiel (art. 43 CP) l'exception. Celle-ci ne peut être admise que si l'octroi du sursis à l'exécution d'au moins une partie de la peine nécessite, à des fins de prévention spéciale, que l'autre partie de la peine soit exécutée. S'il existe des doutes très importants au sujet du comportement futur de l'auteur, notamment au vu de condamnations antérieures, le juge peut prononcer une peine assortie du sursis partiel au lieu d'un sursis total, et ceci même si les doutes mentionnés ne suffisent pas, après appréciation globale de tous les éléments pertinents, pour poser un pronostic défavorable (<ref-ruling> consid. 7.4 p. 77).
Dans l'émission du pronostic, le juge dispose d'un large pouvoir d'appréciation, de sorte que le Tribunal fédéral n'intervient qu'en cas d'excès ou d'abus de celui-ci (arrêt 6B_233/2011 du 7 juillet 2011 consid. 3.1).
3.3 Le tribunal cantonal a relevé que le recourant bénéficiait à présent d'une situation professionnelle stable depuis son engagement comme "monteur en construction" le 1er juin 2010 et qu'il exécutait son travail à l'entière satisfaction de son employeur. Il semblait en outre avoir cessé toute consommation de stupéfiants. Les circonstances invoquées par le recourant n'ont ainsi pas été ignorées par la cour cantonale. Celle-ci a toutefois considéré qu'en dépit de ces éléments, il existait de sérieux doutes quant au comportement futur du recourant, compte tenu de sa faible prise de conscience et de ses antécédents. Comme le pronostic n'était pas totalement défavorable, il y avait lieu de lui accorder un sursis partiel.
On comprend de cette motivation que le tribunal cantonal a estimé qu'il existait des doutes importants sur les perspectives d'amendement du recourant, qui, compte tenu de sa situation personnelle et professionnelle actuelle, ne permettaient cependant pas encore de motiver un pronostic concrètement défavorable.
Cette appréciation est fondée. Dès lors que le recourant, depuis sa condamnation en 1999, s'est rendu coupable d'une nouvelle infraction à la loi sur les stupéfiants pour laquelle il a été condamné en 2008, il ne peut tirer argument de la courte période, depuis 2009, sans nouvelle infraction du même type, pour affirmer que le pronostic n'est pas défavorable. En outre, entre 2008 et 2009, soit durant la période où il a commis les infractions qui lui sont reprochées, le recourant a travaillé pour les sociétés A._ Sàrl et B._ SA ainsi qu'en tant que menuisier. Le fait qu'il occupe actuellement un emploi ne constitue donc en aucun cas une garantie suffisante qu'il ne va plus participer à un nouveau trafic de stupéfiants.
Le tribunal cantonal n'a dès lors pas abusé de son pouvoir d'appréciation en considérant que l'exécution partielle de la peine était incontournable pour améliorer les perspectives d'amendement (cf. consid. 3.2).
Le recourant ne se plaint par ailleurs pas, à juste titre, que la durée de la peine à effectuer serait excessive. En fixant celle-ci à neuf mois, la cour cantonale n'a pas outrepassé son pouvoir d'appréciation, eu égard à la culpabilité du recourant, qualifiée de lourde.
4. Comme ses conclusions étaient manifestement dénuées de chance de succès, le recourant doit être débouté de sa demande d'assistance judiciaire (art. 64 al. 1 LTF a contrario) et supporter les frais de justice, qui seront fixés en tenant compte de sa situation financière (art. 65 al. 2 et art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 800 francs, sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, IIème Cour pénale.
Lausanne, le 4 octobre 2011
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Juge présidant: Schneider
Le Greffier: Rieben