Faits:
A. X._ a vendu 296.3 g de cocaïne, soit 116 g de drogue pure, pour un chiffre d'affaire de 41'482 fr., sur neuf mois. Il a réalisé un bénéfice de 11'852 fr.
B. Par jugement du 25 mai 2009, le Tribunal du IIème arrondissement pour le district de Sierre a condamné X._, pour infractions à la LStup, à une peine privative de liberté de trois ans et demi, sous déduction de la détention préventive, et à une amende de 500 fr., la peine privative de liberté de substitution, en cas de non paiement fautif de celle-ci, étant fixée à 5 jours. Il a également révoqué les sursis accordés les 18 septembre 2006 et 8 octobre 2007.
C. Par jugement du 24 mars 2010, la Cour pénale I du Tribunal cantonal valaisan a partiellement admis l'appel du condamné en ce sens qu'elle l'a condamné à une peine privative de liberté de 36 mois, sous déduction de la détention préventive, et une amende de 500 fr., la peine privative de liberté de substitution, en cas de non paiement fautif de celle-ci, étant fixée à 5 jours et qu'elle n'a pas révoqué les sursis accordés les 18 septembre 2006 et 8 octobre 2007.
D. X._ a déposé un recours en matière pénale au Tribunal fédéral. Il a conclu, principalement, à l'annulation du jugement attaqué et au prononcé d'une peine privative de liberté de 24 mois assortie du sursis total.

Considérant en droit:
1. Invoquant une violation des art. 47 et 48 CP, le recourant se plaint de la peine infligée.
1.1 Selon l'<ref-law>, le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2).
En matière de trafic de stupéfiants, il y a lieu de tenir compte de la quantité de drogue. Même si elle ne joue pas un rôle prépondérant, la quantité constitue un élément essentiel, qui perd cependant de l'importance au fur et à mesure que s'éloigne la limite à partir de laquelle le cas est grave au sens de l'<ref-law> (<ref-ruling> consid. 2c p. 302 s.; <ref-ruling> consid. 2d/cc p. 206). Le type et la nature du trafic en cause sont déterminants. Aussi l'appréciation sera différente selon que l'auteur a agi de manière autonome ou comme membre d'une organisation. Dans ce dernier cas, la nature de sa participation et sa position au sein de l'organisation doivent être prises en compte. L'étendue géographique du trafic entre également en considération: l'importation en Suisse de drogue a des répercussions plus graves que le seul transport à l'intérieur des frontières. S'agissant d'apprécier les mobiles qui ont poussé l'auteur à agir, le juge doit distinguer le cas de celui qui est lui-même toxicomane et agit pour financer sa propre consommation de celui qui participe à un trafic uniquement poussé par l'appât du gain (<ref-ruling> consid. 2b p. 301).
L'<ref-law> confère un large pouvoir d'appréciation au juge. Par conséquent, celui-ci ne viole le droit fédéral en fixant la peine que s'il sort du cadre légal, s'il se fonde sur des critères étrangers à l'<ref-law>, s'il omet de prendre en considération des éléments d'appréciation prévus par cette disposition ou, enfin, si la peine qu'il prononce est exagérément sévère ou clémente au point de constituer un abus du pouvoir d'appréciation (<ref-ruling> consid. 2.1; <ref-ruling> consid. 6.1).
1.2 Le recourant relève qu'il ne saurait être comparé à un trafiquant de grande envergure.
Ce grief tombe à faux, la Cour pénale I ne l'ayant jamais considéré comme tel. En effet, elle a uniquement constaté que, dans la mise en oeuvre du trafic de cocaïne, l'intéressé avait fait preuve d'une intention criminelle affirmée. Durant l'été 2007 déjà, il avait demandé à un collègue de travail de le mettre en contact avec d'éventuels consommateurs. Au mois de décembre de la même année, il avait contracté un crédit afin de financer son activité illicite. Par la suite, il avait prospecté pour constituer sa clientèle, s'était rendu fréquemment à Montreux pour s'approvisionner et n'avait pas hésité à offrir des lignes de cocaïne à des connaissances afin de les initier au produit. Ce faisant, il avait favorisé l'émergence, chez ces dernières, d'une situation de dépendance et mis directement en danger leur santé et leur vie. Au total, il avait fourni pas moins de quinze à vingt personnes en produits stupéfiants. Sous cet angle, la faute du recourant apparaissait lourde dès lors qu'étant lui-même consommateur, il était parfaitement au fait des effets nocifs induits par l'absorption de ces substances illicites, dangerosité qui lui avait par ailleurs été rappelée lors de sa récente condamnation pour des faits similaires. Quant au trafic, il était demeuré d'étendue locale, et devait par conséquent être considéré comme moins grave qu'en cas de ramifications internationales. Il avait porté sur une quantité de 116 g de cocaïne pure sur une durée de neuf mois. Le recourant ne s'était cependant pas contenté d'acheter et de vendre la drogue en une fois, mais s'était au contraire livré à de nombreuses opérations, l'écoulant par gramme ou par boulette de 0.7 ou 0.9 g, ce qui accroissait sa faute. Il n'avait de surcroît pas mis un terme de son propre chef à ses activités coupables, celles-ci ayant été interrompues par son arrestation.
La prise en compte des éléments précités est conforme à la jurisprudence exposée ci-dessus (cf. supra consid. 1.1) et ne viole en rien le droit fédéral.
1.3 Le recourant conteste avoir agi par appât du gain et reproche au Tribunal cantonal de ne pas avoir tenu compte de ses explications à ce sujet.
L'autorité précédente a retenu que la motivation du recourant était double. Ainsi, si celui-ci avait agi afin de satisfaire sa propre consommation, ce qui était de nature à diminuer légèrement sa culpabilité, il avait également agi par appât du gain, son activité illicite lui ayant procuré un bénéfice de plus de 10'000 fr. Dans son argumentation, le recourant se contente de nier avoir agi par appât du gain, sans toutefois invoquer, ni démontrer l'arbitraire dans les constatations cantonales. Sa critique est purement appellatoire et par conséquent irrecevable.
1.4 Le recourant explique qu'il ne consomme plus de produits stupéfiants, qu'il a trouvé du travail, que ses employeurs sont satisfaits et qu'il a stabilisé sa situation personnelle. Il reproche ainsi au Tribunal cantonal d'avoir mal apprécié sa situation personnelle.
La Cour cantonale a admis qu'elle ne pouvait acquérir la certitude que le recourant ne consommait plus de produits stupéfiants en retenant que l'intéressé avait rapidement mis un terme à sa collaboration avec la Ligue valaisanne contre les toxicomanies, qu'il n'avait pas entamé de suivi médical et qu'il n'avait pas versé en cause de rapport d'examen toxicologique récent. Le recourant, qui au demeurant ne se plaint pas expressément d'une violation de l'art. 9 Cst., ne démontre pas en quoi cette appréciation serait manifestement insoutenable, de sorte que sa critique est irrecevable. Par ailleurs, le seul fait qu'il ait trouvé un travail ne permet pas de certifier toute abstinence.
Pour le reste, le Tribunal cantonal a tenu compte des éléments favorables invoqués par le recourant, à savoir que celui-ci avait mis, selon ses dires, un terme à ses mauvaises fréquentations, que sa situation financière était saine et qu'il avait fait des efforts au niveau professionnel, lesquels attestaient de sa volonté de se réinsérer dans la société. Il a d'ailleurs réduit la peine infligée par les juges de première instance compte tenu notamment des efforts déployés sur le plan professionnel. La critique est donc vaine.
1.5 La peine d'espèce, qui a été dûment motivée, s'inscrit dans le cadre légal. Elle a été fixée sur la base de critères pertinents et on n'en discerne pas d'importants qui auraient été omis ou pris en considération à tort. Les éléments à prendre en compte ont par ailleurs été correctement évalués et ont abouti au prononcé d'une peine qui ne peut être qualifiée d'excessive. La sanction infligée ne viole donc pas le droit fédéral.
2. Invoquant les art. 42 et 43 CP, le recourant requiert l'octroi du sursis. Se référant à deux arrêts du Tribunal pénal fédéral, il estime que l'écoulement du temps, son abstinence aux produits stupéfiants, les efforts entrepris, ses remords, sa volonté de sortir du milieu de la drogue et la reprise d'un travail doivent permettre de poser un pronostic favorable.
2.1 De jurisprudence constante, les conditions subjectives auxquelles l'<ref-law> soumet l'octroi du sursis intégral s'appliquent également à l'octroi du sursis partiel (<ref-ruling> consid. 5.3.1 p. 10). Par conditions subjectives, il faut entendre notamment la condition posée à l'<ref-law> (cf. <ref-ruling> consid. 4.2 et 4.2.3 p. 5 ss). Il s'ensuit que l'octroi d'un sursis partiel est exclu si, durant les cinq ans qui précèdent l'infraction, l'auteur a été condamné à une peine privative de liberté ferme ou avec sursis de six mois au moins ou à une peine pécuniaire de cent quatre-vingts jours-amende au moins, sauf s'il justifie de circonstances particulièrement favorables (cf. arrêts 6B_207/2007 du 6 septembre 2007 consid. 4.3.1; 6B_492/2008 du 19 mai 2009 consid. 3.1.2), c'est-à-dire de circonstances propres à renverser la présomption de pronostic négatif attachée à un tel antécédent.
2.2 En l'espèce, le recourant a été condamné à une peine privative de liberté de 3 ans, de sorte que seul l'octroi du sursis partiel est envisageable (cf. art. 42 et 43 CP).
2.3 Par jugement du 8 octobre 2007, soit dans les cinq ans précédant les faits de la présente cause, le recourant a été condamné à une peine privative de liberté de 12 mois, de sorte que l'<ref-law> s'applique et qu'il ne peut donc bénéficier du sursis partiel que s'il justifie, d'un point de vue subjectif, de circonstances particulièrement favorables.
En l'occurrence, la culpabilité du recourant est lourde. Il n'a pas ou que difficilement collaboré à l'instruction. Il n'a pas hésité, malgré trois condamnations antérieures, dont une pour des faits similaires, à se livrer une nouvelle fois au trafic et à la consommation de produits stupéfiants. Il n'a donc tiré aucun enseignement de ses précédentes condamnations. Le risque de révocation des sursis accordés précédemment ne l'a pas dissuadé de récidiver. Sa propension à commettre de nouvelles infractions, alors même que les procédures antérieures ne sont pas terminées, est inquiétante. Certes, depuis sa remise en liberté, il a exprimé des remords et manifesté sa volonté de modifier son mode vie. Il n'a toutefois apporté que peu d'éléments probants permettant de donner foi à ses déclarations. Ainsi, il subsiste des doutes importants quant à son abstinence aux produits stupéfiants, dès lors qu'il ne s'est plus soumis à de nouveaux contrôles toxicologiques depuis mars 2009. Il ne bénéficie pas non plus d'un suivi médical régulier et a mis un terme à sa collaboration avec la Ligue valaisanne contre les toxicomanies. Sa situation personnelle se caractérise par l'éloignement géographique de sa famille et l'absence quasi-totale de contacts sociaux, éléments pourtant propres à conférer un certain équilibre.
Au vu de ce qui précède, les éléments favorables tels que l'écoulement du temps depuis la commission des dernières infractions, les efforts louables entrepris au niveau professionnel et les remords exprimés ne suffisent pas pour retenir une évolution particulièrement favorable. Enfin, les comparaisons que le recourant tente de faire sont dénuées de pertinence, vu les nombreux paramètres intervenant dans l'évaluation du pronostic. Dans ces conditions, en refusant le sursis partiel au recourant, la Cour cantonale n'a pas violé le droit fédéral, mais fait une correcte application des art. 42 al. 2 et 43 CP.
3. Le recours doit ainsi être rejeté dans la mesure où il est recevable. Comme ses conclusions étaient vouées à l'échec, l'assistance judiciaire ne peut être accordée (<ref-law>). Le recourant devra donc supporter les frais (<ref-law>), dont le montant sera toutefois fixé en tenant compte de sa situation financière (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, fixés à 800 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, Cour pénale I.
Lausanne, le 2 juillet 2010
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Juge présidant: La Greffière:
Schneider Bendani