Faits:
A. A.a Par jugement du 11 novembre 2010, le Tribunal correctionnel de l'arrondissement de Lausanne a reconnu X._ coupable de séquestration et enlèvement ainsi que d'infraction grave à la loi fédérale sur les stupéfiants. Il l'a condamné à une peine privative de liberté de deux ans, sous déduction de la détention préventive, à une peine pécuniaire de 360 jours-amende à 30 fr. le jour et a suspendu l'exécution de la peine privative de liberté en fixant un délai d'épreuve de cinq ans.
A.b Ce jugement repose, en résumé, sur l'état de fait suivant.
Entre 2003 et 2006, X._ a vendu 367,9 g de cocaïne pure. Dans le courant de l'année 2005, il s'est associé à Y._ pour enlever et séquestrer Z._ qui avait dérobé de la drogue à Y._. Ils ont fait appel à deux hommes de main qui ont contraint Z._ à monter dans une voiture. X._, Y._ et un troisième homme les ont suivis dans un autre véhicule. Z._ a été ligoté, emmené dans un appartement à Epalinges puis dans une forêt, avant d'être reconduit dans l'appartement. Durant ce périple, il a été frappé afin qu'il avoue le vol de la drogue, sans qu'il soit établi que X._ ait porté des coups. La séquestration a duré environ quatre heures; la victime a été libérée après que son amie ait rapporté à X._ la marchandise dérobée.
B. Statuant le 21 février 2011, la Cour de cassation pénale du Tribunal cantonal vaudois a admis le recours formé par le Ministère public et déclaré sans objet le recours joint déposé par X._. Elle a condamné X._ à une peine privative de liberté de trois ans, sous déduction de la détention préventive, a ordonné l'exécution de la peine à concurrence de six mois et a suspendu l'exécution du solde, avec un délai d'épreuve de cinq ans.
Dans ses considérants, la Cour de cassation a observé que les premiers juges avaient estimé qu'une peine privative de liberté de trois ans était adaptée à la culpabilité du recourant mais qu'ils avaient, en violation des art. 42 al. 4 et 47 CP, fractionné cette peine en une peine privative de liberté de deux ans avec sursis complet et en une peine pécuniaire ferme de 360 jours-amende.
C. Contre l'arrêt cantonal, X._ a déposé un recours en matière pénale. Il demande principalement la confirmation du jugement de première instance. Subsidiairement, il conclut à ce que sa condamnation soit fixée à une peine privative de liberté de deux ans avec sursis, sous déduction de la détention préventive, et à une peine pécuniaire de 180 jours à trente francs par jour. A titre encore plus subsidiaire, il sollicite l'annulation de l'arrêt cantonal et le renvoi de la cause à l'autorité précédente.
En outre, le recourant demande l'assistance judiciaire et l'octroi de l'effet suspensif au recours.
Considérant en droit:
1. Le recours ordinaire au Tribunal fédéral peut notamment être formé pour violation du droit fédéral (art. 95 let. a LTF), y compris les droits constitutionnels. Le recours doit être suffisamment motivé. Il doit indiquer en quoi la décision attaquée viole le droit (cf. art. 42 al. 2 LTF). Les griefs de violation des droits fondamentaux sont soumis à des exigences de motivation accrues (cf. art. 106 al. 2 LTF; ATF 133 IV 286 consid. 1.4 p. 287). L'acte de recours doit, à peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et préciser en quoi consiste la violation (cf. ATF 134 II 349 consid. 3 p. 351; également ATF 136 II 489 consid. 2.8 p. 494).
2. Le recourant se plaint implicitement de la quotité de sa peine.
2.1 Selon l'art. 47 CP, le juge fixe la peine d'après la culpabilité de l'auteur. Il prend en considération les antécédents et la situation personnelle de ce dernier ainsi que l'effet de la peine sur son avenir (al. 1). La culpabilité est déterminée par la gravité de la lésion ou de la mise en danger du bien juridique concerné, par le caractère répréhensible de l'acte, par les motivations et les buts de l'auteur et par la mesure dans laquelle celui-ci aurait pu éviter la mise en danger ou la lésion, compte tenu de sa situation personnelle et des circonstances extérieures (al. 2).
Ces critères correspondent à ceux développés par la jurisprudence relative à l'art. 63 aCP, à laquelle on peut se référer (ATF 134 IV 17 consid. 2.1 p. 19). Le juge dispose d'un large pouvoir d'appréciation dans la fixation de la peine. Il n'y a ainsi violation du droit fédéral que lorsque le juge sort du cadre légal, lorsqu'il fonde sa décision sur des critères étrangers à l'art. 47 CP, lorsqu'il omet de prendre en considération des éléments prévus par cette disposition ou lorsqu'il abuse de son pouvoir d'appréciation en fixant une peine exagérément sévère ou excessivement clémente (ATF 134 IV 17 consid. 2.1 p. 19 s.).
2.2 La cour cantonale a, par renvoi au jugement de première instance considéré que la culpabilité du recourant était lourde. Il a mis sur le marché une quantité considérable de cocaïne et son activité s'est étendue sur une longue période, de fin 2002 jusqu'au début de l'année 2007. Seule son arrestation a mis fin au trafic. En outre, le recourant a joué un rôle essentiel dans la séquestration barbare d'un tiers et démontré ainsi une absence particulière de scrupules et de respect pour autrui. En effet, il y a non seulement participé mais a également eu l'idée de faire appel à des hommes de main pour molester la victime. A charge de l'accusé, les autorités cantonales ont retenu le concours d'infractions. A décharge, elles ont tenu compte d'une diminution légère de responsabilité, de sa bonne collaboration en cours d'enquête, de ses mobiles qui consistaient à assouvir son besoin de stupéfiants et non à s'enrichir, de ses regrets, de son relatif jeune âge et surtout de l'important travail accompli depuis la fin de ses activités délictueuses. A ce titre, la cour cantonale a relevé l'intégration professionnelle exemplaire du recourant, sa rupture avec le milieu toxicomane, le redressement de sa situation financière et la prise de conscience de la gravité de ses actes. Au vu de l'ensemble de ces éléments, elle a jugé qu'une peine privative de liberté de trois ans était adéquate.
2.3 En l'espèce, le recourant, avec raison, ne prétend pas que des éléments auraient été omis ou pris en considération à tort par la cour cantonale. Il n'explique pas davantage de manière motivée en quoi cette peine serait exagérément sévère au point de constituer un abus du pouvoir d'appréciation. Il insiste uniquement sur la volonté des premiers juges de limiter sa peine privative de liberté à deux ans. C'est méconnaître que les juges de première instance ont prononcé une peine combinée équivalente à trois ans (2 ans de peine privative de liberté et 360 jours-amende). Or, cette solution n'était pas conforme, l'art. 42 al. 4 CP offrant uniquement la faculté de prononcer une peine combinée globale de deux ans au maximum (cf. consid. 4 infra) ; la cour cantonale devait donc reprendre la problématique de la peine dans le cadre du recours du Ministère public. Au demeurant, il apparaît que la peine a été fixée à trois ans sur la base de critères pertinents, correctement évalués, ce qui a abouti au prononcé d'une peine qui ne peut être qualifiée d'excessive. Le grief doit ainsi être rejeté dans la mesure de sa recevabilité.
3. Le recourant fait valoir que la cour cantonale, avec la peine infligée, a aggravé sa situation et violé ainsi l'interdiction de la reformatio in peius.
3.1 L'interdiction de la reformatio in peius relève au premier chef du droit cantonal de procédure, dont le Tribunal fédéral ne contrôle l'application que sous l'angle de sa conformité au droit constitutionnel, notamment à l'art. 9 Cst. Encore faut-il que le grief soit motivé conformément aux exigences de l'art. 106 al. 2 LTF (cf. supra, consid. 1).
3.2 Le recourant n'invoque aucune disposition du droit cantonal de procédure, et donc, à plus forte raison, il ne démontre pas d'application contraire à ses droits constitutionnels. Son grief apparaît ainsi irrecevable.
Au demeurant, il est aussi infondé. Le principe de la reformatio in peius interdit la réforme du jugement entrepris au détriment du recourant lorsqu'il recourt seul (GÉRARD PIQUEREZ, Traité de procédure pénale suisse, 2ème éd., 2006, n. 1215). Dans le cas particulier, la cour cantonale était saisie d'un recours de l'accusé mais aussi du Ministère public qui demandait précisément une aggravation de la peine. Dès lors, elle était en droit d'infliger au recourant une peine plus élevée que celle fixée en première instance.
4. Le recourant reproche à la cour cantonale d'une part de ne pas avoir assorti la peine privative de liberté du sursis total et, d'autre part, de ne pas avoir combiné cette peine avec une peine pécuniaire ferme. Il invoque les art. 42 et 43 CP.
4.1 Selon l'article 42 CP, le juge suspend en règle générale l'exécution d'une peine pécuniaire, d'un travail d'intérêt général ou d'une peine privative de liberté de six mois au moins et de deux ans au plus lorsqu'une peine ferme ne paraît pas nécessaire pour détourner l'auteur d'autres crimes ou délits (al. 1). Le juge peut prononcer, en plus du sursis, une peine pécuniaire sans sursis ou une amende (al. 4). En ce qui concerne les peines privative de liberté, le champ d'application de l'art. 42 CP est donc limité aux peines de deux ans au maximum (ATF 134 IV 1 consid. 5.3.2; arrêt 6B_373/2009 du 22 septembre 2009 consid. 4.3.1).
Selon l'art. 43 CP, le juge peut suspendre partiellement l'exécution d'une peine pécuniaire, d'un travail d'intérêt général ou d'une peine privative de liberté d'un an au moins et de trois ans au plus afin de tenir compte de façon appropriée de la faute de l'auteur (al. 1). Dans le cas des peines privatives de liberté qui excèdent la limite fixée pour l'octroi du sursis complet - soit entre deux et trois ans -, l'art. 43 CP s'applique de manière autonome. En effet exclu dans ces cas, le sursis complet est alors remplacé par le sursis partiel pour autant qu'il n'y ait pas de pronostic défavorable (ATF 134 IV 1 consid. 5.3.2 et consid. 5.5.1).
4.2 En l'espèce, le recourant a été condamné à une peine privative de liberté de trois ans. La quotité de la peine exclut par conséquent le sursis complet; seul le sursis partiel au sens de l'art. 43 CP entre en ligne de compte.
Pour le même motif, un cumul de la peine privative de liberté avec une peine pécuniaire ferme, en application de l'art. 42 al. 4 CP, n'entre pas en considération. La seule combinaison envisageable, eu égard à la quotité de la peine, est celle prévue par l'art. 43 CP, soit la combinaison de deux peines de même genre, l'une avec sursis et l'autre ferme (cf. DUPUIS ET AL., Code pénal I, Petit Commentaire, n. 2 ad art. 43 CP; THOMAS MANHART, Bedingte und teilbedingte Strafen sowie kurze unbedingte Freiheitsstrafen in : Die Revision des Strafgesetzbuches Allgemeiner Teil, p. 119 ss, p. 132; GEORGES GREINER, Bedingte und teilbedingte Strafen, Strafzumessung in : Zur Revision des Allgemeinen Teils des Schweizerischen Strafrechts und zum neuen materiellen Jugendstrafrecht, 2ème éd., 2006, p. 97 ss, 118-119).
5. Le recourant succombe et ses conclusions étaient d'emblée dénuées de chances de succès. L'assistance judiciaire doit être refusée (art. 64 al. 1 LTF). Le recourant supporte les frais de la cause, qui seront calculés en prenant en considération sa situation économique qui n'apparaît pas favorable (art. 65 al. 2 et 66 al. 1 LTF). La requête d'effet suspensif est sans objet.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La requête d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 800 fr., sont mis à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Cour de cassation pénale.
Lausanne, le 7 juillet 2011
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: La Greffière:
Mathys Rey-Mermet