Faits:
A. A.a Y._ SA (ci-après: l'employeuse) a engagé X._ (ci-après: l'employé) en qualité de vendeur pour son magasin lausannois avec effet au 1er juillet 2007. Le contrat de travail prévoyait un salaire mensuel de 3'400 fr. brut payable douze fois l'an ainsi que quatre semaines de vacances annuelles.
Au mois d'août 2008, la gérance du magasin a changé. Jusque-là, l'employé était apprécié tant sur le plan professionnel que personnel; il assumait plus de responsabilités que les autres vendeurs.
A.b Au cours du second semestre de l'année 2008, la nouvelle gérante a constaté des vols de matériel et d'argent au sein du magasin. Elle a soupçonné l'employé et un autre vendeur, qui ont nié avoir commis ces actes.
En juin 2009, l'employé a reçu un avertissement écrit en raison d'arrivées tardives répétées.
A.c Le samedi 27 juin 2009, l'employé devait travailler seul avec la gérante jusqu'à 11 heures, heure à laquelle une vendeuse devait arriver. Deux autres vendeurs devaient prendre leur service à 13 heures.
En cours de journée, l'employé puis une vendeuse ont constaté l'apparition de petites taches noires sur leurs mains. La gérante a expliqué qu'en raison des vols commis dans le magasin, elle avait appliqué de la poudre sur des billets de 100 fr. déposés comme acomptes par des clients et qui étaient conservés dans des enveloppes jusqu'au retrait de la marchandise réservée; la poudre devait faire apparaître des taches sur les doigts des personnes ayant par hypothèse manipulé l'argent. Le jour même, la gérante a accusé l'employé d'avoir volé un billet de 100 fr. dont elle prétendait avoir constaté la disparition avant 11 heures. L'employé a contesté l'accusation. Après la fermeture du magasin, la gérante a expliqué les événements aux trois autres vendeurs.
Le lundi 29 juin 2009, l'employé s'est vu remettre une lettre dans laquelle l'employeuse déclarait résilier le contrat de travail pour le 31 août 2009. La gérante lui a expliqué que cette décision était motivée par le vol du 27 juin 2009. L'employé ayant refusé de contresigner ce document et s'étant opposé au congé, la gérante lui a signifié oralement son licenciement immédiat pour le même motif. L'employé s'y est également opposé.
Le même jour, l'employé s'est rendu selon ses propres dires à l'inspection du travail puis chez son médecin généraliste, qui a établi un certificat attestant d'une incapacité de travail complète dès le 29 juin 2009 pour une durée indéterminée.
Dès le 1er août 2009, l'employé a été engagé comme vendeur par un autre magasin de sport lausannois pour un salaire mensuel de 4'000 fr. brut.
B. B.a Par requête du 28 août 2009 déposée devant le Tribunal des prud'hommes de l'arrondissement de Lausanne, l'employé a conclu au paiement des sommes de 3'400 fr. brut et de 13'600 fr. ainsi qu'à la délivrance d'un certificat de travail. L'employeuse a conclu au rejet de la requête.
Par jugement du 22 décembre 2009, le Tribunal des prud'hommes a condamné l'employeuse au paiement de 7'663 fr. 45 brut, sous déduction des cotisations sociales légales et conventionnelles, intérêts en sus (I), ainsi qu'à la délivrance d'un certificat de travail dont le contenu était précisé dans le dispositif (II). En substance, le tribunal a considéré que la résiliation ordinaire avait été valablement signifiée et que le contrat avait pris fin le 31 août 2009 (art. 335c al. 1 CO); l'employeuse devait verser le salaire du mois d'août 2009 (3'650 fr. brut) et payer un solde de 22 jours de vacances (4'013 fr. 45).
B.b L'employé a contesté ce jugement devant la Chambre des recours du Tribunal cantonal vaudois, concluant principalement à ce que lui soient allouées une indemnité pour licenciement abusif fixée à dire de justice mais non inférieure à trois mois de salaire, ainsi qu'une indemnité pour résiliation immédiate injustifiée fixée à dire de justice mais non inférieure à trois mois de salaire, les chiffres I et II du dispositif du jugement entrepris étant confirmés. Subsidiairement, il a conclu au paiement de 11'313 fr. 45 brut, sous déduction des cotisations légales et conventionnelles, et d'une indemnité pour licenciement abusif fixée à dire de justice mais non inférieure à trois mois de salaire, le chiffre II du dispositif étant par ailleurs confirmé.
L'employeuse a conclu au rejet du recours et, par voie de jonction, à la réforme du chiffre I du dispositif en ce sens qu'elle doit payer 3'648 fr. 55 brut, sous déduction des cotisations sociales légales et conventionnelles, les autres chiffres du jugement étant confirmés pour le surplus.
L'employé a conclu au rejet du recours joint.
Par arrêt du 27 août 2010, la Chambre des recours a partiellement admis les recours de l'employé et de l'employeuse et réformé le chiffre I du dispositif du jugement en ce sens que l'employeuse doit verser à l'employé un montant brut de 4'013 fr. 45, sous déduction des charges sociales légales et conventionnelles, ainsi qu'un montant net de 3'400 fr., le tout avec intérêts. En bref, la Chambre des recours a considéré que la résiliation immédiate injustifiée avait déployé ses effets dès réception du congé. L'employé avait droit au paiement de ses vacances ainsi qu'à une indemnité fondée sur l'art. 337c al. 3 CO.
C. L'employé (ci-après: le recourant) interjette un recours en matière civile auprès du Tribunal fédéral. Il conclut à l'allocation d'une indemnité pour résiliation immédiate sans juste motif d'un montant correspondant à quatre mois de salaire, soit 13'600 fr., l'arrêt étant confirmé pour le surplus.
L'employeuse (ci-après: l'intimée) conclut au rejet du recours.
L'autorité précédente se réfère à son arrêt.
Considérant en droit:
1. Le jugement attaqué a été rendu en matière civile (art. 72 al. 1 LTF) par l'autorité cantonale de dernière instance (art. 75 al. 1 LTF) dans une affaire pécuniaire. En matière de droit du travail, la valeur litigieuse, déterminée par les conclusions restées litigieuses devant l'autorité précédente, doit atteindre le seuil de 15'000 fr. (art. 51 al. 1 let. a et 74 al. 1 let. a LTF).
Le jugement de première instance allouait 7'663 fr. 45 au recourant. Devant la Chambre des recours, celui-ci a prétendu non seulement au paiement de ce montant, mais aussi à l'allocation de deux indemnités équivalant chacune à trois mois de salaire au moins; ses conclusions se chiffraient ainsi à 28'063 fr. 45 (7'663 fr. 45 + [3 x 3'400 fr. x 2]). L'intimée a pour sa part admis devoir au recourant 3'648 fr. 55 en tout et pour tout. S'élevant à 24'414 fr. 90, la valeur litigieuse excède le seuil de 15'000 fr., contrairement à ce qu'indique l'autorité précédente dont l'avis ne lie toutefois pas le Tribunal fédéral (ATF 136 III 60 consid. 1.1.1 p. 62 in fine). Sauf exceptions, il faut se fonder sur le montant réclamé, même s'il apparaît exagéré (ATF 99 III 27 consid. 1 p. 32) et sans égard à la question du bien-fondé des conclusions.
Interjeté par une partie à la procédure qui a partiellement succombé devant l'autorité précédente (art. 76 al. 1 LTF dans sa teneur antérieure au 1er janvier 2011), le recours est en principe recevable puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF en liaison avec l'art. 45 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
2. Le recours peut être interjeté pour violation du droit fédéral (art. 95 let. a LTF), y compris le droit constitutionnel (ATF 136 II 304 consid. 2.4 p. 313). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), dont il ne peut s'écarter que si les faits ont été établis de façon manifestement inexacte - notion qui correspond à celle d'arbitraire (ATF 136 II 304 consid. 2.4 p. 314) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
3. 3.1 Le recourant se plaint d'une violation de l'art. 337c al. 3 CO. En substance, il reproche à la cour cantonale d'avoir tenu compte du fait qu'il avait retrouvé rapidement du travail, ce qui reviendrait à pénaliser celui qui met tout en oeuvre pour se réinsérer rapidement. La cour aurait en outre méconnu la position qu'il occupait dans le magasin, ses compétences, le comportement totalement inadéquat de l'intimée et la manière dont le licenciement lui a été communiqué. L'indemnité d'un mois serait arbitrairement basse.
3.2 L'art. 337c al. 3 CO prévoit qu'en cas de résiliation immédiate injustifiée, le juge peut allouer au travailleur une indemnité dont il fixera librement le montant, en tenant compte de toutes les circonstances, mais sans dépasser l'équivalent de six mois de salaire. Cette indemnité, qui s'ajoute aux droits découlant de l'art. 337c al. 1 CO, revêt une double finalité, à la fois réparatrice et punitive (ATF 135 III 405 consid. 3.1 p. 407; 120 II 209 consid. 9b). Elle est en principe due dans tous les cas de licenciement immédiat et injustifié. Une éventuelle exception doit répondre à des circonstances particulières, qui ne dénotent aucune faute de l'employeur et qui ne lui sont pas non plus imputables pour d'autres raisons (ATF 133 III 657 consid. 3.2 p. 660; 116 II 300 consid. 5a).
L'indemnité est fixée d'après la gravité de la faute de l'employeur, la mesure de l'atteinte portée aux droits de la personnalité du travailleur et la manière dont la résiliation a été annoncée; d'autres critères tels que la durée des rapports de travail, l'âge du lésé, sa situation sociale, une éventuelle faute concomitante et les effets économiques du licenciement entrent aussi en considération (ATF 123 III 391 consid. 3c; 121 III 64 consid. 3c; STREIFF/VON KAENEL, Arbeitsvertrag, Praxiskommentar, 6e éd. 2006, n° 8 ad art. 337c CO p. 777 s.)
Statuant selon les règles du droit et de l'équité (art. 4 CC), le juge dispose d'un large pouvoir d'appréciation. Le Tribunal fédéral ne substitue qu'avec retenue sa propre appréciation à celle de la juridiction cantonale. Il n'intervient que si la décision s'écarte sans raison des règles établies par la doctrine et la jurisprudence en matière de libre appréciation, ou lorsqu'elle repose sur des faits qui, dans le cas particulier, ne devaient jouer aucun rôle, ou encore lorsqu'elle n'a pas tenu compte d'éléments qui auraient absolument dû être pris en considération; en outre, il redresse un résultat manifestement injuste ou une iniquité choquante (ATF 121 III 64 consid. 3c; cf. aussi ATF 135 III 259 consid. 2.5).
3.3 En l'occurrence, le congé immédiat injustifié a été donné en raison d'un soupçon de vol dont le bien-fondé n'est pas établi; il fait suite à un congé ordinaire donné pour le même motif, auquel le recourant s'est opposé. Celui-ci, né en 1978, avait travaillé deux ans pour l'intimée. Il était apprécié sur le plan professionnel et personnel; ses qualités de vendeur étaient reconnues.
Les circonstances de l'espèce ne font pas ressortir une atteinte sérieuse à la personnalité du recourant ni un résultat particulièrement dommageable pour lui. Dans un courrier du 6 juillet 2009 adressé à l'intimée, il écrivait en substance contester non pas tant la résiliation que le refus de payer son salaire d'août 2009. Un certificat médical d'incapacité de travail a certes été délivré le jour même du licenciement, mais le Tribunal des prud'hommes a jugé qu'il s'agissait d'un certificat de complaisance; l'autorité précédente a laissé cette question indécise dans la mesure où la question d'un éventuel report de l'échéance du contrat n'avait pas d'incidence pratique. A tout le moins n'est-il pas établi que l'incapacité serait due à un état psychologique résultant des difficultés professionnelles du recourant, cet élément ressortant des seules déclarations de l'intéressé.
Contrairement à ce que plaide le recourant, la cour cantonale était en droit de tenir compte du fait qu'il avait retrouvé rapidement un emploi mieux rémunéré. En effet, le temps que l'employé met à obtenir un nouveau travail est propre à aggraver l'atteinte causée par le congé injustifié et peut à ce titre être pris en considération (arrêt 4C.159/1995 du 19 mars 1996 consid. 5a). En l'occurrence, le réengagement rapide du recourant démontre aussi que sa bonne réputation sur le marché du travail n'a pas été ternie par l'attitude de l'intimée.
Il n'apparaît pas que l'autorité précédente se soit fondée sur des critères erronés pour fixer l'indemnité de l'art. 337c al. 3 CO. En retenant l'équivalent d'un mois de salaire brut, elle n'a pas abusé de son pouvoir d'appréciation.
Contrairement à ce que plaide le recourant, on ne saurait déduire de la jurisprudence qu'un mois de salaire constitue le minimum accordé dans des cas limites, notamment en présence d'une faute concomitante de l'employé. Le Tribunal fédéral souligne la nécessité de fixer une telle indemnité en équité selon les circonstances d'espèce et rejette expressément la méthode consistant à se fonder sur une peine de base (Einsatzstrafe), applicable au cas hypothétique normal, qui serait ensuite adaptée en fonction des circonstances aggravantes ou atténuantes du cas concret (arrêt 4C.30/1999 du 19 mars 1999 consid. 3, in Plädoyer 1999/3 p. 57; dans ce sens aussi STREIFF/VON KAENEL, op. cit., n° 8 ad art. 337c CO p. 778).
Il est certes question d'élever à douze mois le montant maximal de l'indemnité pour mieux tenir compte des cas graves (cf. rapport explicatif et avant-projet de révision partielle du code des obligations [sanction en cas de congé abusif ou injustifié], septembre 2010, ch. 1.2.3 pp. 16-18). En droit positif, le Tribunal fédéral admet du reste que dans des cas exceptionnels une indemnité supplémentaire fondée sur l'art. 49 CO puisse être allouée en sus de l'indemnité de l'art. 337c al. 3 CO, lorsque le montant maximal légal ne permet pas de tenir suffisamment compte de l'atteinte à la personnalité (arrêt 4C.463/1999 du 4 juillet 2000 consid. 9c non publié à l'ATF 126 III 395, confirmé notamment à l'arrêt 4A_142/2009 du 25 juin 2009 consid. 5; STREIFF/VON KAENEL, op. cit., n° 8 ad art. 337c CO p. 778 s.). La présente situation ne constitue toutefois clairement pas un cas grave, l'importance de l'atteinte devant être relativisée pour les motifs indiqués ci-dessus. L'indemnité correspondant grosso modo à un mois de salaire brut prononcée par l'autorité précédente tient suffisamment compte du double caractère punitif et réparatoire voulu par le législateur.
4. Il s'ensuit que le recours doit être rejeté.
Vu le sort du recours, les frais judiciaires, fixés en application de l'art. 65 al. 4 let. c LTF, sont mis à la charge du recourant (art. 66 al. 1 LTF), qui versera par ailleurs à l'intimée une indemnité à titre de dépens (art. 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 600 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimée une indemnité de 1'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Chambre des recours du Tribunal cantonal du canton de Vaud.
Lausanne, le 11 mars 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La présidente: La greffière:
Klett Monti