Faits:
A. A.a Le 2 septembre 2011, X._ a été interpellée par la Police municipale de Lausanne en possession de 30 paquets contenant au total 6 grammes nets d'héroïne. Lors de son audition par la police, elle a été informée qu'une procédure préliminaire était instruite à son encontre pour possession d'héroïne. Elle a en outre signé le formulaire l'informant qu'elle était entendue en qualité de prévenue dans le cadre d'une procédure pénale et la rendant attentive à ses droits et obligations. Le 26 septembre 2011, la police a établi un rapport à l'attention du Ministère public.
A.b Le 16 novembre 2011, le Ministère public de l'arrondissement de Lausanne a condamné X._ pour infraction aux art. 19 al. 1 let. c et 19a ch. 1 de la loi fédérale du 3 octobre 1951 sur les stupéfiants et les substances psychotropes (Loi sur les stupéfiants, LStup; RS 812.121) à une peine privative de liberté de 120 jours et à une amende de 300 francs. Cette ordonnance pénale a été envoyée le jour même à X._, à l'adresse indiquée par celle-ci lors de son audition du 2 septembre 2011, par courrier recommandé avec accusé de réception. L'intéressée n'a pas retiré ce pli dans le délai de garde qui venait à échéance le 24 novembre 2011.
A.c Le 13 décembre 2011, X._, représentée par un avocat, a formé opposition à l'ordonnance pénale du 16 novembre 2011.
B. Par prononcé rendu le 22 décembre 2011, le Tribunal de police de l'arrondissement de Lausanne a déclaré irrecevable l'opposition à l'ordonnance pénale, pour cause de tardiveté, et a dit que celle-ci était exécutoire.
C. La Chambre des recours pénale du Tribunal cantonal vaudois a rejeté par arrêt du 16 janvier 2012 le recours formé par X._ contre cette décision.
D. X._ forme un recours en matière pénale au Tribunal fédéral. Elle conclut à ce que l'arrêt de la cour cantonale soit réformé en ce sens que l'opposition formée le 13 décembre 2011 est recevable et que la cause est renvoyée aux autorités judiciaires vaudoises pour qu'elles l'instruisent et rendent une nouvelle décision.
Il n'a pas été ordonné d'échange d'écritures.

Considérant en droit:
1. La recourante soutient qu'elle ne pouvait s'attendre à être condamnée sans avoir été entendue par un magistrat et que la manière dont les autorités vaudoises ont procédé viole son droit à bénéficier d'un procès équitable au sens de l'art. 6 CEDH.
1.1 Le Tribunal fédéral ne connaît de la violation des droits fondamentaux que si ce grief a été soulevé et motivé par le recourant (art. 106 al. 2 LTF; <ref-ruling> consid. 3.2 p. 88; <ref-ruling> consid. 1.4.2 p. 254). Si le recourant se plaint de la violation de tels droits, il doit satisfaire au principe d'allégation (Rügeprinzip, principio dell'allegazione). Il doit ainsi indiquer précisément quelle disposition constitutionnelle ou légale a été violée et démontrer par une argumentation claire et détaillée en quoi consiste la violation (<ref-ruling> consid. 2.2 p. 69; <ref-ruling> consid. 3.2 p. 88).
1.2 Selon le projet de code de procédure pénale suisse, le Ministère public devait entendre le prévenu avant de le condamner à un travail d'intérêt général ou à une peine privative de liberté (cf. art. 356 al. 2 P-CPP). Cette exigence n'a cependant pas été reprise dans le texte finalement adopté, pour des motifs d'efficacité (cf. BO/CE 2006 p. 984). Autant que la recourante entend remettre en cause la validité, au regard de l'art. 6 CEDH, des règles du code de procédure pénale qui permettent au Ministère public de rendre une décision prononçant une peine privative de liberté sans qu'il auditionne la personne visée, son grief est irrecevable, faute de toute motivation claire et détaillée répondant aux exigences de motivation de l'art. 106 al. 2 LTF. Au demeurant, la compatibilité du système de l'ordonnance pénale avec l'art. 6 CEDH est admise tant par la jurisprudence que par la doctrine dans la mesure où sur une simple opposition, l'intéressé peut saisir un tribunal offrant les garanties de l'art. 6 CEDH (cf. arrêt de la Cour européenne des droits de l'homme Belilos c. Suisse du 29 avril 1988, série A, vol. 132, par. 68, citant l'arrêt Öztürk c. Allemagne du 21 février 1984, série A, vol. 73, par. 58 [recte: 56]; <ref-ruling> consid. 3c p. 238/239; <ref-ruling> consid. 7 p. 150; Franz Riklin, in: Basler Kommentar, Schweizerische Prozessordnung, 2011, n. 4 ad remarques préliminaires ad art. 352-356 CPP; Christian Schwarzenegger, in: Kommentar zur Schweizerischen Straf-prozessordnung (StPO), 2010, n. 1 ad art. 352 CPP; Gérard Piquerez, Traité de procédure pénale suisse, 2ème éd., 2006, n. 1152; Hauser/Schweri/Hartmann, Schweizerisches Strafprozessrecht, 6ème éd., 2005, p. 429/430).
2. La recourante invoque une violation de l'art. 85 al. 4 CPP. Elle soutient que sa seule audition par la police ne lui permettait pas de devoir s'attendre à ce qu'une décision soit rendue à son encontre.
2.1 Selon l'art. 85 al. 4 let. a CPP, un prononcé est réputé notifié lorsque, expédié par lettre signature, il n'a pas été retiré dans les sept jours à compter de la tentative infructueuse de remise du pli, si la personne concernée devait s'attendre à une telle remise. Cette disposition reprend les principes développés par la jurisprudence et qui prévalaient avant l'entrée en vigueur du code de procédure pénale suisse le 1er janvier 2011 (arrêt 6B_422/2011 du 7 octobre 2011 consid. 1.2; cf. <ref-ruling> consid. 4 p. 51; <ref-ruling> consid. 1.2.3 p. 399).
La personne concernée ne doit s'attendre à la remise d'un prononcé que lorsqu'il y a une procédure en cours qui impose aux parties de se comporter conformément aux règles de la bonne foi, à savoir de faire en sorte, entre autres, que les décisions relatives à la procédure puissent leur être notifiées. Le devoir procédural d'avoir à s'attendre avec une certaine vraisemblance à recevoir la notification d'un acte officiel naît avec l'ouverture d'un procès et vaut pendant toute la durée de la procédure (ATF <ref-ruling> consid. 1.2.3 p. 399). Un simple interrogatoire par la police en qualité de témoin, voire de suspect, ne suffit en général pas à créer un rapport juridique de procédure pénale avec la personne entendue. Il ne peut donc être considéré qu'à la suite d'un tel interrogatoire, celle-ci doit prévoir que des actes judiciaires lui seront notifiés (<ref-ruling> consid. 2c/aa p. 93; <ref-ruling> consid. 2 p. 9). La doctrine admet en revanche que la personne concernée doit s'attendre à la remise d'un prononcé lorsqu'elle est informée de l'ouverture d'une procédure par le Ministère public selon l'art. 309 CPP (Niklaus Schmid, Schweizerische Strafprozessordnung, Praxiskommentar, 2009, n. 9 ad art. 85 CPP; cf. également Sararard Arquint, in: Basler Kommentar, Schweizerische Strafprozessordnung, 2010, n. 9 ad art. 85 CPP; dans le même sens, <ref-ruling> consid. 2c/bb p. 93).
2.2 En l'espèce, la recourante a été informée par la police de l'ouverture d'une procédure préliminaire la concernant après avoir été interpellée en possession d'héroïne. Il lui a été indiqué qu'elle était entendue "en qualité de prévenue dans le cadre d'une procédure pénale" et quels étaient ses droits à ce titre. Le formulaire qu'elle a signé à cette occasion mentionnait qu'elle avait le droit de refuser de déposer et de collaborer (art. 158 al. 1 let. b CPP) ainsi que de faire appel à un défenseur de son choix ou solliciter la nomination d'un défenseur d'office (art. 158 al. 1 let. c CPP). Il était également indiqué que les personnes domiciliées ou résidant habituellement à l'étranger devaient désigner une personne en Suisse pour recevoir toutes correspondances, avis de procédure ou décision concernant l'affaire. Il était ainsi expressément fait référence à la notification d'une décision rendue dans le cadre de la procédure. Au vu de l'ensemble de ces éléments, la recourante devait se rendre compte qu'elle était pleinement partie à une procédure pénale et qu'elle devait donc s'attendre à recevoir des communications de la part des autorités. La recourante ne pouvait en outre pas ignorer que son comportement constituait une infraction pénale. Elle ne soutient d'ailleurs pas qu'elle pensait qu'il était licite. Enfin, contrairement à ce que l'intéressée semble soutenir, le fait qu'elle ait été condamnée à une peine privative de liberté plutôt qu'à des jours-amende ne joue pas de rôle dans ce contexte.
La recourante n'a certes pas été informée de l'ouverture d'une procédure par le Ministère public. Les auteurs qui considèrent qu'une telle annonce crée un rapport juridique de procédure pénale avec la personne entendue n'excluent cependant pas qu'une intervention de la police dans le cadre d'une procédure préliminaire soit suffisante à cet égard. Il est relevé que selon le code de procédure pénale, la police est désormais une autorité de poursuite pénale à part entière (cf. art. 15 al. 1 CPP) lorsqu'elle agit dans le cadre de ses activités judiciaires, comme en l'espèce, et non dans celui de ses tâches en relation avec le trafic routier ou le maintien de l'ordre (sur cette distinction, cf. Schmid, op. cit., n. 2 ad art. 15 CPP, Hanspeter Uster, in: Basler Kommentar, Schweizerische Strafprozessordnung, 2010, n. 1-2 ad art. 15 CPP; Marc Henzlin/Sonja Maeder, in: Commentaire romand, Code de procédure pénale suisse, 2011, n. 2 ad art. 15 CPP). Il est en outre peu probable qu'un justiciable fasse une différence entre l'ouverture d'une procédure préliminaire par la police ou par le Ministère public, l'élément déterminant pour lui étant qu'une procédure est ouverte à son encontre. Ainsi, même si la recourante n'a pas été formellement informée en l'espèce qu'une instruction serait ouverte par le Ministère public, la présente cause se distingue du cas où la personne est simplement entendue par la police à la suite d'un banal accident de la circulation et ne peut pas encore se douter qu'une procédure pénale va être dirigée contre elle (cf. ATF <ref-ruling> précité). Il doit dès lors être admis qu'après avoir été informée par la police de l'ouverture à son encontre d'une procédure préliminaire pour infraction à la loi fédérale sur les stupéfiants, la recourante devait s'attendre à ce que des actes judiciaires, y compris un prononcé, lui seraient adressés. Les conditions d'une notification fictive sont dès lors remplies en l'espèce.
3. La recourante invoque l'avis de Goldschmid/Maurer/Sollberger (Kommentierte Textausgabe zur Schweizerischen Strafprozess-ordnung, 2008, p. 363), selon lesquels le délai de dix jours dans lequel le condamné par défaut peut demander un nouveau jugement (art. 368 al. 1 CPP) ne commence pas à courir en cas de notification fictive selon l'art. 85 al. 4 let. a CPP.
3.1 L'opinion des auteurs précités est largement partagée dans la doctrine (Schmid, op. cit., n. 2 ad art. 368 CPP, Thomas Maurer, in: Basler Kommentar, Schweizerische Prozessordnung, 2011, n. 4 ad art. 368 CPP, Sahra Summers, in: Kommentar zur Schweizerischen Strafprozessordnung (StPO), 2010, n. 2 ad art. 368 CPP; contra: Vanessa Thalmann, in: Commentaire romand, Code de procédure pénale suisse, 2011, n. 6 ad art. 368 CPP). Ces auteurs se fondent sur le fait qu'en vertu de l'art. 368 al. 1 CPP, un jugement rendu par défaut doit être notifié personnellement au condamné, ce dont ils déduisent que la notification au conseil de ce dernier ou à une personne de plus de seize ans faisant partie du même ménage ne fait pas partir le délai pour réclamer un nouveau jugement.
3.2 En l'espèce, la recourante n'a pas été condamnée à la suite d'une procédure par défaut au sens des art. 366 ss CPP, qui intervient lorsque le prévenu ne comparaît pas aux débats de première instance (cf. art. 366 al. 1 et 2 CPP). De plus, la loi n'exige pas une notification personnelle des ordonnances pénales, y compris pour celles qui sont rendues par le Ministère public sans audition du prévenu, et les auteurs précités ne soutiennent pas qu'une notification fictive au sens de l'art. 85 al. 4 let. a CPP ne ferait pas courir le délai de dix jours de l'art. 354 al. 1 CPP dans lequel le prévenu peut former opposition à une ordonnance pénale. Ils indiquent uniquement, de manière générale, qu'une demande de restitution du délai peut, le cas échéant, être formée en vertu de l'art. 94 CPP (Schmid, op. cit., n. 2 ad art. 354 CPP; Riklin, op. cit., n. 1 ad art. 354 CPP; Schwarzenegger, op. cit., n. 2 ad art. 354 CPP). Une telle restitution ne peut intervenir que lorsqu'un événement met la partie objectivement ou subjectivement dans l'impossibilité d'agir par elle-même ou de charger une tierce personne d'agir en son nom dans le délai (<ref-ruling> consid. 2a p. 87; <ref-ruling> consid. 2a; arrêt 1B_251/2012 du 3 juillet 2012 consid. 2; cf. également Schmid, op. cit., n. 6 ad art. 94 CPP; Christof Riedo, in: Basler Kommentar, Schweizerische Prozessordnung, 2011, n. 37 ad art. 94 CPP), mais pas lorsque le prévenu qui devait s'attendre à recevoir une décision judiciaire ne prend pas les mesures nécessaires à la sauvegarde de ses droits (cf. Gwladys Gilliéron/Martin Killias, in: Commentaire romand, Code de procédure pénale suisse, 2011, n. 10 ad art. 354 CPP). Le grief selon lequel la notification fictive n'aurait pas fait partir le délai d'opposition à l'ordonnance pénale doit ainsi être rejeté.
4. Au vu de ce qui précède, le recours doit être rejeté dans la mesure où il est recevable. Comme ses conclusions étaient manifestement dénuées de chance de succès, la recourante doit être déboutée de sa demande d'assistance judiciaire (art. 64 al. 1 LTF a contrario) et supporter les frais de justice, qui seront fixés en tenant compte de sa situation financière (art. 65 al. 2 et art. 66 al. 1 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. La demande d'assistance judiciaire est rejetée.
3. Les frais judiciaires, arrêtés à 1'600 francs, sont mis à la charge de la recourante.
4. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Chambre des recours pénale.
Lausanne, le 27 juillet 2012
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président: Mathys
Le Greffier: Rieben