Fatti:
A. Durante un'esposizione tenutasi a Lugano nell'aprile del 2008, un'ispettrice del Laboratorio cantonale ticinese ha constatato che presso lo stand della ditta "Y._" venivano commercializzati quali integratori alimentari in capsule i prodotti Boswellia, Ginkgo Biloba ed Eleuterococco.
A seguito dell'ispezione condotta, il 21 aprile successivo il Laboratorio cantonale ha notificato a A._, titolare della ditta in questione, una contestazione ai sensi dell'art. 27 della legge federale del 9 ottobre 1992 sulle derrate alimentari e gli oggetti d'uso (LDerr; RS 817.0). Con tali atti, il Laboratorio cantonale ticinese ha segnatamente deciso che:
i prodotti menzionati, contenenti estratto secco di resina di Boswellia serrata Roxb, foglie di Ginkgo biloba e radice di Eleuterococcus Senticosus, non potevano essere messi in vendita come derrate alimentari in quanto dette sostanze non erano contemplate nell'ordinanza federale del 23 novembre 2005 sulle derrate alimentari e gli oggetti d'uso (ODerr; RS 817.02);
l'ulteriore commercializzazione di questi prodotti non era permessa fino ad un'eventuale approvazione da parte delle autorità farmaceutiche competenti.
Le opposizioni interposte contro le predette contestazioni sono state respinte il 16 giugno 2008; la decisione resa su opposizione dal Laboratorio cantonale è stata a sua volta confermata sia dal Consiglio di Stato, il 5 novembre 2008, sia dal Tribunale cantonale amministrativo, che si è espresso in merito con sentenza del 17 febbraio 2012.
B. ll 23 marzo 2012, A._ ha impugnato il giudizio del Tribunale cantonale amministrativo con un ricorso in materia di diritto pubblico davanti al Tribunale federale, chiedendone l'annullamento, non da ultimo perché la Corte cantonale non sarebbe stata competente ad esprimersi sulla vertenza sorta.
Da parte loro, il Laboratorio Cantonale, l'Ufficio federale della sanità pubblica e il Tribunale amministrativo domandano di respingere il ricorso. Il Consiglio di Stato si rimette invece al giudizio di questa Corte.
Come davanti alle istanze precedenti, l'Ufficio federale della sanità pubblica ribadisce in particolare che l'impiego delle sostanze menzionate, nei prodotti commercializzati dalla ricorrente, non soddisfa ai requisiti previsti dalla legislazione sulle derrate alimentari, poiché le stesse producono effetti farmacologici e possono pertanto mettere in pericolo la salute di chi le usa.
Diritto:
1. Il ricorso concerne una causa di diritto pubblico che non ricade sotto nessuna delle eccezioni di cui all'art. 83 LTF ed è diretto contro una decisione finale resa in ultima istanza cantonale da un Tribunale superiore (art. 86 cpv. 1 lett. d e cpv. 2 LTF). Esso è stato presentato in tempo utile dalla destinataria del giudizio contestato (art. 100 cpv. 1 LTF), con interesse al suo annullamento (art. 89 LTF). Il gravame è pertanto di principio ammissibile come ricorso in materia di diritto pubblico (art. 82 segg. LTF in relazione con l'art. 54 LDerr; DTF 134 II 272 consid. 1.3.2 pag. 276; sentenze 2C_590/2008 del 27 gennaio 2009 consid. 1 e 2C_264/2007 del 7 gennaio 2008 consid. 1).
2. 2.1 Di regola, il Tribunale federale applica il diritto d'ufficio (art. 106 cpv. 1 LTF); esso non è vincolato né agli argomenti fatti valere nel ricorso né ai considerandi sviluppati dall'istanza precedente. Ciò nondimeno, secondo l'art. 42 cpv. 1 e 2 LTF, l'atto di ricorso deve contenere le conclusioni della parte ricorrente ed i motivi su cui queste si fondano; indicandoli, occorre quindi anche spiegare - confrontandosi con le motivazioni in esso contenute - perché l'atto impugnato leda il diritto e su quali punti è contestato (DTF 134 II 244 consid. 2.1 pag. 245 seg.; 133 IV 286 consid. 1.4 pag. 287 seg.).
Esigenze più severe valgono inoltre in relazione alla violazione di diritti fondamentali; il Tribunale federale tratta infatti simili critiche unicamente se sono state motivate in modo chiaro, circostanziato ed esaustivo (art. 106 cpv. 2 LTF; DTF 133 II 249 consid. 1.4.2 pag. 254).
2.2 Nella fattispecie, l'impugnativa rispetta solo parzialmente i requisiti indicati. Nella misura in cui sono manifestamente disattesi, il gravame dev'essere pertanto considerato a priori inammissibile.
2.2.1 Ciò vale per il richiamo alla garanzia della libertà economica contenuto nel ricorso, la cui violazione, in manifesto contrasto con quanto previsto dall'art. 106 cpv. 2 LTF, viene di fatto solo affermata.
2.2.2 Stessa conclusione vale però anche per la censura con cui, facendo rinvio agli art. 29 Cost. e 6 CEDU, la ricorrente fa valere una violazione del suo diritto di essere sentita.
Nel ricorso, essa sostiene infatti che il Tribunale cantonale avrebbe omesso di sottoporle la documentazione scientifica che gli avrebbe permesso di maturare il convincimento che le sostanze contenute nelle capsule da lei commercializzate non fossero delle derrate alimentari quanto piuttosto dei medicamenti, senza specificare minimamente né a quale documentazione - prodotta dalle parti, contenuta nell'incarto o menzionata nella sentenza impugnata - si riferisca la sua critica, né in che misura e a quale stadio della procedura il suo diritto al contraddittorio sarebbe stato in concreto leso.
2.2.3 Sull'ammissibilità delle ulteriori censure formulate dalla ricorrente nell'impugnativa verrà per contro detto più oltre, contestualmente al loro esame.
3. 3.1 Come già rilevato, la procedura trae origine dalla notifica di tre contestazioni ai sensi dell'art. 27 della legge federale sulle derrate alimentari, con cui il Laboratorio cantonale ha deciso in particolare che:
i prodotti menzionati, contenenti estratto secco di resina di Boswellia serrata Roxb, foglie di Ginkgo biloba e radice di Eleuterococcus Senticosus, non potevano essere messi in vendita come derrate alimentari, in quanto dette sostanze non erano contemplate nell'ordinanza sulle derrate alimentari e gli oggetti d'uso;
l'ulteriore commercializzazione di questi prodotti non era permessa fino ad un'eventuale approvazione da parte delle autorità farmaceutiche competenti.
3.2 Il Tribunale amministrativo ha da parte sua confermato su ricorso gli originari provvedimenti presi dal laboratorio cantonale.
Esposti norme e principi giurisprudenziali determinanti in materia di derrate alimentari così come per la distinzione tra derrate alimentari e medicamenti, ha infatti concluso che le capsule in questione non ricadessero nella categoria delle derrate alimentari, e segnatamente degli integratori alimentari, ma piuttosto in quella dei medicamenti e che anche la decisione di subordinare l'ulteriore messa in commercio di questi prodotti a un esame delle autorità farmaceutiche competenti non prestasse pertanto il fianco a critiche.
Nel suo giudizio, esso non ha per altro tenuto conto del solo diritto interno ma si è diffusamente espresso sulla fattispecie anche nell'ottica del diritto comunitario. Prendendo posizione sulle censure formulate in questo ambito dalla ricorrente, facendo riferimento alla legislazione in materia, così come a quanto osservato dall'Ufficio federale della sanità pubblica nelle prese di posizione inviategli, il Tribunale amministrativo è in effetti giunto alla conclusione che il riconoscimento dei prodotti oggetto della procedura quali alimenti non si imponesse in sostanza nemmeno in base al diritto europeo.
4. Rappresentata da un avvocato, la ricorrente non si confronta - neppure in modo sommario - con le motivazioni di cui si è appena detto, fornendone un semplice riassunto.
4.1 Invece di spiegare perché il ragionamento che ha svolto la Corte cantonale per giungere alla conclusione menzionata - articolato e sviluppato su svariate pagine del querelato giudizio (cfr. in particolare, consid. 2 e 3) - sarebbe contrario al diritto federale o al diritto europeo, formula in effetti considerazioni che non vi fanno nessun riferimento specifico.
4.1.1 Dal punto di vista del diritto interno, essa si limita apoditticamente a sostenere che, non riconoscendo il carattere di integratore alimentare alle sostanze in discussione, la Corte cantonale avrebbe "disapplicato la LDerr" ed in particolare l'art. 22 dell'ordinanza federale del 23 novembre 2005 sugli alimenti speciali (RS 817.022.104). Non accompagna però la sua affermazione da nessuna concreta critica al giudizio impugnato in cui, proprio sulla base di tale norma del diritto federale, la possibile qualifica delle sostanze in discussione quali integratori alimentari è stata esaminata.
4.1.2 Nel contempo, il ricorso manca di qualsiasi confronto con il giudizio impugnato anche in merito all'esame della fattispecie dal punto di vista del diritto comunitario.
In luogo di misurarsi con quanto rilevato dai Giudici cantonali, che si sono come detto espressi su questo soggetto in modo circostanziato, prendendo posizione sulle censure della ricorrente, nonché riferendosi alla legislazione europea e alle osservazioni dell'Ufficio federale interpellato, anche in questo caso l'impugnativa contiene in effetti considerazioni che fanno totale astrazione dal ragionamento da essi svolto, che non spiegano i motivi per cui non possa essere condiviso, e che disattendono pertanto manifestamente all'art. 42 LTF (precedente consid. 2.1).
A questo proposito, da un lato il ricorso si limita infatti a "ricordare" i contenuti di alcune sentenze della Corte di Giustizia dell'Unione europea, concernenti la nozione di medicinale. Dall'altro, formula una serie di considerazioni in merito ai concetti di derrata alimentare e di integratore alimentare, giustapponendoli semplicemente uno all'altro, senza immediato legame di continuità. Come detto, in entrambi i casi non pone comunque affatto il suo ragionamento in relazione con il giudizio impugnato, né formula concrete conclusioni atte a metterlo in discussione.
4.2 Basata per altro almeno in parte su fatti non accertati dall'autorità inferiore, che la ricorrente adduce in violazione dell'art. 105 cpv. 1 LTF, anche su questo punto, concernente la classificazione delle sostanze citate, l'impugnativa non può pertanto essere oggetto di ulteriore disamina.
4.3 Di seguito, occorre però comunque ancora soffermarsi sulle censure con cui la ricorrente tenta di negare ogni valore all'argomentazione contenuta nel giudizio impugnato: contestando a priori la competenza della Corte cantonale ad esprimersi riguardo alla natura di derrata alimentare o di medicamento dei prodotti da lei commercializzati (successivi consid. 5 e 6).
5. Formulando una prima censura in tal senso, la ricorrente si richiama all'art. 2 cpv. 5 LDerr. Ricordatone il tenore, sostiene infatti che la questione della classificazione delle sostanze in discussione non spettasse alle autorità cantonali, ma al Dipartimento federale dell'interno.
5.1 L'art. 2 cpv. 5 LDerr prevede che, in caso di contestazione sull'applicazione della legislazione sulle derrate alimentari o di quella sui medicamenti a determinate sostanze e prodotti, il Dipartimento federale dell'interno decide dopo aver consultato le autorità interessate.
5.2 Come rilevato dalla Corte cantonale, tale norma non si applica però alla fattispecie. In effetti, essa non regola la protezione giuridica di persone coinvolte in procedure previste come tali dalla legge, cui sono dedicati gli art. 52 segg. LDerr, e nemmeno conferisce a queste persone un diritto all'intervento da parte dell'autorità ritenuta più "adatta" a pronunciarsi su una determinata questione (sentenza 2A.47/2000 del 23 giugno 2000 consid. 2b/dd), ma è stato piuttosto voluto per evitare che, nel caso insorgano conflitti di competenza negativi tra differenti autorità, vi sia comunque sempre un'autorità cui sia possibile rivolgersi (Bollettino ufficiale dell'Assemblea federale 1990, Consiglio degli Stati, pag. 768; CHRISTOPH SCHMIDT, Die Zulassung von Arzneimitteln nach dem Heilmittelgesetz, 2008, pag. 71).
5.3 Preso atto del fatto che il caso sottoposto al Tribunale federale non ha manifestamente per oggetto una simile fattispecie, poiché trae origine da precisi provvedimenti emanati dal Laboratorio cantonale ticinese secondo quanto previsto dall'art. 27 LDerr, dopo aver constatato la messa in commercio quali derrate alimentari dei prodotti già più volte menzionati, il richiamo dell'art. 2 cpv. 5 LDerr da parte della ricorrente, per contestare la competenza della Corte cantonale e denunciare così una violazione dell'art. 30 Cost. dev'essere pertanto respinta.
6. A miglior fortuna non è neanche destinato il tentativo di sostenere che, arrivando alla conclusione che le capsule in questione non ricadessero nella categoria delle derrate alimentari quanto piuttosto in quella dei medicamenti, la Corte cantonale si sarebbe arrogata competenze che, giusta la legge federale del 15 dicembre 2000 sui medicamenti e i dispositivi medici (legge sugli agenti terapeutici, LATer; RS 812.21) e segnatamente in base alle procedure in materia di omologazione, importazione, esportazione di medicamenti, ecc. da essa regolate, spettavano in realtà all'Istituto svizzero per gli agenti terapeutici (Swissmedic).
6.1 Come già indicato in precedenza, la procedura sin qui seguita è da ricondurre alla scelta compiuta dalla ricorrente di commercializzare i prodotti in discussione quali derrate alimentari.
Questa opzione ha correttamente comportato l'applicazione prioritaria della LDerr alla fattispecie, quindi l'intervento del Laboratorio cantonale, che ha dato origine alla presente causa (DTF 127 II 91 consid. 3a/aa pag. 95 seg.; CHRISTOPH SCHMIDT, op. cit., pag. 65 con rinvio ai materiali legislativi concernenti sia la LDerr che la LATer).
6.2 Così stando le cose, al Tribunale amministrativo non può però certo venire rimproverato di essersi arrogato competenze di terzi.
6.2.1 Nel rispetto di quello che era l'oggetto del litigio originario, respingendo il ricorso, esso non ha in effetti fatto altro che confermare a sua volta le decisioni del laboratorio cantonale, ovvero dei provvedimenti che contenevano un'espressa riserva nei confronti delle competenze delle autorità farmaceutiche e segnatamente di Swissmedic.
6.2.2 Anche il fatto che, negando il carattere di derrata alimentare ai prodotti in parola, la Corte cantonale abbia nel contempo considerato che gli stessi fossero a suo parere da catalogare quali medicamenti, non può inoltre assumere portata propria.
Argomentando in tal senso, essa si è infatti espressa su tale questione unicamente a titolo pregiudiziale, nelle motivazioni del giudizio reso, e non ha pertanto oltrepassato l'oggetto del litigio nemmeno per questo motivo (DTF 137 III 8 consid. 3.3.1 pag. 13 seg. con ulteriori rinvii).
6.3 Anche questa seconda critica, presentata per contestare la competenza della Corte cantonale e fare nuovamente valere una violazione dell'art. 30 Cost., è di conseguenza infondata.
6.4 In via abbondanziale può essere infine aggiunto che, oltre a non avere comportato nessuna ingerenza nelle competenze di Swissmedic, il giudizio impugnato, volto ad esaminare la legalità delle originarie decisioni del Laboratorio cantonale, non risulta avere interferito nemmeno con quelle riconosciute dagli art. 16c segg. della legge federale del 6 ottobre 1995 sugli ostacoli tecnici (LOTC; RS 946.51) all'Ufficio della sanità pubblica, che era per altro parte nella presente procedura.
Quand'anche percorribile, questione che non occorre qui approfondire, la via del rilascio di un'autorizzazione da parte di detto Ufficio per l'immissione in commercio in Svizzera di derrate alimentari conformi alle prescrizioni tecniche della Comunità europea o di un suo Stato membro rispettivamente di uno Stato membro dello Spazio economico europeo - comunque subordinato alla condizione che non venga minacciato un interesse pubblico preponderante quale la vita e la salute dell'uomo (art. 4 cpv. 4 lett. b LOTC, cui l'art. 16d LOTC rinvia), che lo stesso Ufficio federale della sanità pubblica sembra in casu mettere in discussione (precedente consid. B) - presuppone infatti una richiesta in tal senso (art. 16d cpv. 1 LOTC).
7. Per quanto precede, nella misura in cui risulta ammissibile, il ricorso dev'essere respinto. Le spese giudiziarie seguono la soccombenza e vengono quindi poste a carico della ricorrente (art. 66 cpv. 1 LTF). Non si assegnano ripetibili (art. 68 cpv. 3 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico della ricorrente.
3. Comunicazione al patrocinatore della ricorrente, al Laboratorio cantonale, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino, nonché all'Ufficio federale della sanità pubblica.