Fatti:
A. Il 16 settembre 2009, la cittadina rumena A._ (1986), ha ottenuto un permesso di dimora CE/AELS per svolgere a titolo indipen-dente l'attività di assistente (prostituta) presso un Motel di X._. Secondo quanto indicato sulla decisione di rilascio del permesso, trascorso il cosiddetto periodo di installazione, di una durata di sei mesi, avrebbe però dovuto dimostrare di svolgere un'attività indipendente, effettiva e durevole.
B. Il 26 febbraio 2010, al termine del periodo di istallazione, A._ ha chiesto alla Sezione della popolazione del Dipartimento delle istituzioni del Cantone Ticino il rilascio di un nuovo permesso di dimora CE/AELS sempre ancora per lavorare come assistente (prostituta) indipendente, comunicando che avrebbe alloggiato e svolto la sua attività in via Y._ a Z._, dove pure ha sede un esercizio pubblico.
Il 9 aprile 2010, la Sezione della popolazione ha respinto detta domanda. Preso atto del fatto che la richiedente intendeva continuare a svolgere la propria attività presso un esercizio pubblico, l'autorità menzionata ha infatti richiamato una recente giurisprudenza del Tribunale cantonale amministrativo, secondo cui l'esercizio non occasionale della prostituzione in un hotel, un motel o una pensione risultava essere in contrasto con l'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994. Osservando di non rilasciare più permessi per lo svolgimento dell'attività di prostituta (assistente) indipendente a coloro che indicavano un esercizio pubblico quale luogo di lavoro, le ha quindi negato il permesso di dimora, ponendo a carico di A._ una tassa di decisione di fr. 250.--.
C. Su ricorso, la decisione della Sezione della popolazione è stata confermata sia dal Consiglio di Stato, il 25 agosto 2010, che dal Tribunale cantonale amministrativo, pronunciatosi in merito con sentenza del 10 febbraio 2011.
Per quanto qui di rilievo, la Corte cantonale ha dapprima considerato che A._ non aveva diritto a nessuna udienza pubblica. Nel merito - precisato che la decisione del 9 aprile 2010 della Sezione della popolazione non costituiva affatto la revoca di un permesso già ottenuto in precedenza, poiché il permesso d'installazione rilasciatole il 16 settembre 2009 era valido solo per un periodo di sei mesi - ha quindi confermato l'applicazione dell'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994 alla fattispecie, rilevando che per poter ricevere un permesso di soggiorno per svolgere un'attività indipendente e durevole bisogna disporre di un luogo dove sia legale esercitarla. Il Tribunale cantonale amministrativo ha infine considerato lecita anche la riscossione da parte della Sezione della popolazione di una tassa di decisione di fr. 250.--.
D. Il 16 marzo 2011, A._ ha inoltrato dinanzi al Tribunale federale un ricorso in materia di diritto pubblico con cui postula: in via principale, l'annullamento del giudizio impugnato, con conseguente concessione del permesso di dimora in discussione; in via subordinata, l'annullamento del giudizio impugnato e il rinvio dell'incarto all'autorità inferiore, affinché proceda ad una corretta valutazione delle prove, rispettosa dei diritti di parte e della parità di trattamento.
Così come davanti alla Corte cantonale, sostiene che le condizioni per la fissazione di un'udienza (contraddittorio orale) giusta l'art. 6 CEDU fossero in concreto date. Censurando la violazione di una serie di norme di rango costituzionale e dell'ALC, ritiene inoltre che il permesso rilasciatole il 16 settembre 2009 le concedesse un diritto a soggiornare in Svizzera, che non poteva lecitamente venir rimesso in discussione. Contesta infine a vario titolo anche il diritto da parte della Sezione della popolazione di porle a carico una tassa di decisione di fr. 250.--.
Chiamato ad esprimersi, il Tribunale cantonale amministrativo si è riconfermato nelle motivazioni e nelle conclusioni della propria sentenza. Ad essa hanno fatto rinvio anche la Sezione della popolazione e l'Ufficio federale della migrazione (UFM). Il Consiglio di Stato si è invece rimesso al giudizio di questa Corte.
Al 6 settembre 2011 risalgono le ultime osservazioni depositate dalla ricorrente, con cui la stessa, ritenendo stereotipata la risposta fornita dall'UFM, chiede la verifica delle effettive conoscenze d'italiano della funzionaria che l'ha sottoscritta e postula che venga raccolto anche un parere presso l'Ufficio federale dell'integrazione europea.

Diritto:
1. La fattispecie concerne il diniego di un permesso di dimora CE/AELS richiesto da una cittadina rumena in base all'Accordo del 21 giugno 1999 tra la Comunità europea e i suoi Stati membri, da una parte, e la Confederazione Svizzera, dall'altra, sulla libera circolazione delle persone (ALC; RS 0.142.112.681).
1.1 Giusta l'art. 83 lett. c n. 2 LTF, il ricorso in materia di diritto pubblico è inammissibile contro le decisioni in materia di diritto degli stranieri concernenti i permessi o autorizzazioni al cui ottenimento né il diritto federale né il diritto internazionale conferiscono un diritto. In proposito occorre però rilevare che quando viene fatto valere il diritto a un'autorizzazione di soggiorno da parte di un cittadino dell'Unione europea sulla base dell'ALC, il Tribunale federale entra in materia nonostante la clausola menzionata, trattando la questione dell'effettivo diritto quale aspetto di merito (<ref-ruling> consid. 1.1 pag. 179; sentenza 2C_558/2009 del 26 aprile 2010 consid. 1 non pubblicato in <ref-ruling>).
1.2 Diretta contro una decisione finale emessa da un tribunale superiore (art. 86 cpv. 2 e art. 90 LTF), e presentata tempestivamente (<ref-law>) dalla destinataria della pronuncia contestata, con interesse a ricorrere (<ref-law>), sotto i profili evocati, l'impugnativa è quindi di massima ammissibile quale ricorso in materia di diritto pubblico.
2. 2.1 Con il ricorso in materia di diritto pubblico può venir censurata sia la violazione del diritto federale (<ref-law>) che di quello internazionale (<ref-law>). In via generale, confrontato con una motivazione conforme all'<ref-law>, il Tribunale federale applica il diritto d'ufficio (<ref-law>); esso non è vincolato né agli argomenti fatti valere nel ricorso né ai considerandi sviluppati dall'istanza precedente (<ref-ruling> consid. 1.4.1 pag. 254).
Nel contesto di un ricorso proposto contro la violazione dell'ALC (<ref-law>) - nella misura in cui i disposti richiamati siano sufficientemente precisi per essere direttamente applicabili, ciò che è il caso sia per l'art. 2 ALC che per le norme previste dall'Allegato I ALC, di rilievo per la fattispecie - il Tribunale federale applica d'ufficio anche le disposizioni sulla libera circolazione delle persone (<ref-ruling> consid. 3.3. pag. 257 seg.; FLORENCE AUBRY GIRARDIN, L'interprétation et l'application de l'Accord sur la libre circulation des personnes du point de vue de la jurisprudence, in L'accord sur la libre circulation des personnes Suisse-UE: interprétation et application dans la pratique, 2011, pag. 29 segg., 31).
2.2 Esigenze più severe valgono invece in relazione alla violazione di diritti fondamentali, inclusi quelli ancorati nel diritto internazionale (sentenza 2C_221/2009 del 21 gennaio 2010 consid. 1.3). Il Tribunale federale esamina infatti simili censure soltanto se l'insorgente le ha sollevate e motivate in modo preciso (<ref-law>; <ref-ruling> consid. 2.2 pag. 246; <ref-ruling> consid. 1.4.2 pag. 254). Nella sua impugnativa, è necessario che egli specifichi quali diritti ritiene lesi ed esponga le critiche in modo chiaro, circostanziato ed esaustivo (<ref-ruling> consid. 6 pag. 397; <ref-ruling> consid. 2.1 pag. 9).
2.3 Prolissa e confusa, l'impugnativa presentata dalla ricorrente davanti al Tribunale federale rispetta solo in parte i requisiti esposti.
In relazione segnatamente alla denuncia dell'illiceità del mancato rinnovo del suo permesso di dimora (cfr. successivo consid. 4), la ricorrente formula infatti critiche puramente appellatorie, nel contesto delle quali si limita a considerare che le conclusioni tratte nel giudizio impugnato e l'accertamento dei fatti su cui si basano sarebbero a vario titolo incostituzionali, senza mai motivare debitamente queste censure.
Almeno con riferimento alle critiche indicate, l'impugnativa dev'essere pertanto dichiarata a priori inammissibile (sentenze 2C_195/2011 del 17 ottobre 2011 consid. 2; 2C_397/2011 del 10 ottobre 2011 consid. 2.2). Riguardo alla ricevibilità delle ulteriori censure presentate, verrà invece detto contestualmente al loro esame (in proposito, cfr. in particolare successivo consid. 5).
2.4 Dato che il Tribunale federale fonda il suo ragionamento giuridico sull'accertamento dei fatti svolto dall'autorità inferiore e che nuovi fatti o mezzi di prova possono essere addotti solo se ne dà motivo la decisione impugnata (art. 97 e 99 LTF), aspetto che competeva all'insorgente sostanziare, per quanto non vi sia già stato dato seguito e i documenti richiamati non siano quindi già agli atti, inammissibile è anche la richiesta di richiamo di pratiche concernenti terze persone contenuta nel ricorso (sentenza 2C_978/2010 del 24 maggio 2011 consid. 2.2).

2.5 In merito alle richieste formulate con osservazioni del 6 settembre 2011, occorre infine rilevare che la risposta presentata dall'UFM nella fattispecie, in cui lo stesso si limita in sostanza a richiedere la conferma del giudizio impugnato, costituisce prassi corrente, riscontrata da questa Corte in numerosi altri casi; lo scambio di scritti con le parti, con altri partecipanti al procedimento o autorità legittimate a ricorrere è invece retto dall'<ref-law>, norma che il Tribunale federale applica d'ufficio. Per questi motivi, non è necessario esprimersi ulteriormente in proposito (sentenza 2C_169/2010 del 17 novembre 2011 consid. 3.1 con ulteriori rinvii).
3. Da un punto di vista procedurale, la ricorrente ritiene che, negandole il diritto ad un'udienza (contraddittorio orale), il giudizio impugnato leda l'art. 6 CEDU.
3.1 L'art. 6 n. 1 CEDU riconosce a ogni persona il diritto ad un'equa e pubblica udienza entro un termine ragionevole, davanti a un tribunale indipendente e imparziale costituito per legge al fine della determinazione sia dei suoi diritti e dei suoi doveri di carattere civile, sia della fondatezza di ogni accusa penale che le venga rivolta. Secondo giurisprudenza, una decisione relativa al soggiorno di uno straniero in un Paese o alla sua espulsione dallo stesso non concerne però né un diritto di carattere civile né un'accusa di carattere penale ai sensi dell'art. 6 n. 1 CEDU (sentenza della Corte europea dei diritti dell'uomo in re Mamatkulov Rustam et Askarov Zainiddin contro Turchia del 4 febbraio 2005, Recueil CourEDH 2005-I pag. 225 § 82 seg.; sentenza 2P.292/2003 del 19 dicembre 2003 consid. 3.2.2).
3.2 Contrariamente a quanto sostiene la ricorrente - richiamandosi genericamente alla libertà economica e quindi menzionando, in questo contesto, anche l'art. 2 ALC e l'art. 6 del patto internazionale relativo ai diritti economici, sociali e culturali del 16 dicembre 1996 (Patto ONU I; RS 0.103.1) - nemmeno il fatto che ella faccia valere il diritto di soggiornare in Svizzera nell'ottica di esercitarvi un'attività lucrativa è inoltre sufficiente per conferire al litigio carattere civile ai sensi dell'art. 6 n. 1 CEDU (<ref-ruling> consid. 4.4.2 pag. 133 seg.).
3.3 Per quanto precede, rifiutandosi nella fattispecie di fissare un'udienza pubblica, la Corte cantonale non ha violato l'art. 6 n. 1 CEDU.
4. Nella misura in cui risultano ammissibili (precedente consid. 2.3), le critiche formulate nel merito dalla ricorrente vertono innanzitutto sulla non conformità all'ALC della mancata conferma - alla scadenza del periodo d'installazione di sei mesi e sulla base dell'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994 - del suo permesso di dimora.
Con riferimento agli art. 12 cpv. 2 e 31 Allegato I ALC, ella sostiene che il permesso ricevuto il 16 settembre 2009 le concedesse un diritto incondizionato a soggiornare e ad esercitare in Svizzera, che non poteva essere a posteriori limitato (successivo consid. 4.1). Con riferimento agli art. 2 ALC e 15 cpv. 1 Allegato I ALC, ritiene quindi che il richiamo da parte delle autorità cantonali all'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994 fosse lesivo del principio della non discriminazione e della parità di trattamento (successivo consid. 4.2).
Con riferimento agli art. 12 cpv. 2 e 31 Allegato I ALC, ella sostiene che il permesso ricevuto il 16 settembre 2009 le concedesse un diritto incondizionato a soggiornare e ad esercitare in Svizzera, che non poteva essere a posteriori limitato (successivo consid. 4.1). Con riferimento agli art. 2 ALC e 15 cpv. 1 Allegato I ALC, ritiene quindi che il richiamo da parte delle autorità cantonali all'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994 fosse lesivo del principio della non discriminazione e della parità di trattamento (successivo consid. 4.2).
4.1 4.1.1 Riguardo alla prima censura sollevata dalla ricorrente, occorre rilevare che il permesso d'installazione rilasciato il 16 settembre 2009 dall'allora Sezione dei permessi e dell'immigrazione (oggi Sezione della popolazione), è previsto dall'art. 31 Allegato I ALC, disposizione di carattere transitorio, che ha il seguente tenore:
"Il cittadino di una parte contraente che desideri stabilirsi sul territorio di un'altra parte contraente per esercitare un'attività indipendente (in appresso denominato lavoratore autonomo) riceve una carta di soggiorno della durata di sei mesi. Egli riceve una carta di soggiorno della durata di almeno cinque anni purché dimostri alle autorità nazionali competenti, prima del termine del periodo di sei mesi, di esercitare un'attività indipendente. Tale periodo di sei mesi può, all'occorrenza, essere prorogato di due mesi al massimo qualora il lavoratore possa effettivamente presentare la prova richiesta".
4.1.2 Applicata in via transitoria anche ai lavoratori autonomi provenienti dalla Romania, in deroga a quanto previsto dall'art. 12 Allegato I ALC (art. 26 Allegato I ALC in relazione con l'art. 10 cpv. 2b ALC e l'art. 31 Allegato I; istruzioni dell'Ufficio federale della migrazione in merito all'ALC, versione del 01.05.2011, p.ti 4.3.3 e 5.6 [consultate il 12.01.2012 all'indirizzo www.bfm.admin.ch]), l'art. 31 Allegato I ALC regola la concessione di due carte di soggiorno distinte:
da un lato, una carta di una validità di sei mesi soltanto, che deve permettere al lavoratore autonomo di stabilirsi sul territorio di una parte contraente per esercitarvi un'attività indipendente;
dall'altro, una carta di una validità di almeno cinque anni, che viene rilasciata qualora, prima del termine del periodo di sei mesi, il richiedente dimostri di esercitare effettivamente una simile attività.
In base al sistema previsto, quello rilasciato per il periodo d'installazione e valido sei mesi è un permesso di dimora iniziale, che abilita chi lo riceve a svolgere un'attività lucrativa indipendente. La concessione di un permesso di dimora della durata di cinque anni - oltre che il computo definitivo sui contingenti stabiliti - ha per contro luogo solo successivamente, una volta che lo straniero ha dimostrato di svolgere un'attività lucrativa indipendente effettiva e durevole, realizzando le necessarie premesse aziendali (citate istruzioni dell'UFM, p.to 4.3.3).
4.1.3 Contrariamente a quanto sostenuto nell'impugnativa, secondo il sistema previsto dall'art. 31 Allegato I ALC (al riguardo, cfr. già anche il Messaggio concernente l'approvazione degli accordi settoriali tra la Svizzera e la CE del 23 giugno 1999, n. 273.12, pag. 5269), quello rilasciato alla ricorrente per il periodo d'installazione non era quindi affatto un permesso incondizionato - che le autorità dovevano ritenere di carattere duraturo (ricorso pag. 12) - ma solo di natura temporanea e transitoria.
Concesso per un periodo di sei mesi, quale permesso di dimora di carattere iniziale, le imponeva infatti di presentare in seguito una nuova domanda, per il rilascio di un permesso con una validità più estesa e nell'ambito della quale la sua situazione poteva risp. doveva essere nuovamente esaminata (sentenze 2A.255/2006 del 6 giugno 2006 consid. 4.3 e 2A.169/2004 del 31 agosto 2004 consid. 6.2; citate istruzioni dell'UFM, p.to 4.3.3):
in primo luogo, in merito all'effettivo esercizio di un'attività lucrativa indipendente e durevole (sentenza 2A.169/2004 del 31 agosto 2004 consid. 6.2; LAURENT MERZ, Le droit de séjour selon l'ALCP et la jurisprudence du Tribunal fédéral in: RDAF 2009 pag. 248 segg., segnatamente n. 8.4 pag. 271 seg.);
secondariamente però, anche riguardo al rispetto delle altre condizioni cui può essere subordinata la libera circolazione delle persone, che occorre sempre verificare quando si pone la questione del rilascio rispettivamente del rinnovo di un permesso di soggiorno (<ref-ruling> consid. 2.2 pag. 332 seg.).
4.1.4 In base a quanto osservato, una prima censura di merito volta a denunciare quella che, con riferimento agli art. 12 cpv. 2 e 31 Allegato I ALC, la ricorrente sembra considerare una revoca del permesso rilasciatole il 16 settembre 2009, dev'essere pertanto giudicata infonda-ta.
4.1.4 In base a quanto osservato, una prima censura di merito volta a denunciare quella che, con riferimento agli art. 12 cpv. 2 e 31 Allegato I ALC, la ricorrente sembra considerare una revoca del permesso rilasciatole il 16 settembre 2009, dev'essere pertanto giudicata infonda-ta.
4.2 4.2.1 Come visto - in relazione al richiamo dell'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994, sulla cui applicazione alla fattispecie il ricorso non solleva nessuna valida censura d'arbitrio -, l'insorgente denuncia inoltre una violazione degli art. 2 ALC e 15 cpv. 1 Allegato I ALC.
L'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994 - normativa nel frattempo sostituita dalla legge sugli esercizi alberghieri e sulla ristorazione (Lear; RL/TI 11.3.2.1) e dal suo regolamento (RLear; RL/TI 11.3.2.1.1), che contiene un disposto pressoché di uguale tenore (cfr. art. 4 RLear) - prevede quanto segue:
"I locali dell'esercizio pubblico non possono essere usati per scopi estranei all'attività dell'esercizio e devono essere separati dai locali adibiti ad altro uso".
4.2.2 Giusta l'art. 4 ALC, il diritto di soggiorno e di accesso a un'attività economica, in discussione nella fattispecie, è garantito fatte salve le disposizioni dell'art. 10 (diritto transitorio) e conformemente alle disposizioni dell'Allegato I.
Tra le norme dell'Allegato I cui l'art. 4 ALC rinvia, l'art. 15 prescrive che il lavoratore autonomo riceve nel Paese ospitante, per quanto riguarda l'accesso a un'attività indipendente e al suo esercizio, lo stesso trattamento riservato ai cittadini nazionali.
Applicabile ai lavoratori indipendenti, l'art. 15 Allegato I ALC riprende a sua volta quanto già previsto dall'art. 2 ALC, norma che sancisce in via generale il principio della parità di trattamento nella forma negativa di un divieto di discriminazione diretta o indiretta (<ref-ruling> consid. 12 pag. 248 seg.; <ref-ruling> consid. 3.2 pag. 34 seg.; ALVARO BORGHI, La libre circulation des personnes entre la Suisse et l'UE, 2010, § 55 segg.).
Da quanto precede, discende quindi che anche il diritto di soggiorno e di accesso ad un'attività economica previsto dall'art. 4 ALC può in principio essere sottoposto a condizioni. Determinante è però che ciò non dia luogo a discriminazioni fondate direttamente sulla nazionalità, oppure a forme di discriminazione dissimulata che, tramite l'applicazione di altri criteri di distinzione, portano di fatto al medesimo risultato (DTF <ref-ruling> consid. 3.2.3 pag. 35 seg. con numerosi rinvii alla giurisprudenza della Corte di Giustizia dell'Unione europea).
4.2.3 Sennonché, contrariamente a quanto sostenuto dalla ricorrente, nemmeno di simili discriminazioni può essere parlato nella fattispecie, in relazione all'applicazione dell'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994.
Il testo di questa norma non fa infatti distinzioni in base alla nazionalità, vietando in via generale l'uso degli esercizi pubblici per scopi estranei all'attività degli stessi.
Secondo la situazione di fatto che emerge dal giudizio impugnato - che vincola il Tribunale federale (<ref-law>), in quanto non viene comunque validamente messa in discussione dalla ricorrente (precedente consid. 2.3 seg.) - l'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994 non risulta essere stato nel contempo neppure applicato dalle autorità in modo differenziato, a seconda della nazionalità degli utenti degli esercizi pubblici in questione, oppure in base ad altri criteri, la cui applicazione possa comportare una discriminazione di tipo indiretto.
4.2.4 Il rinvio, per negare il rilascio del permesso sollecitato, all'art. 12 della legge ticinese sugli esercizi pubblici del 21 dicembre 1994 era quindi legale anche nell'ottica degli art. 2 ALC e 15 Allegato I ALC (riguardo al caso di un prestatore di servizi, cfr. analogamente anche la sentenza 2C_151/2008 del 17 giugno 2008 consid. 2.3.3).
4.3 Come rilevato dalla Corte cantonale, la decisione impugnata non impedisce comunque alla ricorrente di inoltrare alla Sezione della popolazione una nuova richiesta di rilascio di un permesso di dimora CE/AELS per svolgere l'attività di prostituta indipendente esclusivamente in luoghi autorizzati.
5. Nella sua impugnativa, la ricorrente contesta infine a vario titolo la percezione - con riferimento all'art. 8 cpv. 9 dell'ordinanza federale del 24 ottobre 2007 sugli emolumenti della legge federale sugli stranieri (OEmol-LStr; RS 142.209), come da lei stessa indicato correggendo la Corte cantonale, che menziona per errore l'art. 8 cpv. 6 OEmol-LStr - di una tassa di decisione di fr. 250.--.
5.1 Nel contesto citato, la ricorrente esprime innanzitutto "dubbi" sulla legalità della tassa percepita. Riferendosi esclusivamente all'ordinanza citata, e non indirizzando quindi nessuna critica specifica al diritto cantonale vigente in materia, aggiunge però semplicemente che essa non è di per sé una base legale sufficiente ai sensi dell'art. 164 cpv. 1 lett. d Cost.
Espressa in questi termini, la censura sollevata non adempie manifestamente ai requisiti in ambito di motivazione cui è sottoposto il ricorso esperito ed è pertanto inammissibile (precedenti consid. 2.1 seg. ed i rinvii alla giurisprudenza in essi contenuti; con specifico riferimento all'<ref-law> cfr. inoltre sentenza 2P.134/2003 del 6 settembre 2004 consid. 11.3).
5.2 Per gli stessi motivi, inammissibili sono pure le critiche riguardo all'ammontare della tassa medesima. Anche in questo contesto, la ricorrente si limita in effetti a definire la motivazione della Corte cantonale come "carente e poco convincente".
Denuncia quindi il fatto che, benché l'ammontare della tassa sia stato oggetto di critica davanti all'istanza inferiore, ella non disponga ancora degli elementi per capire le ragioni per le quali abbia "meritato" di dover pagare un importo di fr. 250.--: aspetto che avrebbe semmai dovuto far valere quale violazione del diritto di essere sentito giusta l'<ref-law> (<ref-ruling> consid. 4.1 pag. 88; <ref-ruling> consid. 3.2 pag. 236 seg.; <ref-ruling> consid. 2b pag. 102 seg.).
5.3 Siccome l'ordinanza sugli emolumenti menzionata si fonda sull'art. 123 LStr, la ricorrente ritiene anche che la sua applicazione ad una fattispecie come quella in discussione, concernente il rilascio di un permesso di dimora sulla base dell'ALC, debba essere comunque esclusa sulla base di quello che definisce "il principio di non applicabilità della LStr", sancito a suo dire dall'art. 2 cpv. 2 LStr.
5.3.1 Sennonché, l'art. 2 cpv. 2 LStr non si oppone affatto ad un richiamo dei disposti contenuti nell'Ordinanza sugli emolumenti.
In effetti, tale norma non sancisce un "principio di non applicabilità della LStr", ma prevede una sua applicazione sussidiaria in due casi ben definiti, ovvero: da un lato, quando l'ALC non contempla disposizioni derogatorie alla legge federale sugli stranieri; dall'altro, quando, benché l'ALC contempli disposizioni derogatorie, la legge federale sugli stranieri contenga disposizioni più favorevoli di quelle dell'ALC (sentenze 2C_700/2009 del 15 aprile 2010 consid. 6 e 2C_412/2009 del 9 marzo 2010 consid. 3.1; MARC SPESCHA, in: Spescha/Thür/Zünd/Bolzli, Migrationsrecht - Kommentar, ad art. 2 n. 2 segg.).
Non contenendo l'ALC nessun disposto che riguardi la percezione di una tassa nel caso di rifiuto del rilascio di una carta di soggiorno - come ricordato anche dalla ricorrente, l'art. 2 cpv. 3 dell'Allegato I concerne infatti solo fattispecie di rilascio o di rinnovo - neppure l'art. 2 cpv. 2 LStr costituisce quindi un impedimento all'applicazione dell'Ordinanza sugli emolumenti alla fattispecie.
5.3.2 La possibilità dell'applicazione di detta ordinanza, avversata a priori nel ricorso, è per altro confermata dal tenore dell'art. 1 dell'ordinanza medesima.
Dall'art. 1 risulta infatti che l'ordinanza in questione, che fissa gli importi massimi degli emolumenti che possono percepire le autorità cantonali (art. 8 cpv. 1-8), autorizza i Cantoni a prevedere il prelievo di emolumenti per l'emissione di decisioni di rifiuto (art. 8 cpv. 9) e stabilisce gli importi degli emolumenti riscossi dall'UFM (art. 10), disciplina non solo gli emolumenti per le decisioni e le prestazioni fornite in applicazione della LStr ma anche gli emolumenti per le decisioni e le prestazioni fornite in applicazione dell'ALC.
5.4 Contrariamente a quanto sostenuto nell'impugnativa, la percezione della tassa decisa dalla Sezione della popolazione non può infine nemmeno comportare una disparità di trattamento ai sensi dell'art. 2 ALC.
Il divieto di discriminazione previsto dall'art. 2 ALC vale infatti solo quando i cittadini di una parte contraente soggiornano legalmente sul territorio di un'altra parte contraente, in conformità delle disposizioni degli allegati I, II e III dell'ALC (sentenze 2A.501/2004 del 10 febbraio 2005 consid. 3.1 e 2A.169/2004 del 31 agosto 2004 consid. 6.1).
Ma appunto così non era nella fattispecie. La decisione di rifiuto del permesso di soggiorno, nel contesto della quale è stata percepita la tassa, è infatti proprio la conseguenza della constatazione del fatto che la ricorrente non poteva validamente richiamarsi a una situazione di libera circolazione prevista dall'ALC.
6. Per quanto precede, nella misura in cui risulta ammissibile, il ricorso dev'essere respinto. Le spese giudiziarie seguono la soccombenza e vengono quindi poste a carico della ricorrente (<ref-law>). Non si assegnano ripetibili (<ref-law>).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico della ricorrente.
3. Comunicazione al patrocinatore della ricorrente, alla Sezione della popolazione del Dipartimento delle istituzioni, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino, nonché all'Ufficio federale della migrazione.