Fatti:
A. A._ Sagl è titolare dell'autorizzazione a gestire il ristorante B._ di X._. L'esercizio pubblico, situato nella zona residenziale semi-estensiva, dispone di 62 posti interni e di 12 camere, dotate di 20 posti letto. Con rapporto del 29 luglio 2009, il distaccamento speciale della Polizia cantonale proposto alla prevenzione della tratta e dello sfruttamento degli esseri umani (TESEU) ha segnalato al Municipio d'aver accertato che nelle camere annesse all'esercizio pubblico veniva sistematicamente praticata la prostituzione. Nel quadro di un controllo effettuato il 6 giugno 2007, era stata rilevata la presenza di nove donne straniere non accompagnate. Il 6 novembre 2009, il Municipio ha ordinato a A._ Sagl di sospendere immediatamente l'esercizio della prostituzione nello stabile e di ripristinare l'uso autorizzato con la licenza edilizia, ritenendo che l'attività praticata abusivamente costituisse un cambiamento di destinazione inconciliabile con la destinazione della zona, nella quale sono vietate le attività moleste.
B. A._ Sagl è insorta dinanzi al Consiglio di Stato del Cantone Ticino, contestando l'esistenza di un cambiamento di destinazione. Nel frattempo, il 14 gennaio 2010, il distaccamento TESEU ha effettuato un'ulteriore ispezione, accertando la presenza di dieci cittadine straniere, nove delle quali provenienti dal Brasile. Il 27 aprile 2010 il Governo cantonale, ritenuta sufficientemente provata l'esistenza di un cambiamento di destinazione, ha respinto il gravame, escludendo a priori la possibilità di rilasciare una licenza edilizia in sanatoria. Con giudizio del 24 gennaio 2011, il Tribunale cantonale amministrativo ha respinto un ricorso dell'insorgente.
C. Avverso questa decisione A._ Sagl presenta un ricorso in materia di diritto pubblico al Tribunale federale. Chiede, in via principale, di annullarla, e, in via subordinata, di invitare le autorità inferiori a procedere a una nuova valutazione delle prove.
Non sono state chieste osservazioni, ma è stato richiamato l'incarto cantonale.
Diritto:
1. 1.1 Presentato tempestivamente contro una decisione dell'ultima istanza cantonale in ambito edilizio, finale poiché conclude il procedimento concernente la sospensione dell'uso dello stabile in modo asseritamente non conforme alla licenza edilizia e nega il rilascio di una licenza edilizia in sanatoria, il ricorso in materia di diritto pubblico è di massima ammissibile sotto il profilo degli art. 82 lett. a, 86 cpv. 1 lett. d, 90 e 100 cpv. 1 LTF (DTF 133 II 409 consid. 1.1, 353 consid. 2). La legittimazione della ricorrente è pacifica.
1.2 Secondo l'art. 42 cpv. 2 LTF, nel ricorso occorre spiegare per quali ragioni l'atto impugnato viola il diritto. Il ricorrente deve quindi almeno concisamente confrontarsi con le considerazioni esposte nella decisione impugnata, spiegando per quali motivi tale giudizio viola il diritto (DTF 133 II 249 consid. 1.4.1). Le esigenze di motivazione sono inoltre accresciute laddove il ricorrente lamenta, come in concreto, la violazione di diritti fondamentali e di norme del diritto cantonale (art. 106 cpv. 2 LTF), nonché l'arbitrio nell'accertamento dei fatti e nella valutazione delle prove, dato che ciò equivale a sostenere che i fatti sono stati accertati in violazione dell'art. 9 Cost. e del diritto federale (DTF 136 II 304 consid. 2.4 e 2.5, 49 consid. 1.4.1).
2. 2.1 La ricorrente fa valere in primo luogo un formalismo eccessivo in relazione al diritto di essere sentito. Al riguardo, insiste sulla circostanza che il Municipio, prima di adottare il contestato ordine di sospensione e di ripristino, non le ha concesso la facoltà di consultare gli atti e di esprimersi sugli stessi. Non vi è stata inoltre una riduzione delle tasse di giustizia benché, a causa dell'errore del Municipio, avesse dovuto assumersi il rischio e i costi del ricorso. Precisa poi, ch'essa non aveva rinunciato a consultare gli atti visionandoli presso il Governo cantonale, attendendo che le venissero inviati per esame. D'altra parte, secondo la prassi di un'altra Camera del Tribunale di appello, un eventuale ritiro del gravame, dopo la consultazione degli stessi, poteva comunque comportare l'accollamento delle spese.
2.1.1 La Corte cantonale ha accertato una lesione del diritto di essere sentito della ricorrente da parte del Municipio, violazione già rilevata dal Consiglio di Stato, che l'aveva tuttavia ritenuta sanata poiché l'insorgente non si era avvalsa della facoltà di consultare l'incarto dinanzi a esso. Questa conclusione è stata condivisa dalla Corte cantonale, la quale ha precisato che infine la ricorrente ha esaminato l'incarto davanti a essa.
2.1.2 Il contenuto del diritto di essere sentito è determinato in primo luogo dalle disposizioni cantonali di procedura, sindacabili da parte del Tribunale federale solamente sotto il ristretto profilo dell'arbitrio; in ogni caso l'autorità cantonale deve osservare le garanzie minime dedotte direttamente dall'art. 29 cpv. 2 Cost., il cui rispetto è verificato dal Tribunale federale con pieno potere d'esame (DTF 135 I 279 consid. 2.3). In concreto, tranne il richiamo all'art. 31 della legge ticinese di procedura per le cause amministrative del 9 aprile 1966, concernente l'accollamento delle spese ripetibili alla parte soccombente (norma peraltro non applicabile nella fattispecie visto che il Municipio non era patrocinato), la ricorrente non invoca la violazione di disposizioni cantonali.
Per costante giurisprudenza, dal diritto di essere sentito garantito dall'art. 29 cpv. 2 Cost. deriva in particolare il diritto per l'interessato di esprimersi prima che sia adottata una decisione sfavorevole nei suoi confronti, quello di fornire prove circa i fatti suscettibili di influire sul provvedimento, quello di poter prendere visione dell'incarto, quello di partecipare all'assunzione delle prove, di prenderne conoscenza e di determinarsi al riguardo (DTF 136 I 184 consid. 2.2.1; 135 I 279 consid. 2.3).
2.1.3 Il diritto di essere sentito è una garanzia costituzionale formale, la cui violazione implica, di principio, l'annullamento della decisione impugnata, a prescindere dalle possibilità di successo nel merito (DTF 132 V 387 consid. 5.1 pag. 390). Secondo la prassi del Tribunale federale, tuttavia, una violazione di detto diritto può essere sanata nell'ambito di una procedura di ricorso, qualora l'autorità di ricorso disponga dello stesso potere di esame dell'autorità decidente (DTF 135 I 279 consid. 2.6.1 e rinvii; 129 I 129 consid. 2.2.3 pag. 135).
2.1.4 Circa l'onere di recarsi presso il Governo cantonale per poter consultare l'incarto, contrariamente alla pretesa prassi secondo cui esso viene inviato in linea di massima ai patrocinatori delle parti, la ricorrente non fa valere che nella fattispecie, trattandosi soltanto di atti e non per esempio di un'audizione personale dell'interessato o di vertenze nell'ambito delle quali l'autorità di ricorso non dispone di un libero esame (DTF 135 I 279 consid. 2.4 e consid. 2.6.4), il vizio non poteva o non sarebbe stato comunque sanato dalla Corte cantonale, dinanzi alla quale essa ha potuto consultare tutti gli atti dell'incarto ed esprimersi compiutamente sia sugli stessi sia sulle notifiche assunte d'ufficio dal Tribunale cantonale amministrativo. La critica non può quindi essere accolta.
2.2 La censura secondo cui la viziata decisione municipale l'avrebbe obbligata a interporre un ricorso, con il rischio di doversi assumere eventuali costi processuali in caso di ritiro, non regge. La questione delle spese non è infatti decisiva, ritenuto che dinanzi a tutte le istanze la ricorrente ha anche proposto censure di merito, che sono state esaminate e respinte. Le spese non sono quindi state provocate dall'invocato vizio, ritenuto che, anche dopo aver avuto accesso agli atti, essa ha insistito per l'esame di merito della causa, soccombendo.
3. 3.1 La ricorrente adduce un'arbitraria disparità di trattamento, ritenendo d'essere stata ingiustamente chiamata in causa per l'asserito agire illecito delle ospiti nelle camere dell'esercizio pubblico come subconduttrice e sublocatrice, mentre il proprietario e la locatrice (e inquilina) sarebbero stati coinvolti nella procedura solo a livello comunale, ma non da parte del Consiglio di Stato e della Corte cantonale. In tale ambito essa accenna ad altre tre cause, nelle quali la conduttrice e la gestrice sarebbero state coinvolte dalle autorità cantonali.
3.2 La critica non regge, ritenuto che in un caso non vi era alcuna sublocatrice (causa 1C_9/2010 del 14 dicembre 2010), mentre negli altri due il gerente è stato coinvolto principalmente non tanto sulla base di norme pianificatorie, bensì della legge federale concernente la dimora e il domicilio degli stranieri, del 26 marzo 1931 (LDDS; cause 6B_926/2010 del 24 gennaio 2011 e 6B_584/2010 del 2 dicembre 2010). Si è quindi in presenza, come peraltro ammesso dalla ricorrente, di cause diverse. Inoltre, nella richiamata causa 1C_442/2009 del 16 ottobre 2009, la ricorrente, come nel caso in esame, era titolare dell'autorizzazione a gestire l'esercizio pubblico. Non vi è pertanto disparità di trattamento.
3.3 Del resto, l'eventuale possibilità che nel quadro di altre vertenze, che peraltro il Tribunale federale non può comparare compiutamente sulla base degli accenni ricorsuali, i proprietari o locatari siano o meno stati coinvolti, non significa che la ricorrente abbia un diritto all'uguaglianza di trattamento nell'illegalità, pretesa ch'essa neppure adduce. Ben a ragione, ricordato che il diritto all'uguaglianza di trattamento nell'illegalità può essere ammesso, eccezionalmente, soltanto quando sussista, non solo in un caso isolato e neppure in alcuni pochi casi, una costante prassi illegale di un'autorità chiamata ad applicare la legge e questa lasci riconoscere che anche in futuro non se ne scosterà: di massima, infatti, il principio di legalità prevale su quello della parità di trattamento (DTF 127 I 1 consid. 3a; 126 V 390 consid. 6a; 135 IV 191 consid. 3.3 in fine).
4. 4.1 La ricorrente fa poi valere un accertamento incompleto e inesatto dei fatti riguardo alle notifiche di pernottamento, da essa non trasmesse alla polizia cantonale per il tramite di Internet, poiché compilate utilizzando l'usuale blocchetto delle notifiche. Quest'ultima non le ha però inviate alla Corte cantonale, come da essa richiesto d'ufficio, ma si è limitata a trasmetterne un'elaborazione su una tabella Excel.
Al riguardo la ricorrente afferma semplicemente che non vi sarebbe la certezza che i bollettini sarebbero stati ricopiati in maniera corretta. Non ha tuttavia minimamente contestato dinanzi alla Corte cantonale il contenuto di detta tabella, limitandosi a rilevare, nelle sue osservazioni del 17 settembre 2010, che il criticato elenco conterrebbe almeno un errore di battitura. Con questo accenno, essa non dimostra del tutto che questi fatti sarebbero stati accertati in maniera addirittura insostenibile e quindi arbitraria (sulla nozione di arbitrio vedi DTF 137 I 1 consid. 2.4 e rinvii), né che i dati riportati nella criticata tabella non corrisponderebbero a quelli indicati nei suoi moduli (art. 97 cpv. 1 e 2 LTF; DTF 136 I 184 consid. 1.2; 136 II 304 consid. 2.4). Giova comunque sottolineare, come rettamente rilevato anche dalla Corte cantonale, che spetterebbe in primo luogo al Consiglio di Stato acquisire d'ufficio il mezzo di prova decisivo costituito dalle notifiche di polizia.
4.2 Del resto, sia sulla portata delle notifiche sia riguardo agli altri accertamenti, la ricorrente sostiene semplicemente che non sarebbe stato accertato nessun fatto legato a presunte prostitute. Aggiunge che vi sarebbero camere riservate a persone che lavorano e durante i fine-settimana raggiungerebbero le loro famiglie, tra i quali figurerebbe anche il suo amministratore. Al suo dire, la Corte cantonale avrebbe confuso l'eventuale attività di prostituta con quella del luogo in cui viene esercitata. Anche nella denegata ipotesi in cui l'esercizio pubblico ospitasse prostitute, ciò non significherebbe ch'esse vi fornirebbero le loro prestazioni in loco, rilevato che nelle vicinanze sono stati aperti un postribolo ufficiale e una sauna a luci rosse. Essa lascia sottintendere che le prostitute potrebbero semplicemente soggiornare nelle sue camere e praticare la loro attività altrove.
4.3 Con questi accenni, essa chiaramente non dimostra l'arbitrarietà degli accertamenti fattuali, con i quali del resto si confronta solo in minima parte, asserendo genericamente che la deduzione della pratica dell'esercizio della prostituzione sulla base della citata tabella e dei criteri dell'età e della nazionalità delle ospiti, ritenuti dalla Corte cantonale, sarebbe superficiale, incompleta, affrettata e arbitraria. Ora, la Corte cantonale ha spiegato dettagliatamente, che le camere annesse al ristorante sono state occupate quasi esclusivamente da donne, che senza eccezione alloggiavano singolarmente, delle quali solo un'esigua minoranza aveva più di quarant'anni e che erano originarie di luoghi noti per la provenienza di prostitute. Ha ritenuto che, sebbene nessuna sia stata colta in flagrante mentre si prostituiva, i dati raccolti formano comunque un insieme di indizi univoci e convergenti, caratteristico di questo genere di locali, per cui la situazione è identica a quella di numerosi altri casi da essa giudicati, in cui la parte riservata all'alloggio di determinati esercizi pubblici è stata trasformata in un postribolo, essendo con evidenza escluso che in concreto le ospiti fossero semplici turiste (al riguardo vedi le sentenze 1C_526/2010 del 7 gennaio 2011 consid. 2 e 1C_86/2011 del 7 marzo 2011). Ha altresì respinto la tesi ricorsuale, secondo cui esse si prostituissero altrove, limitandosi a utilizzare le camere quale alloggio. Le generiche critiche ricorsuali, appellatorie, non dimostrano affatto l'arbitrarietà di detti accertamenti e della relativa conclusione.
4.4 Infine, quando la ricorrente accenna al fatto che il proprietario dell'esercizio pubblico, abitante a pochi passi, non avrebbe lamentato molestie, misconosce che oggetto del litigio non è tanto la questione delle immissioni materiali o immateriali derivanti dallo stesso, quanto quella di sapere se l'insediamento di un postribolo in un immobile autorizzato quale esercizio pubblico integri gli estremi di un cambiamento di destinazione soggetto a licenza edilizia. La ricorrente nemmeno tenta di motivare l'arbitrarietà degli argomenti sviluppati dalla Corte cantonale circa la non conformità dell'attività litigiosa alla zona di utilizzazione.
5. Il ricorso, in quanto ammissibile, deve pertanto essere respinto. Le spese seguono la soccombenza (art. 66 cpv. 1 LTF).
Per questi motivi, il Tribunale federale pronuncia:
1. Nella misura in cui è ammissibile, il ricorso è respinto.
2. Le spese giudiziarie di fr. 2'000.-- sono poste a carico della ricorrente.
3. Comunicazione al patrocinatore della ricorrente, al Municipio di X._, al Consiglio di Stato e al Tribunale amministrativo del Cantone Ticino.