Sachverhalt:
A. Die X._ GmbH ist Inhaberin des selbständigen und dauernden Baurechts Nr. 2769 an der Liegenschaft Bern Gbbl. Nr. 1375 (Lagerweg 12) in Bern. Das Grundstück liegt in der Wohnzone W, gehört zur Bauklasse 4 und ist mit einem Mehrfamilienhaus (Erdgeschoss, drei Obergeschosse, Untergeschoss und Tiefgarage) überbaut. Die Zone ist der Lärmempfindlichkeitsstufe II zugeteilt. Nebst dem Wohnen sind darin nicht störende Arbeitsnutzungen auf bis zu 10 % der Bruttogeschossfläche erlaubt.
Nach einer Überprüfung der Liegenschaft hielt das Bauinspektorat der Stadt Bern mit Schreiben vom 13. Mai 2009 fest, die meisten Wohnungen seien zu Erotikbetrieben umgenutzt worden, und verfügte die Wiederherstellung des rechtmässigen Zustands. Hiergegen beschwerte sich die X._ GmbH am 15. Juni 2009 bei der Bau-, Verkehrs- und Energiedirektion des Kantons Bern (BVE) und reichte gleichzeitig ein nachträgliches Baugesuch zur "Umnutzung reiner Wohnnutzung in teilweise gewerbliche Nutzung" ein. Im Hinblick auf die Gesuchsbehandlung schrieb die BVE das Beschwerdeverfahren vom Geschäftsverzeichnis ab. Am 21. Oktober 2009 ergänzte die X._ GmbH ihr nachträgliches Baugesuch, insbesondere mit einem Gesuch um eine Ausnahmebewilligung für die Einrichtung von Studios für Massagedienstleistungen im Untergeschoss. Mit Verfügung vom 4. Mai 2011 erteilte das Bauinspektorat der Stadt Bern den Bauabschlag und ordnete erneut die Wiederherstellung an (Aufgabe der Erotiknutzung im Untergeschoss und Rückführung in Lagerraum; Verbot der gewerblichen Nutzung des Erdgeschosses und der Obergeschosse und gegebenenfalls Rückführung in Wohnnutzung).
B. Gegen diese Verfügung beschwerte sich die X._ GmbH ohne Erfolg bei der BVE und anschliessend beim Verwaltungsgericht des Kantons Bern. Dieses hielt in seinem Urteil vom 13. Februar 2012 fest, Sexbetriebe stellten in Wohnzonen mit hohem Wohnanteil praxisgemäss stark störende und deshalb zonenwidrige Nutzungen dar; besondere Verhältnisse, die eine Ausnahmebewilligung rechtfertigen könnten, seien nicht vorgebracht worden. Das Verwaltungsgericht wies die Beschwerde daher ab, soweit es darauf eintrat.
C. Mit Eingabe vom 19. März 2012 führt die X._ GmbH Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Sie beantragt, das angefochtene Urteil aufzuheben und die nachträgliche Baubewilligung für die Umnutzung des Lagerraums in einen Massagesalon zu erteilen, eventuell die Angelegenheit an die Vorinstanz zurückzuweisen.
Das Bauinspektorat der Stadt Bern beantragt die Abweisung der Beschwerde, eventuell unter Bestätigung der Wiederherstellung nur für das Erdgeschoss und die Obergeschosse. Die BVE schliesst auf Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons Bern stellt Antrag auf Abweisung, soweit auf die Beschwerde einzutreten sei.
Mit Eingabe vom 12. Juni 2012 hat sich die Beschwerdeführerin abschliessend geäussert.
Erwägungen:
1. 1.1 Das angefochtene Urteil des Verwaltungsgerichts ist ein Endentscheid einer letzten kantonalen Instanz (Art. 86 Abs. 1 lit. d und Art. 90 BGG). Ihm liegt ein Beschwerdeverfahren über eine Baubewilligung sowie eine Wiederherstellungsverfügung und damit eine öffentlich-rechtliche Angelegenheit zugrunde. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten steht auf dem Gebiet des Raumplanungs- und Baurechts zur Verfügung (BGE 133 II 249 E. 1.2 S. 251, 400 E. 2.1 S. 404); Ausnahmegründe im Sinne von Art. 83 ff. BGG liegen nicht vor. Die Beschwerdeführerin hat am vorinstanzlichen Verfahren teilgenommen und ist nach Art. 89 Abs. 1 BGG zur Beschwerde legitimiert.
1.2 Das Bundesgericht ist an den von der Vorinstanz festgestellten Sachverhalt gebunden, soweit dieser nicht offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 1 und 2 BGG). Selbst unter diesen Voraussetzungen findet eine Sachverhaltskorrektur nur statt, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel können bloss soweit vorgebracht werden, als der angefochtene Entscheid dazu Anlass gibt (Art. 99 Abs. 1 BGG).
2. Die Beschwerdeführerin hat klargestellt (Beschwerde Art. 2 S. 4), dass sie nur (noch) an der Umnutzung des Lagerraumes im Untergeschoss in Massage- oder Erotikstudios interessiert ist; das Erdgeschoss und die Obergeschosse der Liegenschaft sollen der Wohnnutzung vorbehalten bleiben. Streitgegenstand ist demnach nur noch, ob die kantonalen Behörden die Bewilligung und Ausnahme für das Untergeschoss zu Recht verweigert haben.
3. Die Beschwerdeführerin wirft dem Verwaltungsgericht eine falsche Sachverhaltsfeststellung vor. Es treffe nicht zu, dass die Erotiknutzung von der Anwohnerschaft des sehr belebten Quartiers als störend empfunden werde. Insbesondere verursache die beabsichtigte Nutzung im Unterschied zur nebenan betriebenen Transportfirma keinen Mehrlärm.
Die Vorinstanz hat keine derartigen Sachverhaltsfeststellungen getroffen. Sie hat vielmehr ausgeführt (E. 3.2 des angefochtenen Urteils), es spiele keine Rolle, ob das konkret zur Diskussion stehende Gewerbe diskret geführt werde und ob es bereits Beanstandungen gegeben habe oder nicht. Aus den von der Transportfirma verursachten Immissionen könne die Beschwerdeführerin für die - namentlich auch ideellen - Immissionen ihres Sexbetriebs unter Rechtsgleichheitsaspekten nichts ableiten. Ob die geplante gewerbliche Nutzung in der Wohnzone als störend gelten muss, ist vom Verwaltungsgericht somit unter rechtlichen Gesichtspunkten, als Rechtsfrage beurteilt worden. Von einer offensichtlich falschen Sachverhaltsfeststellung kann bei dieser Sachlage nicht gesprochen werden.
4. 4.1 Das Bauinspektorat der Stadt Bern hat die Beschwerdeführerin schon in der Wiederherstellungsverfügung vom 13. Mai 2009 darauf hingewiesen, dass als nicht störende, in der Wohnzone mit Lärmempfindlichkeitsstufe II auf bis zu 10 % der Bruttogeschossfläche erlaubte Arbeitsnutzungen Ladengeschäfte, Kleingewerbe, Ateliers und dergleichen zu betrachten seien. Erotikbetriebe mit dem damit verbundenen erhöhten Publikums- und Fahrzeugaufkommen und Nachtruhestörungen fielen nicht darunter und gälten aus der Sicht der Zonenordnung als störend. Im gleichen Sinn hat sich die BVE in ihrem Beschwerdeentscheid vom 29. August 2011 (E. 2d) geäussert. Mehr noch als der motorisierte Verkehr und die Nachtruhestörungen fielen die ideellen Immissionen ins Gewicht, die das seelische Empfinden der Wohnbevölkerung verletzten oder unangenehme Eindrücke erweckten. Die nachteiligen Begleiterscheinungen des Sexgewerbes zeitigten auch indirekte Wirkungen, indem sie zu einer unästhetischen oder unerfreulichen Umgebung führten und dadurch die Wohnqualität - und sei es auch nur den Ruf der Wohngegend - herabminderten, die Vermietbarkeit von Wohnungen erschwerten oder die Kundschaft von den Geschäften fernhielten. Auch die Vorinstanz hat die Bedeutung der ideellen Immissionen hervorgehoben (E. 3.2 des angefochtenen Urteils; vgl. auch lit. B hiervor).
4.2 Nach Auffassung der Beschwerdeführerin ist die Erotiknutzung mit dem ruhigen und gesunden Wohnen vereinbar. Laut Auskünften von Vertretern des Quartierleists sei das Etablissement nicht negativ aufgefallen und gebe es kaum Gründe für Reklamationen. Eine Mitarbeiterin der Beratungsstelle für Frauen im Sexgewerbe habe zudem auf negative Konsequenzen einer Schliessung der Liegenschaft für die Prostituierten hingewiesen; diese müssten auf Privatwohnungen zurückgreifen und in die Agglomeration ausweichen.
4.3 Die Normen über die zulässige, nicht störende Arbeitsnutzung in Wohnzonen (Art. 19 der Bauordnung der Stadt Bern vom 25. September 2006 und Art. 90 der kantonalen Bauverordnung vom 6. März 1985) gehören zum kantonalen Recht, dessen Auslegung und Anwendung das Bundesgericht nur auf Verfassungskonformität, insbesondere Willkür, überprüfen kann (Art. 95 BGG). Willkür in der Rechtsanwendung liegt nach ständiger höchstrichterlicher Praxis vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen angefochtenen Entscheid aber nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung als vertretbar oder gar zutreffender erscheint, genügt nicht (vgl. statt vieler BGE 137 I 1 E. 2.4 S. 5 mit Hinweisen).
4.4 Die Auslegung des Begriffs der störenden Arbeitsnutzung durch die kantonalen Behörden entspricht deren neueren Praxis (vgl. BVR 2005 S. 443 E. 5; 2006 S. 80 E. 4). Das Bundesgericht hat in verschiedenem Zusammenhang Gelegenheit gehabt, sich mit verwandten Begriffsabgrenzungen auseinanderzusetzen und hat sich im gleichen Sinne geäussert (vgl. BGE 108 Ia 140 E. 5 c/bb S. 146 ff. betreffend die Beeinträchtigung der Wohnqualität in Wohngebieten durch ideelle Immissionen, die mit dem Sexgewerbe verbunden sind; Urteil des Bundesgerichts 5C.81/1999 vom 1. Juli 1999 betreffend den Ausschluss eines Stockwerkeigentümers aus der Gemeinschaft wegen unzumutbaren ideellen Immissionen aus dem Betrieb eines Sex-Clubs; Urteil des Bundesgerichts 1P.160/2004 vom 27. Januar 2005 E. 5 betreffend störende Auswirkungen eines Sex-Lokals mit Videokabinen in der Wohnzone). Auch wenn das Verwaltungsgericht in einer länger zurückliegenden Rechtsprechung den Betrieb von Massagesalons in einer Wohnzone unter bestimmten Voraussetzungen noch als zonenkonform beurteilt hat (vgl. BVR 1990 S. 402), ist die strengere neuere Rechtsprechung der kantonalen Behörden ohne weiteres nachvollziehbar. Der mit den Gesuchsunterlagen eingereichte Projektplan des Untergeschosses sieht nebst Büro, Empfangsraum und WC-Anlagen insgesamt 19 Studios vor, in denen Massage- und Erotikdienste angeboten werden können. Selbst wenn den Kunden die 16 Parkplätze in der Tiefgarage zur Verfügung stehen sollen, leuchten die von den kantonalen Behörden angestellten Überlegungen zu den Auswirkungen einer derartigen gewerblichen Nutzung auf die Wohnqualität in der betroffenen Wohnzone ein. Sie können auch nicht mit dem Hinweis auf den belebten Charakter des Quartiers und ein während der Geschäftszeit betriebenes Transportgewerbe in der unmittelbaren Nachbarschaft entkräftet oder relativiert werden. Die Begriffsabgrenzung durch die kantonalen Behörden lässt sich mit sachlichen Argumenten begründen und ist keineswegs unhaltbar. Der Willkürvorwurf verfängt deshalb nicht.
5. 5.1 Die Beschwerdeführerin rügt weiter, das Verwaltungsgericht habe es - wie schon das Bauinspektorat und die BVE - unterlassen, im Zusammenhang mit dem Ausnahmegesuch eine detaillierte Interessenabwägung anzustellen und habe auch aus diesem Grund willkürlich entschieden.
5.2 Gemäss Art. 26 des Baugesetzes des Kantons Bern vom 9. Juni 1985 (BauG/BE) können von einzelnen Bauvorschriften Ausnahmen gewährt werden, wenn besondere Verhältnisse es rechtfertigen und keine öffentlichen Interessen beeinträchtigt werden. Das Verwaltungsgericht hat dazu festgehalten (E. 3.3 des angefochtenen Urteils), die Beschwerdeführerin habe nach wie vor nicht dargelegt, inwiefern besonderen Verhältnisse gegeben seien, welche die Erteilung einer Ausnahme rechtfertigen könnten; eine Ausnahmebewilligung falle bereits aus diesem Grund ausser Betracht. Mit diesem Argument setzt sich die Beschwerdeführerin nicht auseinander. In der Tat ergibt sich schon aus dem Gesetzeswortlaut, dass eine Ausnahme besondere Verhältnisse voraussetzt. Diese sind selbstverständlich vom Gesuchsteller aufzuzeigen, wenn sie - wie hier - nicht auf der Hand liegen (vgl. ALDO ZAUGG/PETER LUDWIG, Kommentar zum Baugesetz des Kantons Bern, 3. Aufl. 2007, Bd. I, N. 4 zu Art. 26/27 BauG/BE, auch zum Folgenden). Als Ausnahmegrund kommen Verhältnisse der Bauherrschaft in Betracht, die sich auf das Bauvorhaben beziehen und in den Bauvorschriften keine genügende Berücksichtigung finden. Sie müssen mit den Besonderheiten des Baugrundstücks oder des Bauvorhabens zusammenhängen; es sollen ausgesprochene Unbilligkeiten und Unzweckmässigkeiten vermieden werden. Hat es die Beschwerdeführerin - wie das Verwaltungsgericht für das Bundesgericht verbindlich festgestellt hat (vgl. E. 1.2 hiervor) - unterlassen, derartige Verhältnisse darzulegen und insbesondere aufzuzeigen, weshalb die Einrichtung ihres gewerblichen Vorhabens in einer anderen als einer dem ruhigen Wohnen vorbehaltenen Zone nicht möglich ist, konnte die Vorinstanz ohne Willkür folgern, dass es an einer Ausnahmesituation fehlt und das Ausnahmebegehren schon deswegen abzuweisen ist. Eine Interessenabwägung erübrigte sich unter diesen Umständen.
5.3 Im Übrigen hat das Verwaltungsgericht angefügt (E. 3.3 am Ende), dass der anbegehrten Ausnahme wegen der mit der Erotiknutzung verbundenen ideellen Immissionen erhebliche öffentliche und nachbarliche Interessen entgegenstehen. Diese Formulierung kann nur so verstanden werden, dass die Vorinstanz damit zum Ausdruck bringen wollte, den Interessen der Beschwerdeführerin vorgehende öffentliche und nachbarliche Interessen liessen die Erteilung der anbegehrten Ausnahme ohnehin nicht zu. Der Vorwurf willkürlicher Nichtberücksichtigung der im Spiel stehenden Interessen ginge auch aus diesem Grunde fehl. Da die im Zusammenhang mit der Erotiknutzung angesprochenen Immissionen den öffentlichen und privaten Interessen zuwiderlaufen, welche Art. 19 der städtischen Bauordnung betreffend die erlaubten Nutzungen in Wohnzonen gerade schützen will (vgl. ZAUGG/LUDWIG, a.a.O., N. 7 zu Art. 26/27 BauG/BE), haftet schliesslich auch der vorinstanzlichen Grobbeurteilung der Interessenlage nichts Willkürliches an.
6. Nach dem Ausgeführten ist die Beschwerde abzuweisen. Bei diesem Ergebnis wird die Beschwerdeführerin kostenpflichtig (Art. 66 Abs. 1 BGG). Parteientschädigungen sind nicht geschuldet (vgl. Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird der Beschwerdeführerin, der Einwohnergemeinde Bern, der Bau-, Verkehrs- und Energiedirektion des Kantons Bern und dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 16. Juli 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Härri