Sachverhalt:
A. Die X._ AG ist Eigentümerin der an der Luzernerstrasse xxx in Merlischachen in der Kernzone gelegenen Liegenschaft KTN 1587. Sie führt dort ein Hotel mit Restaurationsbetrieb (inkl. Gartenrestaurant). Im Juli 2007 ersetzte sie die bisherigen rotweiss gestreiften Sonnenstoren und Sonnenschirme durch eine neue Metallkonstruktion mit Sonnenstoren in einem anderen Design (grün, mit Efeuranken). Mit Präsidialverfügung vom 27. Juli 2007, welche vom Bezirksrat Küssnacht am 22. August 2007 genehmigt wurde, wies der Bezirksammann des Bezirks Küssnacht die X._ AG an, sämtliche Bauarbeiten auf der Parzelle KTN 1587 unverzüglich einzustellen und ein nachträgliches Baugesuch einzureichen oder die erstellte Anlage abzubrechen. Am 30. August 2007 reichte die X._ AG ein nachträgliches Baugesuch für die Gartenrestaurant-Überdachung ein. Dazu erklärte die Denkmalpflege des Kantons Schwyz am 5. November 2007, sie teile die Auffassung der Ortsbildkommission, wonach die neue Storenanlage eine wesentliche Beeinträchtigung des wertvollen Gebäudes darstelle. Das kantonale Tiefbauamt stimmte dem Vorhaben am 18. Dezember 2007 unter gewissen Auflagen zu.
Mit Beschluss vom 11. Juni 2008 verfügte der Bezirksrat Küssnacht:
"1. Der X._ AG [...] wird die Baubewilligung für die bereits erstellte Überdachung beim Gartenrestaurant auf dem Grundstück KTN 1587, Luzernerstrasse 202/204, Merlischachen, gestützt auf die Erwägungen, nachträglich verweigert.
2. Die X._ AG wird angehalten, die nicht bewilligten Bauteile innert 30 Tagen ab Rechtskraft dieses Beschlusses rückzubauen und den rechtmässigen Zustand wieder herzustellen. Der Abschluss der Rückbauarbeiten ist dem Ressort Planung, Umwelt und Verkehr zur Abnahme zu melden.
3. Erfüllt die Pflichtige die Anordnung gemäss Ziffer 2 dieses Beschlusses nicht oder nicht vollumfänglich, so hat sie für jeden Tag nach Ablauf der dort angesetzten Frist bis zur Erfüllung des verfügten Rückbaus in Anwendung von § 78 Abs. 5 der Verordnung über die Verwaltungsrechtspflege (VRPV; SRSZ 234.110) eine Ordnungsbusse von Fr. 200.-- zu bezahlen.
4. Kommt die Pflichtige der Aufforderung gemäss den Ziff. 2 und 3 dieses Beschlusses nicht oder nicht vollständig nach, behält sich die Bewilligungsinstanz gestützt auf § 78 der Verordnung über die Verwaltungsrechtspflege vom 6. Juni 1974 (VRP; SRSZ 234.110) das Recht vor, auf Kosten der Bauherrschaft die Überdachung beim Gartenrestaurant zu entfernen (Ersatzvornahme).
5. Die vorgenommenen Bauarbeiten sind gemäss § 75 Abs. 1 PBG/SZ und Art. 118 BauR bewilligungspflichtig. [...]."
B. Eine gegen diesen Beschluss von der X._ AG erhobene Verwaltungsbeschwerde wies der Regierungsrat des Kantons Schwyz am 27. Januar 2009 ab. Gegen diesen Entscheid gelangte die X._ AG an das Verwaltungsgericht des Kantons Schwyz. Dieses wies die Beschwerde mit Urteil vom 27. Oktober 2009 im Sinne der Erwägungen ab, soweit es darauf eintrat. Das Verwaltungsgericht bejaht die Baubewilligungspflicht der Storenanlage (inkl. Stützen und Trägerelementen) und kommt zum Schluss, die Anlage könne nicht bewilligt werden. Zudem bezeichnet es den vom Bezirksrat verlangten Rückbau als rechtmässig.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 4. Januar 2010 beantragt die X._ AG im Wesentlichen, der Entscheid des Verwaltungsgerichts vom 27. Oktober 2009 sei aufzuheben, und es sei festzustellen, dass die umstrittenen Sonnenstoren des Gartenrestaurants nicht bewilligungspflichtig seien. Eventuell seien die Sonnenstoren zu bewilligen und die Rückbauanordnung aufzuheben. Sie rügt in mehrfacher Hinsicht die Verletzung des Willkürverbots (Art. 9 BV), der Eigentumsgarantie (Art. 26 BV) und der Wirtschaftsfreiheit (Art. 27 BV) sowie des Anspruchs auf rechtliches Gehör (Art. 29 Abs. 2 BV), des Verhältnismässigkeitsprinzips (Art. 5 Abs. 2 BV) und des Vertrauensgrundsatzes (Art. 9 BV). Ausserdem beanstandet sie formelle Rechtsverweigerung (Art. 29 Abs. 1 BV) und Missachtung der Rechtsweggarantie (Art. 29a BV).
D. Der Regierungsrat beantragt die Abweisung der Beschwerde. Das Verwaltungsgericht stellt den Antrag, die Beschwerde sei abzuweisen, soweit darauf eingetreten werden könne. In einer weiteren Stellungnahme hält die Beschwerdeführerin an ihren Anträgen fest. Das Verwaltungsgericht äussert sich in einer weiteren Eingabe zu den Vorbringen der Beschwerdeführerin.
E. Mit Verfügung vom 28. Januar 2010 legte der Präsident der I. öffentlich-rechtlichen Abteilung der Beschwerde aufschiebende Wirkung bei.
Erwägungen:
1. 1.1 Das angefochtene Urteil des Verwaltungsgerichts ist ein Entscheid einer letzten kantonalen Instanz (Art. 86 Abs. 1 lit. d BGG). Ihm liegt ein Beschwerdeverfahren über eine baurechtliche Bewilligung und damit eine öffentlich-rechtliche Angelegenheit zugrunde. Das Bundesgerichtsgesetz enthält auf dem Gebiet des Raumplanungs- und Baurechts keinen Ausschlussgrund von der Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 lit. a und Art. 83 BGG; vgl. BGE 133 II 249 E. 1.2 S. 251; 409 E. 1.1 S. 411). Die Beschwerdeführerin ist als Baugesuchstellerin ohne Weiteres legitimiert, die vom Verwaltungsgericht bestätigte Baubewilligungspflicht sowie die Rückbauanordnung mit Beschwerde in öffentlich-rechtlichen Angelegenheiten anzufechten (Art. 89 Abs. 1 BGG). Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde vorbehältlich genügend begründeter Rügen (Art. 106 Abs. 2 i.V.m. Art. 42 Abs. 2 BGG) einzutreten.
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 bzw. Art. 105 Abs. 2 BGG). Eine entsprechende Rüge, die rechtsgenüglich substanziiert vorzubringen ist (Art. 42 Abs. 2 bzw. 106 Abs. 2 BGG), setzt zudem voraus, dass die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG).
2. Die Beschwerdeführerin stellt zunächst die von den Vorinstanzen bejahte Baubewilligungspflicht für die neue Sonnenstorenanlage in Frage.
2.1 Nach Art. 22 Abs. 1 RPG dürfen Bauten und Anlagen nur mit behördlicher Bewilligung errichtet werden. Der bundesrechtliche Begriff der bewilligungspflichtigen Bauten und Anlagen kann von den Kantonen weiter, nicht aber enger gefasst werden (Urteil des Bundesgerichts 1C_226/2008 vom 21. Januar 2008 E. 2.2; Bernhard Waldmann/ Peter Hänni, Raumplanungsgesetz, 2006, Art. 22 Rz. 9 ff.; Alexander Ruch, Kommentar RPG, N. 4 zu Art. 22). Der Begriff "Bauten und Anlagen" ist im Gesetz nicht näher definiert. Nach der Rechtsprechung handelt es sich um künstlich geschaffene und auf Dauer angelegte Einrichtungen, die in fester Beziehung zum Erdboden stehen und geeignet sind, die Vorstellung über die Nutzungsordnung zu beeinflussen, sei es, dass sie den Raum äusserlich erheblich verändern, die Erschliessung belasten oder die Umwelt beeinträchtigen (grundlegend BGE 113 Ib 314 E. 2b S. 315 f.; vgl. auch BGE 123 II 256 E. 3 S. 259; 120 Ib 379 E. 3c S. 383 f.; 118 Ib 49 E. 2a S. 52). Die Baubewilligungspflicht soll der Behörde ermöglichen, das Bauprojekt in Bezug auf seine räumlichen Folgen vor seiner Ausführung auf die Übereinstimmung mit der raumplanerischen Nutzungsordnung und der übrigen einschlägigen Gesetzgebung zu überprüfen (BGE 119 Ib 222 E. 3a S. 226). Massstab dafür, ob eine bauliche Massnahme erheblich genug ist, um sie dem Baubewilligungsverfahren zu unterwerfen, ist die Frage, ob mit der Realisierung des Vorhabens im Allgemeinen, nach dem gewöhnlichen Lauf der Dinge, so wichtige räumliche Folgen verbunden sind, dass ein Interesse der Öffentlichkeit oder der Nachbarn an einer vorgängigen Kontrolle besteht (Urteil des Bundesgerichts 1C_226/2008 vom 21. Januar 2009 E. 2.3; BGE 123 II 256 E. 3 S. 259; Waldmann/Hänni, a.a.O., N. 10 zu Art. 22). Dazu können auch Fahrnisbauten gehören, welche über nicht unerhebliche Zeiträume ortsfest verwendet werden (BGE 123 II 256 E. 3 S. 259 mit Hinweisen). Gewisse Vorhaben können sodann wegen ihres Betriebs und weniger wegen ihrer konstruktiven Anlage baubewilligungspflichtig sein (Peter Hänni, Planungs-, Bau- und besonderes Umweltschutzrecht, 5. Aufl. 2008, S. 302).
2.2 Gemäss § 75 Abs. 2 des Planungs- und Baugesetzes des Kantons Schwyz vom 14. Mai 1987 (SRSZ 400.100, PBG/SZ) werden Bauten und Anlagen namentlich dann geändert, wenn sie äusserlich umgestaltet, erweitert, erheblich umgebaut oder einer neuen, baupolizeilich bedeutsamen Zweckbestimmung zugeführt werden. Die Beschwerdeführerin hat die bisherigen Sonnenstoren und Sonnenschirme nicht durch eine in der Grösse und Nutzung gleiche Ausführung ersetzt, sondern neu den ganzen Terrassenbereich mit einer über massive Träger und Querbalken verfügenden Mastenkonstruktion überdachen lassen. An die Stelle vieler einzelner Sonnenschirme und kleinerer Sonnenstoren ist neu eine stabilere, dauerhafte und den ganzen Aussenbereich überdeckende Sonnenstorenanlage getreten. Sie verhilft der Beschwerdeführerin zu einer gewissen Nutzungserweiterung in räumlicher wie auch in zeitlicher Hinsicht, etwa im Fall eines Sommerregens. Das Verwaltungsgericht hat sich mit der Frage der Bewilligungspflicht unter Berücksichtigung der bundesgerichtlichen Rechtsprechung eingehend auseinandergesetzt. Auf die entsprechenden Ausführungen im angefochtenen Entscheid kann verwiesen werden.
3. Die Beschwerdeführerin macht geltend, die Baubewilligung sei zu Unrecht wegen mangelhafter Eingliederung verweigert worden. Sie rügt in diesem Zusammenhang eine Verletzung der Eigentumsgarantie (Art. 26 BV) und der Wirtschaftsfreiheit (Art. 27 BV).
3.1 Eine Grundrechtsbeschränkung ist nur zulässig, wenn sie auf einer gesetzlichen Grundlage beruht, im öffentlichen Interesse liegt und verhältnismässig ist (Art. 36 BV; BGE 125 II 129 E. 8 S. 141 mit Hinweis). Die Beschwerdeführerin bestreitet insbesondere die Verhältnismässigkeit der umstrittenen Anordnungen. Das Vorliegen eines öffentlichen Interesses und die Verhältnismässigkeit prüft das Bundesgericht bei der Beschränkung von Grundrechten frei (BGE 132 II 408 E. 4.3 S. 415 f.; 121 I 117 E. 3c S. 121; 119 Ia 362 E. 3a S. 366; s. auch BGE 134 I 153 E. 4.2 S. 157 f.). Es auferlegt sich aber Zurückhaltung, soweit die Beurteilung von einer Würdigung der örtlichen Verhältnisse abhängt, welche die kantonalen Behörden besser überblicken (BGE 132 II 408 E. 4.3 S. 415 f.; 126 I 219 E. 2c S. 222; 119 Ia 362 E. 3a S. 366; 117 Ia 434 E. 3c S. 437).
3.2 Das Grundstück KTN 1587 liegt in der Kernzone gemäss Art. 13 lit. a des kommunalen Baureglements, in welcher erhöhte Anforderungen an den Schutz des Ortsbilds gestellt werden. Der Gasthof - ein ehemaliges Bauernhaus - ist als Objekt Nr. 27.017 im kantonalen Inventar der geschützten Bauten und Objekte (KIGBO) eingetragen. Veränderungen daran sind zwar nicht ausgeschlossen, bedürfen nach der kantonalen Praxis aber einer überzeugenden Begründung und müssen erhöhten Anforderungen genügen. Die entsprechenden Sachverhaltsfeststellungen des Verwaltungsgerichts sind entgegen der Behauptungen der Beschwerdeführerin nicht zu beanstanden.
3.3 Die Vorinstanz stützt sich bei der Beurteilung der Storenanlage auf die übereinstimmende Würdigung durch die kantonale Denkmalpflege sowie die Ortsbildkommission und die Baukommission der Gemeinde. Diese Behörden gelangten zum Schluss, die Überdachungskonstruktion für das Gartenrestaurant stelle eine massive Beeinträchtigung der Hauptfassade des KIGBO-Objekts dar und könne deswegen nicht bewilligt werden. Der Regierungsrat und das Verwaltungsgericht haben bestätigt, dass die riesige Sonnenstorenanlage und der Farbton des neuen Stoffbezugs mit dem Erscheinungsbild und den Materialien des geschützten Gebäudes nicht harmonieren.
Die Beschwerdeführerin rügt zu Unrecht, dass die Baubewilligungsbehörden und der Regierungsrat keinen Augenschein durchgeführt hätten. Im Verfahren des Bezirksrats wurde am 8. August 2007 nach unbestrittener Feststellung in lit. A des angefochtenen Entscheids ein Augenschein vor Ort durchgeführt. Dem Regierungsrat lag eine gute Dokumentation mit aussagekräftigen Fotografien vor, weshalb er auf einen Augenschein verzichten durfte. Schliesslich hat das Verwaltungsgericht am 23. September 2009 mit den Parteien einen Augenschein mit öffentlicher Verhandlung durchgeführt. Damit wurde dem Mitwirkungsanspruch der Beschwerdeführerin im kantonalen Verfahren entsprochen.
3.4 Die Verweigerung der Baubewilligung für die neue Storenanlage ist aufgrund der in den Akten liegenden Fotos und der Ausführungen der zuständigen Behörden nicht zu beanstanden. Dies trifft insbesondere auf die Beurteilung zu, die wuchtige Metallkonstruktion beeinträchtige die Hauptfassade der unter Denkmalschutz stehenden Liegenschaft. Die Metallkonstruktion tritt wegen ihrer festen, dauerhaften Verankerung im Boden während des ganzen Jahres in Erscheinung. Die Auffassung der Vorinstanzen, dadurch werde das Gesamtbild des Inventarobjekts erheblich beeinträchtigt, wird durch die Vorbringen der Beschwerdeführerin nicht entkräftet. Von einer Verletzung der Eigentumsgarantie (Art. 26 BV) und der Wirtschaftsfreiheit (Art. 27 BV) kann keine Rede sein, da der Beschwerdeführerin der Ersatz der alten Storen und Sonnenschirme nicht grundsätzlich untersagt wird. Vielmehr erweist sich die gewählte Metallkonstruktion vor dem Hintergrund der Schutzwürdigkeit des Gebäudes als zu massiv. Dass die Beschwerdeführerin die beanstandeten Veränderungen eigenmächtig ohne vorgängiges Gesuch vorgenommen hat, hat sie selbst zu verantworten und kann nicht zu einer anderen Beurteilung führen. Auch ist nicht ersichtlich, aus welchen Gründen nachträglich eine Ausnahmebewilligung für die neue Anlage hätte erteilt werden müssen. Das Vorliegen einer Ausnahmesituation wird nicht substanziiert dargelegt.
4. Es ergibt sich somit, dass die Vorinstanz die materielle und formelle Baurechtswidrigkeit der Storenanlage bejahen durfte. Zu prüfen bleibt, ob die Rückbauanordnung mit den angerufenen verfassungsmässigen Rechten vereinbar ist.
4.1 Die Beschwerdeführerin macht geltend, die angeordneten Wiederherstellungsmassnahmen verstiessen gegen die Eigentumsgarantie (Art. 26 BV) und die Wirtschaftsfreiheit (Art. 27 BV). Bei der Beurteilung materiell rechtswidriger Bauten sind unter anderem die allgemeinen verfassungs- und verwaltungsrechtlichen Prinzipien des Bundesrechts zu berücksichtigen. Zu ihnen gehören namentlich die Grundsätze der Verhältnismässigkeit und des Schutzes des guten Glaubens. So kann der Abbruch einer widerrechtlichen Baute oder Anlage unterbleiben, wenn die Abweichung vom Erlaubten nur unbedeutend ist oder der Abbruch nicht im öffentlichen Interesse liegt, ebenso, wenn der Bauherr in gutem Glauben angenommen hat, er sei zur Bauausführung ermächtigt, und der Beibehaltung des ungesetzlichen Zustands nicht schwerwiegende öffentliche Interessen entgegenstehen (BGE 132 II 21 E. 6 S. 35; 111 Ib 213 E. 6 S. 221 mit Hinweisen).
4.2 Soweit die Beschwerdeführerin eine "unverhältnismässig harte Belastung" für sich geltend macht, ist zu beachten, dass sie sich beim Bau der Storenanlage nicht in gutem Glauben befinden konnte und dass die Abweichung gegenüber den Bauvorschriften nicht unbedeutend ist (§ 87 Abs. 2 PBG/SZ). Die Beschwerdeführerin kennt aus einem früheren Verfahren in Bezug auf ein unerlaubterweise errichtetes Zeltdach auf einer Dachterrasse die Grundsätze der Bewilligungspflicht in der Kernzone sowie die Folgen eines eigenmächtigen Vorgehens. Sie kann somit aus dem Grundsatz von Treu und Glauben (Art. 5 Abs. 3 und Art. 9 BV) nichts zu ihren Gunsten ableiten.
4.3 Indessen muss auch bei einem Abbruchbefehl gegenüber einem Bauherrn, der sich nicht auf den Gutglaubensschutz berufen kann, der Verhältnismässigkeitsgrundsatz beachtet werden. Er muss aber in Kauf nehmen, dass die Behörden aus grundsätzlichen Erwägungen, nämlich zum Schutz der Rechtsgleichheit und der baurechtlichen Ordnung, dem Interesse an der Wiederherstellung des gesetzmässigen Zustands erhöhtes Gewicht beilegen und die dem Bauherrn allenfalls erwachsenden Nachteile nicht oder nur in verringertem Masse berücksichtigen (BGE 132 II 21 E. 6.4 S. 39 f.; 123 II 248 E. 4a S. 255; 111 Ib 213 E. 6b S. 224).
Das Verwaltungsgericht führt im angefochtenen Entscheid (E. 5.2) zutreffend aus, dass eine nur teilweise Entfernung der widerrechtlichen, zu massigen Anlage nicht in Frage kommt. Damit wird allerdings nicht ausgeschlossen, dass das Gartenrestaurant mit einem angemessenen Sonnenschutz versehen wird. Die Vorinstanz skizziert eine Lösung, die von der (geschützten) Hausfassade abgetrennt wäre und filigran wirken würde. Weiter weist die Vorinstanz zu Recht darauf hin, dass die Überdachungskonstruktion in den Jahren 2007 bis 2010 in Betrieb war und somit zu einem erheblichen Teil amortisiert sein dürfte. Der angefochtene Entscheid hält somit auch vor dem Verhältnismässigkeitsgrundsatz stand.
4.4 Da es vorliegend nicht um eine bloss geringfügige Abweichung vom Erlaubten geht und der Beschwerdeführerin kein Gutglaubensschutz zukommt, ist somit nicht zu beanstanden, dass die Vorinstanz dem öffentlichen Interesse an der Durchsetzung der baurechtlichen Ordnung gegenüber den geltend gemachten privaten Interessen ein überwiegendes Gewicht eingeräumt hat. Der angefochtene Entscheid erweist sich daher auch insofern als verfassungskonform, als der Rückbaubefehl grundsätzlich bestätigt wird.
5. Mit Ziff. 2 seines Beschlusses vom 11. Juni 2008 verpflichtete der Bezirksrat Küssnacht die Beschwerdeführerin, die nicht bewilligte Storenanlage innert 30 Tagen ab Rechtskraft des Beschlusses rückzubauen und den rechtmässigen Zustand wieder herzustellen. Dieser Anordnung musste während der Hängigkeit des Rechtsmittelverfahrens keine Folge geleistet werden, soweit den Beschwerden aufschiebende Wirkung zukam. Mit dem vorliegenden letztinstanzlichen Urteil des Bundesgerichts wird die Rückbauanordnung nun vollstreckbar. Die Beschwerdeführerin verlangt, mit dem Vollzug des Rückbaus sei solange zuzuwarten, bis eine umfassende Erneuerung der Sonnenstoren unbedingt notwendig werde. Dieser Forderung kann bereits wegen der öffentlichen Interessen, die mit der Rückbauanordnung verfolgt werden, nicht entsprochen werden. Indessen regt der Regierungsrat in seiner Stellungnahme zur vorliegenden Beschwerde an, für das weitere Vorgehen sei der Beschwerdeführerin eine angemessene Zeitperiode anzusetzen, um in Zusammenarbeit mit den zuständigen Fachstellen einen anderen Sonnenschutz zu planen und die heute bestehende Konstruktion zu ersetzen. Diesen Ausführungen kann insoweit beigepflichtet werden, als der Sommer 2010 dazu genutzt werden kann, den Ersatz der widerrechtlichen Anlage zu planen und das Bewilligungsverfahren durchzuführen. Die Frist von 30 Tagen gemäss Ziff. 2 des Beschlusses des Bezirksrats vom 11. Juni 2008 erscheint für den ordnungsgemässen Vollzug des Rückbaus und die Herstellung des rechtmässigen Zustands unter den gegebenen Umständen nicht zweckmässig. Die Beschwerdeführerin ist aus betriebswirtschaftlichen Gründen darauf angewiesen, das Gartenrestaurant während der Sommermonate ohne erhebliche Beeinträchtigungen wegen Rückbaumassnahmen führen zu können. Es erscheint deshalb gerechtfertigt, die Frist für den Rückbau gemäss Ziff. 2 des Beschlusses des Bezirksrats vom 11. Juni 2008 auf den 31. Oktober 2010 festzusetzen. Die weiteren Bestimmungen des bezirksrätlichen Beschlusses werden nicht geändert.
6. Zusammenfassend ergibt sich, dass die Beschwerde teilweise gutzuheissen ist. Ziff. 2 des Beschlusses des Bezirksrats vom 11. Juni 2008 ist in dem Sinne zu ändern, dass die nicht bewilligte Anlage bis zum 31. Oktober 2010 rückzubauen und der rechtmässige Zustand wieder herzustellen ist. Im Übrigen ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann.
Da die Beschwerdeführerin nur in einem Nebenpunkt obsiegt, sind ihr die Kosten des bundesgerichtlichen Verfahrens gleichwohl aufzuerlegen (Art. 66 Abs. 1 BGG). Es sind keine Parteientschädigungen zuzusprechen (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen. Ziff. 2 des Beschlusses des Bezirksrats vom 11. Juni 2008 lautet neu:
"2. Die X._ AG wird verpflichtet, die nicht bewilligten Bauteile spätestens bis zum 31. Oktober 2010 rückzubauen und den rechtmässigen Zustand wieder herzustellen. Der Abschluss der Rückbauarbeiten ist dem Ressort Planung, Umwelt und Verkehr zur Abnahme zu melden."
2. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtskosten von Fr. 3'000.-- werden der Beschwerdeführerin auferlegt.
4. Es werden keine Parteientschädigungen zugesprochen.
5. Dieses Urteil wird der Beschwerdeführerin, dem Bezirksrat Küssnacht sowie dem Regierungsrat und dem Verwaltungsgericht des Kantons Schwyz, Kammer III, schriftlich mitgeteilt.
Lausanne, 1. Juli 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Haag