Sachverhalt:
A. Das Bolgenareal liegt in der durch die Wintersportzone überlagerten Landwirtschaftszone der Gemeinde Davos. Dort befinden sich verschiedene Übungspisten für Skifahrer und Snowboarder, die Ski- und Snowboardschule, Langlaufloipen, Spazierwege sowie das Restaurant Bolgen Plaza. Dieses wurde 1995 (mit 150 Terrassensitzplätzen) als Ersatzbau für ein in den 1940er Jahren erstelltes Restaurant bewilligt. Am 1. Oktober 2004 wurde eine Erweiterung der Terrasse bewilligt.
B. X._, Eigentümer verschiedener Eigentumswohnungen in der Liegenschaft Skistrasse 24 in Davos-Dorf, beschwerte sich über die Lärmbelästigung auf dem Bolgenareal. In einem Vergleich vom Mai 2007 einigte er sich mit der Y._ AG und dem Kleinen Landrat der Gemeinde Davos auf die vom Büro Tuffli & Partner AG, Chur, im Bericht "Bolgenareal - Reduktion Lärmemissionen Restaurant/Veranstaltungen" vom 17. April 2007 vorgeschlagenen Massnahmen.
C. Am 11. April 2008 reichte die Y._ AG ein Gesuch für den Umbau und die Erweiterung des Restaurants Bolgen Plaza ein. Gegenstand des Baugesuchs sind die Erweiterung der Küche, der Einbau zusätzlicher Toiletten, der Umbau bestehender Abstellräume in Garderoben sowie der Neubau eines Containerunterstandes im Nordosten. Dieser soll 25 m x 5 m messen und ist freistehend, 13 m nordöstlich des Hauptgebäudes, geplant.
Am 3. März 2009 folgte ein nachträgliches Baugesuch für die Erweiterung der Aussenterrasse (sog. Winterterrasse), die bereits ohne Bewilligung erstellt worden war. Die bisher bewilligte Aussenterrasse soll um 489 m2 erweitert werden.
Gegen beide Bauvorhaben erhob X._ Einsprache. Er machte geltend, das bestehende Restaurant sei weder zonenkonform noch standortgebunden und dürfe auch aufgrund der Lärmsituation nicht geändert oder erweitert werden. Er beanstandete, dass die 2007 vereinbarten Immissionsschutzmassnahmen nicht vollzogen und die zulässigen Lärmwerte schon im Normalbetrieb häufig und massiv überschritten würden.
Am 20. Oktober 2010 erteilte das kantonale Amt für Raumentwicklung (ARE/GR) für beide Vorhaben die Ausnahmebewilligung für Bauten ausserhalb der Bauzone (BAB-Bewilligung) unter zahlreichen Lärmschutzauflagen und wies die Einsprachen ab. U.a. wurden die Öffnungszeiten des Restaurants (mit Ausnahme von seltenen Ereignissen wie Grossveranstaltungen nationaler oder internationaler Bedeutung) auf 23.00 Uhr beschränkt. Die gesamte Terrasse (Sommer- und Winterterrasse) ist gegen die benachbarten Wohnhäuser hin mit Lärmschutzwänden einzuwanden. Für die Musikerzeugung auf der Terrasse und im Restaurantinnern wurden Kurzzeitmittelungspegel vorgeschrieben, die an den Sensoren der dort installierten Schallpegelbegrenzer nicht überschritten werden dürfen.
Am 23. November 2010 erteilte der Kleine Landrat der Gemeinde Davos die Baubewilligung und wies die Einsprachen ab.
D. Dagegen erhob X._ am 11. Januar 2011 Beschwerde an das Verwaltungsgericht des Kantons Graubünden. Dieses führte am 29. Juni 2011 einen Augenschein durch. Am 5. Juli 2011 wies es die Beschwerde ab.
E. Gegen diesen Entscheid hat X._ am 1. November 2011 Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht erhoben. Er beantragt, der angefochtene Entscheid, die Baubewilligung mit Einspracheentscheid des Kleinen Landrates Landschaft Davos Gemeinde vom 23. November 2010 und die BAB-Bewilligung mit Einspracheentscheid des ARE/GR vom 20. Oktober 2010 seien vollumfänglich aufzuheben. Eventuell sei die Sache zur Neubeurteilung und zur rechtsgenüglichen Begründung an das Verwaltungsgericht zurückzuweisen.
F. Der Kleine Landrat der Gemeinde Davos und das ARE/GR beantragen, die Beschwerde sei abzuweisen. Die Y._ AG und das Verwaltungsgericht schliessen auf Abweisung der Beschwerde, soweit darauf einzutreten sei.
Das Bundesamt für Raumentwicklung (ARE) beantragt die Gutheissung der Beschwerde. Es kommt in seiner Stellungnahme zum Ergebnis, schon das bestehende Restaurant Bolgen Plaza sei nicht auf einen Standort ausserhalb der Bauzone angewiesen; aus diesem Grund könne es auch nicht im nachgesuchten Umfang erweitert werden.
G. Im weiteren Schriftenwechsel hielten die Beteiligten an ihren Anträgen fest.

Die Beschwerdegegnerin beantragte am 20. April 2012, das Verfahren sei bis zum 30. Juni 2012 zu sistieren; zu diesem Zeitpunkt werde sie entscheiden, ob im Hinblick auf die Kandidatur von Graubünden für die olympischen Winterspiele 2022 und die damit zusammenhängende Planung eines Schneesport-Wettkampf-Zentrums eine Verschiebung der geplanten Bauarbeiten in Erwägung zu ziehen sei.
H. Am 25. November 2011 wurde das Gesuch des Beschwerdeführers um Gewährung der aufschiebenden Wirkung abgewiesen.
Erwägungen:
1. Da die Beschwerdegegnerin die ihr gesetzte Frist zur allfälligen Stellungnahme bis 6. September 2012 verstreichen liess, ist davon auszugehen, dass sie an ihrem Bauvorhaben festhält, die Beschwerde somit nicht gegenstandslos geworden ist.
Da alle Sachurteilsvoraussetzungen vorliegen, ist auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten einzutreten.
2. Die umstrittenen Änderungen und Erweiterungen des Restaurants wurden vom ARE/GR gestützt auf Art. 24 RPG bewilligt. Diese Bestimmung setzt voraus, dass der Zweck der Bauten und Anlagen einen Standort ausserhalb der Bauzonen erfordert (lit. a) und keine überwiegenden Interessen entgegenstehen (lit. b).
2.1 Das ARE/GR und das Verwaltungsgericht gingen davon aus, die Standortgebundenheit des Restaurants Bolgen könne nicht in Frage gestellt werden, da es im Jahr 1995 unter dem Titel der Standortgebundenheit bewilligt und unter dem gleichen Titel 2004 erweitert worden sei. Daraus folge auch die Standortgebundenheit von Bauten und Anlagen, die aus technischen oder betriebswirtschaftlichen Gründen für den standortgebundenen Restaurantbetrieb am vorgesehenen Ort und in der geplanten Dimension notwendig seien.
2.2 Dagegen machen der Beschwerdeführer und das ARE zu Recht geltend, dass die Standortkonformität nicht nur bei der erstmaligen Bewilligung einer zonenfremden Baute oder Anlage ausserhalb der Bauzone zu prüfen ist, sondern auch bei jeder späteren Änderung oder Erweiterung. Die Rechtskraft der früher erteilten Bewilligungen erfasst nur die bewilligte Anlage selbst. Ist die Standortgebundenheit zu verneinen, führt dies allerdings nur zur Verweigerung des Änderungsgesuchs und nicht zur Beseitigung der rechtskräftig bewilligten bestehenden Baute oder Anlage (Urteil 1C_328/2010 vom 7. März 2011, in: URP 2011 S. 209, E. 3.3 mit Hinweis).
2.3 Soweit die Beschwerdegegner geltend machen, die Standortgebundenheit des Restaurants sei vom Bundesgericht bereits im Beschwerdeverfahren gegen die ursprüngliche Bewilligung 1995 geprüft worden, trifft dies nicht zu: Im Verfahren 1A.111/1996 waren ausschliesslich verfahrensrechtliche Fragen streitig; nur diese wurden im Urteil vom 1. November 1996 beurteilt.
3. An die Standortgebundenheit im Sinne von Art. 24 lit. a RPG sind strenge Anforderungen zu stellen, um der Zersiedelung der Landschaft entgegenzuwirken (<ref-ruling> E. 4a S. 255 f. mit Hinweis). Sie ist nach ständiger bundesgerichtlicher Praxis zu bejahen, wenn eine Anlage aus technischen oder betriebswirtschaftlichen Gründen oder wegen der Bodenbeschaffenheit auf einen Standort ausserhalb der Bauzone angewiesen ist, oder wenn ein Werk aus bestimmten Gründen in einer Bauzone ausgeschlossen ist. Dabei genügt eine relative Standortgebundenheit: Es ist nicht erforderlich, dass überhaupt kein anderer Standort in Betracht fällt; es müssen jedoch besonders wichtige und objektive Gründe vorliegen, die den vorgesehenen Standort gegenüber anderen Standorten innerhalb der Bauzone als viel vorteilhafter erscheinen lassen (<ref-ruling> E. 2.1 S. 218 mit Hinweisen).
3.1 Das ARE ist der Auffassung, dass Bergrestaurants in der Landwirtschaftszone standortgebunden sein können, wenn sie nur durch ihren Standort dem angestrebten Zweck dienen könnten und dieser auch nicht auf nutzungsplanerischem Weg erreicht werden könnte. Gemeinsames Merkmal dieser Standorte sei jedoch die relative Entfernung von den Bauzonen. Im vorliegenden Fall lägen die Bauzonen nur ungefähr 100 m in nördlicher, südlicher und westlicher Richtung vom Standort des Restaurants entfernt. So nahe an den Bauzonen sei kein Restaurant auf einen Standort in der Landwirtschaftszone angewiesen. Daran ändere auch nichts, dass sich in unmittelbarer Nähe die Talstationen verschiedener touristischer Anlagen befänden. Es sei für die Wintersportler ohne weiteres zumutbar, den kurzen Weg bis in die Bauzonen zum Besuch eines Restaurants zu gehen. Selbst wenn man ein Restaurant für die Bewirtung der Wintersportler in dieser Lage als standortgebunden betrachten würde, so träfe dies jedenfalls nicht für ein Restaurant zu, das auch abends und bis in die Nacht hinein offen sei.
3.2 Nach Auffassung des Beschwerdeführers kann dem Bolgen Plaza allenfalls Standortgebundenheit zuerkannt werden, soweit es Benutzer der Schneesportanlagen tagsüber und am frühen Abend bewirtet, keinesfalls aber in der Funktion eines für das allgemeine Publikum am Abend und in der Nacht betriebenen Event-, Party- und Nachtlokals. Er verweist auf die Internetseite des Bolgen Plaza, wo das Restaurant als "Ort für Party, gutes Essen und super Stimmung" angepriesen werde, "um fein zu dinieren oder um abends an der Party zu feiern", als Ort für "Party-Stimmung und Firmen-Feste", mit durchgehend warmer Küche bis 22 Uhr, mit 140 bis 210 Sitzplätzen im Innern und zwischen 200 und 300 bedienten Plätzen auf der Terrasse. Für den Ausgang am Abend und in der Nacht seien die Gastrobetriebe innerhalb der Bauzonen von Davos bestimmt. Dort sei es auch für die Polizei einfacher, Kontrollgänge durchzuführen und das oft alkoholisierte und lärmende Publikum in die Schranken zu weisen.
3.3 Die Beschwerdegegnerin und das ARE/GR weisen darauf hin, dass das ursprüngliche Bolgenrestaurant neben dem ersten Bügelskilift der Welt von 1934 errichtet worden sei. Das Bolgenareal sei somit die Wiege des Wintersports und sei auch heute noch das wichtigste Schneesportzentrum im Talgrund von Davos. Dazu gehöre zwingend auch ein Restaurationsbetrieb, wo sich die Gäste verpflegen und unterhalten könnten. Betriebswirtschaftlich mache nur ein Restaurant in unmittelbarer Nähe zu den Schneesportlern, Langläufern und Fussgängern Sinn.
Vom Restaurant aus sei die Piste beim Bolgen-Skilift gut überblickbar. Auch die Anfängerpiste für erste Wintersporterfahrungen bei der Zweiersesselbahn Carjöl, der Übungslift Geissloch und das Übungsgelände der Schweizerischen Schneesportschule Davos mit der Kinderskischule befänden sich am Bolgenhang. So könnten Eltern ihre Kinder beim Skifahren vom Bolgenrestaurant aus überwachen, weshalb das Restaurant auf seinen Standort am Ende der Piste angewiesen sei.
Der Bolgenhang samt dazugehörigem Restaurant sei ferner ein Mekka der Snowboarder. Hier befinde sich eine Halfpipe, die auch für Anlässe von Weltrang benutzt werde, beispielsweise für den "O'Neill Evolution Snowboard-Contest". Die Halfpipe am Bolgen sei während der Saison an vier Abenden der Woche beleuchtet. Das Bolgenrestaurant sei daher auch als Treffpunkt für Snowboardbegeisterte auf seinen Standort angewiesen.
Vielen Gästen, v.a. Familien mit Kleinkindern und älteren Gästen, könne es nicht zugemutet werden, ein Restaurant in der Bauzone aufzusuchen: Die Gastrobetriebe im Dorf befänden sich alle in einer Entfernung von weit über 100 m. Hierfür müssten zuerst das weiträumige Parkfeld der Jakobshornbahn mit Hunderten von Fahrzeugen überwunden und z.T. viel befahrene, oft schneebedeckte oder vereiste Strassen in Anspruch genommen werden.
3.4 Nach der bundesgerichtlichen Rechtsprechung kann ein Bergrestaurant, das aus betriebswirtschaftlichen Gründen auf den Standort ausserhalb der Bauzonen angewiesen ist, unter Umständen als standortgebunden anerkannt werden (<ref-ruling> E. 2.2 S. 218 f. mit Hinweis). Dagegen verneinte das Bundesgericht im Urteil 1C_328/ 2010 vom 7. März 2011 E. 3.3 die Standortgebundenheit eines Hotelbetriebs am Uetliberg: Angesichts der Nähe des Betriebs zur Stadt Zürich sowie zu den angrenzenden Gemeinden und dank der nahe liegenden S-Bahn-Haltestelle Uetliberg bestehe keine Notwendigkeit für die Schaffung von Übernachtungsmöglichkeiten ausserhalb der Bauzone.
Der streitige Restaurantbetrieb befindet sich nur ca. 100 m von den Bauzonen von Davos entfernt und ist damit kein typisches Berg- oder Ausflugslokal. Andererseits besteht, wie die Beschwerdegegnerin und das ARE/GR dargelegt haben, durchaus ein Bedürfnis für einen Restaurationsbetrieb in unmittelbarer Nähe der Skipisten und -schulen, vor allem für Eltern, die ihre Kinder am Übungshang beaufsichtigen, und für Snowboarder, die sich in der Talstation verpflegen, ausruhen oder treffen wollen, ohne das Bolgenareal in Richtung Dorf zu verlassen. Ob dieses Bedürfnis genügt, um die Standortgebundenheit des bestehenden Restaurants zu begründen, kann letztlich offen bleiben, weil jedenfalls die Standortgebundenheit der geplanten Erweiterungen zu verneinen ist.
3.5 Wie der Beschwerdeführer zu Recht geltend macht, genügt für die skizzierten Zwecke ein Restaurant mit beschränktem Platz- und Verpflegungsangebot während der Öffnungszeiten der Schneesportanlagen. Personen, die am Abend und in der Nacht essen oder feiern möchten, können hierfür die Gastronomiebetriebe in den Bauzonen von Davos aufsuchen.
Bereits die bestehenden, rechtskräftig bewilligten Bauten und Anlagen des Restaurants Bolgen Plaza sind grosszügig dimensioniert: Das Hauptgebäude weist ein Untergeschoss von über 500 m2 und ein Obergeschoss von über 300 m2 auf und verfügt über grosszügige Terrassenanlagen: 1995 wurde eine Terrasse mit 150 Sitzplätzen bewilligt, die 2004 bereits erweitert wurde. Diese bestehende Bausubstanz ist für ein Restaurant, das lediglich der Bewirtung von Wintersportlern bzw. Begleitpersonen während der Öffnungszeiten der Wintersportanlagen dient, mehr als ausreichend.
3.5.1 Eine nochmalige Erweiterung der Terrasse um rund 500 m2 kann daher nicht als standortgebunden erachtet werden.
3.5.2 Gleiches gilt für den freistehenden Container-Unterstand von 25 m Länge und 5 m Breite: Dieser soll dreigeteilt als Lager für Eventmaterial und für einen Quad mit Anhänger genutzt werden sowie der Abfallentsorgung (Karton, Glas etc.) dienen. Es ist dem Betreiber des Restaurants jedoch zuzumuten, das Material für besondere Anlässe ("Events") wie auch den Quad mit Anhänger in der benachbarten Bauzone unterzubringen, sofern die bestehenden Anlagen hierfür nicht ausreichen. Für die Lagerung der Abfälle muss Raum innerhalb der bestehenden, rechtskräftig bewilligten Bauten und Anlagen geschaffen werden; notfalls müssen hierfür andere Räume oder Anlagen redimensioniert werden.
Gleiches gilt für zusätzliche WC-Anlagen: Auch diese sind innerhalb der bestehenden Bausubstanz unterzubringen.
3.5.3 Schliesslich erscheint auch der Ausbau der Küche nicht zwingend geboten, wenn das Restaurant nur am Tage zur Verpflegung von Wintersportlern und Begleitpersonen bestimmt ist. Das Amt für Lebensmittelsicherheit und Tiergesundheit (ALT) hat in seinem Bericht vom 15. Januar 2007 verlangt, dass die Produktions- und Lagerbereiche in einem angemessenen Verhältnis zum Angebot stehen. Wird das Angebot an die zur Verfügung stehenden Räumlichkeiten angepasst und wo nötig reduziert, ist diesen Anforderungen Genüge getan.
3.5.4 Die Erweiterung der Mitarbeitergarderoben erscheint per se unbedenklich. Allerdings geht sie zu Lasten des bestehenden Lagerraums, der möglicherweise benötigt wird, um den vom ALT verlangten Abfallsammelraum zu schaffen.
4. Nach dem Gesagten ist die Standortgebundenheit des Bauvorhabens i.S.v. Art. 24 lit. a RPG zu verneinen. Eine andere Bewilligungsgrundlage wird nicht geltend gemacht und ist auch nicht ersichtlich. Unter diesen Umständen kann offenbleiben, ob die Baugesuche mit den Vorschriften über den Lärmschutz vereinbar sind. Es erübrigt sich auch, auf die formellen Rügen des Beschwerdeführers einzugehen.
In Gutheissung der Beschwerde sind somit die streitigen Baugesuche abzuweisen. Aus Gründen der Rechtssicherheit rechtfertigt es sich, neben dem Entscheid des Verwaltungsgerichts auch die erstinstanzlichen Bewilligungen und Einspracheentscheide mit aufzuheben.
Da die Terrasse bereits ohne Bewilligung erweitert worden ist, wird es Sache der zuständigen Behörden sein, die notwendigen Wiederherstellungsmassnahmen zu treffen. Sie werden auch zu prüfen haben, ob und inwieweit Anpassungen der bestehenden Bewilligungen (insbesondere Betriebszeiten) notwendig sind.
Bei diesem Ausgang des Verfahrens wird die Beschwerdegegnerin kosten- und entschädigungspflichtig, und zwar sowohl für das bundesgerichtliche Verfahren (Art. 66 und 68 BGG) als auch für die vorinstanzlichen Verfahren (Art. 67 und 68 Abs. 5 BGG). Dem Beschwerdeführer dürfen keine Kosten auferlegt werden, auch nicht für das Einspracheverfahren (vgl. Baubewilligung des Kleinen Landrats E. 3 S. 3).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der Entscheid des Verwaltungsgerichts des Kantons Graubünden, 5. Kammer, vom 5. Juli 2011, die Baubewilligung mit Einspracheentscheid des Kleinen Landrates Landschaft Davos Gemeinde vom 23. November 2010 und die BAB-Bewilligung mit Einspracheentscheid des ARE/GR vom 20. Oktober 2010 werden aufgehoben. Die Baugesuche vom 11. April 2008 (BAB-Nr. 2008-0537; Baugesuchs-Nr. 08076) und vom 3. März 2009 (BAB-Nr. 2009-0301; Baugesuchs-Nr. 09048) werden abgewiesen.
2. Die Gerichtskosten von Fr. 4'000.-- für das bundesgerichtliche Verfahren und von Fr. 4'364.-- für das vorinstanzliche Verfahren werden der Y._ AG auferlegt.
3. Die Y._ AG hat den Beschwerdeführer für das vorinstanzliche Verfahren mit Fr. 9'040.-- und für das bundesgerichtliche Verfahren mit Fr. 4'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, der Gemeinde Davos, dem Amt für Raumentwicklung Graubünden, dem Verwaltungsgericht des Kantons Graubünden, 5. Kammer, und dem Bundesamt für Raumentwicklung schriftlich mitgeteilt.
Lausanne, 20. September 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Die Gerichtsschreiberin: Gerber