Sachverhalt: A. X._ ist seit 2006 Eigentümer der im abgelegenen Gebiet Valdarsch der Gemeinde Flums gelegenen Parzelle Nr. 988. Diese befindet sich gemäss kommunalem Zonenplan in der Landwirtschaftszone, nach dem kantonalen Richtplan im ausgeschiedenen Bereich "Lebensraum bedrohter Arten - Schongebiet". Das Grundstück ist mit einem Wohnhaus, einem Nebengebäude, einer Remise und einem Stall überbaut. Knapp ein Drittel der Fläche von rund 5,5 ha ist bewaldet. B. Der Eigentümer ersuchte 2007 um Bewilligung für die Abparzellierung des Wohnhauses. Anfangs 2008 bewilligte das Landwirtschaftsamt die Abparzellierung des 966 m2 grossen Grundstücks Nr. 3603, mit der Begründung, das Wohnhaus und das Nebengebäude gehörten zu keinem landwirtschaftlichen Gewerbe. C. 2007 reichte der Grundeigentümer ein Gesuch für die Sanierung des Wohnhauses und für den Abbruch der ehemals ohne Baubewilligung erstellten Remise ein. Die Sanierung sollte die Isolation des Gebäudes mit einer neuen Schalung, neue Fenster, eine neue Schleppgaube, die Neueindeckung des Daches und einen gewichtigen Ausbau des Hauses umfassen. Das St. Gallische Amt für Raumentwicklung (heute Amt für Raumentwicklung und Geoinformation, AREG) erteilte mit raumplanungsrechtlicher Teilverfügung vom 27. September 2007 seine Zustimmung, unter Hinweis darauf, dass der Pächter des Grundstücks Nr. 988 den entsprechenden Landwirtschaftsbetrieb von seinem eigenen Hof aus bewirtschaften müsse und dass das Wohnhaus nicht mehr für die Landwirtschaft gebraucht werde, es sich diesbezüglich um ein zonenfremdes Vorhaben gemäss Art. 24d Abs. 1 RPG handle und insbesondere eine Auskernung der Gebäudehülle ausgeschlossen sei. Das St. Gallische Amt für Umweltschutz (heute Amt für Umweltschutz und Energie, AFU) verweigerte die landwirtschaftliche Entsorgung der häuslichen Abwässer, worauf der Grundeigentümer ein Baugesuch für eine Abwassereinzelreinigungsanlage einreichte. Der Gemeinderat Flums erteilte hierauf am 10. Januar 2008 die Baubewilligung und ordnete den Grundbucheintrag "Beschränkung der baulichen Nutzungserweiterung nach Raumplanungsverordnung" an. D. Der Gemeinderat stellte in der Folge fest, dass der Grundeigentümer am Stall ohne Bewilligung bewilligungspflichtige Änderungen vorgenommen hatte, und verfügte am 4. Juli 2008 einen Baustopp. Am 19. Januar 2009 erliess er einen weitern Baustopp wegen nicht bewilligter Arbeiten am Wohnhaus. X._ reichte sowohl für den Stall als auch für das Wohnhaus nachträgliche Baugesuche ein. Dagegen gingen Einsprachen ein: von Seiten des ehemaligen Eigentümers des Hofes, Y._, in Bezug auf beide nachträglichen Baugesuche, von Seiten Pro Natura St. Gallen-Appenzell in Bezug auf Bachumlegung, Feuerweiher, neue Teiche und Waldterrassierung im Zusammenhang mit dem Stallumbau. Das AREG verweigerte seine Zustimmung mit zwei separaten raumplanungsrechtlichen Teilverfügungen vom 11. Juni 2009 und lud die Baubehörde ein, die Wiederherstellung des rechtmässigen Zustands anzuordnen. Der Gemeinderat hiess die Einsprachen am 29. Juni 2009 in zwei separaten Entscheiden (betreffend das Wohnhaus und betreffend den Stall) gut. Unter Hinweis auf die raumplanungsrechtlichen Teilverfügungen des AREG wies er die nachträglichen Baugesuche für die Sanierung des Stalls und für den Ersatzbau des Wohnhauses ab. Mangels anderer Möglichkeiten ordnete er den ersatzlosen Abbruch des ausgehöhlten Wohnhauses und des veränderten Stalls an. E. Gegen den Bauabschlag und die Abbruchverfügung rekurrierte X._ erfolglos beim Baudepartement des Kantons St. Gallen. Gegen dessen Rekursabweisung vom 7. Juli 2010 gelangte X._ an das Verwaltungsgericht des Kantons St. Gallen. Mit Urteil vom 16. März 2011 erkannte dieses: "1. Die Beschwerde wird teilweise gutgeheissen, indem die Ziff. 1 des Entscheids der Vorinstanz vom 7. Juli 2010 insoweit aufgehoben wird, als damit der Abbruch des Stalls Vers.-Nr. 60 bestätigt wurde. Dementsprechend wird auch Ziff. 3 des Beschlusses des Gemeinderats Flums vom 29. Juni 2009 betreffend Stallumbau aufgehoben. Im übrigen wird die Beschwerde abgewiesen. 2. Zur Sicherung des Verbots, den Stall Vers.-Nr. 60 zonenwidrig zu nutzen, insbesondere für die hobbymässige Tierhaltung, wird das Grundbuchamt Flums angewiesen, zu Lasten des Grundstücks Nr. 988 folgende öffentlich-rechtliche Eigentumsbeschränkung einzutragen: 'Verbot für zonenwidrige Nutzung nach RPV.'" ..." F. Gegen diesen Entscheid des Verwaltungsgerichts hat X._ beim Bundesgericht am 21. April 2011 Beschwerde in öffentlich-rechtlichen Angelegenheiten erhoben. Er stellt folgende Anträge; "Das Urteil des Verwaltungsgerichts (...) sei (betreffend Dispositiv-Ziffer 1) aufzuheben, soweit die Beschwerde abgewiesen worden ist. Die Ziff. 2, 3 und 4 des Urteils (...) seien aufzuheben. Die Sache sei im Umfang der Aufhebung zu neuer Entscheidung an die Vorinstanz zurückzuweisen. Eventualiter seien das angepasste Baugesuch betreffend GS Nr. 3603 und das Baugesuch betreffend GS Nr. 988, subeventualiter unter Auflagen, zu bewilligen. Subsubeventualiter sei dem Beschwerdeführer unter angemessener Fristansetzung - ohne Abbruch des Wohnhauses innert angesetzter Frist - die Veräusserung des Grundstücks Nr. 3603 zu landwirtschaftlicher Nutzung an einen Landwirtschaftsbetrieb zu ermöglichen und ein Nutzungsverbot für nichtlandwirtschaftliche Zwecke nach Art. 16b RPG zu verfügen. Auf die Begründung im Einzelnen ist in den Erwägungen einzugehen. G. Pro Natura St. Gallen-Appenzell beantragt die Abweisung der Beschwerde in Bezug auf die Teilprojekte Zuschüttung des Feuerweihers, Erstellung neuer Teiche und Bachumlegungen. Das Verwaltungsgericht und das Baudepartement verweisen auf ihre Entscheide und beantragen Abweisung der Beschwerde. Der Gemeinderat Flums verzichtet auf eine Vernehmlassung und ersucht um Bestätigung des Verwaltungsgerichtsentscheids. Das Bundesamt für Raumentwicklung ARE hat auf eine Stellungnahme verzichtet. Am 13. Juli 2011 äusserte sich Y._ unaufgefordert zur Sache. Am 7. Oktober 2011 verfügte die Gemeinde Flums gegenüber dem Beschwerdeführer, die Pferdehaltung umgehend einzustellen und die Pferde vom Grundstück Nr. 988 wegzuschaffen, die nachträglichen baulichen Veränderungen unverzüglich zu entfernen und während der Hängigkeit des bundesgerichtlichen Verfahrens jegliche Nutzung der Liegenschaft sowie vom Wohnhaus und Stall zu unterlassen. H. Mit einer weitern Eingabe vom 23. Dezember 2011 hat der Beschwerdeführer darauf hingewiesen, dass die Eigenössischen Räte Art. 24c Abs. 2-5 RPG neu gefasst hätten (vgl. Referendumsvorlage in BBl 2012, 59). Diese Gesetzesänderung solle sicherstellen, dass die zur Gewährleistung von zeitgemässen Wohnverhältnissen sinnvollen baulichen Massnahmen einschliesslich einen allfälligen Wiederaufbau möglich sind. I. Mit Verfügung vom 24. Mai 2011 ist der Beschwerde hinsichtlich der Abbruchverfügungen die aufschiebende Wirkung zuerkannt worden.