Sachverhalt:
A. X._ betreibt auf der in der Landwirtschaftszone gelegenen Parzelle Nr. 1418 in Goldach einen Schweinemaststall. Er war in sei-ner ursprünglichen Form vor rund 45 Jahren gebaut worden. Im Jahr 2003 wurde er umgebaut und stark erweitert. Nach der Baubewilligung vom 28. März 2003 enthält der Stall Plätze für 480 Mastschweine und 150 Ferkel.
Der Gemeinderat Goldach stellte am 8. Juli 2008 fest, dass X._ die Zahl der gehaltenen Mastschweine auf 800 erhöht und damit gegen die Baubewilligung vom 28. März 2003 verstossen hatte. Er verfügte deshalb, dass dieser ab sofort keine weiteren Schweine zur Haltung auf dem Grundstück Nr. 1418 annehmen und abgehende Tiere nicht ersetzen dürfe, bis der Bestand auf die maximal zulässige Tierzahl reduziert sei. Weiter forderte er X._ auf, innert 30 Tagen ein ordentliches Baugesuch zur Erhöhung des Tierbestands auf die angestrebte Anzahl einzureichen oder innert derselben Frist den Tierbestand dauerhaft auf die im Jahre 2003 bewilligte Zahl zu reduzieren.
X._ reichte in der Folge ein Baugesuch um Erhöhung des Tierbestands ein. Der Gemeinderat Goldach stellte am 7. Juli 2009 fest, dass dieses Gesuch unvollständig sei und eine Bewilligung ohnehin nicht erteilt werden könne. Weiter hielt der Gemeinderat fest, dass ein ebenfalls eingereichtes Gesuch um Zuteilung der Parzelle Nr. 1418 in eine Intensiv-Landwirtschaftszone erst im Rahmen der Ortsplanungsrevision geprüft werden könne. Da eine Legalisierung des erhöhten Tierbestands in absehbarer Frist nicht möglich sei, ordnete der Gemeinderat an, den Tierbestand bis am 15. September 2009 auf 480 Mastschweine und 150 Ferkel zu reduzieren. Dieser Entscheid wurde rechtskräftig.
Am 15. Januar 2010 reichte X._ ein neues Baugesuch um Erhöhung des Tierbestands auf 734 Mastplätze ein. Das Amt für Raumentwicklung und Geoinformation des Kantons St. Gallen verweigerte am 5. Mai 2010 die Zustimmung zum erwähnten Bauvorhaben. Der Gemeinderat Goldach wies deshalb das Gesuch am 1. Juni 2010 ab. Zugleich bestätigte er das am 7. Juli 2009 verfügte Annahmeverbot neuer Tiere sowie seine Anordnung zur Reduktion des Tierbestands. Zugleich setzte er X._ eine Frist bis zum 30. Juli 2010, um eine allfällige Ausnahmebewilligung für den höheren Tierbestand zu beantragen, bis eine Umzonung seiner Parzelle in die Intensiv-Landwirtschaftszone möglich sei. Die gegen diese Verfügung erhobenen kantonalen Rechtsmittel blieben ohne Erfolg.
B. X._ erhebt gegen den in dieser Sache zuletzt ergangenen Entscheid des Verwaltungsgerichts des Kantons St. Gallen vom 17. Januar 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten. Er beantragt die Aufhebung des erwähnten Entscheids, eventualiter zusätzlich die Rückweisung der Sache an die kantonalen Instanzen zur neuen Beurteilung.
Das Baudepartement des Kantons St. Gallen und das Verwaltungsgericht ersuchen um Abweisung der Beschwerde. Das ebenfalls zur Vernehmlassung eingeladene Bundesamt für Raumentwicklung hat auf eine Stellungnahme verzichtet. Die Gemeinde Goldach hat sich nicht vernehmen lassen. Der Beschwerdeführer hält in einer weiteren Eingabe an seinem Rechtsbegehren fest.
Erwägungen:
1. Der Beschwerdeführer ersucht allein um Aufhebung des angefochtenen Entscheids, stellt hingegen keinen Antrag auf Erteilung der Bewilligung seines Baugesuchs vom 21. Januar 2010. Das entspricht der von ihm vertretenen Auffassung, dass die vorgenommene Erhöhung des Tierbestands gar keiner baurechtlichen Bewilligung bedürfe (vgl. E. 3-6). Lediglich für den Fall, dass eine Bewilligungspflicht bejaht werden sollte, beantragt der Beschwerdeführer die Rückweisung der Sache an die Vorinstanz, damit sie die Bewilligungsfähigkeit des Vorhabens unter weiteren Titeln prüfe. Aus der Begründung des Rechtsmittels geht damit zweifelsfrei hervor, was der Beschwerdeführer damit erreichen will. Ein Antrag in der Sache ist unter diesen Umständen nicht erforderlich (vgl. BGE 133 II 409 E. 1.4 S. 414 f. mit Hinweisen).
Auch die übrigen Voraussetzungen zur Beschwerdeführung sind erfüllt. Auf das Rechtsmittel ist daher einzutreten.
2. Der Beschwerdeführer wirft der Vorinstanz in verschiedener Hinsicht eine Verletzung seines verfassungsrechtlichen Gehörsanspruchs (Art. 29 Abs. 2 BV) vor. Sie sei auf seine Rügen, das Baudepartement habe den Sachverhalt ungenügend festgestellt, die räumlichen Auswirkungen der neuen Form der Tierhaltung nicht genügend berücksichtigt und die rechtliche Bedeutung der Baubewilligungen von 1967 und 1989 nicht hinreichend berücksichtigt, nicht näher eingegangen. Diese Kritik ist unbegründet, denn Art. 29 Abs. 2 BV verlangt nicht, dass sich die entscheidende Behörde mit allen vorgebrachten Einwänden einlässlich auseinandersetzt und jedes einzelne Vorbringen ausdrücklich widerlegt. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Es genügt, wenn die Behörde kurz die Überlegungen darlegt, von denen sie sich hat leiten lassen, und sich der Betroffene über die Tragweite des Entscheids Rechenschaft geben kann (BGE 136 I 229 E. 5.2 S. 236 mit Hinweisen). Der angefochtene Entscheid erfüllt diese Anforderungen ohne weiteres.
3. 3.1 Streitgegenstand bildet die Anzahl der Tiere, die der Beschwerdeführer gemäss Art. 16a Abs. 2 RPG (SR 700) in seinem Stall halten darf. Nach dieser Bestimmung sind Bauten und Anlagen, die der inneren Aufstockung eines landwirtschaftlichen Betriebs dienen, zonenkonform. Die Vorinstanz gelangt zum Schluss, dass bei einer Erhöhung der Mastschweinplätze auf 734 der Rahmen der inneren Aufstockung gesprengt werde. Der Stall des Beschwerdeführers sei mit dieser Tierzahl nicht mehr zonenkonform und sein Baugesuch könne deshalb nicht bewilligt werden.
Nach Auffassung des Beschwerdeführers verletzt diese Beurteilung Art. 22 Abs. 1 RPG. Die Erhöhung der Tierzahl sei nach dieser Norm überhaupt nicht bewilligungspflichtig. Insbesondere liege keine Zweckänderung vor, da die räumlichen Auswirkungen der neuen Tierhaltung geringer seien als jene, die bereits 1989 bewilligt wurden. Schliesslich beruft sich der Beschwerdeführer auf die Besitzstandsgarantie, falls bei einer Erhöhung des Tierbestands die Voraussetzungen der inneren Aufstockung nicht mehr erfüllt sein sollten.
Die Baubewilligungspflicht der umstrittenen Erhöhung des Tierbestands ergibt sich nach Auffassung der Vorinstanz bereits aus dem Bundesrecht (Art. 22 Abs. 1 RPG). Sie zieht daher das kantonale Recht, das den Kreis der bewilligungspflichtigen Vorhaben weiter ziehen kann, nicht bei. Der Beschwerdeführer wendet sich gegen die vorinstanzliche Auslegung von Art. 22 Abs. 1 RPG. Er macht geltend, der Stall werde trotz Erhöhung der Tierzahl baulich in keiner Weise verändert; ebenso wenig liege eine bewilligungspflichtige Zweckänderung vor, da der Stall wie bisher der Schweinemast diene. Aus der blossen Veränderung der Produktionsverhältnisse könne nicht auf die Bewilligungspflicht geschlossen werden. Eine solche bestehe nur, wenn sich daraus auch Auswirkungen auf die Planung und Umwelt ergäben.
3.2 Nach Art. 22 Abs. 1 RPG dürfen Bauten und Anlagen nur mit behördlicher Bewilligung errichtet oder geändert werden. Es ist unbestritten, dass der Stall eine bewilligungspflichtige Baute darstellt. Hingegen besteht keine Einigkeit darüber, ob die Erhöhung des Tierbestands eine bewilligungspflichtige Änderung des bestehenden Stalls darstellt, wenn dieser äusserlich nicht verändert wird. Die bundesgerichtliche Rechtsprechung geht davon aus, dass die Verwendung einer bestehenden Baute in der Landwirtschaftszone für einen anderen Nutzungszweck grundsätzlich einer Bewilligung bedarf. Dabei ist es unerheblich, ob mit der Nutzungsänderung bauliche Massnahmen verbunden sind oder nicht. Eine ohne bauliche Vorkehren auskommende Zweckänderung unterliegt der Bewilligungspflicht nur dann nicht, wenn auch der neue Verwendungszweck der in der fraglichen Zone zuzulassenden Nutzung entspricht und sich auf die Änderung hinsichtlich ihrer Auswirkung auf Umwelt und Planung als ausgesprochen geringfügig erweist (BGE 113 Ib 219 E. 4d S. 223 mit Hinweisen). Nach diesem Massstab untersteht auch ein neues Betriebskonzept eines Casino (z.B. durch Erhöhung der Tisch- und Automatenspielplätze) der Baubewilligungspflicht, wenn es eine erhebliche Veränderung der Immissionen (z.B. durch Erhöhung der Besucherzahlen) zur Folge hat (vgl. Urteil 1A.216/2003 vom 16. März 2004 E. 3, in: URP 2004 S. 349).
3.3 Die umstrittene Erhöhung des Tierbestands bezweckt, ein neues Betriebskonzept zu verwirklichen, bei dem der Schwerpunkt verstärkt bei der sog. Vormast anstelle der Ausmast liegt. Auch wenn der Stall damit weiterhin der Schweinemast dient, verändert sich - raumplanungsrechtlich betrachtet - gleichwohl sein Nutzungszweck. Die gegenteilige Auffassung des Beschwerdeführers verkennt, dass Art. 16a Abs. 2 RPG und Art. 36 RPV (SR 700.1) die innere Aufstockung im Bereich der Tierhaltung sehr eng umschreiben. Eine solche liegt nur vor, wenn Deckungsbeitrag und Trockensubstanzpotenzial des bodenabhängigen und bodenunabhängigen Betriebszweigs in einem bestimmten Verhältnis zueinander stehen. Ob diese Voraussetzung erfüllt ist, hängt vom gewählten Betriebskonzept ab. Dessen Änderung stellt deshalb - jedenfalls solange sie nicht von völlig untergeordneter Bedeutung ist - auch eine Änderung des Nutzungszwecks dar. Die umstrittene Erhöhung des Tierbestands um mehr als hundert Stück ist nicht bloss untergeordneter Natur, sondern macht rund 16 % des bisherigen Tierbestands aus, und zwar unabhängig davon, dass Tiere der Vormast nicht in jeder Hinsicht mit jenen der Ausmast vergleichbar sind. Unter den gegebenen Umständen bewirkt das neue Konzept der Tierhaltung mit einem deutlich höheren Tierbestand daher eine Nutzungsänderung, die nach der dargestellten Rechtsprechung bewilligungspflichtig ist.
Die dargestellte enge Umschreibung des Nutzungszwecks bei der inneren Aufstockung erklärt sich daraus, dass die Landwirtschaftszone in erster Linie der bodenabhängigen Produktion dient und die bodenunabhängige Bewirtschaftung nur im begrenzten Umfang der inneren Aufstockung zonenkonform ist (vgl. BERNHARD WALDMANN/PETER HÄNNI, Handkommentar zum Raumplanungsgesetz, 2006, N. 15 zu Art. 16a RPG). Wird dieser Rahmen überschritten, fehlt die Zonenkonformität; zonenfremde Nutzungen sind zu untersagen, soweit dafür nicht eine Ausnahmebewilligung nach Art. 24-24d RPG erteilt werden kann (Art. 16b RPG). Der Umfang der inneren Aufstockung erscheint damit bereits aufgrund der gesetzlichen Regelung als raumbedeutsam, denn es gilt sicherzustellen, dass der vom Gesetz gezogene Rahmen der inneren Aufstockung nicht nachträglich überschritten wird. Alle Änderungen, welche den Umfang der inneren Aufstockung berühren, unterliegen daher der Baubewilligungspflicht. Der Beschwerdeführer macht aus diesem Grund zu Unrecht geltend, die kantonalen Vorinstanzen hätten noch besonders nachweisen müssen, dass die begehrte Erhöhung des Tierbestands und die Änderung der Tierhaltung räumliche Auswirkungen hätten. Diese Rechtslage geht bereits aus der Baubewilligung vom 28. März 2003 hervor und war daher für den Beschwerdeführer erkennbar. Diese Bewilligung hält ausdrücklich fest, dass die Verringerung der bodenabhängigen landwirtschaftlichen Produktion bzw. die Erhöhung der Tierzahl oder die Änderung der Tiergattung bewilligungspflichtig seien. Die Vorinstanz hat daher Art. 22 Abs. 1 RPG nicht verletzt, wenn sie das Vorhaben des Beschwerdeführers als baubewilligungspflichtig erklärt.
3.4 Der angefochtene Entscheid legt näher dar, dass die umstrittene Änderung des Betriebskonzepts und Tierbestands die Voraussetzungen der inneren Aufstockung gemäss Art. 36 RPV nicht erfüllt. Zwar sei der Deckungsbeitrag der bodenunabhängigen Produktion kleiner als jener der bodenabhängigen; doch unterschreite das betriebliche Trockensubstanzpotenzial das erforderliche Mass von 50 % des Bedarfs des Tierbestands.
Der Beschwerdeführer behauptet nicht, dass diese Beurteilung unzutreffend sei. Er macht allein geltend, dass sein neues Vorhaben im Vergleich zu den 1989 und 2003 bewilligten Baugesuchen keine zusätzlichen Auswirkungen auf den Raum habe, sondern eher besser abschneide. Diese Argumentation ist unbehelflich. Die Zulässigkeit der inneren Aufstockung beurteilt sich allein nach den von der Vorinstanz herangezogenen Kriterien, und das neue Gesuch erfüllt die dafür geltenden Voraussetzungen offenkundig nicht.
3.5 Nach Auffassung des Beschwerdeführers ist sein Vorhaben bei Verneinung der Zonenkonformität gestützt auf Art. 24c oder Art. 37 RPG zu bewilligen. Er beruft sich auf seinen Besitzstand. Da ihm am 26. September 1989 eine Baubewilligung für eine Sanierung seines Schweinestalls erteilt worden sei, ohne die Zahl der Mastschweineplätze zu begrenzen, dürfe sie jetzt nicht nachträglich begrenzt werden. Jedenfalls könne sich die Bewilligung aus dem Jahre 2003, welche eine Begrenzung des Tierbestands vorsieht, nur auf die damals neu erstellten Bauteile beziehen.
Selbst wenn es zutreffen sollte, dass die Baubewilligung aus dem Jahr 1989 den Tierbestand aus raumplanerischer Sicht nicht begrenzte, wozu der angefochtene Entscheid keine Feststellungen enthält, ergäbe sich daraus kein Recht des Beschwerdeführers, den im Jahr 2003 bewilligten Tierbestand zu erhöhen. Denn aus der angefochtenen Verfügung des Gemeinderats Goldach vom 1. Juni 2010 geht hervor, dass dem Beschwerdeführer im Jahr 2003 eine Erweiterung der Nutzfläche bewilligt wurde, die weit über den nach Art. 24c RPG zulässigen Rahmen hinausging. Der damalige Um- und Ausbau des Stalls konnte daher allein gestützt auf Art. 16a Abs. 2 RPG bewilligt werden. Das hat zur Folge, dass die Anforderungen, die sich aus dieser Norm ergeben, nunmehr einzuhalten sind und kein Raum mehr besteht für die Weitergeltung eines allfälligen - hier nicht näher abgeklärten - Besitzstands.
4. Aus diesen Erwägungen erweist sich die Beschwerde in allen Punkten als unbegründet. Sie ist abzuweisen.
Bei diesem Verfahrensausgang sind die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, der Politischen Gemeinde Goldach, dem Baudepartement und dem Verwaltungsgericht des Kantons St. Gallen sowie dem Bundesamt für Raumentwicklung schriftlich mitgeteilt.
Lausanne, 22. August 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Dold