Sachverhalt:
A. Zum Anwesen "Landegg" gehören unter anderem die Grundstücke Nrn. 5 und 700. Die beiden Grundstücke werden durch die von Grub über Wienacht nach Rorschacherberg führende Strasse, über welche die Grenze zwischen den Kantonen St. Gallen und Appenzell A.Rh. verläuft, voneinander getrennt. Während sich das Grundstück Nr. 700 in der Kurzone auf Gemeindegebiet von Lutzenberg/AR befindet, liegt das Grundstück Nr. 5 in nordöstlicher Richtung auf dem Gemeindegebiet von Eggersriet/SG. Letzteres ist mit dem Gebäude Vers.-Nr. 471 überbaut und gemäss dem Zonenplan der Politischen Gemeinde Eggersriet vom 23. Juni 1993 ebenfalls der Kurzone zugewiesen. Die "Landegg" wurde von 1988 bis 2004 von der Internationalen Baha'i Stiftung als Beherbergungsbetrieb mit Unterkunfts-, Tagungs- und Schulungsräumen genutzt. Seit Oktober 2004 standen die Gebäude leer. Der Kanton St. Gallen beabsichtigt, in den leer stehenden Gebäuden der "Landegg" Asylbewerber unterzubringen. Das Anwesen soll insgesamt rund 150 Personen Platz bieten, wobei das Gebäude Vers.-Nr. 471 maximal 78 Personen aufnehmen kann.
X._ ist Eigentümer des in der Wohn-Gewerbe-Zone von Lutzenberg gelegenen Grundstücks Nr. 710, das sich rund 150-200 m südöstlich der "Landegg" befindet. Mit Schreiben vom 5. März 2009 wandte er sich an die Gemeinderäte von Eggersriet und Lutzenberg und machte geltend, die Umwandlung eines Schulungszentrums in ein Asylbewerberzentrum stelle eine bewilligungspflichtige Zweckänderung dar, weshalb er um Durchführung eines Baubewilligungsverfahrens ersuche.
Der Gemeinderat Eggersriet teilte X._ am 17. März 2009 mit, bei einem Asylbewerberzentrum handle es sich um eine mit dem vormals bestehenden Beherbergungsbetrieb vergleichbare Einrichtung. Das Gebäude Vers.-Nr. 471 in der Gemeinde Eggersriet biete ohne irgendwelche Änderung unmittelbar Platz für bis zu 78 Personen. Das Vorhaben stelle keine bewilligungspflichtige Umnutzung dar und sei in der Kurzone zonenkonform. Der Gemeinderat Lutzenberg stellte mit Beschluss vom 16. März 2009 fest, dass die für das in dieser Gemeinde gelegene Grundstück Nr. 700 beabsichtigte Nutzung eine wesentliche Zweckänderung darstelle und daher bewilligungspflichtig sei.
X._ erhob gegen den Entscheid des Gemeinderats Eggersriet vom 17. März 2009 Rekurs, auf den das Baudepartement des Kantons St. Gallen am 9. Juli 2009 mangels eines schützenswerten Interesses des Rekurrenten nicht eintrat. Eine dagegen gerichtete Beschwerde von X._ wies das Verwaltungsgericht des Kantons St. Gallen mit Urteil vom 3. Dezember 2009 ab, soweit es darauf eintrat. Es verneinte die Rekurslegitimation des Beschwerdeführers in Bezug auf das umstrittene Vorhaben.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 22. Januar 2010 beantragt X._ im Wesentlichen, das Urteil des Verwaltungsgerichts vom 3. Dezember 2009 sei aufzuheben. Es sei festzustellen, dass er zur Anfechtung der Verfügung vom 17. März 2009 legitimiert sei, und das kantonale Sicherheits- und Justizdepartement sei aufzufordern, für den Betrieb des Asylbewerberzentrums ein Baugesuch einzureichen, gegebenenfalls ein Umzonungsgesuch. Eventuell sei die Sache zur materiellen Beurteilung an eine der Vorinstanzen zurückzuweisen.
Das Verwaltungsgericht beantragt, die Beschwerde abzuweisen, soweit darauf eingetreten werden könne. Denselben Antrag stellt das kantonale Sicherheits- und Justizdepartement. Das kantonale Baudepartement verzichtet auf eine Stellungnahme zur Beschwerde.
C. Mit Präsidialverfügung vom 19. Februar 2010 wurde ein Gesuch des Beschwerdeführers um Erlass einer vorsorglichen Massnahme abgewiesen.
Erwägungen:
1. Dem angefochtenen Entscheid liegt ein Antrag des Beschwerdeführers auf Durchführung eines baurechtlichen Verfahrens betreffend die neue Nutzung des in der Kurzone gelegenen Gebäudes als Asylbewerberzentrum zugrunde. Umstritten ist insbesondere die Einsprache- und Rekursberechtigung des Beschwerdeführers. Damit liegt eine Streitigkeit vor, die im Rahmen der Beschwerde in öffentlich-rechtlichen Angelegenheiten zu beurteilen ist (Art. 82 lit. a BGG). Das Verwaltungsgericht hat als letzte kantonale Instanz entschieden (Art. 86 Abs. 1 lit. d BGG).
Der Beschwerdeführer macht geltend, das Verwaltungsgericht habe seine Einsprache- und Rekursberechtigung zu Unrecht verneint und somit seine Parteirechte verletzt. Er beruft sich auf Art. 33 Abs. 3 lit. a RPG (SR 700) sowie die Art. 95 bis 98 und 111 Abs. 1 BGG. Nach Art. 89 BGG ist er zur Beschwerde befugt. Auf die rechtzeitig erhobene Beschwerde ist daher einzutreten.
2. 2.1 Gemäss Art. 33 Abs. 3 lit. a RPG gewährleistet das kantonale Recht gegen Verfügungen betreffend die Raumplanung die Legitimation mindestens im gleichen Umfang wie für die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht. Ferner schreibt Art. 111 BGG die Einheit des Verfahrens vor: Wer zur Beschwerde an das Bundesgericht berechtigt ist, muss sich am Verfahren vor allen kantonalen Vorinstanzen als Partei beteiligen können (Art. 111 Abs. 1 BGG); die unmittelbare Vorinstanz des Bundesgerichts muss grundsätzlich mindestens die Rügen nach den Art. 95-98 BGG prüfen können (Art. 111 Abs. 3 BGG). Aus diesen Bestimmungen ergibt sich, dass die kantonalen Behörden die Rechtsmittelbefugnis nicht enger fassen dürfen, als dies für die Beschwerde an das Bundesgericht vorgesehen ist (vgl. Urteil des Bundesgerichts 1C_379/2008 vom 12. Januar 2009 E. 3.2 mit Hinweisen). Zur Beurteilung, ob das Verwaltungsgericht die Beschwerdeführer vom Rechtsmittel ausschliessen durfte, ist im vorliegenden Fall die Beschwerdeberechtigung nach den Grundsätzen von Art. 89 Abs. 1 BGG zu prüfen. Ist der Beschwerdeführer befugt, gegen einen Sachentscheid über das umstrittene Vorhaben auf Parzelle Nr. 5 beim Bundesgericht Beschwerde zu führen, so muss das Baudepartement auf sein Rechtsmittel eintreten.
2.2 Zur Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht ist gemäss Art. 89 Abs. 1 BGG berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat (lit. a), durch den angefochtenen Entscheid besonders berührt ist (lit. b) und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung besitzt (lit. c). Verlangt ist somit neben der formellen Beschwer, dass der Beschwerdeführer über eine spezifische Beziehungsnähe zur Streitsache verfügt und einen praktischen Nutzen aus der Aufhebung oder Änderung des angefochtenen Entscheids zieht. Die Nähe der Beziehung zum Streitgegenstand muss bei Bauprojekten insbesondere in räumlicher Hinsicht gegeben sein. Ein schutzwürdiges Interesse liegt vor, wenn die tatsächliche oder rechtliche Situation des Beschwerdeführers durch den Ausgang des Verfahrens beeinflusst werden kann (vgl. Botschaft vom 28. Februar 2001 zur Totalrevision der Bundesrechtspflege, BBl 2001 S. 4236). Die Voraussetzungen von Art. 89 Abs. 1 lit. b und lit. c BGG hängen eng zusammen. Insgesamt kann insoweit an die Grundsätze, die zur Legitimationspraxis bei der Verwaltungsgerichtsbeschwerde nach Art. 103 lit. a OG entwickelt worden sind, angeknüpft werden (BGE 133 II 400 E. 2.2 S. 404 f. mit Hinweisen).
2.3 Die Behauptung allein, jemand sei von den Folgen einer Baubewilligung betroffen, genügt nicht, um die Beschwerdebefugnis zu begründen. Vielmehr muss aufgrund des konkreten Sachverhalts das besondere Berührtsein und das schutzwürdige Interesse glaubhaft erscheinen, ansonsten jedermann, der eine unzutreffende Behauptung aufstellt, die Beschwerdeberechtigung zustünde. Dies liefe im Ergebnis auf eine unzulässige Popularbeschwerde hinaus. Ein Kriterium für die Beurteilung der Beschwerdebefugnis ist die räumliche Distanz des Nachbarn zum umstrittenen Bauvorhaben, wobei es nicht auf abstrakt bestimmte Distanzwerte ankommt. Das Beschwerderecht wird aber in der Regel anerkannt, wenn die Liegenschaft des Nachbarn unmittelbar an das Baugrundstück angrenzt oder allenfalls nur durch einen Verkehrsträger davon getrennt wird (BGE 121 II 171 E. 2b S. 174 mit Hinweisen; Urteil des Bundesgerichts 1A.98/1994 vom 28. März 1995 E. 2b, in: ZBl 96/1995 S. 528 f.; HEINZ AEMISEGGER/STEPHAN HAAG, Kommentar zum RPG, Zürich 1999, Art. 33 Rz. 39). Daneben wird eine besondere Betroffenheit vor allem in Fällen bejaht, in welchen von einer Anlage mit Sicherheit oder grosser Wahrscheinlichkeit Immissionen auf Nachbargrundstücke ausgehen (BGE 121 II 171 E. 2b S. 174; 120 Ib 379 E. 4c S. 387; Urteil des Bundesgerichts 1A.98/1994 vom 28. März 1995 E. 2b, in: ZBl 96/1995 S. 529) oder die Anlage einen besonderen Gefahrenherd darstellt und die Anwohner einem besonderen Risiko ausgesetzt werden (BGE 120 Ib 378 E. 4d S. 388).
2.4 Die Vorinstanz hat dem Beschwerdeführer die räumliche Beziehungsnähe zu dem in 150 bis 200 m Entfernung gelegenen Asylbewerberzentrum abgesprochen und zudem erwogen, er sei von allfälligen ideellen Immissionen nicht mehr als die Allgemeinheit betroffen. Dieser Beurteilung kann nicht zugestimmt werden. Das Zentrum liegt in einem locker überbauten, ländlichen Gebiet unweit der Liegenschaft des Beschwerdeführers. Es ist bei den vorliegenden konkreten tatsächlichen Verhältnissen offensichtlich, dass das neue Asylbewerberzentrum den Beschwerdeführer stärker betrifft als die Allgemeinheit. Der praktische Nutzen bei einer Gutheissung seiner Anträge besteht darin, dass er sich gegen die Unterbringung von Asylbewerbern in der näheren Umgebung seiner Liegenschaft wehren kann.
2.5 Es ergibt sich, dass die Vorinstanz die Rekursberechtigung des Beschwerdeführers zu Unrecht verneint hat. Dies würde grundsätzlich zur Aufhebung des angefochtenen Entscheids und zur Rückweisung der Angelegenheit zur materiellen Beurteilung der Baubewilligungspflicht führen. Aus prozessökonomischen Gründen erscheint es jedoch gerechtfertigt, die Frage der Baubewilligungspflicht im vorliegenden bundesgerichtlichen Verfahren zu beurteilen.
3. Der Beschwerdeführer hält die Durchführung eines Baubewilligungsverfahrens für notwendig. Das Asylbewerberzentrum sei - anders als der frühere Beherbergungsbetrieb mit Unterkunfts-, Tagungs- und Schulungsräumen - in der Kurzone nicht zonenkonform, und die Zweckänderung sei nach dem kantonalen Baurecht bewilligungspflichtig.
Nach Art. 78 Abs. 2 lit. o des kantonalen Gesetzes über die Raumplanung und das öffentliche Baurecht vom 6. Juni 1972 (Baugesetz; BauG/SG; sGS 731.1) sind Zweckänderungen, die Einwirkungen auf die Umgebung oder eine Vergrösserung des Benützerkreises zur Folge haben, baubewilligungspflichtig. Das Bundesgericht prüft die Auslegung und Anwendung dieser kantonalen Bestimmung auf Willkür hin.
Aus den Akten ergibt sich, dass im Gebäude Vers.-Nr. 471 maximal 78 Personen untergebracht werden können. Diese Kapazität bleibt unverändert, und das Gebäude kann im bestehenden Zustand ohne bauliche Massnahmen bezogen werden. Zusätzliche Einwirkungen auf die Umgebung sind mit dem Betrieb des neuen Zentrums nicht verbunden. Da Asylsuchende in der Regel keine Motorfahrzeuge haben und keinen erheblichen Besucherverkehr auslösen, ist im Vergleich zur früher bewilligten Nutzung auch keine Zunahme von Sekundärimmissionen zu erwarten. Die Verneinung der Baubewilligungspflicht durch den Gemeinderat Eggersriet erweist sich somit nicht als willkürlich. Sie verstösst auch nicht gegen Art. 22 RPG. Ebenso wenig kann dem Beschwerdeführer in Bezug auf seine Behauptung, die neue Nutzung sei in der Kurzone nicht zonenkonform, gefolgt werden. Die Unterbringung von Asylsuchenden stellt wie bei einem Kurbetrieb eine zeitlich begrenzte Beherbergung dar. Es ist nicht ersichtlich, inwiefern die Bejahung der Zonenkonformität des Asylbewerberzentrums in der Kurzone gegen das Willkürverbot verstossen sollte.
4. Zusammenfassend ergibt sich, dass die Beschwerde abzuweisen ist. Im Rahmen der Regelung der Kostenfolgen des bundesgerichtlichen Verfahrens ist zu berücksichtigen, dass die Vorinstanz die Rekursberechtigung des Beschwerdeführers zu Unrecht verneinte und damit eine formelle Rechtsverweigerung beging (vgl. BGE 126 II 111 E. 7b S. 125; 107 Ia 1 E. 1 S. 3; Urteil des Bundesgerichts 1A.117/2003 vom 31. Oktober 2003, in: ZBl 105/2004 S. 497 E. 6.3; Urteil des Bundesgerichts 1P.255/1999 vom 8. November 1999 E. 2b). Es erscheint gerechtfertigt, auf die Erhebung von Gerichtskosten zu verzichten (Art. 66 Abs. 1 BGG) und dem Beschwerdeführer eine reduzierte Parteientschädigung zulasten des Kantons St. Gallen zuzusprechen (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Der Kanton St. Gallen hat dem Beschwerdeführer eine Parteientschädigung von Fr. 1'500.-- zu bezahlen.
4. Dieses Urteil wird dem Beschwerdeführer, dem Sicherheits- und Justizdepartement des Kantons St. Gallen, der Politischen Gemeinde Eggersriet sowie dem Baudepartement und dem Verwaltungsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 9. März 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Haag