Sachverhalt:
A. X._ und Y._ sind Eigentümer der Parzelle GB Nuglar-St. Pantaleon Nr. 1059 im Halte von 3'340 m2. Das Grundstück befindet sich in der Landwirtschaftszone in einer von hochstämmigen Kirschbäumen geprägten Landschaft oberhalb des Ortsteils Nuglar. Das Gebiet wird von der kantonalen Juraschutzzone und der kommunalen Landschaftsschutzzone überlagert und liegt gemäss kantonalem Richtplan im Vorranggebiet Natur und Landschaft. Die Eigentümer betreiben auf ihrem Grundstück eine Intensivobstanlage mit Kirschen-, Birnen- und Apfelbäumen.
Am 28. Januar 2006 ersuchte X._ um die baurechtliche Bewilligung für einen 1,6 m hohen Zaun zum Schutz der Obstanlage vor Wildschäden. Mit Schreiben vom 28. Juni 2006 verweigerte das Bau- und Justizdepartement des Kantons Solothurn die Zustimmung zur vorgesehenen Einzäunung der Anlage. In der Folge erstellte X._ zum Schutz von 220 neu gepflanzten niederstämmigen Obstbäumen einen sogenannten "Schafszaun" (Holzpfosten mit vier unter Strom stehenden Bändern). Mit Verfügung vom 15. Februar 2007 verneinte das Bau- und Justizdepartement die Zonenkonformität sowohl des ursprünglich geplanten als auch des inzwischen erstellten Zauns. Zudem ordnete es die Entfernung der Umzäunung bis zum 31. März 2007 an. Diese Verfügung erwuchs in Rechtskraft.
Im Rahmen des vom Bau- und Justizdepartement beantragten Vollstreckungsverfahrens verfügte das Oberamt Dorneck-Thierstein am 2. März 2009, die Umzäunung sei bis Mitte April 2009 zu entfernen. Gegen diese Verfügung gelangte X._ mit Beschwerde ans Verwaltungsgericht des Kantons Solothurn. Am 26. März 2009 reichte X._ zudem beim Bau- und Justizdepartement ein Wiedererwägungsgesuch ein. Er brachte vor, er habe eine Parzelle im Umfang von 3'078 m2 dazugepachtet und erwirtschafte einen erheblichen Teil der Lebensunterhaltskosten seiner Familie mit dem Obstbau. Das Bau- und Justizdepartement lehnte eine Wiedererwägung mit Verfügung vom 17. Juli 2009 ab und hielt darin an seinem Entscheid vom 15. Februar 2007 fest. Auch gegen diese Verfügung erhob X._ beim Verwaltungsgericht Beschwerde.
Mit Urteil vom 23. November 2009 hiess das Verwaltungsgericht die Beschwerde gegen den Wiedererwägungsentscheid nach Durchführung eines Augenscheins gut und erteilte die Zustimmung zur Einzäunung des Grundstücks Nr. 1059 auf drei Seiten. Es wies die Sache zur Bewilligung an die kommunale Baubehörde zurück und beauftragte diese, in die Baubewilligung folgende Auflage aufzunehmen: "Der Zaun ist wie folgt auszuführen: 1,2 m hohes Drahtgeflecht mit einem Spanndraht auf max. 1,5 m Höhe".
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 7. Januar 2010 beantragt der Kanton Solothurn, das Urteil des Verwaltungsgerichts sei aufzuheben. Der Beschwerdeführer macht im Wesentlichen geltend, die Einzäunung diene der Freizeitlandwirtschaft und sei gemäss Art. 34 Abs. 5 der Verordnung vom 28. Juni 2000 über die Raumplanung (Raumplanungsverordnung, RPV, SR 700.1) nicht zonenkonform. Eine Bewilligung der Anlage im Sinne der Art. 24-24d und 37a RPG (SR 700) falle von vornherein ausser Betracht.
Das Verwaltungsgericht beantragt die Abweisung der Beschwerde, soweit darauf eingetreten werden könne. X._ stellt den Antrag, die Beschwerde sei abzuweisen. Das Bundesamt für Raumentwicklung (ARE) schliesst auf Gutheissung der Beschwerde. X._ und das Verwaltungsgericht haben von der Gelegenheit, sich zur Vernehmlassung des ARE zu äussern, Gebrauch gemacht und halten an ihren Standpunkten fest.
Erwägungen:
1. 1.1 Das angefochtene Urteil des Verwaltungsgerichts ist ein Entscheid einer letzten kantonalen Instanz (Art. 86 Abs. 1 lit. d BGG). Ihm liegt ein Beschwerdeverfahren betreffend eine bewilligungspflichtige Einzäunung ausserhalb der Bauzone und damit eine öffentlich-rechtliche Angelegenheit zu Grunde, welche das Bundesgericht im Rahmen der Beschwerde in öffentlich-rechtlichen Angelegenheiten beurteilt. Das Bundesgerichtsgesetz enthält auf dem Gebiet des Bau- und Planungsrechts keinen Ausschlussgrund von der Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 lit. a und Art. 83 BGG). Der Kanton Solothurn ist gestützt auf Art. 34 Abs. 2 lit. b RPG i.V.m. Art. 89 Abs. 2 lit. d BGG zur Beschwerde berechtigt.
1.2 Mit dem angefochtenen Entscheid des Verwaltungsgerichts wird die Sache zur Erteilung der Baubewilligung an die kommunale Baubehörde zurückgewiesen. Damit wird das Verfahren nicht abgeschlossen. Es liegt somit kein Endentscheid im Sinne von Art. 90 BGG vor.
Ebenso wenig ist ein Teilentscheid im Sinne von Art. 91 BGG gegeben. Hierbei handelt es sich um eine Variante des Endentscheids, mit welchem über ein oder mehrere Rechtsbegehren (objektive oder subjektive Klagehäufung) abschliessend befunden wird, wobei es nicht um verschiedene materiellrechtliche Teilfragen eines Rechtsbegehrens, sondern um verschiedene Rechtsbegehren gehen muss (vgl. BGE 136 II 165 E. 1.1 S. 169; 135 III 212 E. 1.2 S. 216 ff.; 133 V 477 E. 4.1.2 S. 480 f.; 133 III 629 E. 2.1 S. 630; je mit Hinweisen). Das Verwaltungsgericht weist die Sache zum Neuentscheid an die kommunale Baubehörde zur Bewilligung zurück (sog. Rückweisungsentscheid). Es beurteilt im angefochtenen Urteil zwar für die Vorinstanzen abschliessend die materiellrechtliche Teilfrage der Zonenkonformität der Umzäunung, jedoch nicht einzelne Rechtsbegehren. Demnach schliesst sein Urteil das Verfahren weder insgesamt noch über einzelne Rechtsbegehren ab, weshalb es keinen End- oder Teilentscheid im Sinne von Art. 90 und 91 BGG darstellt, sondern einen Zwischenentscheid (vgl. BGE 133 V 477 E. 4.2 und 4.3 S. 481 f.).
1.3 Gegen selbstständig eröffnete Zwischenentscheide, die weder die Zuständigkeit noch den Ausstand betreffen, ist die Beschwerde nur zulässig, wenn der Zwischenentscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (Art. 93 Abs. 1 lit. a BGG) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (Art. 93 Abs. 1 lit. b BGG). Die selbstständige Anfechtbarkeit von Zwischenentscheiden bildet aus prozessökonomischen Gründen eine Ausnahme vom Grundsatz, dass sich das Bundesgericht mit jeder Angelegenheit nur einmal befassen soll (BGE 135 I 261 E. 1.2; 134 III 188 E. 2.2; 133 III 629 E. 2.1). Die Ausnahme ist restriktiv zu handhaben, zumal die Parteien keiner Rechte verlustig gehen, wenn sie einen Zwischenentscheid im Sinne von Art. 93 BGG nicht selbstständig anfechten, können sie ihn doch mit dem Endentscheid anfechten, soweit er sich auf dessen Inhalt auswirkt (Art. 93 Abs. 3 BGG; BGE 133 IV 288 E. 3.2).
Dass der angefochtene Entscheid einen nicht wieder gutzumachenden Nachteil im Sinne von Art. 93 Abs. 1 lit. a BGG bewirken könnte, macht der Beschwerdeführer nicht geltend und ist auch nicht ersichtlich. Hingegen kann mit einer Gutheissung der Beschwerde sofort ein Endentscheid herbeigeführt und damit ein weiteres Bewilligungsverfahren vermieden werden (Art. 93 Abs. 1 lit. b BGG). Es erscheint aus prozessökonomischen Gründen gerechtfertigt, auf die vorliegende Beschwerde, welche die weiteren Sachurteilsvoraussetzungen erfüllt, einzutreten.
2. Der Beschwerdeführer ist im Unterschied zum Verwaltungsgericht der Auffassung, das Bauvorhaben des Beschwerdegegners sei gemäss Art. 34 Abs. 5 RPV in der Landwirtschaftszone nicht zonenkonform, da die im Streit liegende Umzäunung der Freizeitlandwirtschaft diene. Dass der Zaun der Bewilligungspflicht unterliegt, ist nicht umstritten (vgl. Urteil des Bundesgerichts 1C_122/2009 vom 21. Januar 2010 E. 2 mit Hinweisen).
2.1 Gemäss Art. 16a Abs. 1 RPG sind Bauten und Anlagen in der Landwirtschaftszone zonenkonform, wenn sie zur landwirtschaftlichen Bewirtschaftung oder für den produzierenden Gartenbau nötig sind. Der erweiterte Gehalt der Zonenkonformität ist in der Verordnung näher umschrieben (Art. 34-38 RPV; vgl. dazu STEPHAN H. SCHEIDEGGER, Neue Spielregeln für das Bauen ausserhalb der Bauzonen, Baurecht 2000 S. 81-87). Gemäss Art. 34 Abs. 4 RPV darf die Bewilligung nur erteilt werden, wenn die Baute oder Anlage für die in Frage stehende Bewirtschaftung nötig ist (lit. a), wenn der Baute oder Anlage am vorgesehenen Standort keine überwiegenden Interessen entgegenstehen (lit. b) und wenn der Betrieb voraussichtlich längerfristig bestehen kann (lit. c). Ausdrücklich hält Art. 34 Abs. 5 RPV fest, dass Bauten und Anlagen für die Freizeitlandwirtschaft nicht als zonenkonform gelten.
2.2 Bei der Beurteilung, ob es sich um einen Betrieb mit zonenwidriger Freizeitlandwirtschaft oder einen zonenkonformen landwirtschaftlichen Haupt- oder Nebenerwerbsbetrieb handelt, ist auf den jeweiligen Einzelfall abzustellen. Indizien für das Vorliegen eines Freizeitlandwirtschaftsbetriebs sind etwa die fehlende Gewinn- und Ertragsorientierung, das Nichterreichen einer gewissen Mindestgrösse oder der marginale Arbeitsbedarf auf dem Betrieb. Auf die Setzung starrer Grenzwerte wurde bewusst verzichtet (Bundesamt für Raumentwicklung, Erläuterungen zur Raumplanungsverordnung, Bern 2001, Ziff. IV 2.3.1 S. 32; BERNHARD WALDMANN/Peter Hänni, Kommentar zum Raumplanungsgesetz, Bern 2006, N. 11 zu Art. 16a mit Hinweisen). Die landwirtschaftliche Bewirtschaftung im Sinne von Art. 16a RPG unterscheidet sich von der Freizeitlandwirtschaft insbesondere durch einen dauernden, auf Wirtschaftlichkeit ausgerichteten und organisierten Einsatz von Kapital und Arbeitskraft in einem wirtschaftlich bedeutsamen Umfang (Urteile des Bundesgerichts 1A.256/2005 vom 20. März 2006 E. 2.1; 1A.64/2006 vom 7. November 2006 E. 2.3; mit zahlreichen Hinweisen).
2.3 Der Beschwerdegegner betreibt - neben seiner vollberuflichen Tätigkeit als Lagerist - Obstbau, wofür ihm 3'300 m2 Eigenland und 3'100 m2 Pachtland zur Verfügung stehen. Nach den Sachverhaltsdarstellungen der Vorinstanz erwirtschaftet er mit dem Obstbau bei einem Arbeitsaufwand von 1188 Stunden pro Jahr ein jährliches Einkommen von rund Fr. 10'755.--.
2.3.1 Nicht allein ausschlaggebend für die Bejahung eines landwirtschaftlichen Betriebs ist der Arbeits- bzw. Zeitaufwand. Der zeitliche Aufwand für Freizeitbeschäftigungen kann durchaus beträchtlich sein, ohne dass bereits eine berufliche Tätigkeit vorliegt (Urteil 1A.134/2002 vom 17. Juli 2003 E. 3.3, in: ZBl 106/2005 S. 158 ff.; Urteil 1A.64/2006 vom 7. November 2006 E. 3.2).
Auch ist nicht allein entscheidend, ob der Beschwerdegegner Direktzahlungen erhält oder die Anforderungen zum Bezug von Direktzahlungen erfüllt. Die Anerkennung als landwirtschaftlicher Betrieb im Sinne von Art. 6 der Landwirtschaftlichen Begriffsverordnung vom 7. Dezember 1998 (LBV, SR 910.91) beschränkt sich auf den Anwendungsbereich des Bundesgesetzes über die Landwirtschaft vom 29. April 1998 (Landwirtschaftsgesetz, LwG; SR 901.1) und der gestützt darauf erlassenen Verordnungen (siehe Art. 1 Abs. 1 LBV; vgl. Urteil 1A.64/2006 vom 7. November 2006 E. 3.3).
Nach den in diesem Punkt unbestrittenen Ausführungen des Bundesamts für Raumentwicklung erreicht der Beschwerdegegner mit dem Obstbau die notwendige Mindestgrösse von 0,25 Standardarbeitskräften nicht (vgl. Art. 18 Abs. 1 der Direktzahlungsverordnung vom 7. Dezember 1998 [DZV; 910.13] i.V.m. Art. 3 LBV). Dies stellt ein Indiz für das Vorliegen von Freizeitlandwirtschaft dar (Bundesamt für Raumentwicklung, Erläuterungen zur Raumplanungsverordnung, Bern 2001, Ziff. IV 2.3.1 S. 32). Zudem weist das Bundesamt darauf hin, dass der Arbeitsaufwand des Beschwerdegegners verglichen mit dem Mindestarbeitsbedarf eines landwirtschaftlichen Gewerbes gemäss bäuerlichem Bodenrecht weniger als 25 % ausmacht (vgl. Art. 7 Abs. 1 des Bundesgesetzes vom 4. Oktober 1991 über das bäuerliche Bodenrecht; BGBB; SR 211.412.11).
2.3.2 Zur Frage der Gewinnorientierung des Betriebs des Beschwerdegegners ergibt sich, dass die Vorinstanz und der Beschwerdeführer nicht auf das effektive Einkommen abstellen, sondern auf einen anhand standardisierter Grössen gemäss Deckungsbeitragskatalog errechneten Betrag (vgl. Bundesamt für Raumentwicklung, Erläuterungen zur Raumplanungsverordnung, Bern 2001, Ziff. IV 2.3.3 S. 34 f. sowie Deckungsbeitrags- und Trockensubstanzkriterium, S. 3). Diese Methode ist in Fällen, in welchen die in Frage stehende Tätigkeit bereits ausgeübt wird, nicht geeignet, den massgebenden Sachverhalt präzise zu ermitteln. Das Resultat kann insbesondere zu ungenau sein, weil nicht sämtliche Kosten berücksichtigt werden. Nach den Ausführungen des Bundesamts für Raumentwicklung ist davon auszugehen, dass die effektiven Einkünfte des Beschwerdegegners aus dem Obstbau unter Fr. 10'000.-- liegen.
Für die Beurteilung, ob die Obstbäume des Beschwerdegegners gewinnorientiert bewirtschaftet werden, ist nicht ausschlaggebend, ob der zu erzielende Gewinn - wie von der Vorinstanz angenommen - mit Fr. 10'755.-- zu veranschlagen ist oder eher unter Fr. 10'000.-- liegt. So ergab sich im Urteil 1A.64/2006 vom 7. November 2006, dass auch ein monatliches Einkommen von Fr. 1'360.--, selbst wenn der Betrieb als gewinnorientiert zu bezeichnen wäre, keine längerfristige Existenzfähigkeit im Sinne von Art. 34 Abs. 4 lit. c RPV belege.
2.3.3 Von landwirtschaftlicher Bewirtschaftung im Sinne des RPG kann insbesondere dann gesprochen werden, wenn der im Streit liegende Betrieb längerfristig bestehen kann (Art. 34 Abs. 4 lit. c RPV), und ein dauernder, auf Wirtschaftlichkeit gerichteter und organisierter Einsatz von Kapital und Arbeit in einem wirtschaftlich bedeutsamen Umfang geleistet wird (vgl. Urteile des Bundesgerichts 1A.256/2005 vom 10. März 2006 E. 2.2, und 1A.64/2006 vom 7. November 2006 E. 3.3).
Der Beschwerdegegner legt dar, er baue zurzeit einen Obstbaubetrieb auf und werde aufgrund beabsichtigter Erweiterungen seines Betriebs das Einkommen aus dem Obstbau in den nächsten Jahren weiter steigern können. Die Vorinstanz stellt auf diese Erweiterungsmöglichkeiten ab und bejaht die längerfristige Existenzfähigkeit des Betriebs. Dabei übersieht sie, dass die Existenzfähigkeit aufgrund der aktuellen Betriebsstruktur zu prüfen ist und beabsichtigte Erweiterungen nur insoweit berücksichtigt werden können, als sie hinreichend gesichert sind. Die längerfristige Existenzfähigkeit muss aufgrund gesicherter Fakten und einer vertieften Prüfung der Wirtschaftlichkeit bejaht werden können. Die vage Möglichkeit oder der blosse subjektive Wille zu einer längerfristigen Existenz reichen nicht aus, um die Anforderungen von Art. 34 Abs. 4 lit. c RPV zu erfüllen. Vielmehr muss sich auch aus den Einkommensverhältnissen ergeben, dass mit der landwirtschaftlichen Nebentätigkeit ein namhafter Beitrag an den Existenzbedarf der Bewirtschafterfamilie geleistet wird. Ein Beitrag von rund einem Drittel wird vom Bundesamt für Raumentwicklung bei Vorhaben, die keine bedeutenden räumlichen Auswirkungen haben, als sachgerecht bezeichnet (vgl. Urteil des Bundesgerichts 1A.64/2006 vom 7. November 2006 E. 5.3).
2.3.4 Bis anhin wurden keine detaillierteren Angaben zur wirtschaftlichen Situation des Beschwerdegegners erhoben. Es obliegt ihm als Baugesuchsteller im Rahmen seiner Mitwirkungspflichten, aussagekräftige nachvollziehbare Betriebsdaten zu liefern, will er die Bewilligungsfähigkeit seines Projekts belegen. Diesen Anforderungen kommt er auch mit dem Bericht des solothurnischen Bauernverbands vom 14. Mai 2010 nicht nach. Gestützt auf die heute vorliegenden Zahlen ist die Zonenkonformität des Vorhabens jedenfalls zu verneinen. Die Erwägung des Verwaltungsgerichts, wonach es auch im Interesse der Landschaftspflege liege, kleineren Obstbaubetrieben einen Ausbau zu ermöglichen, vermag daran nichts zu ändern.
3. Es ergibt sich, dass die Beschwerde gutzuheissen und der angefochtene Entscheid aufzuheben ist. Damit werden die Verfügungen des Bau- und Justizdepartements vom 15. Februar 2007 und 17. Juli 2009 im Ergebnis bestätigt. Die hierzu ergangene Vollstreckungsverfügung des Oberamts Dorneck-Thierstein vom 2. März 2009 hat der Beschwerdegegner ebenfalls beim Verwaltungsgericht angefochten. Dieses hat darüber soweit ersichtlich noch nicht entschieden. Es erscheint unter diesen Umständen gerechtfertigt, die vorliegende Angelegenheit an das Verwaltungsgericht zurückzuweisen, damit es eine angemessene Frist zur Vollstreckung ansetzen und über die Kostenfolgen des kantonalen Verfahrens neu entscheiden kann.
Dem Ausgang des bundesgerichtlichen Verfahrens entsprechend sind die Gerichtskosten dem Beschwerdegegner aufzuerlegen (Art. 66 Abs. 1 BGG). Es sind keine Parteientschädigungen zuzusprechen (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, und das Urteil des Verwaltungsgerichts des Kantons Solothurn vom 23. November 2009 wird aufgehoben. Die Angelegenheit wird an das Verwaltungsgericht zum Entscheid über die Vollstreckung und zu neuem Entscheid über die Kosten des kantonalen Verfahrens zurückgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdegegner auferlegt.
3. Es werden keine Parteientschädigungen zugesprochen.
4. Dieses Urteil wird den Parteien, der Einwohnergemeinde Nuglar-St. Pantaleon und dem Verwaltungsgericht des Kantons Solothurn sowie dem Bundesamt für Raumentwicklung schriftlich mitgeteilt.
Lausanne, 29. September 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Haag