Sachverhalt:
A. Das Bau- und Justizdepartement des Kantons Solothurn (BJD) verweigerte den Eigentümern von GB Lommiswil Nr. 79, A._ und B._, am 2. März 2010 die nachträgliche Bewilligung für die bereits erstellte, an die Parzelle ihres Wohnhauses (GB Nr. 1024) grenzende Umzäunung einer Pferdeweide und einen Sandplatz. Für die Beseitigung der unbewilligten Einzäunung und des Sandplatzes wurde eine Frist bis 30. Juni 2010 gesetzt. Die Verfügung erwuchs in Rechtskraft.
B. Daraufhin schlossen die Grundeigentümer mit dem Landwirt X._ einen Pachtvertrag über GB Lommiswil Nr. 79. Gemäss dieser Vereinbarung verpflichtet sich X._, die im Pferdestall der Verpächter untergebrachten Tiere in "Weidepension" zu nehmen, wobei das Pensions- bzw. Taggeld und der Pachtzins verrechnet werden sollen. Die Gültigkeit des Pachtvertrags wurde von der Erteilung der Baubewilligung abhängig gemacht.
Das BJD hielt am 31. Mai 2010 an seinem ursprünglichen Entscheid fest und befand, es handle sich nach wie vor um reine Hobbytierhaltung, welche in der Landwirtschaftszone nicht zonenkonform sei. Der offensichtlich vorliegende Rechtsmissbrauch finde vor dem Gesetz keinen Schutz. Es erteilte darum auch dem Landwirt die Bewilligung für die nachträgliche Umzäunung nicht und wies die Eigentümer von GB Lommiswil Nr. 79 auf die nach wie vor geltende Beseitigungsfrist hin.
C. X._ gelangte hierauf ans kantonale Verwaltungsgericht, welches die Beschwerde mit Urteil vom 23. Juli 2010 abwies.
Mit öffentlich-rechtlicher Beschwerde vom 13. September 2010 beantragt X._ die Aufhebung des verwaltungsgerichtlichen Urteils und die Feststellung, dass die bereits erstellte Einzäunung zonenkonform im Sinn von Art. 16a des Bundesgesetzes vom 22. Juni 1979 über die Raumplanung (RPG; SR 700 RPG) sei. Im Eventualantrag fordert der Beschwerdeführer, die Vorinstanz sei anzuweisen, die Einzäunung nach Art. 16a RPG zu beurteilen.
Die Gemeinde Lommiswil hat sich nicht zur Angelegenheit vernehmen lassen, während sowohl das BJD als auch das Verwaltungsgericht des Kantons Solothurn auf Abweisung der Beschwerde schliessen, soweit darauf eingetreten werden könne. Das Bundesamt für Raumentwicklung (ARE) verzichtet auf eine Stellungnahme.

Erwägungen:
1. 1.1 Beim angefochtenen Urteil handelt es sich um einen kantonal letztinstanzlichen Endentscheid (Art. 86 Abs. 1 lit. d BGG), der eine öffentlich-rechtliche Angelegenheit im Sinne von Art. 82 lit. a BGG betrifft (<ref-ruling> E. 1.2 S. 251, 409 E. 1.1 S. 411). Ein Ausschlussgrund nach Art. 83 BGG liegt nicht vor. Der Beschwerdeführer ist mit seinem Anliegen, den Zaun auf GB Lommiswil Nr. 79 nachträglich bewilligen zu lassen, vor dem Verwaltungsgericht nicht durchgedrungen. Als (etwaiger zukünftiger) Pächter der fraglichen Parzelle hat er grundsätzlich ein schutzwürdiges Interesse an der Aufhebung des vorinstanzlichen Urteils und ist zur Beschwerde legitimiert (Art. 89 Abs. 1 BGG). Auf die frist- und formgerecht eingereichte Beschwerde ist grundsätzlich einzutreten.
1.2 Vorab festzuhalten ist, dass vorliegend einzig die strittige Einzäunung von GB Lommiswil Nr. 79 zu beurteilen ist. Der Sandplatz war weder Gegenstand der Departementsverfügung vom 31. Mai 2010 noch des angefochtenen Urteils. Die Vorinstanz hat lediglich in ihrer Sachverhaltszusammenfassung auf die ursprüngliche Verfügung des BJD vom 2. März 2010 Bezug genommen. In dieser wurde der Sandplatz denn auch tatsächlich erwähnt.
2. Der Beschwerdeführer stellt den Vorwurf der rechtsmissbräuchlichen Gesetzesumgehung in Abrede. Nach seiner Auffassung stellt das Vorgehen der kantonalen Instanzen eine materielle Rechtsverweigerung und eine Verletzung von Art. 16a RPG dar.
2.1 Nach Art. 16a Abs. 1 RPG sind Bauten und Anlagen in der Landwirtschaftszone zonenkonform, wenn sie zur landwirtschaftlichen Bewirtschaftung oder für den produzierenden Gartenbau nötig sind. Der Gesetzeswortlaut entspricht den von der Rechtsprechung entwickelten Grundsätzen zu Art. 16 aRPG (<ref-ruling> E. 3.1 S. 415). Nach dieser Praxis war die hobbymässige Pferdehaltung in der Landwirtschaftszone schon früher nicht zulässig (<ref-ruling> E. 3b S. 162 f. mit Hinweisen). Heute ist gemäss Art. 34 Abs. 5 RPV die Zonenkonformität von Bauten und Anlagen für eine hobbymässig betriebene Produktion ausgeschlossen (Urteil 1A.312/2005 des Bundesgerichts vom 27. September 2006 E. 3.3.2). Wie das Bundesgericht im Urteil 1C_122/2009 vom 21. Januar 2010 in E. 5.6 überdies festgestellt hat, kann die Einzäunung auch nicht unter dem Titel einer Aussenanlage nach Art. 24d Abs. 1bis RPG bewilligt werden, wenn damit eine von den Bewohnern einer nahe gelegenen Wohnbaute betriebene Hobbytierhaltung verbunden ist. Infolgedessen hat das BJD das ursprüngliche Baugesuch zu Recht abgewiesen, sollte die umzäunte Parzelle Nr. 79 doch den in der angrenzenden Bauzone hobbymässig gehaltenen Tieren als Weide dienen. Dies haben die Grundeigentümer und Gesuchsteller denn auch anerkannt.
2.2 Fraglich ist, ob das Vorhaben anders zu beurteilen ist, wenn es sich beim Gesuchsteller um einen Landwirt handelt, der über einen existenzfähigen Betrieb verfügt und das fragliche Grundstück von den eigentlichen Tierhaltern pachten will, um deren Tiere darauf weiden zu lassen.
2.2.1 Das Bundesgericht hat unter der Herrschaft von Art. 16 aRPG die selbstständige, bodenabhängige Pferdezucht als landwirtschaftliche Nutzung eingestuft (<ref-ruling> E. 2 S. 216; Urteil 1A.178/1992 vom 15. Oktober 1993 E. 2c, in: ZBl 95/1994 S. 81). Hingegen hat es die Zonenkonformität gewerbsmässiger Ställe, Reithallen und damit auch der Pferdepension durch Nichtlandwirte verneint (<ref-ruling> E. 3b S. 162 f. mit Hinweisen). Die RPG-Revision vom 20. März 1998 hat an dieser Abgrenzung grundsätzlich nichts geändert (Urteil 1A.84/2006 des Bundesgerichts vom 26. Januar 2007 E. 2.2). In <ref-ruling> E. 3c S. 163 f. erwog das Bundesgericht aber, es sprenge den Rahmen herkömmlicher Bewirtschaftung von landwirtschaftlichem Boden nicht, wenn ein Landwirt neben eigenem Vieh noch einige fremde Tiere mit selbst produziertem Futter auf dem eigenen Hof unterhalte. Er dürfe unter derartigen Umständen zonenkonform vier Pensionspferde halten (siehe dazu auch das Urteil 1A.312/2005 des Bundesgerichts vom 27. September 2006 E. 5.3.4).
2.2.2 Daraus liesse sich im Prinzip ableiten, dies müsse auch gelten, wenn ein Landwirt einige fremde Tiere zwar nicht in Vollpension nimmt, sondern sie auf dem von ihm bewirtschafteten Land weiden lässt, unbesehen davon, ob dieses Land nun ihm gehört oder er es zugepachtet hat. Auf den ersten Blick könnten die Bewilligungsvoraussetzungen darum gegeben sein. Indes macht die Würdigung der konkreten Umstände deutlich, dass es den Akteuren hier einzig darum geht, auf anderem Weg - durch Verpachtung der eingezäunten Parzelle mit der Verpflichtung des Pächters, darauf in der Bauzone gehaltene Tiere der Verpächter unter Verrechnung von Pachtzins und Taggeld weiden zu lassen - die ursprünglich verweigerte Baubewilligung für die unzulässige Aussenanlage zu erlangen. Daran ändert nichts, dass die Vereinbarung vorsieht, der Pächter dürfe auch eigene oder weitere fremde Tiere auf dem Grundstück weiden lassen - dies, zumal fraglich ist, ob für weitere Tiere überhaupt genug Futter vorhanden wäre. Naheliegender scheint, diese Klausel sei lediglich in den Vertrag aufgenommen worden, um den Umgehungszweck zu verschleiern. Würde die Umzäunung bewilligt, würde die hobbymässige Tierhaltung genauso in die Landwirtschaftszone eindringen, wie wenn die Bewilligung den Grundeigentümern erteilt worden wäre. Es käme zu einer Verwischung von Bau- und Nichtbauzone, welche raumplanerisch nachgerade vermieden werden soll. Damit aber verstösst das Verhalten der Beteiligten, insbesondere auch des dafür eingespannten Pächters und Beschwerdeführers, offensichtlich gegen den Sinn und die Zielsetzungen der einschlägigen raumplanerischen Normen. Die Bewilligung wurde zu Recht verweigert.
3. Demzufolge ist die Beschwerde abzuweisen. Bei diesem Verfahrensausgang trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG). Parteientschädigungen sind keine auszurichten (Art. 68 Abs. 3 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Parteientschädigungen werden keine zugesprochen.
4. Dieses Urteil wird dem Beschwerdeführer, der Baukommission der Einwohnergemeinde Lommiswil, dem Bau- und Justizdepartement sowie dem Verwaltungsgericht des Kantons Solothurn und dem Bundesamt für Raumentwicklung schriftlich mitgeteilt.
Lausanne, 16. Februar 2011
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Fonjallaz Scherrer Reber