Sachverhalt:
A. X._ ist Eigentümer der Grundstücke Kat.-Nrn. 7584 und 7585 in Adliswil. Die beiden Grundstücke liegen in der Landwirtschaftszone und sind Teil eines mehrere Parzellen umfassenden Anwesens. Das Grundstück Kat.-Nr. 7584 ist gemäss Baubewilligung vom 24. Juni 1955 mit einem Gebäude für Pferdeboxen und einer Stallmeisterwohnung sowie Nebenbauten überstellt worden, wobei am 31. August 1982 eine Wohnbereichserweiterung bewilligt wurde. Das nicht mit Gebäuden überbaute Grundstück Kat.-Nr. 7585 schliesst westlich an das Grundstück Kat. Nr. 7584 an und grenzt wie dieses im Süden an einen öffentlichen Fussweg. Entlang der südlichen Grenze der Grundstücke Kat. Nrn. 7584 und 7585 sowie der westlichen Grenze des Grundstücks Kat. Nr. 7585 wurde im Juli 2009 eine mindestens 122 m lange Einfriedung, bestehend aus einem bis zu 2.85 m hohen Zaun aus Drahtgeflecht und einer 1.2-1.5 m hohen Sichtschutzwand aus Holz, errichtet. Die neu errichtete Einfriedung ersetzte offenbar einen bestehenden ca. 1.4 m hohen Zaun, welcher im Herbst 2008 durch einen umgestürzten Baum abschnittsweise zerstört worden sein soll.
B. Die Baudirektion des Kantons Zürich verweigerte mit Verfügung vom 14. Juni 2011 ein von X._ nachträglich eingereichtes Baubewilligungsgesuch für die Einfriedung mit Sichtschutzwand. Dabei lud sie die örtliche Baubehörde ein, die Wiederherstellung des rechtmässigen Zustands zu prüfen. Einen von X._ gegen den Entscheid der Baudirektion erhobenen Rekurs wies das Baurekursgericht des Kantons Zürich am 20. Dezember 2011 ab. Gegen diesen Entscheid gelangte X._ ans Verwaltungsgericht des Kantons Zürich, welches die Beschwerde mit Urteil vom 10. Mai 2012 abwies.
C. Gegen das Urteil des Verwaltungsgerichts hat X._ am 28. Juni 2012 Beschwerde ans Bundesgericht erhoben. Er beantragt die Aufhebung des angefochtenen Entscheids und die Rückweisung der Sache zur Neubeurteilung an die Vorinstanz, eventuell an das Baurekursgericht. Mit Verfügung des Bundesgerichts vom 31. August 2012 wurde der Beschwerde aufschiebende Wirkung zuerkannt. Die Vorinstanz verweist auf den angefochtenen Entscheid und beantragt, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Die Baudirektion beantragt die Abweisung der Beschwerde. Mit Eingabe vom 22. November 2012 hält der Beschwerdeführer an den Beschwerdeanträgen fest.

Erwägungen:
1. Angefochten ist das Urteil vom 10. Mai 2012, mit welchem das Verwaltungsgericht die Verweigerung der baurechtlichen Bewilligung für eine Einfriedung mit Sichtschutzwand bestätigte. Dagegen ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht zulässig (vgl. Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Abs. 2 sowie Art. 90 BGG). Der Beschwerdeführer ist nach <ref-law> beschwerdeberechtigt. Die übrigen Eintretensvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Beschwerde einzutreten ist.
2. Die Grundstücke des Beschwerdeführers liegen in der Landwirtschaftszone und damit ausserhalb der Bauzone. Die errichtete Einfriedung mit Sichtschutz steht nicht im Zusammenhang mit einer landwirtschaftlichen Nutzung und entspricht unbestrittenerweise nicht dem Zweck der Nutzungszone, weshalb sie nur unter den Voraussetzungen von Art. 24 ff. RPG (SR 700) bewilligt werden könnte (vgl. Art. 22 Abs. 2 lit. a RPG). Umstritten ist einzig, ob die baurechtliche Bewilligung für die Einfriedung mit Sichtschutz gestützt auf Art. 24c RPG hätte erteilt werden müssen, zumal der Beschwerdeführer keine andere Bestimmung als mögliche Grundlage für eine Bewilligung nennt.
Gemäss Art. 24c Abs. 1 RPG werden bestimmungsgemäss nutzbare Bauten und Anlagen ausserhalb der Bauzonen, die nicht mehr zonenkonform sind, in ihrem Bestand grundsätzlich geschützt. Solche Bauten und Anlagen können mit Bewilligung der zuständigen Behörde erneuert, teilweise geändert, massvoll erweitert oder wiederaufgebaut werden, sofern sie rechtmässig erstellt oder geändert worden sind (Art. 24c Abs. 2 RPG). In jedem Fall bleibt die Vereinbarkeit mit den wichtigen Anliegen der Raumplanung vorbehalten (Art. 24c Abs. 5 RPG bzw. Art. 24c Abs. 2 Satz 2 RPG in der bis zum 31. Oktober 2012 geltenden Fassung). Änderungen bzw. Erweiterungen sind zulässig, wenn die Identität der Baute oder Anlage einschliesslich ihrer Umgebung in den wesentlichen Zügen gewahrt bleibt, wobei Verbesserungen gestalterischer Art zulässig sind (<ref-law> [SR 700.1]). Ob die Identität der Baute im Wesentlichen gewahrt bleibt, ist unter Würdigung der gesamten Umstände zu beurteilen (<ref-law>). Nach der Rechtsprechung des Bundesgerichts ist darauf abzustellen, ob die Änderung bei einer Gesamtbetrachtung von untergeordneter Natur ist. Die Wesensgleichheit der Baute muss hinsichtlich Umfang, äusserer Erscheinung sowie Zweckbestimmung gewahrt werden und es dürfen keine wesentlichen neuen Auswirkungen auf die Nutzungsordnung, Erschliessung und Umwelt geschaffen werden (<ref-ruling> E. 3a S. 218 f. mit Hinweisen). Art. 24c RPG ist nicht anwendbar auf neurechtliche Bauten und Anlagen, nämlich solche, die seit dem 1. Juli 1972 erstellt wurden (<ref-law> sowie <ref-ruling> E. 4.2.1 S. 398 zu <ref-law> in der bis zum 31. Oktober 2012 geltenden Fassung).
3. In seinem Entscheid vom 20. Dezember 2011 hat das Baurekursgericht die Frage behandelt, ob die vom Beschwerdeführer vorgenommene Erhöhung des bestehenden Maschendrahtzauns von ca. 1.4 m auf bis zu 2.85 m sowie die Ergänzung der Einfriedung mit einer 1.2-1.5 m hohen Holzwand als massvolle Erweiterung im Sinne von Art. 24c Abs. 2 RPG angesehen werden kann. Es kam zum Schluss, dass dies nicht der Fall sei, insbesondere weil damit der Grundsatz verletzt werde, dass die Identität der bestehenden Baute zu wahren sei. Wie es sich damit verhält, ist nachfolgend zu prüfen. Zwar hat die Vorinstanz diese Frage offen gelassen, nachdem sie zum Schluss kam, die Beschwerde sei bereits deshalb abzuweisen, weil nicht erwiesen sei, dass der bestehende Zaun vor dem 1. Juli 1972 rechtmässig erstellt worden sei. Das Bundesgericht wendet das Recht jedoch von Amtes wegen an (<ref-law>) und ist an die Erwägungen der Vorinstanz nicht gebunden. Es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen (<ref-ruling> E. 1.4.1 S. 254 mit Hinweisen).
Für den Fall, dass das Bundesgericht die Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abzuweisen gedenke, beantragt der Beschwerdeführer in seiner Stellungnahme vom 22. November 2012 einen weiteren Schriftenwechsel. Darauf ist aus den folgenden Überlegungen zu verzichten. Nach bundesgerichtlicher Rechtsprechung besteht kein Anspruch der Parteien, zur rechtlichen Würdigung der in den Prozess eingeführten Tatsachen noch besonders angehört zu werden. Eine Ausnahme besteht namentlich dann, wenn ein Gericht seinen Entscheid mit einem Rechtsgrund zu begründen beabsichtigt, auf den sich die beteiligten Parteien nicht berufen haben und mit dessen Erheblichkeit sie vernünftigerweise nicht rechnen mussten (<ref-ruling> E. 5 S. 39; <ref-ruling> E. 2c/aa S. 22; <ref-ruling> E. 3c S. 52). Eine solche Ausnahme ist vorliegend nicht gegeben, zumal die Frage, ob von einer massvollen Erweiterung einer Baute im Sinne von Art. 24c Abs. 2 RPG ausgegangen werden kann, im bundesgerichtlichen Verfahren sowohl von der Baudirektion als auch vom Bundesamt für Raumentwicklung (ARE) thematisiert und in Übereinstimmung mit dem Entscheid des Baurekursgerichts vom 20. Dezember 2011 verneint worden ist (vgl. nachfolgend E. 4.3.2). Der Beschwerdeführer hat Gelegenheit erhalten, zu den Eingaben der Baudirektion und des ARE Stellung zu nehmen, wovon er am 22. November 2012 auch Gebrauch gemacht hat.
4. 4.1 In formeller Hinsicht bringt der Beschwerdeführer zunächst sinngemäss vor, das Baurekursgericht hätte die Frage, ob es sich vorliegend um eine massvolle Erweiterung einer Baute im Sinne von Art. 24c Abs. 2 RPG handelt, nicht entscheiden dürfen, ohne vorgängig - wie von ihm beantragt - einen Augenschein vor Ort durchzuführen. Darin könnte die Rüge einer Verletzung von <ref-law> erblickt werden.
Zum Anspruch auf rechtliches Gehör (<ref-law>) gehört das Recht des Betroffenen, sich vor Erlass eines in seine Rechtsstellung eingreifenden Entscheids zur Sache zu äussern sowie das Recht auf Abnahme der rechtzeitig und formrichtig angebotenen rechtserheblichen Beweismittel. Indes kann der Richter das Beweisverfahren schliessen, wenn die Anträge nicht erhebliche Tatsachen betreffen. Gleichermassen kann er Beweisanträge ohne Verletzung des rechtlichen Gehörs ablehnen, wenn er aufgrund bereits abgenommener Beweise seine Überzeugung gebildet hat und ohne Willkür in vorweggenommener antizipierter Beweiswürdigung annehmen kann, dass seine Überzeugung durch weitere Beweiserhebungen nicht geändert würde (<ref-ruling> E. 5.3 S. 148 mit Hinweisen).
Im Verfahren vor Baurekursgericht reichte die Baudirektion verschiedene Pläne und Fotografien ein, welche die umstrittene Erweiterung der Einfriedung dokumentieren. Wie das Baurekursgericht in seinem Entscheid vom 20. Dezember 2011 zu Recht ausgeführt hat, durfte es auf die Durchführung eines Augenscheins verzichten, weil nicht ersichtlich ist, inwiefern es mit der Durchführung eines Augenscheins neue entscheidwesentliche Erkenntnisse hätte gewinnen können, welche sich nicht bereits aus den Akten ergaben. Soweit der Beschwerdeführer in diesem Zusammenhang eine Verletzung von <ref-law> in genügender Weise begründet hat (vgl. <ref-law>), vermag er damit nicht durchzudringen.
4.2 In seiner Stellungnahme vom 22. November 2012 bringt der Beschwerdeführer sodann vor, das Baurekursgericht habe dem erhöhten Zaun mit Holzsichtschutz im Vergleich zum bestehenden Zaun die Wahrung der Identität im Sinne von <ref-law> pauschal abgesprochen, ohne auf seine Argumente einzugehen. Darin könnte die Rüge einer Verletzung der sich aus <ref-law> ergebenden behördlichen Begründungspflicht erblickt werden.
Die aus dem Anspruch auf rechtliches Gehör fliessende grundsätzliche Pflicht der Behörde, ihren Entscheid zu begründen, bedeutet nicht, dass sie sich mit jeder tatbeständlichen Behauptung und jedem rechtlichen Einwand auseinandersetzen muss. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Der Bürger soll wissen, warum die Behörde entgegen seinem Antrag entschieden hat, damit er gegebenenfalls den Entscheid sachgerecht anfechten kann (<ref-ruling> E. 4.1 S. 88; <ref-ruling> E. 3.1 S. 277; je mit Hinweisen). Diesen Anforderungen genügte der Entscheid des Baurekursgerichts. Soweit der Beschwerdeführer in diesem Zusammenhang eine Verletzung von <ref-law> in genügender Weise begründet hat (vgl. <ref-law>), vermag er auch damit nicht durchzudringen.
Die aus dem Anspruch auf rechtliches Gehör fliessende grundsätzliche Pflicht der Behörde, ihren Entscheid zu begründen, bedeutet nicht, dass sie sich mit jeder tatbeständlichen Behauptung und jedem rechtlichen Einwand auseinandersetzen muss. Vielmehr kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Der Bürger soll wissen, warum die Behörde entgegen seinem Antrag entschieden hat, damit er gegebenenfalls den Entscheid sachgerecht anfechten kann (<ref-ruling> E. 4.1 S. 88; <ref-ruling> E. 3.1 S. 277; je mit Hinweisen). Diesen Anforderungen genügte der Entscheid des Baurekursgerichts. Soweit der Beschwerdeführer in diesem Zusammenhang eine Verletzung von <ref-law> in genügender Weise begründet hat (vgl. <ref-law>), vermag er auch damit nicht durchzudringen.
4.3 4.3.1 Was die Frage angeht, ob die Erhöhung des bestehenden Maschendrahtzauns von ca. 1.4 m auf bis zu 2.85 m sowie die Ergänzung der Einfriedung mit einer 1.2-1.5 m hohen Holzwand als massvolle Erweiterung im Sinne von Art. 24c Abs. 2 RPG angesehen werden kann, insbesondere, ob damit die Identität der bestehenden Baute gewahrt werde, verweist der Beschwerdeführer in seiner Stellungnahme vom 22. November 2012 auf die Beschwerde an die Vorinstanz und bringt vor, der ca. 860 m lange Zaun sei nur auf einer Länge von ca. 180 m erhöht worden - dies nachdem er in der Beschwerdeschrift vom 28. Juni 2012 noch ausgeführt hatte, die Veränderungen würden nur einen Bereich von 122 m beschlagen. Auch die Sichtschutzwand aus Holz sei nur an einem kleineren Teil des Zauns angebracht worden und vor dem Zaun sei bisher eine sichtschützende Hecke verlaufen. Gemäss <ref-law> seien unter dem Aspekt der Identitätswahrung bauliche Erweiterungen von bis zu 30% zulässig. Dieses Mass werde mit der umstrittenen Erweiterung deutlich unterschritten.
4.3.2 Das vom Bundesgericht zur Vernehmlassung eingeladene ARE bestätigt die vom Baurekursgericht in seinem Entscheid vom 20. Dezember 2011 vertretene Auffassung, wonach die Identität der bestehenden Baute in den wesentlichen Zügen nicht gewahrt werde. Der Ersatz eines 1.4 m hohen Maschendrahtzauns durch eine über 2 m hohe Einfriedung sowie einen ca. 1.4 m hohen Sichtschutz aus Holz könne nicht über Art. 24c RPG bewilligt werden. Auch die seit dem 1. November 2012 geltenden Fassungen von Art. 24c RPG bzw. <ref-law> schafften für den Beschwerdeführer keine günstigere Rechtslage.
4.3.3 Im Verfahren 1A.202/2003 hatte das Bundesgericht zu beurteilen, ob ein ebenfalls in der Landwirtschaftszone gelegener Zaun gestützt auf Art. 24c Abs. 2 RPG geändert werden durfte. Der damals zu beurteilende Zaun wurde von 1.2 m auf 1.5 m erhöht und wies teilweise neu ein Maschendrahtgeflecht statt horizontal verlaufender Drähte auf. Das Bundesgericht kam seinerzeit zum Schluss, durch die Erhöhung des neuen Zauns von 1.2 m auf 1.5 m und die teilweise neue Verwendung von Maschendraht sei die Identität des früheren Zaunes in den wesentlichen Zügen nicht mehr gewahrt (Urteil 1A. 202/2003 vom 17. Februar 2004 E. 4.4.2).
Mit Blick auf diese Rechtsprechung kann vorliegend nicht gesagt werden, mit der Erhöhung des bestehenden Maschendrahtzauns von ca. 1.4 m auf bis zu 2.85 m sowie der Ergänzung der Einfriedung mit einer 1.2-1.5 m hohen Holzwand werde die Identität des früheren Zaunes in den wesentlichen Zügen gewahrt. Wie die bei den Akten liegenden Fotografien belegen, unterscheidet sich die neue Einfriedung hinsichtlich Umfang, äusserer Erscheinung sowie Zweckbestimmung wesentlich von einem offenbar vorbestehenden ca. 1.4 m hohen Maschendrahtzaun. Daran ändert der Umstand nichts, dass der bestehende Zaun "nur" auf einer Länge von mindestens 122 m erweitert worden ist und die Erweiterung nicht die Einfriedung des gesamten Anwesens betrifft. Der Beschwerdeführer kann sich auch nicht erfolgreich auf die in <ref-law> genannten Maximalwerte für die Erweiterung von Gebäudeflächen berufen, zumal sich diese nicht auf Zäune beziehen und die Frage, ob die Identität einer Baute oder Anlage gewahrt wird, unter Würdigung der gesamten Umstände zu beurteilen ist (vgl. Urteil 1A.202/2003 vom 17. Februar 2004 E. 4.4.1). Auch was der Beschwerdeführer in diesem Zusammenhang in seiner Beschwerde an die Vorinstanz vorgebracht hat, vermag nichts an der Einschätzung zu ändern, wonach die Änderung der bestehenden Baute bei einer Gesamtbetrachtung nicht von untergeordneter Natur ist und die Wesensgleichheit hinsichtlich Umfang, äusserer Erscheinung sowie Zweckbestimmung nicht gewahrt wird.
5. Im Zusammenhang mit der von der Vorinstanz behandelten Frage, ob der offenbar vorbestehende ca. 1.4 m hohe Zaun vor dem 1. Juli 1972 erstellt worden sei, macht der Beschwerdeführer geltend, das ganze Anwesen sei seit der Bebauung mit einem Gebäude für Pferdeboxen und einer Stallmeisterwohnung in den 1950er Jahren umzäunt. Die Vorinstanz habe diesbezüglich den Sachverhalt offensichtlich unrichtig festgestellt bzw. beruhe die Sachverhaltsfeststellung auf Rechtsverletzungen im Sinne von <ref-law>. Insbesondere habe die Vorinstanz den Sachverhalt unter Verletzung von Art. 5 Abs. 3, Art. 9, Art. 29 Abs. 1 und 2 BV sowie <ref-law> ermittelt.
Eine offensichtlich unrichtige bzw. auf einer Rechtsverletzung im Sinne von <ref-law> beruhende Sachverhaltsfeststellung kann vor Bundesgericht nur gerügt werden, wenn die Behebung des Mangels bzw. der Mängel für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Wie bereits aufgezeigt, ist für den Ausgang des vorliegenden Verfahrens nicht entscheidend, ob der offenbar vorbestehende ca. 1.4 m hohe Zaun vor dem 1. Juli 1972 erstellt worden ist oder nicht, weil die weiteren Voraussetzungen von Art. 24c RPG für die Bewilligung der Einfriedung mit Sichtschutz ohnehin nicht erfüllt sind. Damit braucht auf die entsprechenden Ausführungen des Beschwerdeführers nicht weiter eingegangen zu werden.
Für den Ausgang des vorliegenden Verfahrens nicht massgeblich und damit unbeachtlich sind - soweit es sich dabei nicht ohnehin um unzulässige Noven im Sinne von <ref-law> handelt - demzufolge auch die vom Beschwerdeführer vor Bundesgericht eingereichten Akten, mit welchen er beweisen will, dass das Anwesen schon vor dem 1. Juli 1972 eingezäunt war.
6. Nicht gefolgt werden kann dem Beschwerdeführer schliesslich, soweit er eine Verletzung der Eigentumsgarantie (<ref-law>) rügt. Die Eigentumsgarantie schützt als Bestandesgarantie nämlich nur die rechtmässige Ausübung des Privateigentums. Sie gewährleistet das Eigentum innerhalb der Schranken, die ihm im öffentlichen Interesse durch die Rechtsordnung gezogen sind. Zu beachten sind namentlich die Anforderungen der Raumplanung (<ref-ruling> E. 3a S. 246 mit Hinweisen). Die Baufreiheit und damit auch das Recht zur Erweiterung oder zum Ersatz einer Baute bestehen daher nur innerhalb der Vorschriften, die der Gesetzgeber über die Nutzung des Grundeigentums erlassen hat (Urteil 1A.289/2004 vom 7. Juni 2005 E. 2.2.1 mit Hinweis).
7. Nach dem Ausgeführten hat die Baudirektion die nachträgliche Bewilligung für die bereits errichtete Einfriedung mit Sichtschutz zu Recht verweigert. Die Vorinstanz hat die Beschwerde des Beschwerdeführers im Ergebnis zu Recht abgewiesen, weshalb die Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht ebenfalls abzuweisen ist. Bei diesem Ausgang des Verwahrens wird der Beschwerdeführer kostenpflichtig (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, der Baudirektion des Kantons Zürich, der Baukommission Adliswil, dem Verwaltungsgericht des Kantons Zürich, 3. Abteilung, 3. Kammer, und dem Bundesamt für Raumentwicklung schriftlich mitgeteilt.
Lausanne, 22. April 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Mattle