Sachverhalt:
A. Mit Schreiben vom 19. Dezember 2011 erstattete X._ bei der Staatsanwaltschaft Winterhur/Unterland Strafanzeige gegen unbekannte Angestellte der Justizvollzugsanstalt Pöschwies. Zur Begründung führte er aus, der dannzumal diensthabende Mitarbeiter dieser Anstalt habe einen an ihn adressierten Brief mit dem Absender des Obergerichts des Kantons Zürich vom 12. Dezember 2011 geöffnet, bevor er ihm diesen ausgehändigt habe. X._ erhob damit gegenüber Beamten der Justizvollzugsanstalt den strafrechtlichen Vorwurf unberechtigter Kontrolle des Verkehrs mit ihren Aufsichtsbehörden.
B. Mit Verfügung vom 6. März 2012 überwies die Staatsanwaltschaft die Akten auf dem Dienstweg über die Oberstaatsanwaltschaft an das Obergericht (III. Strafkammer) des Kantons Zürich mit dem Antrag, ihr die Ermächtigung zur Durchführung einer Strafuntersuchung nicht zu erteilen. Mit Beschluss vom 20. Juni 2012 verweigerte das Obergericht der Staatsanwaltschaft die Ermächtigung zur Strafverfolgung.
C. Mit als "staatsrechtliche Beschwerde" bezeichneter Eingabe vom 17. Juli 2012 (Poststempel) führt X._ Beschwerde beim Bundesgericht und beantragt sinngemäss, den Entscheid des Obergerichts aufzuheben und die Zürcher Staatsanwaltschaft anzuweisen, ein Strafverfahren zu eröffnen; zudem beantragt er sinngemäss, die Kontrolle seiner Amts- und Gerichtspost durch die Justizvollzugsanstalt Pöschwies generell für unzulässig zu erklären; für das bundesgerichtliche Verfahren sei ihm die unentgeltliche Prozessführung zu gewähren. Die Staatsanwaltschaft Winterthur/Unterland beantragt die Abweisung der Beschwerde mit entsprechender Kostenauflage. Die Oberstaatsanwaltschaft und das Obergericht des Kantons Zürich haben auf eine Stellungnahme verzichtet.

Erwägungen:
1. 1.1 Der Beschwerdeführer bezeichnet seine Eingabe als "staatsrechtliche Beschwerde". Seit Inkrafttreten des Bundesgerichtsgesetzes am 1. Januar 2007 gibt es dieses Rechtsmittel nicht mehr. Damit ist zu prüfen, ob die Eingabe die Voraussetzungen einer der Beschwerdearten nach dem heute gültigen und hier anwendbaren Bundesgesetz vom 17. Juni 2005 über das Bundesgericht (Bundesgerichtsgesetz, BGG; SR 173.110) erfüllt sind.
1.2 Die Ermächtigung zur Strafverfolgung stellt eine Prozessvoraussetzung für das Strafverfahren dar, wird jedoch in einem davon getrennten Verwaltungsverfahren erteilt. Das zutreffende Rechtsmittel ist deshalb die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-ruling> E. 1.3.1 S. 272 mit Hinweisen).
1.3 Angefochten ist der Entscheid einer letzten kantonalen Instanz, der das Verfahren abschliesst (Art. 86 Abs. 1 lit. d und Art. 90 BGG). Eine Ausnahme von der Zulässigkeit der Beschwerde nach <ref-law> besteht vorliegend nicht: Der Tatbestand von <ref-law>, wonach Entscheide über die Verweigerung der Ermächtigung zur Strafverfolgung von Bundespersonal oder Behördenmitgliedern nicht beschwerdefähig sind, ist nur auf die obersten Vollziehungs- und Gerichtsbehörden anwendbar, da nur bei diesen politische Gesichtspunkte in den Entscheid einfliessen (<ref-ruling> E. 1.3.2 S. 272 f. mit Hinweisen). Vorliegend geht es um die Ermächtigung zur Strafverfolgung von Mitarbeitenden einer kantonalen Strafvollzugsanstalt. Diese gehören nicht zu den obersten kantonalen Vollziehungs- und Gerichtsbehörden. Der Ausschlussgrund von <ref-law> greift demnach nicht, womit die Beschwerde ans Bundesgericht zulässig ist.
1.4 Soweit die Anträge des Beschwerdeführers über den strafrechtlichen Vorwurf hinaus auf die generelle Feststellung der Unzulässigkeit der Überwachungspraxis der Gefangenenkorrespondenz durch die Justizvollzuganstalt zielen, sind diese - soweit ohne Bezug zu möglichen Straftatbeständen - nicht Gegenstand des vorliegenden Verfahrens. Insofern ist mangels Ausschöpfung des kantonalen Instanzenzugs auf die Beschwerde nicht einzutreten.
1.5 Zur Beschwerde ist nach <ref-law> berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen hat oder keine Möglichkeit zur Teilnahme erhalten hat (lit. a), durch den angefochtenen Entscheid oder Erlass besonders berührt ist (lit. b) und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung hat (lit. c). Das schutzwürdige Interesse kann rechtlicher oder tatsächlicher Natur sein (<ref-ruling> E. 2.2 S. 290). Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen. Er macht in plausibler Weise geltend, durch das Verhalten, das Gegenstand des strafrechtlichen Vorwurfs bildet, einen Eingriff in sein Persönlichkeitsrecht erlitten zu haben. Die Beschwerdelegitimation ist deshalb zu bejahen.
1.6 Die weiteren Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist unter dem erwähnten Vorbehalt (vgl. E. 1.4) einzutreten.
2. 2.1 Gemäss <ref-law> können die Kantone vorsehen, dass die Strafverfolgung der Mitglieder ihrer Vollziehungs- und Gerichtsbehörden wegen im Amt begangener Verbrechen oder Vergehen von einer Ermächtigung abhängig gemacht wird. Das Gesetz des Kantons Zürich vom 10. Mai 2010 über die Gerichts- und Behördenorganisation im Zivil- und Strafprozess (Gerichtsorganisationsgesetz, GOG; LS 211.1) setzt in § 148 einen entsprechenden Ermächtigungsentscheid für Strafuntersuchungen gegen Beamte im Sinne von <ref-law> durch das Obergericht voraus (<ref-ruling> E. 2.3 S. 276 f.). Damit sollen Staatsbedienstete vor mutwilliger Strafverfolgung geschützt werden. Diese Bestimmung gilt auch für Beamte im Zusammenhang mit ihrer Tätigkeit im Strafvollzug. Soweit, wie vorliegend, nicht die Strafverfolgung von Mitgliedern oberster Gerichts- und Vollziehungsbehörden in Frage steht, sind im Rahmen des Ermächtigungsverfahrens nur strafrechtliche und nicht politische Erwägungen zulässig; es geht um die Prüfung eines genügenden Anfangsverdachts nach rechtlichen Gesichtspunkten (vgl. <ref-ruling> E. 2.2 und 2.4 S. 275 ff. mit Hinweisen).
2.2 Das Obergericht verweigerte im vorliegenden Fall die Ermächtigung zur Strafverfolgung. Es begründete seinen Entscheid zunächst damit, dass sich nicht mehr belegen lasse, an wen der betreffende Briefumschlag adressiert gewesen sei, ob generell an die Justizvollzugsanstalt oder an den Beschwerdeführer persönlich. Selbst im Fall, dass die Sendung an den Beschwerdeführer persönlich adressiert und trotzdem von Mitarbeitenden der Justizvollzugsanstalt geöffnet worden sein sollte, fehle es an der strafrechtlichen Tatbestandsmässigkeit der Handlung des betreffenden Beamten. § 115 Abs. 3 der Justizvollzugsverordnung des Kantons Zürich vom 6. Dezember 2006 (JVV; LS 331.1) stelle eine genügende gesetzliche Grundlage für eine Einschränkung der Freiheitsrechte des Beschwerdeführers dar, was die Verletzung des Schriftgeheimnisses nach <ref-law> ausschliesse. Auch sei <ref-law> bereits objektiv nicht erfüllt, weil der unrechtmässige Gebrauch der durch ein Amt verliehenen Machtbefugnisse vorliegend nicht gegeben sei.
3. 3.1 Zunächst rügt der Beschwerdeführer sinngemäss die vorinstanzliche Sachverhaltsfeststellung, soweit diese davon ausgehe, der Briefumschlag sei nicht an ihn selbst, sondern lediglich an die Vollzugsanstalt adressiert gewesen.
3.2 Die vorinstanzliche Sachverhaltsfeststellung kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>; vgl. auch Art. 105 Abs. 1 und 2 BGG).
3.3 Die Sachverhaltsrüge des Beschwerdeführers geht deshalb fehl, weil die Vorinstanz entgegen seinen Vorbringen einzig feststellte, dass der Sachverhalt beweismässig nicht mehr erstellbar sei. Ausgehend davon hat sie ihrer rechtlichen Beurteilung des Tatvorwurfs alternativ auch die vom Beschwerdeführer behauptete Sachverhaltsdarstellung zugrunde gelegt. Die entsprechende Rüge ist somit weder begründet noch kommt der aufgeworfenen Frage eine entscheidwesentliche Bedeutung zu.
3.4 Der Beschwerdeführer wirft der Staatsanwaltschaft in diesem Zusammenhang zudem vor, zur Aufklärung der Tat keine weiteren Ermittlungen durchgeführt zu haben. Indessen hängt die Strafuntersuchung vorliegend von einer vorgängigen Ermächtigung ab. Ob die Voraussetzungen dafür gegeben sind, ist Gegenstand dieses Verfahrens. Auch diesbezüglich verletzt der vorinstanzliche Entscheid kein Bundesrecht, indem er sich sachverhaltsmässig auf den Verfahrensstand der Staatsanwaltschaft vor Durchführung einer Strafuntersuchung mit weitergehenden Ermittlungen stützt.
4. 4.1 In rechtlicher Hinsicht vertritt der Beschwerdeführer vor Bundesgericht die Auffassung, durch das Öffnen des betreffenden Briefes entgegen der vorinstanzlichen Erwägung Opfer von Amtsmissbrauch und Schriftgeheimnisverletzung geworden zu sein.
4.2 Den Tatvorwürfen des Beschwerdeführers fehlt die nötige Tatbestandsmässigkeit, um von einem Anfangsverdacht ausgehen zu können, der die Einleitung einer Strafuntersuchung rechtfertigen würde. Das in der Beschwerdeschrift dem zuständigen Beamten zur Last gelegte Verhalten ist strafrechtlich aus folgenden Gründen nicht relevant:
4.2.1 Nach <ref-law> ist strafbar, wer, ohne dazu berechtigt zu sein, eine verschlossene Schrift oder Sendung öffnet, um von ihrem Inhalt Kenntnis zu nehmen. Wer hingegen zur Öffnung einer verschlossenen Sendung befugt ist, macht sich der Verletzung des Schriftgeheimnisses nicht strafbar. Zu den Berechtigten gehören die Beamten im Strafvollzug, sofern sie sich im Rahmen ihrer gesetzlich bestimmten Eingriffsbefugnis bewegen. Den gesetzlichen Rahmen für die vorliegende Handlung des Justizvollzugsbeamten bilden im Bundesrecht <ref-law> und auf kantonaler Ebene § 115 Abs. 3 sowie § 121 Abs. 3 JVV.
4.2.2 <ref-law> bestimmt, dass der Verkehr mit den Aufsichtsbehörden nicht kontrolliert werden darf. Im Einklang damit sieht § 121 Abs. 3 JVV unter anderem vor, dass eine inhaltliche Überprüfung der Korrespondenz mit der Aufsichtsbehörde der Justizvollzugsbehörden nicht gestattet ist. Nach kantonalem Recht amtet als Aufsichtsbehörde die Direktion der Justiz und des Inneren.
4.2.3 Das Obergericht des Kantons Zürich als Absender des hier in Frage stehenden Briefes übt über die Justizvollzugsanstalt Pöschwies keine Aufsicht aus und steht auch ausserhalb des entsprechenden Instanzenzugs im Rechtsmittelverfahren. Der zuständige Strafvollzugsbeamte hat sich demnach strafrechtlich nicht tatbestandsmässig verhalten, wenn er den Brief mit dem Absender des Zürcher Obergerichts geöffnet hatte, bevor er ihn dem Beschwerdeführer aushändigte. Daran ändert auch das Vorbringen des Beschwerdeführers nichts, das Verhalten des Vollzugsbeamten verletze Art. 8 EMRK. Diese Garantie schützt nach der Rechtsprechung des EGMR im vorliegenden Zusammenhang lediglich den Verkehr mit den Aufsichtsbehörden (vgl. Urteil des EGMR Campbell gegen Grossbritannien vom 25. März 1992, Serie A Bd. 233 § 55 ff.). Dazu gehört die hier in Frage stehende Sendung wie erwähnt nicht.
4.2.4 Der vorinstanzlich erstellte Sachverhalt gibt schliesslich keinen Anlass dafür, von einer grundrechtswidrigen - und strafrechtlich vorwerfbaren - routinemässigen Öffnung an den Beschwerdeführer adressierter Post durch den betreffenden Beamten der Justizvollzugsanstalt auszugehen (zur Beurteilung einer derartigen Kontrollpraxis durch Anstaltspersonal vgl. <ref-ruling> E. 2 S. 149 ff. mit Hinweisen). Die dahin gehenden Rügen in der Beschwerdeschrift sind somit ebenfalls unbegründet.
4.2.5 Damit erfüllt das dem zuständigen Vollzugsbeamten vorgeworfene Verhalten auch nicht den Tatbestand von <ref-law>. Denn Amtsmissbrauch setzt gleich wie die Schriftgeheimnisverletzung unbefugtes Handeln voraus. Dieses Tatbestandselement liegt hier nicht vor.
4.2.6 Demnach ist das Obergericht zu Recht vom Fehlen eines hinreichenden Anfangsverdachts ausgegangen, welcher die Einleitung einer Strafuntersuchung gegen den vom Beschwerdeführer beschuldigten Beamten rechtfertigen würde. Indem die Vorinstanz die Ermächtigung zur Strafuntersuchung verweigerte, verletzte sie kein Bundesrecht.
5. Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann.
6. Es rechtfertigt sich angesichts der besonderen Umstände, auf die Erhebung von Gerichtskosten zu verzichten (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Es werden keine Gerichtskosten erhoben.
3. Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft Winterthur/Unterland, der Oberstaatsanwaltschaft des Kantons Zürich und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 30. August 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Aemisegger
Der Gerichtsschreiber: Geisser