Sachverhalt:
A._ erhob am 11. Januar 2012 unter anderem gegen den Gemeindepräsidenten von X._, B._, sowie die Mitarbeiter des Kantonalen Steueramts C._ und D._ Strafanzeige wegen Amtsmissbrauchs und weiterer Straftatbestände. Die Staatsanwaltschaft Zürich-Sihl überwies die Sache ans Obergericht des Kantons Zürich zum Entscheid über die Erteilung bzw. Nichterteilung der Ermächtigung zur Durchführung einer Strafuntersuchung gegen die genannten Personen. Mit Beschluss vom 4. Juni 2012 erteilte die III. Strafkammer des Obergerichts der Staatsanwaltschaft die Ermächtigung zur Strafuntersuchung gegen B._, C._ und D._ nicht. Gegen den Beschluss des Obergerichts hat A._ Beschwerde ans Bundesgericht erhoben (Postaufgabe am 23. Juli 2012). Er beantragt die Aufhebung des angefochtenen Entscheids und sinngemäss, der Staatsanwaltschaft sei die Ermächtigung zur Durchführung einer Strafuntersuchung zu erteilen. Die Beschwerdegegner, die Vorinstanz, die Staatsanwaltschaft Zürich-Sihl und die Oberstaatsanwaltschaft des Kantons Zürich haben auf eine Vernehmlassung verzichtet.

Erwägungen:
1. Der Beschwerdeführer stellt ein Ausstandsbegehren gegen mehrere Bundesrichter sowie einen Gerichtsschreiber des Bundesgerichts. Er begründet das Ausstandsbegehren allein mit dem Hinweis auf die Mitwirkung dieser Personen an ihn betreffenden früheren Entscheiden. Richtern und Gerichtsschreibern kann indessen die Unabhängigkeit nicht abgesprochen werden, nur weil sie in früheren Verfahren mitgewirkt haben, an denen der Beschwerdeführer beteiligt war (vgl. <ref-law>). Das Vorbringen des Beschwerdeführers vermag den Ausstand von vornherein nicht zu begründen, weshalb kein Ausstandsverfahren nach <ref-law> durchgeführt zu werden braucht. Auf das gestellte Ausstandsbegehren ist vielmehr nicht einzutreten (<ref-ruling> E. 4.2.2 S. 464; <ref-ruling> E. 1 S. 279).
2. 2.1 Beim angefochtenen Entscheid handelt es sich um einen letztinstanzlichen kantonalen Endentscheid in einer öffentlich-rechtlichen Angelegenheit (vgl. <ref-ruling> E. 1.3.1 S. 272), gegen den die Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht nach Art. 82 lit. a, Art. 86 Abs. 1 lit. d und Abs. 2 sowie Art. 90 BGG grundsätzlich zulässig ist. Eine Ausnahme von der Zulässigkeit der Beschwerde nach <ref-law> besteht nicht, zumal <ref-law>, wonach Entscheide über die Verweigerung der Ermächtigung zur Strafverfolgung von Behördenmitgliedern oder von Bundespersonal von der Beschwerdemöglichkeit ausgenommen sind, nur auf die obersten Vollziehungs- und Gerichtsbehörden anwendbar ist (<ref-ruling> E. 1.3.2 S. 272 f. mit Hinweis).
2.2 Zur Beschwerde ist nach <ref-law> berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen hat oder keine Möglichkeit zur Teilnahme erhalten hat (lit. a), durch den angefochtenen Entscheid oder Erlass besonders berührt ist (lit. b) und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung hat (lit. c). Im Hinblick auf Art. 42 Abs. 1 und 2 BGG hat der Beschwerdeführer darzulegen, dass die gesetzlichen Legitimationsvoraussetzungen gegeben sind, soweit diese nicht ohne Weiteres ersichtlich sind (<ref-ruling> E. 2 S. 403 f. mit Hinweis).
2.3 Der Beschwerdeführer hat am vorinstanzlichen Verfahren teilgenommen. Er legt nicht dar, inwiefern er an der Änderung des angefochtenen Entscheids bzw. der Erteilung der Ermächtigung für die Einleitung einer Strafuntersuchung gegen die Beschwerdegegner ein schutzwürdiges Interesse im Sinne von <ref-law> haben sollte. Ob dies der Fall ist, erscheint fraglich, kann indessen offen bleiben, da die Beschwerde ohnehin abzuweisen ist.
3. Der Beschwerdeführer bringt vor, die am angefochtenen Entscheid mitwirkenden Richter des Obergerichts sowie die mitwirkende Gerichtsschreiberin seien befangen gewesen. Damit rügt er sinngemäss eine Verletzung des Anspruchs auf ein unabhängiges und unparteiisches Gericht.
3.1 Nach <ref-law> und (in Streitigkeiten in Bezug auf ihre zivilrechtlichen Ansprüche und Verpflichtungen oder über eine gegen sie erhobene strafrechtliche Anklage) Art. 6 Ziffer 1 EMRK hat jede Person Anspruch darauf, dass ihre Sache von einem unparteiischen, unvoreingenommenen und unbefangenen Richter entschieden wird. Voreingenommenheit und Befangenheit werden nach der Rechtsprechung angenommen, wenn Umstände vorliegen, die bei objektiver Betrachtung geeignet sind, Misstrauen in die Unparteilichkeit des Richters zu erwecken. Solche Umstände können in einem bestimmten Verhalten des betreffenden Richters oder in gewissen äusseren Gegebenheiten funktioneller und organisatorischer Natur begründet sein. Bei der Beurteilung solcher Umstände ist nicht auf das subjektive Empfinden einer Partei abzustellen. Das Misstrauen in die Unvoreingenommenheit muss vielmehr in objektiver Weise begründet erscheinen. Es genügt, wenn Umstände vorliegen, die bei objektiver Betrachtung den Anschein der Befangenheit und Voreingenommenheit erwecken. Für die Ablehnung wird nicht verlangt, dass der Richter tatsächlich befangen ist (<ref-ruling> E. 3.1 S. 210 mit Hinweisen). Verfahrensfehler und falsche Sachentscheide sind für sich allein nicht Ausdruck einer Voreingenommenheit. Sie sind in erster Linie im Rechtsmittelverfahren geltend zu machen. Anders verhält es sich lediglich, wenn besonders krasse und wiederholte Irrtümer vorliegen, die einer schweren Amtspflichtverletzung gleichkommen und sich einseitig zu Lasten einer der Prozessparteien auswirken können (<ref-ruling> E. 3e S. 124; <ref-ruling> E. 3a S. 138).
3.2 Der Beschwerdeführer macht zunächst geltend, das Obergericht habe in früheren Verfahren, an denen er beteiligt gewesen sei, Verfahrensfehler begangen, rechtsmissbräuchlich gehandelt und eine einseitig parteiische Gesinnung gezeigt. Er legt aber nicht dar und es ist nicht ersichtlich, inwiefern den am angefochtenen Entscheid mitwirkenden Richtern in früheren Verfahren besonders krasse und wiederholte Irrtümer unterlaufen sein sollten.
Der Beschwerdeführer bringt sodann vor, im Verfahren, das zum vorliegend angefochtenen Entscheid führte, seien ebenfalls Fehler gemacht worden. Anlässlich der ihm im vorinstanzlichen Verfahren gewährten Einsicht in die Verfahrensakten habe sich gezeigt, dass der angefochtene Entscheid bereits am 20. März 2012 und damit vor seiner Stellungnahme vom 25. April 2012 verfasst worden sei. Ausserdem sei den Akten ein nicht rechtskräftiger Beschluss des Obergerichts vom 27. Dezember 2011 beigelegen, der mit dem vorliegenden Verfahren keinen Zusammenhang habe. Der Beschwerdeführer legt nicht dar, inwiefern die Vorinstanz damit gegen die verfassungsrechtlichen Verfahrensgarantien oder sonst gegen Bundesrecht verstossen haben sollte. Dies ist auch nicht ersichtlich, zumal sich die Vorinstanz mit der Stellungnahme des Beschwerdeführers vom 25. April 2012 im angefochtenen Entscheid auseinandergesetzt hat.
3.3 Dass den am angefochtenen Entscheid mitwirkenden Personen im vorinstanzlichen und in früheren den Beschwerdeführer betreffenden Verfahren besonders krasse und wiederholte Irrtümer unterlaufen sein sollten, die einer schweren Amtspflichtverletzung gleichkämen und sich einseitig zu seinen Lasten auswirken könnten, ist nach dem Gesagten nicht dargetan und nicht ersichtlich. In diesem Zusammenhang unbehelflich sind die Hinweise des Beschwerdeführers auf angebliche Pflichtverletzungen von Personen, die am angefochtenen Entscheid gar nicht mitgewirkt haben, insbesondere auf angebliche Verfehlungen der Staatsanwaltschaft. Soweit der Beschwerdeführer eine Verletzung des Anspruchs auf ein unabhängiges und unparteiisches Gericht überhaupt in genügender Weise begründet hat und auf seine Rüge einzutreten ist (vgl. <ref-law>), vermag er damit nicht durchzudringen.
4. Gemäss <ref-law> (SR 312.0) können die Kantone vorsehen, dass die Strafverfolgung der Mitglieder ihrer Vollziehungs- und Gerichtsbehörden wegen im Amt begangener Verbrechen oder Vergehen von der Ermächtigung einer nicht richterlichen Behörde abhängt. Diese Bestimmung bietet den Kantonen die Möglichkeit, die Strafverfolgung sämtlicher Mitglieder ihrer Vollziehungs- und Gerichtsbehörden von einer Ermächtigung abhängig zu machen (<ref-ruling> E. 2.1). Nach § 148 des Gesetzes vom 10. Mai 2010 über die Gerichts- und Behördenorganisation im Zivil- und Strafprozess (GOG; LS 211.1) setzt im Kanton Zürich die Eröffnung einer Strafuntersuchung gegen Beamte gemäss <ref-law> wegen im Amt begangener Verbrechen oder Vergehen eine Ermächtigung des Obergerichts voraus. Vorbehalten bleibt § 38 Abs. 1 des Kantonsratsgesetzes vom 5. April 1981 (KRG; LS 171.1), wonach die Eröffnung einer Strafuntersuchung gegen Mitglieder des Regierungsrats, des Obergerichts, des Verwaltungsgerichts und des Sozialversicherungsgerichts für im Amt begangene Verbrechen oder Vergehen eine Ermächtigung des Kantonsrats voraussetzt. Mit diesen kantonalen Bestimmungen, die gemäss bundesgerichtlicher Rechtsprechung den bundesrechtlichen Anforderungen (namentlich <ref-law>) Rechnung tragen, sollen Staatsbedienstete vor mutwilliger Strafverfolgung geschützt werden (<ref-ruling> E. 2.2 f. S. 275 ff.). In verfassungskonformer Auslegung von <ref-law> dürfen in solchen Ermächtigungsverfahren - ausser bei obersten Vollziehungs- und Gerichtsbehörden - nur strafrechtliche Gesichtspunkte berücksichtigt werden (<ref-ruling> E. 2.4 S. 277 f.).
5. Gemäss <ref-law> eröffnet die Staatsanwaltschaft eine Strafuntersuchung, wenn ein hinreichender Tatverdacht besteht. Die Vorinstanz begründete die Verweigerung der Ermächtigung zur Eröffnung einer Strafuntersuchung mit dem Fehlen eines hinreichenden Anfangverdachts. Der Beschwerde kann sinngemäss die Rüge entnommen werden, die Vorinstanz habe <ref-law> verletzt, indem sie die Ermächtigung zur Eröffnung einer Strafuntersuchung verweigert habe.
5.1 In seiner Strafanzeige vom 11. Januar 2012 warf der Beschwerdeführer den Beschwerdegegnern unter anderem Amtsmissbrauch (<ref-law>), Urkundenfälschung im Amt (<ref-law>) und Vorteilsgewährung (<ref-law>) vor. Der Beschwerdegegner 3 habe am 21. Oktober 20011 behauptet, er habe keine Steuererklärung eingereicht, was eine Falschaussage gewesen sei. Eine daraufhin vom Beschwerdegegner 3 ausgefertigte Veranlagungsverfügung enthalte absurde, willkürliche Zahlen. In einem als Einschätzungsentscheid bezeichneten Schreiben habe der Beschwerdegegner 3 behauptet, von ihm eine Zustimmungserklärung zu einem Einschätzungsvorschlag nicht erhalten zu haben, was ebenfalls nicht der Wahrheit entspreche. Die Zustimmungserklärung habe er der Finanzdirektion des Kantons Zürich zugesandt, wovon der Beschwerdegegner 2 Kenntnis gehabt habe. Die Beschwerdegegner 2 und 3 hätten trotz Befangenheit Verfügungen und Entscheide erlassen. Darüber hinaus verwies der Beschwerdeführer in seiner Strafanzeige vom 11. Januar 2012 auf frühere Eingaben von ihm an verschiedene Behörden, welche strafbare Handlungen der angezeigten Personen belegen sollen. Dem Beschwerdegegner 1 warf er in einer Beilage zur Strafanzeige unter anderem vor, er habe die Annahme von an ihn gerichteten Eingaben verweigert.
5.2 Die Vorinstanz hat im angefochtenen Entscheid festgehalten, der Beschwerdeführer habe keine Handlungen genannt, welche auf Seiten der Beschwerdegegner auf einen hinreichenden Anfangsverdacht schliessen liessen bzw. das Vorliegen eines solchen belegen würden. Auch den Akten sei ein Vorgehen der Beschwerdegegner in diese Richtung nicht zu entnehmen. Dem ist zuzustimmen. In seiner Strafanzeige vom 11. Januar 2012 nennt der Beschwerdeführer keine Handlungen der Beschwerdegegner, welche bezüglich der angezeigten oder anderer Delikte auf einen hinreichenden Tatverdacht schliessen lassen würden. Insbesondere ist nicht ersichtlich, inwiefern sich die Beschwerdegegner des Amtsmissbrauchs, der Urkundenfälschung im Amt oder der Vorteilsgewährung schuldig gemacht haben sollten. Auch den vom Beschwerdeführer der Strafanzeige beigelegten Eingaben an verschiedene Behörde ist nicht zu entnehmen, inwiefern sich die Beschwerdegegner strafbar gemacht haben sollten. Ein hinreichender Tatverdacht für ein strafbares Verhalten der Beschwerdegegner wäre insbesondere auch dann nicht ersichtlich, falls der Beschwerdeführer - wie er vorbringt - die Steuererklärung zwar nicht im Kanton Zürich, aber an seinem neuen Wohnort Luzern und eine Zustimmungserklärung zu einem Einschätzungsvorschlag (bei der Finanzdirektion des Kantons Zürich statt der Steuerverwaltung) tatsächlich eingereicht hat. Die (sinngemäss erhobene) Rüge des Beschwerdeführers, die Vorinstanz habe <ref-law> verletzt, ist offensichtlich unbegründet.
6. Soweit der Beschwerdeführer überdies sinngemäss oder ausdrücklich rügt, die Vorinstanz habe Art. 7-9 und <ref-law> sowie Art. 13 und 14 EMRK verletzt, ist darauf mangels genügender Begründung (vgl. <ref-law>) nicht einzutreten. Das Gleiche gilt für das Vorbringen des Beschwerdeführers, die Vorinstanz habe seinem Entscheid unrichtige Tatsachen zu Grunde gelegt, zumal der Beschwerdeführer nicht in genügender Weise begründet, inwiefern die Vorinstanz den entscheidwesentlichen Sachverhalt offensichtlich unrichtig (d.h. willkürlich im Sinne von <ref-law>) festgestellt haben soll oder die vorinstanzliche Sachverhaltsfeststellung auf einer Rechtsverletzung im Sinne von <ref-law> beruhen soll (vgl. Art. 97 Abs. 1 i.V.m. <ref-law>).
7. Die Beschwerde erweist sich als offensichtlich unbegründet. Sie ist im Verfahren nach <ref-law> abzuweisen, soweit darauf einzutreten ist. Der Beschwerdeführer hat um Gewährung der unentgeltlichen Rechtspflege inklusive unentgeltlicher Verbeiständung ersucht. Darüber kann unter den gegebenen Umständen mit dem vorliegenden Urteil entschieden werden (vgl. Urteil 4A_20/2011 vom 11. April 2011 E. 7.2.2). Die unentgeltliche Rechtspflege kann gewährt werden, wenn der Beschwerdeführer nicht über die erforderlichen Mittel verfügt und die Beschwerdesache nicht aussichtslos ist (<ref-law>). Die Gewährung der unentgeltlichen Verbeiständung setzt überdies voraus, dass der Beschwerdeführer auf einen Rechtsbeistand angewiesen ist (<ref-law>). Die vorstehenden Erwägungen zeigen, dass die Beschwerde aussichtslos war. Demnach ist das Gesuch um unentgeltliche Rechtspflege abzuweisen. Es rechtfertigt sich indes, auf die Erhebung von Gerichtskosten zu verzichten (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3. Es werden keine Gerichtskosten erhoben.
4. Dieses Urteil wird den Parteien, der Oberstaatsanwaltschaft des Kantons Zürich, der Staatsanwaltschaft Zürich-Sihl und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 1. Februar 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Mattle