Sachverhalt:
A.
Die Staatsanwaltschaft Zürich führt gegen A._ ein Strafverfahren. Mit Schreiben vom 2. und 3. Juni 2015 an die Oberstaatsanwaltschaft des Kantons Zürich warf A._ den Staatsanwälten B._, C._ und Assistenzstaatsanwalt D._ vor, in (getrennt geführten) Strafverfahren gegen Mitbeschuldigte Urkunden unterdrückt zu haben (<ref-law>). Die Oberstaatsanwaltschaft überwies die Sache zum Entscheid über die Ermächtigung zur Eröffnung einer Strafuntersuchung gegen die angezeigten Beamten dem Obergericht des Kantons Zürich. Mit Beschluss vom 19. August 2015 verweigerte dieses die Ermächtigung. Zur Begründung führte es aus, A._ habe behauptet, über eine ganze Reihe von E-Mails zu verfügen, die er zumindest teilweise an der Hauptverhandlung vorzulesen gedenke, aber seiner Anzeige nicht beigelegt habe, weil er angeblich seine Quellen schützen wolle. Angesichts dessen sei aufgrund der Akten zu entscheiden. Aus diesen ergebe sich jedoch kein Verdacht auf Unterdrückung von Urkunden.
Am 8. September 2015 überwies die Oberstaatsanwaltschaft dem Obergericht erneut eine Strafanzeige von A._ gegen die Staatsanwälte B._, C._ und Assistenzstaatsanwalt D._, diesmal nebst der Unterdrückung von Urkunden auch wegen Begünstigung (<ref-law>), falscher Anschuldigung (<ref-law>), Nötigung (<ref-law>), Amtsmissbrauch (<ref-law>) und Irreführung der Rechtspflege (<ref-law>). Mit Beschluss vom 4. Dezember 2015 verweigerte das Obergericht erneut die Ermächtigung zur Eröffnung einer Strafuntersuchung (Dispositiv-Ziff. 1). Das Gesuch von A._ um Gewährung der unentgeltlichen Rechtsvertretung wies es wegen offensichtlicher Aussichtslosigkeit seiner Begehren ab (Dispositiv-Ziff. 2).
B.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht vom 29. Januar 2016 beantragt A._, Dispositiv-Ziffern 1 und 2 des Beschlusses des Obergerichts seien aufzuheben, die Ermächtigung sei zu erteilen und das Gesuch um unentgeltliche Rechtsvertretung zu bewilligen.
Das Obergericht und die Beschwerdegegner haben auf eine Stellungnahme verzichtet. Die Oberstaatsanwaltschaft hat sich nicht vernehmen lassen.

Erwägungen:
1.
1.1. Die Ermächtigung zur Strafverfolgung stellt eine Prozessvoraussetzung für das Strafverfahren dar, wird jedoch in einem davon getrennten Verwaltungsverfahren erteilt. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist deshalb das zutreffende Rechtsmittel (<ref-ruling> E. 1.3.1 S. 272 mit Hinweisen).
1.2. Angefochten ist ein Entscheid einer letzten kantonalen Instanz, der das Verfahren abschliesst (Art. 86 Abs. 1 lit. d und Art. 90 BGG). Eine Ausnahme von der Zulässigkeit der Beschwerde nach <ref-law> besteht nicht. Lit. e dieser Bestimmung, wonach Entscheide über die Verweigerung der Ermächtigung zur Strafverfolgung von Behördenmitgliedern oder von Bundespersonal von der Beschwerdemöglichkeit ausgenommen sind, ist nur auf die obersten Vollziehungs- und Gerichtsbehörden anwendbar, denn nur bei diesen dürfen politische Gesichtspunkte in den Entscheid einfliessen (<ref-ruling> E. 1.3.2 S. 272 f. mit Hinweis). Die Beschwerdegegner fallen nicht in diese Kategorie.
1.3. Zur Beschwerde ist nach <ref-law> berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat (lit. a), durch den angefochtenen Entscheid oder Erlass besonders berührt ist (lit. b) und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung hat (lit. c). Der Beschwerdeführer hat darzulegen, dass die gesetzlichen Legitimationsvoraussetzungen erfüllt sind, soweit dies nicht ohne Weiteres ersichtlich ist (<ref-law>, <ref-ruling> E. 2 S. 403 f. mit Hinweis).
1.4. Der Beschwerdeführer begründet nicht, weshalb er sich zur Beschwerde berechtigt ansieht, und dies ist auch nicht ohne Weiteres ersichtlich. Die erwähnten Deliktsvorwürfe beziehen sich allesamt auf das Verhalten der Beschwerdegegner in separaten Strafverfahren gegen andere Beschuldigte. Der Beschwerdeführer ist der Ansicht, die Staatsanwaltschaft habe Tatvorwürfe gegen jene Beschuldigten fallen gelassen, um ein abgekürztes Verfahren durchführen zu können. Entsprechende Absprachen würden aus einem intensiven E-Mail-Verkehr hervorgehen, welcher jedoch in der Folge weitgehend gelöscht worden sei.
Der Beschwerdeführer selbst ist von den erhobenen Deliktsvorwürfen nicht direkt betroffen (vgl. dazu Urteile 1C_344/2012 vom 21. Oktober 2012 E. 1.4; 1C_382/2012 vom 10. Oktober 2012 E. 2.6; je mit Hinweisen). Im Rahmen seiner Beschwerdebegründung geht er zwar davon aus, dass die Begünstigung von anderen Beschuldigten ihm gegenüber "automatisch" zu einer massiven Mehrbelastung führe. Dies liegt indessen nicht auf der Hand und wird vom Beschwerdeführer auch nicht näher begründet. Insbesondere macht er auch nicht geltend, im gegen ihn geführten Strafverfahren seien entsprechende Unregelmässigkeiten vorgekommen. Unter diesen Umständen ist nicht ersichtlich, inwiefern dem Beschwerdeführer im Falle des Obsiegens ein praktischer Nutzen entstehen könnte. Auf die Beschwerde ist deshalb nicht einzutreten.
1.5. Obwohl der Beschwerdeführer in der Sache selbst nicht legitimiert ist, kann er vor Bundesgericht geltend machen, im kantonalen Verfahren in seinen Parteirechten verletzt worden zu sein. Allerdings kann auf diesem Weg keine (indirekte) Überprüfung des Entscheids in der Hauptsache erlangt werden. Nicht einzutreten ist daher auf formelle Rügen, deren Beurteilung von der Prüfung in der Sache selbst nicht getrennt werden kann (<ref-ruling> E. 1.4 S. 222; Urteil 1C_700/2013 11. März 2014 E. 3, in: URP 2014 S. 282; je mit Hinweisen).
Der Beschwerdeführer macht eine Verletzung von Parteirechten geltend, indem er rügt, die Vorinstanz sei teilweise von einer rechtskräftig beurteilten Angelegenheit ausgegangen und habe ihm zu Unrecht die unentgeltliche Rechtspflege wegen Aussichtslosigkeit seiner Begehren verwehrt. Diese Kritik kann von einer Prüfung in der Sache selbst jedoch nicht getrennt werden, weshalb auch insofern nicht auf die Beschwerde einzutreten ist (vgl. Urteil 1B_543/2011 vom 29. November 2011 E. 1.3).
2.
Auf die Beschwerde ist aus den genannten Gründen nicht einzutreten.
Dem Gesuch um unentgeltliche Rechtspflege kann wegen Aussichtslosigkeit der Vorbringen nicht entsprochen werden (vgl. <ref-law>). Die Gerichtskosten sind deshalb dem Beschwerdeführer aufzuerlegen (<ref-law>). Eine Parteientschädigung ist nicht zuzusprechen (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4.
Es wird keine Parteientschädigung zugesprochen.
5.
Dieses Urteil wird den Parteien, der Oberstaatsanwaltschaft und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 6. April 2016
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Dold