Sachverhalt:
A.
Mit Schreiben vom 22. April 2014 reichte A._ bei der Staatsanwaltschaft Winterthur/Unterland eine Strafanzeige gegen drei Mitarbeiter der Justizvollzugsanstalt Pöschwies ein. Es handelt sich bei diesen um einen Abteilungsleiter (B._, Beschwerdegegner 1), eine Assistenzärztin (C._, Beschwerdegegnerin 2) und den leitenden Arzt (D._, Beschwerdegegner 3). A._ wirft ihnen vor, dafür verantwortlich zu sein, dass Telefongespräche, die er während seines Aufenthalts in der Justizvollzugsanstalt Pöschwies mit seiner damaligen Ehefrau geführt hat, unerlaubterweise abgehört und aufgenommen worden seien.
Die Staatsanwaltschaft leitete die Angelegenheit ans Obergericht des Kantons Zürich weiter, damit dieses über die Ermächtigung zur Durchführung einer Strafuntersuchung gegen die angezeigten Beamten entscheide. Sie beantragte, die Ermächtigung zu verweigern.
Mit Beschluss vom 3. Juni 2014 verweigerte das Obergericht die Ermächtigung zur Strafverfolgung.
B.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht vom 26. Juni 2014 beantragt A._, der Beschluss des Obergerichts sei aufzuheben und dieses sei anzuweisen, die Ermächtigung zur Strafverfolgung zu erteilen. Zudem sei festzustellen, dass der angefochtene Entscheid Art. 1, 8, 13 und 14 EMRK verletze.
Die Oberstaatsanwaltschaft und das Obergericht haben auf eine Vernehmlassung verzichtet. Die Staatsanwaltschaft und B._ beantragen die Abweisung der Beschwerde. Die beiden anderen Beschwerdegegner haben sich nicht vernehmen lassen. Der Beschwerdeführer hält in seiner Replik an seinem Standpunkt fest, ebenso B._ in seiner Duplik.

Erwägungen:
1.
1.1. Die Ermächtigung zur Strafverfolgung stellt eine Prozessvoraussetzung für das Strafverfahren dar, wird jedoch in einem davon getrennten Verwaltungsverfahren erteilt. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist deshalb das zutreffende Rechtsmittel (<ref-ruling> E. 1.3.1 S. 272 mit Hinweisen).
1.2. Angefochten ist ein Entscheid einer letzten kantonalen Instanz, der das Verfahren abschliesst (Art. 86 Abs. 1 lit. d und Art. 90 BGG). Eine Ausnahme von der Zulässigkeit der Beschwerde nach <ref-law> besteht nicht. Lit. e dieser Bestimmung, wonach Entscheide über die Verweigerung der Ermächtigung zur Strafverfolgung von Behördenmitgliedern oder von Bundespersonal von der Beschwerdemöglichkeit ausgenommen sind, ist nur auf die obersten Vollziehungs- und Gerichtsbehörden anwendbar, denn nur bei diesen dürfen politische Gesichtspunkte in den Entscheid einfliessen (<ref-ruling> E. 1.3.2 S. 272 f. mit Hinweis).
1.3. Der Beschwerdeführer hat am Verfahren vor dem Obergericht teilgenommen und ist vom behaupteten Straftatbestand potenziell direkt betroffen (vgl. Urteil 1C_382/2012 vom 10. Oktober 2012 E. 2.6). Er ist nach <ref-law> zur Beschwerde legitimiert.
1.4. Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist grundsätzlich einzutreten.
2.
2.1. Das Obergericht des Kantons Zürich legte dar, der Beschwerdeführer habe sich im Zeitpunkt, als die Telefongespräche aufgenommen worden seien, im vorzeitigen Massnahmenvollzug befunden. Somit sei er dem Vollzugsregime unterstanden, für welches § 116 Abs. 2 der Justizvollzugsverordnung des Kantons Zürich vom 6. Dezember 2006 (JVV; LS 331.1) ausdrücklich vorsehe, dass Telefongespräche überwacht oder aufgezeichnet werden können. Es bestehe somit eine hinreichende gesetzliche Grundlage und mithin ein Rechtfertigungsgrund im Sinne von <ref-law>.
2.2. Der Beschwerdeführer macht geltend, <ref-law> sei vorliegend nicht anwendbar, da <ref-law> als speziellere Norm vorgehe. Zudem lasse sich § 116 JVV nicht als Rechtfertigungsgrund heranziehen, da diese Bestimmung nur auf verurteilte Personen anwendbar sei. Es sei deshalb davon auszugehen, dass sich die Beschwerdegegner des Abhörens und Aufnehmens fremder Gespräche nach <ref-law> strafbar gemacht hätten.
Der Beschwerdeführer rügt weiter eine Verletzung von Art. 8 EMRK, der das Privat- und Familienleben schützt. Zudem ist er der Ansicht, dass das Recht auf wirksame Beschwerde nach Art. 13 EMRK die Ermächtigung zur Strafverfolgung gebiete, da es abzuklären gelte, ob eine entsprechende (Grund-) Rechtsverletzung vorliege. Im Ergebnis seien ihm die in der EMRK verankerten Rechte und Freiheiten nicht zugesichert worden, was gegen Art. 1 EMRK verstosse.
2.3. Prozessgegenstand ist vorliegend einzig die Frage der Ermächtigung zur Strafverfolgung gegen die drei Beschwerdegegner. Nicht direkt zu überprüfen ist dagegen, ob die Grundrechtseinschränkung, die der Beschwerdeführer durch die Telefonabhörung erfuhr, vor der Verfassung oder der EMRK standhält. Denn eine allenfalls unzulässige Grundrechtseinschränkung bedeutete nicht, dass sich die handelnden Beamten auch strafbar gemacht hätten. Dasselbe gilt im Übrigen für die Frage, ob die abgehörten Gespräche im Strafverfahren gegen den Beschwerdeführer verwendet werden dürfen.
Der Beschwerdeführer verkennt diese Rechtslage, wenn er beantragt festzustellen, dass der angefochtene Entscheid Art. 1, 8, 13 und 14 EMRK verletzt. Ein Interesse an einer derartigen Feststellung im Rahmen des vorliegenden Ermächtigungsverfahrens, welches über das Interesse an der Gutheissung der übrigen Rechtsbegehren hinausgeht, ist nicht erkennbar. Darauf ist nicht einzutreten (<ref-ruling> E. 1 S. 88 f.; Urteil 1C_45/2009 vom 6. Juli 2009 E. 1.5; je mit Hinweisen).
2.4. Die Ermächtigung zur Strafverfolgung darf zwar nicht aus Gründen der Opportunität verweigert werden. Immerhin müssen jedoch genügende Hinweise für eine strafbare Handlung vorliegen (Urteil 1C_382/2012 vom 10. Oktober 2012 E. 3.1 mit Hinweisen). Bei einem tatbestandsmässigen Verhalten, das - etwa aufgrund einer Amtspflicht - offenkundig erlaubt oder gar geboten ist, besteht kein Anlass, eine Untersuchung zu eröffnen (Urteil 1B_158/2012 vom 15. Oktober 2012 E. 2.6).
2.5. Der Beschwerdeführer ist, wie erwähnt, der Ansicht, <ref-law> betreffend die amtliche Überwachung schliesse die allgemeine Bestimmung von <ref-law> über gesetzlich erlaubte Handlungen aus. Er beruft sich auf DONATSCH, der <ref-law> als eine lex specialis zu <ref-law> bezeichnet ( ANDREAS DONATSCH, Strafrecht III, 10. Aufl. 2013, S. 400). Dabei übersieht er jedoch, dass der Begriff der "lex specialis" in diesem Kontext nicht bedeutet, dass weitere Rechtfertigungsgründe ausgeschlossen wären. DONATSCH schreibt im Rahmen der Kommentierung von <ref-law> denn auch ausdrücklich, die Widerrechtlichkeit des Abhörens und Aufnehmens fremder nicht öffentlicher Gespräche sowie der mit Strafe bedrohten Anschlusshandlungen könne nach Art. 14 f. und 17 StGB entfallen (a.a.O., S. 406). Diese Ansicht wird auch in der weiteren Literatur vertreten (vgl. bspw. PETER VON INS/PETER-RENÉ WYDER, in: Basler Kommentar, Strafrecht II, 2. Aufl. 2007, N. 17 ff. zu <ref-law>).
2.6. Gemäss <ref-law> verhält sich rechtmässig, wer handelt, wie es das Gesetz gebietet oder erlaubt, auch wenn die Tat nach dem Strafgesetzbuch oder einem anderen Gesetz mit Strafe bedroht ist. Die Bestimmung, die aArt. 32 StGB entspricht, verlangt, dass im Rahmen des anwendbaren Rechts auch der Verhältnismässigkeitsgrundsatz beachtet wird (<ref-ruling> E. 4 S. 86 mit Hinweisen; Urteil 6B_758/2011 vom 24. September 2012 E. 1.3). Als Gesetze im Sinne von <ref-law> gelten auch Verordnungen. Neben eidgenössischen kommen zudem auch kantonale Gesetze in Frage (zum Ganzen: Urteil 6B_569/2012 vom 2. Mai 2013 E. 2.3.1 mit Hinweisen).
2.7. Gemäss <ref-law> betreffend den vorzeitigen Straf- und Massnahmenvollzug tritt die beschuldigte Person ihre Strafe oder Massnahme mit dem Eintritt in die Vollzugsanstalt an; sie untersteht von diesem Zeitpunkt an dem Vollzugsregime, wenn der Zweck der Untersuchungs- oder Sicherheitshaft dem nicht entgegensteht (vgl. auch die entsprechende kantonale Bestimmung von § 22 Abs. 2 JVV).
2.8. Der Vollzug stationärer Massnahmen in den Betrieben des zürcherischen Amts für Justizvollzug wird im 3. Teil der Justizvollzugsverordnung geregelt (§§ 89 ff. JVV). § 116 Abs. 1 JVV sieht vor, dass den verurteilten Personen die Benützung des Telefons gestattet werden kann. Die Telefongespräche können nach Abs. 2 überwacht oder aufgezeichnet werden, wobei die Kontrolle ihre Grenze in § 121 JVV betreffend privilegierte Kontakte findet. Diese letztgenannte Bestimmung hält in Abs. 3 Satz 2 unter anderem fest, dass Gespräche und telefonische Kontakte mit dem Rechtsvertreter oder der Aufsichtsbehörde nicht mitgehört werden dürfen.
Der Beschwerdeführer kritisiert, § 116 JVV beziehe sich nur auf "verurteilte Personen", übersieht jedoch dabei, dass sich diese Formulierung nur in Absatz 1 findet (wonach verurteilten Personen die Benützung des Telefons gestattet werden kann). Der die Möglichkeit der Überwachung oder Aufzeichnung vorsehende Abs. 2 enthält keine derartige Einschränkung. Würde die Auffassung des Beschwerdeführers zutreffen, so wäre Personen im vorzeitigen Straf- oder Massnahmenvollzug die Benützung des Telefons gar nicht gestattet. Das nimmt er offensichtlich selbst nicht an. Entscheidend scheint vielmehr, dass wie erwähnt eine Person im vorzeitigen Straf- oder Massnahmenvollzug grundsätzlich dem Vollzugsregime untersteht. Davon ausgehend ist nicht zu beanstanden, dass die Vorinstanz auch die Regelung von § 116 JVV über die Verwendung des Telefons in der Vollzugsanstalt als anwendbar erachtet hat.
2.9. Hinsichtlich des Verhältnismässigkeitsgrundsatzes (E. 2.6 hiervor) geht aus einer bei den Akten liegenden internen Mitteilung des Beschwerdegegners 1 vom 4. März 2013 hervor, dass die Aufzeichnung in einem direkten Zusammenhang mit der vorzeitig angetretenen therapeutischen Massnahme stand, wie folgende Passage zeigt:
"Der Gefangene A._ war am 13.06.2012 in die Integrationsgruppe eingetreten. Schon bald wurde festgestellt, dass, wenn er sich unbeobachtet fühlte, er grunzende Laute von sich gab. Gegenüber der zuständigen Psychiaterin C._ gab er sich distanziert und kontrolliert. Da er immer wieder betonte, dass er von seiner Ehefrau (selbst Psychiaterin) behandelt werde, habe ich angeordnet, dass die Telefonate mit seiner Ehefrau aufgenommen werden. Bei der Auswertung dieser Gespräche musste ich feststellen, dass diese seitens von A._ oftmals wahnhafte Inhalte hatten."
Zu berücksichtigen ist in diesem Zusammenhang auch, dass die Telefongespräche zwischen dem Beschuldigten und seiner Ehefrau nicht heimlich abgehört wurden. Zum einen wurden dem Beschwerdeführer gemäss der Stellungnahme des Beschwerdegegners 1 beim Eintritt in die Justizvollzugsanstalt Pöschwies ein Exemplar der Hausordnung und der Justizvollzugsverordnung ausgehändigt. Zum andern ergibt sich aus einem der aufgezeichneten Telefonate, dass sich sowohl der Beschwerdeführer als auch seine Frau der Kontrolle bewusst waren (Telefonat vom 8. Juli 2012: sie: "... und wir werden ja abgehört, das ist dir ja auch klar." - er: "Ja, klar." - sie: "Aber das ist ja egal.").
Mit der Telefonkontrolle verfolgte der Beschwerdegegner 1 somit das öffentliche Interesse an einer erfolgreichen therapeutischen Massnahme (<ref-law>). Dem stand ein Grundrechtseingriff gegenüber, der insofern nicht als schwer bezeichnet werden kann, als die beiden betroffenen Personen von der Kontrolle ihrer Gespräche wussten (anders bei einer geheim durchgeführten Telefonüberwachung: <ref-ruling> E. 4c S. 190 mit Hinweisen).
2.10. Vor diesem Hintergrund konnte sich der Beschwerdegegner 1 für die Aufnahmen auf eine gesetzliche Grundlage stützen und erscheint sein Vorgehen auch nicht als unverhältnismässig. Das Obergericht ist deshalb richtigerweise von einer gesetzlich erlaubten Handlung im Sinne von <ref-law> ausgegangen. Damit entfällt auch die Strafbarkeit der Beschwerdegegner 2 und 3, denen der Beschwerdeführer Anschlusshandlungen gemäss <ref-law> vorwirft.
3.
Zusammenfassend ergibt sich, dass das Obergericht kein Bundesrecht verletzte, wenn es die Ermächtigung zur Strafverfolgung gegen die Beschwerdegegner verweigerte. Die Beschwerde ist deshalb abzuweisen, soweit darauf einzutreten ist.
Der Beschwerdeführer ersucht um unentgeltliche Prozessführung und Rechtsverbeiständung. Da die gesetzlichen Voraussetzungen erfüllt sind, kann dem Gesuch entsprochen werden (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Das Gesuch um unentgeltliche Rechtspflege wird gutgeheissen.
2.1. Es werden keine Gerichtskosten erhoben.
2.2. Rechtsanwalt Roger Burges wird zum unentgeltlichen Rechtsbeistand ernannt und für das bundesgerichtliche Verfahren aus der Bundesgerichtskasse mit Fr. 2'000.-- entschädigt.
3.
Dieses Urteil wird den Parteien, der Staatsanwaltschaft Winterthur/Unterland, der Oberstaatsanwaltschaft des Kantons Zürich und dem Obergericht des Kantons Zürich, III. Strafkammer, schriftlich mitgeteilt.
Lausanne, 12. Dezember 2014
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Dold