(amtliche Verteidigung), hat sich ergeben:
A.- Das Geschworenengericht des Kantons Zürich verurteilte X._ am 22. Juni 1993 wegen vorsätzlicher Tötung und Widerhandlungen gegen das Betäubungsmittelgesetz zu 10 Jahren Zuchthaus. Ausserdem ordnete es eine ambulante Behandlung im Sinn von <ref-law> an.
Das Amt für Straf- und Massnahmenvollzug des Kantons Zürich (ASMV) regelte mit Verfügung vom 6. Juni 1997 den gemeinsamen Vollzug dieser und einer bereits in einem früheren Urteil angeordneten Massnahme.
Mit Verfügung vom 27. Januar 1999 erwog das ASMV, X._ sei laut den Berichten des psychiatrisch-psychologischen Dienstes der Justizdirektion nicht bereit, sich der ambulanten Behandlung zu unterziehen, weshalb seit Juni 1997 keine Therapiesitzungen mehr stattgefunden hätten.
Es verfügte die Einstellung des Vollzuges der vom Geschworenengericht angeordneten ambulanten Massnahme ab Verfügungsdatum und beantragte dem Obergericht des Kantons Zürich, die ambulante Massnahme aufzuheben und in Anwendung von <ref-law> auf die erneute Anordnung einer bessernden wie auch einer sichernden Massnahme zu verzichten.
Mit Vernehmlassung vom 29. Juni 1999 beantragte die Staatsanwaltschaft des Kantons Zürich, die vom Geschworenengericht angeordnete ambulante Massnahme aufzuheben und stattdessen eine Verwahrung nach <ref-law> anzuordnen.
Mit Eingabe vom 26. Juli 1999 beantragte der amtliche Verteidiger von X._, Rechtsanwalt A._, die ambulante Massnahme aufzuheben und auf die Anordnung von sichernden oder bessernden Massnahmen zu verzichten.
Eventuell sei an der vom Geschworenengericht angeordneten ambulanten Massnahme festzuhalten und von einer Verwahrung abzusehen. X._ sei vom Obergericht anzuhören.
B.- Mit Schreiben vom 28. Februar 2000 teilte Rechtsanwalt A._ dem Obergericht mit, dass ihm sein Klient anlässlich seines heutigen Besuches mitgeteilt habe, dass er weder in seine Person noch in seine beruflichen Fähigkeiten Vertrauen habe. Da die Angelegenheit für X._ von grosser Bedeutung sei, erachte er es für unabdingbar, dass dieser von einer Person seines Vertrauens vertreten werde.
Am 2. März 2000 setzte der Präsident der III. Strafkammer X._ Frist an, um sein Gesuch um Beigabe eines neuen amtlichen Verteidigers zu begründen und dem Gericht für den Fall der Gutheissung einen Verteidiger seiner Wahl vorzuschlagen.
Am 14. März 2000 meldete sich Rechtsanwalt B._ beim Obergericht und erklärte, X._ wünsche durch ihn vertreten zu werden. Am 30. März 2000 begründete er das Gesuch.
In seiner Stellungnahme vom 10. April 2000 wies Rechtsanwalt A._ die Vorwürfe B._s gegen seine Mandatsführung zurück, widersetzte sich aber seiner Entlassung als amtlicher Verteidiger nicht.
Am 19. April 2000 wies das Obergericht das Gesuch von X._ um Wechsel des amtlichen Verteidigers ab.
C.- Mit staatsrechtlicher Beschwerde vom 24. April 2000 wegen Verletzung von <ref-law>, 29 Abs. 2 BV sowie Art. 6 Ziff. 3 lit. c EMRK beantragt X._, den Entscheid des Obergerichts vom 19. April 2000 aufzuheben und die Sache diesem zu neuer Entscheidung zurückzuweisen. In "verfahrensrechtlicher Hinsicht" beantragt er, der Beschwerde in dem Sinne aufschiebende Wirkung zuzuerkennen, als das vorinstanzliche Verfahren bis zum Entscheid über die staatsrechtliche Beschwerde nicht weiterzuführen sei; ausserdem sei davon Vormerk zu nehmen, dass die Beschwerdebegründung erst sehr summarisch erfolge und innerhalb der Beschwerdefrist eine eingehende Begründung nachgeliefert werde.
Schliesslich ersucht er um unentgeltliche Rechtspflege und Verbeiständung durch Rechtsanwalt B._.
Das Amt für Justizvollzug beantragt in seiner Vernehmlassung, sowohl die Beschwerde als auch das Gesuch um aufschiebende Wirkung abzulehnen. Aus seiner Sicht sei festzustellen, dass Rechtsanwalt A._ seiner Aufgabe mit bestem Wissen und Gewissen nachgekommen sei und dass es dessen Verteidigungsstrategie für sehr sinnvoll erachte. Die Staatsanwaltschaft verzichtet auf Vernehmlassung. Das Obergericht teilt mit, es habe gegen die Gewährung der aufschiebenden Wirkung nichts einzuwenden, es habe die Vorladung für den 3. Mai 2000 bereits abgesetzt. Rechtsanwalt A._ erklärt, er äussere sich nicht zu den haltlosen Verunglimpfungen durch Rechtsanwalt B._ und überlasse den Entscheid dem Bundesgericht.
D.- Mit Verfügung vom 4. Mai 2000 erkannte der Präsident der I. öffentlichrechtlichen Abteilung der Beschwerde aufschiebende Wirkung zu.
E.- Am 22. Mai 2000 reichte X._ eine Beschwerdeergänzung ein.
Die Staatsanwaltschaft und das Obergericht verzichten wiederum auf Vernehmlassung. Das Amt für Justizvollzug hält an seinen bereits gemachten Ausführungen fest.
Rechtsanwalt A._ teilt dem Bundesgericht mit, X._ habe gegen ihn eine Strafanzeige wegen Verletzung des Berufsgeheimnisses erstattet, wobei die Staatsanwaltschaft die Einstellung des Strafverfahrens durch die Bezirksanwaltschaft bereits genehmigt habe.

Das Bundesgericht zieht in Erwägung:
1.- Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob und inwieweit auf eine Beschwerde einzutreten ist (<ref-ruling> E. 1 ; <ref-ruling> E. 2a; 253 E. 1a).
a) Beim angefochtenen Entscheid handelt es sich um einen Zwischenentscheid, der das Verfahren gegen den Beschwerdeführer weiterbringt, aber nicht abschliesst. Er ist kantonal letztinstanzlich (Art. 86 Abs. 1 OG), da die Nichtigkeitsbeschwerde ans Kassationsgericht nur gegen "Urteile und Erledigungsbeschlüsse" des Obergerichts offen steht (§ 428 Ziff. 2 der Strafprozessordnung des Kantons Zürich vom 4. Mai 1919).
b) Art. 87 OG über die Anfechtbarkeit von Zwischenentscheiden wurde im Zuge der "prozessualen Anpassungen an die neue Bundesverfassung" (Bundesgesetz vom 8. Oktober 1999, in Kraft seit 1. März 2000) revidiert. Nach dessen Abs. 1 ist die staatsrechtliche Beschwerde gegen selbständig eröffnete Vor- und Zwischenentscheide über die Zuständigkeit und den Ausstand zulässig; diese Entscheide können später nicht mehr angefochten werden. Gegen andere selbständig eröffnete Vor- und Zwischenentscheide ist die staatsrechtliche Beschwerde zulässig, wenn sie einen nicht wiedergutzumachenden Nachteil bewirken können (Abs. 2); ist diese Beschwerde nicht zulässig oder wurde von ihr kein Gebrauch gemacht, ist ein solcher Zwischenentscheid durch Beschwerde gegen den Endentscheid anfechtbar (Abs. 3). Zwischenentscheide, die unter Art. 87 Abs. 1 OG fallen, können danach nur unmittelbar nach ihrer selbständigen Eröffnung, solche nach Abs. 2 unmittelbar oder auch erst mit einer Beschwerde gegen den Endentscheid angefochten werden.
Mit Art. 87 Abs. 1 OG hat der Gesetzgeber die vom Bundesgericht entwickelte Praxis kodifiziert, welche die staatsrechtliche Beschwerde gegen Zwischenentscheide über gerichtsorganisatorische Fragen, die ihrer Natur nach endgültig zu entscheiden sind, bevor das Verfahren weitergeführt werden kann - im Wesentlichen solche über die (sachliche oder örtliche) Zuständigkeit und die Zusammensetzung der entscheidenden Behörde (Ausstand) -, ausnahmsweise zuliess, auch wenn sie nicht einen nicht wiedergutzumachenden Nachteil bewirken konnten, wie dies Art. 87 aOG verlangte (<ref-ruling> E. 1b mit Hinweisen). Gleichzeitig wird mit dieser Gesetzesbestimmung klargestellt, dass selbständig eröffnete Zwischenentscheide über die Zuständigkeit und den Ausstand der entscheidenden Behörde unmittelbar angefochten werden müssen und nicht auch erst zusammen mit dem Endentscheid anfechtbar sind (<ref-ruling>, E. 1). Neu ist, dass der Anwendungsbereich von Artikel 87 OG nicht mehr auf Beschwerden wegen Verletzung von Art. 4 aBV beschränkt ist, sondern auf alle staatsrechtlichen Beschwerden gegen Vor- und Zwischenentscheide ausgedehnt wird (Botschaft, BBl 1999 7937 ff.).
c) Der angefochtene Entscheid des Obergerichts über die Bewilligung des Wechsels des amtlichen Verteidigers ist weder ein solcher über eine Frage der Zuständigkeit noch des Ausstandes der entscheidenden Behörde und damit kein Vor- oder Zwischenentscheid im Sinne von Art. 87 Abs. 1 OG. Er stellt daher einen "anderen" Vor- oder Zwischenentscheid dar, der gemäss Art. 87 Abs. 2 OG nur anfechtbar ist, wenn er einen nicht wiedergutzumachenden Nachteil bewirken kann.
2.- Nach der Rechtsprechung zu Art. 87 aOG, die grundsätzlich in gleicher Weise auch bei der Anwendung des neuen Art. 87 Abs. 2 OG Geltung beanspruchen kann, muss es sich um einen Nachteil rechtlicher Natur handeln, der auch mit einem späteren günstigen Entscheid nicht gänzlich behoben werden kann (<ref-ruling> E. 3c; <ref-ruling> S. 229 E. 2, 3).
a) Ein nicht wiedergutzumachender Nachteil rechtlicher Natur droht in aller Regel durch die Verweigerung der unentgeltlichen Rechtspflege und Verbeiständung; so z.B.
wenn dem Gericht oder dem Anwalt innert kurzer Frist ein Kostenvorschuss geleistet werden muss (<ref-ruling> E. 2; <ref-ruling> E. 2). Die Nachteile, die einem nicht verbeiständeten Angeschuldigten in einem Strafverfahren entstehen können, sind durch eine Wiederholung des Verfahrens nach einem erfolgreichen Rechtsmittelverfahren wegen der Verweigerung der unentgeltlichen Verbeiständung kaum je gänzlich zu beheben. Entscheidend für den Verfahrensausgang ist häufig das erstinstanzliche Beweisverfahren. Wurde dieses fehlerhaft, d.h. ohne Mitwirkung eines Rechtsvertreters, durchgeführt, so lässt sich dieser Mangel in der Regel nicht mehr ganz beheben, weil es z.B. für die Abnahme wichtiger Beweismittel wie Zeugenaussagen von entscheidender Bedeutung ist, was diese Zeugen zuerst und möglichst rasch nach dem umstrittenen Ereignis aussagen; die Anwesenheit eines Verteidigers ist hier deshalb wichtig. Stellt sich die Frage der unentgeltlichen Verbeiständung bereits am Anfang des Verfahrens - was die Regel bildet -, gebieten auch prozessökonomische Gesichtspunkte, die Anforderungen an einen nicht wiedergutzumachenden Nachteil weniger streng zu handhaben, damit die Wiederholung umfangreicher Verfahren gegebenenfalls vermieden werden kann. In diesen Fällen ist ein nicht wiedergutzumachender Nachteil gemäss Art. 87 Abs. 2 OG zu bejahen und auf die staatsrechtliche Beschwerde gegen den Zwischenentscheid, mit dem die unentgeltliche Rechtspflege und Verbeiständung verweigert wurde, einzutreten.
b) Weniger einschneidende Folgen hat dagegen die Ablehnung eines Gesuchs, den unentgeltlichen Verteidiger im Strafverfahren zu wechseln. In diesem Fall wird der Gesuchsteller weiterhin von einem Verteidiger vertreten, der verpflichtet ist, die Interessen seines Mandanten nach bestem Wissen und Gewissen wahrzunehmen und der aufsichtsrechtliche Konsequenzen zu gewärtigen hat, falls er seine Pflichten vernachlässigt. Der Umstand, dass der Verteidiger das Vertrauen seines Mandanten verloren hat, erschwert zwar die Verteidigung, verunmöglicht sie aber in aller Regel nicht, da es trotzdem Pflicht des Verteidigers ist, im Einvernehmen mit seinem Klienten oder in dessen mutmasslichem Interesse eine geeignete Verteidigungsstrategie festzulegen und diese im Verfahren zu verfolgen. Die Abweisung eines Gesuches um einen Wechsel des amtlichen Verteidigers hat somit, besondere Umstände vorbehalten, keinen nicht wiedergutzumachenden rechtlichen Nachteil zur Folge, da dem Gesuchsteller, anders als im Falle der Verweigerung der unentgeltlichen Verbeiständung, auf jeden Fall ein Verteidiger zur Seite steht, welcher die Waffengleichheit und damit ein faires Verfahren sicherstellt. Allfällige Mängel einer solchen Verteidigung können durch eine Wiederholung des Verfahrens nach einem erfolgreichen Rechtsmittel gegen den Endentscheid gänzlich behoben werden, zumal wenn das Gesuch um Verteidigerwechsel, wie dies vielfach der Fall ist, erst in einem fortgeschrittenen Stadium des Verfahrens erfolgt. Deshalb sind die Voraussetzungen für ein Eintreten auf eine staatsrechtliche Beschwerde gegen einen entsprechenden Zwischenentscheid nicht gegeben.
c) Vorliegend steht zwar für den Beschwerdeführer viel auf dem Spiel - die Staatsanwaltschaft beantragt seine Verwahrung -, das Verfahren selber ist indessen nicht besonders aufwändig, geht es doch im Wesentlichen darum, psychiatrische Gutachten zu würdigen und allenfalls neue zu beantragen sowie den Beschwerdeführer anzuhören. Mit der Wiederholung eines derartigen Verfahrens, bei dem kein eigentliches Beweisverfahren durchgeführt werden muss, kann ein allfälliger Verfahrensmangel infolge des abgelehnten Verteidigerwechsels gänzlich behoben werden. Der angefochtene Zwischenentscheid des Obergerichts hat somit nicht einen rechtlichen Nachteil im Sinne von Art. 87 Abs. 2 OG zur Folge, der auf dem Rechtsmittelweg gegen den Endentscheid nicht korrigiert werden könnte, falls die Verteidigungsrechte des Beschwerdeführers im Verfahren vor dem Obergericht als verletzt zu betrachten sein sollten. Auf die staatsrechtliche Beschwerde ist daher nicht einzutreten.
3.-Bei diesem Ausgang des Verfahrens hat der Beschwerdeführer die Kosten zu tragen (Art. 156 Abs. 1 OG). Er hat indessen ein Gesuch um unentgeltliche Rechtspflege gestellt, welches gutzuheissen ist, da die Beschwerde nicht von vornherein aussichtslos war und die Bedürftigkeit des eine lange Freiheitsstrafe verbüssenden Beschwerdeführers glaubhaft erscheint (Art. 152 OG). Die Frage einer Parteientschädigung an Rechtsanwalt A._ stellt sich nicht, da er darauf ausdrücklich verzichtet hat.

Demnach erkennt das Bundesgericht:
1.- Auf die staatsrechtliche Beschwerde wird nicht eingetreten.
2.- Das Gesuch um unentgeltliche Rechtspflege wird gutgeheissen:
a) Es werden keine Kosten erhoben.
b) Rechtsanwalt B._ wird als unentgeltlicher Rechtsvertreter eingesetzt und für das bundesgerichtliche Verfahren aus der Bundesgerichtskasse mit Fr. 1'200.-- entschädigt.
3.- Dieses Urteil wird den Parteien sowie dem Amt für Justizvollzug, Abteilung Bewährungs- und Vollzugsdienste, der Staatsanwaltschaft und dem Obergericht des Kantons Zürich schriftlich mitgeteilt.
_
Lausanne, 23. August 2000
Im Namen der I. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident:
Der Gerichtsschreiber: