Erwägungen:
1.
Am 14. Februar 2019 stellte das Betreibungsamt Zürich 4 dem Beschwerdeführer in der Betreibung Nr. xxx für eine Forderung der Stadt Zürich aus einem Verlustschein vom 23. September 2014 über Fr. 820.10 den Zahlungsbefehl zu.
Am 21. Februar 2019 erhob der Beschwerdeführer Beschwerde an das Bezirksgericht Zürich. Mit Beschluss vom 22. März 2019 trat das Bezirksgericht auf das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege einschliesslich Bestellung eines unentgeltlichen Rechtsbeistandes nicht ein. Zudem setzte es dem Betreibungsamt Frist zur Vernehmlassung und Akteneinsendung und der Stadt Zürich zur Beschwerdeantwort an. Am 29. März 2019 wurde den Parteien Gelegenheit gegeben, zur Vernehmlassung des Betreibungsamts Stellung zu nehmen.
Gegen den Beschluss vom 22. März 2019 erhob der Beschwerdeführer am 5. April 2019 Beschwerde an das Obergericht des Kantons Zürich. Mit Beschluss und Urteil vom 21. Mai 2019 wies das Obergericht das Gesuch um Bestellung eines unentgeltlichen Rechtsbeistands für das obergerichtliche Verfahren ab und schrieb im Übrigen das Gesuch um unentgeltliche Rechtspflege für das obergerichtliche Verfahren ab. Die Beschwerde wies es ab. Es erhob keine Kosten und sprach keine Entschädigungen zu.
Dagegen hat der Beschwerdeführer am 7. Juni 2019 Beschwerde an das Bundesgericht erhoben. Das Bundesgericht hat die Akten beigezogen, aber keine Vernehmlassungen eingeholt.
2.
Gegen den angefochtenen Entscheid ist die Beschwerde in Zivilsachen grundsätzlich zulässig (Art. 72 Abs. 2 lit. a, Art. 74 Abs. 2 lit. c, Art. 75, Art. 76, Art. 93 Abs. 1 lit. a, Art. 100 Abs. 2 lit. a BGG).
Nach <ref-law> ist in der Beschwerdebegründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Die Begründung muss sachbezogen sein und sich auf den Streitgegenstand beziehen und beschränken. Die beschwerdeführende Partei hat in gezielter Auseinandersetzung mit den für das Ergebnis des angefochtenen Entscheides massgeblichen Erwägungen plausibel aufzuzeigen, welche Rechte bzw. Rechtsnormen die Vorinstanz verletzt haben soll (<ref-ruling> E. 2 S. 88 f.; <ref-ruling> E. 2 S. 116).
3.
Das Obergericht hat erwogen, das Bezirksgericht habe dem Beschwerdeführer die Bestellung eines unentgeltlichen Rechtsbeistands zu Recht verweigert. Wie die Eingabe des Beschwerdeführers zeige, sei er als akademisch gebildeter Unternehmensberater in der Lage, seine Interessen im Beschwerdeverfahren vor Bezirksgericht selber zu vertreten. Zu Recht habe das Bezirksgericht sodann den Anspruch auf unentgeltliche Prozessführung nicht geprüft. Das Verfahren vor den kantonalen Aufsichtsbehörden sei - bös- oder mutwillige Prozessführung vorbehalten - kostenlos (<ref-law>). Der Beschwerdeführer habe kein schützenswertes Interesse an der Prüfung der Voraussetzungen, unter welchen der bedürftigen Partei in kostenpflichtigen Verfahren die unentgeltliche Prozessführung zu gewähren sei.
Der Beschwerdeführer habe sich zudem über die "trölerische Arbeitsweise" des Bezirksgerichts beklagt. Die Rechtsverzögerungsbeschwerde sei jedoch unbegründet: Angesichts des Ablaufs des Verfahrens (vgl. oben E. 1, 2. Absatz) könne von einer ungehörigen Verschleppung nicht die Rede sein.
Das Obergericht hat schliesslich das Gesuch um unentgeltliche Prozessführung für das obergerichtliche Verfahren als gegenstandslos erachtet, da keine Kosten zu erheben und keine Parteientschädigungen zuzusprechen seien. Das Gesuch um einen unentgeltlichen Rechtsbeistand hat es abgewiesen, da die Beschwerde aussichtslos gewesen sei und zudem keine Notwendigkeit für eine anwaltliche Vertretung bestanden habe.
4.
Gegenstand des Verfahrens ist einzig die unentgeltliche Rechtspflege und Verbeiständung vor Bezirks- und Obergericht sowie die behauptete Rechtsverzögerung. Soweit sich der Beschwerdeführer in seinen zahlreichen Anträgen und seiner weitschweifigen Beschwerdebegründung zu anderen Punkten äussert (z.B. zu einem angeblichen Betreibungsverbot bei uneinbringlichen Forderungen bzw. gegenüber Sozialhilfeempfängern), ist darauf nicht einzugehen. Insbesondere ist der Beschwerdeführer darauf hinzuweisen, dass seine Beschwerde gegen das Betreibungsamt inhaltlich noch nicht beurteilt worden ist und damit namentlich die erhobenen Betreibungsgebühren nicht Gegenstand des vorliegenden Beschwerdeverfahrens sind.
Mit den Erwägungen des Obergerichts setzt sich der Beschwerdeführer nicht zielgerichtet auseinander. Insbesondere genügt es nicht, den Gerichten Gewinninteressen zu unterstellen oder das subjektive Empfinden wiederzugeben, das Verfahren dauere angesichts der kriminellen Machenschaften der Stadtverwaltung zu lange. Weshalb die Vorinstanzen beim Beschwerdeführer hätten nachfragen müssen, aus welchem Grund er einen unentgeltlichen Vertreter verlange, erschliesst sich nicht. Ebenso wenig genügt es, auf gleich langen Spiessen gegenüber den Verfahrensbeteiligten und den Vorinstanzen zu beharren. Welche seiner Anträge nicht behandelt worden sein sollen, legt er nicht dar.
Die Beschwerde enthält damit offensichtlich keine hinreichende Begründung. Für diesen Fall ersucht der Beschwerdeführer darum, ihn genau anzuweisen, wie die Beschwerde zu verbessern sei, und ihm dafür genügend Zeit einzuräumen. Ansonsten sei die mangelnde Postulationsfähigkeit festzustellen und ihm ein unentgeltlicher Rechtsbeistand zur Seite zu stellen. Die ungenügende Begründung der Beschwerde an das Bundesgericht stellt keinen verbesserlichen Mangel dar. Eine Rückweisung zur Verbesserung fällt ausser Betracht (<ref-ruling> E. 2.4.2 S. 247 f.). Es ist sodann nicht ersichtlich, dass der Beschwerdeführer unfähig zur Prozessführung wäre. Es besteht demnach kein Anlass, ihm einen Anwalt oder eine Anwältin zu bestellen (<ref-law>; vgl. zur unentgeltlichen Verbeiständung unten E. 5). Auf die Beschwerde ist demnach im vereinfachten Verfahren gemäss <ref-law> durch das präsidierende Mitglied der Abteilung nicht einzutreten.
5.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (<ref-law>). Wie die vorstehenden Erwägungen zeigen, war die Beschwerde von Anfang an aussichtslos. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung für das bundesgerichtliche Verfahren ist deshalb abzuweisen (<ref-law>). Für die verlangte Umtriebsentschädigung besteht kein Raum (<ref-law>).

Demnach erkennt das präsidierende Mitglied:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Verfahrensbeteiligten schriftlich mitgeteilt.
Lausanne, 18. Juni 2019
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg