Erwägungen:
1.
Mit Zirkulationsbeschluss vom 1. März 2021 (Nr. 1205) ordnete die KESB der Stadt Zürich superprovisorische Kindesschutzmassnahmen für C._, die Tochter des Beschwerdeführers und der Beschwerdegegnerin, an. Mit Zirkulationsbeschluss vom 23. April 2021 (Nr. 2264) bestätigte die KESB die Kindesschutzmassnahme (Unterbringung in der Stiftung D._) im Sinne einer vorsorglichen Massnahme, regelte das Besuchsrecht der Eltern während des laufenden Verfahrens vor der KESB, entschied über verschiedene Verfahrensanträge, wechselte den Beistand und passte dessen Aufgaben an.
Am 14. Mai 2021 (Postaufgabe) erhob der Beschwerdeführer Beschwerde an den Bezirksrat Zürich. Mit Beschluss und Teilurteil vom 27. Mai 2021 trat der Bezirksrat auf mehrere Anträge wegen Verspätung nicht ein, auf einen Antrag trat er nicht ein, da dieser nicht den Prozessgegenstand betreffe, und auf ein Ausstandsbegehren trat er nicht ein, da das Gesuch bei der KESB zu stellen wäre. Einen Antrag auf Feststellung der Nichtigkeit des Entscheides der KESB wies der Bezirksrat ab. Sodann setzte der Bezirksrat Frist zur Beschwerdeantwort bzw. Vernehmlassung hinsichtlich der zulässigen Anträge.
Dagegen erhob der Beschwerdeführer am 9. Juni 2021 Beschwerde. Mit Urteil vom 28. Juni 2021 hiess das Obergericht des Kantons Zürich die Beschwerde in Bezug auf die als verspätet beurteilten Anträge gut, hob den angefochtenen Entscheid insoweit auf und wies die Sache zur Durchführung des Verfahrens an den Bezirksrat zurück. Einen Antrag auf Anhandnahme der subsidiären Verfassungsbeschwerde vom 20. Mai 2021 wies es ab. Im Übrigen wies es die Beschwerde ab, soweit es darauf eintrat.
Am 2. August 2021 (Postaufgabe) hat der Beschwerdeführer Beschwerde an das Bundesgericht erhoben.
2.
Der Beschwerdeführer wendet sich in seinen Anträgen und in seiner weitschweifigen Begründung gegen die beiden Zirkulationsbeschlüsse der KESB vom 1. März 2021 und 23. April 2021. Diese können vor Bundesgericht nicht angefochten werden. Angefochten werden können vor Bundesgericht grundsätzlich nur Urteile letzter kantonaler Instanzen (Art. 75 BGG). Anfechtungsobjekt ist demnach einzig das obergerichtliche Urteil vom 28. Juni 2021.
Gegenstand des kantonalen Verfahrens sind vorsorgliche Kindesschutzmassnahmen. Mit der Beschwerde gegen vorsorgliche Massnahmen kann nur die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 98 BGG). Verfassungsrügen müssen gemäss dem strengen Rügeprinzip von Art. 106 Abs. 2 BGG in der Beschwerde präzise vorgebracht und begründet werden. Dies bedeutet, dass anhand der Erwägungen des angefochtenen Entscheids klar und detailliert darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (BGE 133 II 396 E. 3.1 S. 399; 142 III 364 E. 2.4 S. 368). Der Beschwerdeführer äussert sich jedoch nur am Rande zum obergerichtlichen Urteil. So bringt er vor, im obergerichtlichen Urteil sei nicht auf Nichtigkeit der Beschlüsse der KESB erkannt worden. Er geht nicht auf die obergerichtliche Erwägung ein, dass er sich in seiner Beschwerde nicht mit den entsprechenden Erwägungen des Bezirksrats befasst hatte. Soweit er sich überhaupt auf das obergerichtliche Urteil bezieht, setzt er sich mit diesem nicht genügend auseinander und er legt nicht dar, inwiefern das Obergericht gegen verfassungsmässige Rechte verstossen haben soll.
Die Beschwerde ist damit offensichtlich unzulässig und sie enthält offensichtlich keine hinreichende Begründung. Auf sie ist im vereinfachten Verfahren durch das präsidierende Mitglied der Abteilung nicht einzutreten (Art. 108 Abs. 1 lit. a und b BGG). Soweit Anträge des Beschwerdeführers dahingehend zu verstehen sein sollten, dass er vom Bundesgericht für die Dauer des bundesgerichtlichen Verfahrens die Anordnung vorsorglicher Massnahmen verlangt (z.B. sofortige Entlassung der Tochter aus dem Heim, superprovisorische Zuteilung der elterlichen Sorge an den Beschwerdeführer), so werden diese mit dem vorliegenden Urteil gegenstandslos.
3.
Bei diesem Ausgang des Verfahrens trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG). Wie die vorstehenden Erwägungen zeigen, war die Beschwerde von vornherein aussichtslos. Das Gesuch um unentgeltliche Rechtspflege ist abzuweisen (Art. 64 Abs. 1 BGG).
Demnach erkennt das präsidierende Mitglied:
1.
Auf die Beschwerde wird nicht eingetreten.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 500.-- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Verfahrensbeteiligten und dem Obergericht des Kantons Zürich, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 5. August 2021
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Escher
Der Gerichtsschreiber: Zingg