Sachverhalt:
A.
Die Staatsanwaltschaft Zürich-Sihl führte eine Strafuntersuchung gegen A._ u.a. wegen Betrugs und erhob am 8. Juli 2021 Anklage. Am 28. Juni 2021 hatte A._ gegen Staatsanwalt B._ ein Ausstandsgesuch gestellt. Am 15. August 2021 reichte er Strafanzeige gegen diesen ein wegen Amtsmissbrauchs und verlangte die vorsorgliche Sicherstellung von Untersuchungsakten.
Mit Beschluss vom 19. August 2021 trat das Obergericht des Kantons Zürich auf das Ausstandsgesuch gegen Staatsanwalt B._ und den Antrag auf vorsorgliche Sicherstellung von Untersuchungsakten nicht ein und überwies die Akten dem Bezirksgericht Zürich zum Entscheid. Die Strafanzeige übermittelte es der Staatsanwaltschaft Zürich-Sihl.
B.
A._ gelangte mit Beschwerde in Strafsachen an das Bundesgericht und beantragte die Aufhebung des Beschlusses des Obergerichts vom 19. August 2021, soweit damit auf das Ausstandsgesuch nicht eingetreten worden war. Weiter sei das Obergericht anzuweisen, das Ausstandsgesuch materiell zu behandeln. Der Beschwerde sei sodann die aufschiebende Wirkung zu gewähren (Verfahren 1B_511/2021).
Mit Verfügung vom 11. Oktober 2021 wies das präsidierende Mitglied der I. öffentlich-rechtlichen Abteilung das Gesuch um aufschiebende Wirkung ab und überliess es dem Bezirksgericht Zürich, sein Verfahren allenfalls bis zum Ergehen des Entscheids des Bundesgerichts zu sistieren. Mit Urteil 1B_511/2021 vom 27. Dezember 2021 hiess das Bundesgericht die Beschwerde gegen den Beschluss des Obergerichts gut und wies dieses an, das Ausstandsgesuch materiell zu behandeln.
C.
Das Bezirksgericht hatte darauf verzichtet, den Entscheid des Bundesgerichts abzuwarten und bereits mit Beschluss vom 6. Dezember 2021 das Ausstandsgesuch abgewiesen, soweit es darauf eingetreten war. Das Gesuch betreffend die vorsorgliche Sicherstellung von Untersuchungsakten hatte es abgewiesen, ein später zusätzlich gestelltes Aussonderungsgesuch dagegen teilweise gutgeheissen.
D.
Dagegen erhebt A._ mit Eingabe vom 17. Dezember 2021 beim Bundesgericht Beschwerde in Strafsachen. Er beantragt, den Beschluss des Bezirksgerichts vom 6. Dezember 2021 aufzuheben, soweit damit das Ausstandsgesuch gegen Staatsanwalt B._ abgewiesen wird.
Staatsanwalt B._ hat sich nicht vernehmen lassen. Die Staatsanwaltschaft und das Bezirksgericht haben auf eine Stellungnahme verzichtet. A._ hat sich nicht mehr geäussert.

Erwägungen:
1.
Angefochten ist ein selbstständig eröffneter Zwischenentscheid über ein Ausstandsbegehren im Rahmen eines Strafverfahrens. Dagegen steht die (direkte) Beschwerde in Strafsachen an das Bundesgericht nach <ref-law> grundsätzlich offen (<ref-law>; <ref-law> i.V.m. <ref-law>; <ref-law>). Die weiteren Eintretensvoraussetzungen geben zu keinen Bemerkungen Anlass. Auf die Beschwerde ist demnach einzutreten.
2.
Der Beschwerdeführer rügt, das Bezirksgericht Zürich sei für den Entscheid über das Ausstandsgesuch gegen Staatsanwalt B._ nicht zuständig. Gemäss <ref-law> habe vielmehr die Beschwerdeinstanz, vorliegend die III. Strafkammer des Obergerichts des Kantons Zürich, über dieses Begehren zu befinden.
2.1. Die Vorinstanz bejahte ihre Zuständigkeit unter Verweis auf den vorstehend erwähnten Beschluss des Obergerichts des Kantons Zürich vom 19. August 2021, mit welchem ihr die Sache zum Entscheid überwiesen wurde, sowie die langjährige Praxis, auf welcher dieser Beschluss beruhe. Gemäss dieser im Kanton Zürich etablierten Praxis sei nach erfolgter Anklageerhebung das erstinstanzliche Gericht, bei welchem die Sache anhängig sei, und nicht die Beschwerdeinstanz zur Behandlung eines Ausstandsgesuches gegen die Staatsanwaltschaft zuständig.
2.2. Dem kann nicht gefolgt werden. Wie erwähnt, hat das Bundesgericht den Beschluss des Obergerichts vom 19. August 2021 mit Urteil 1B_511/2021 vom 27. Dezember 2021 aufgehoben und die Sache zum materiellen Entscheid an das Obergericht zurückgewiesen. Es hatte sodann bereits zuvor im zur amtlichen Publikation bestimmten Urteil 1B_333/2021 vom 5. November 2021 festgehalten, <ref-law> sehe nach seinem klaren Wortlaut vor, dass auch nach erfolgter Anklageerhebung die Beschwerdeinstanz im Sinne von <ref-law> - und nicht das Sachgericht - entscheide, wenn wie vorliegend ein Ausstandsgrund nach <ref-law> betreffend die Staatsanwaltschaft geltend gemacht werde. Das Ausstandsgesuch hätte gemäss <ref-law> somit vom Obergericht und nicht von der Vorinstanz behandelt werden müssen. Ob dieser Mangel derart gravierend ist, dass er, wie vom Beschwerdeführer vorgebracht, schlechthin zur Nichtigkeit des angefochtenen Entscheids über das Ausstandsgesuch führt, kann offen bleiben. Der von der unzuständigen Vorinstanz stammende Entscheid ist jedenfalls aufzuheben.
3.
Die Beschwerde ist demnach gutzuheissen und die Ziff. 3 des angefochtenen Beschlusses vom 6. Dezember 2021 des Bezirksgerichts Zürich aufzuheben. In derartigen Fällen überweist das Bundesgericht die Sache praxisgemäss der zuständigen kantonalen Behörde (vgl. Urteil 1B_333/2021 vom 5. November 2021 E. 3). Da diese jedoch bereits mit Urteil 1B_511/2021 vom 27. Dezember 2021 zur Behandlung des Ausstandsgesuches angewiesen wurde, kann vorliegend auf eine (erneute) Überweisung verzichtet werden.
Bei diesem Ausgang des Verfahrens sind keine Gerichtskosten zu erheben (Art. 66 Abs. 1 und 4 BGG). Dem Beschwerdeführer ist eine angemessene Parteientschädigung für das bundesgerichtliche Beschwerdeverfahren zuzusprechen (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen. Ziff. 3 des Beschlusses des Bezirksgerichts Zürich vom 6. Dezember 2021 wird aufgehoben.
2.
Es werden keine Gerichtskosten erhoben.
3.
Der Kanton Zürich hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 1'000.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien, der Staatsanwaltschaft Zürich-Sihl und dem Bezirksgericht Zürich, 9. Abteilung, schriftlich mitgeteilt.
Lausanne, 1. März 2022
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Jametti
Der Gerichtsschreiber: Schurtenberger