Sachverhalt: A. Die Staatsanwaltschaft III des Kantons Zürich (nachfolgend: Staatsanwaltschaft) führt aufgrund einer Strafanzeige vom 27. Februar 2012 ein Strafverfahren unter anderem gegen A._ wegen Betrugs etc. Mit Verfügung vom 28. September 2015 wurde dieses Verfahren sistiert und seither nicht wieder aufgenommen. Im Jahr 2016 eröffnete dieselbe Staatsanwaltschaft ein weiteres Verfahren gegen A._. Am 11. März 2020 erhob sie beim Bezirksgericht Zürich, 9. Abteilung (nachfolgend: Bezirksgericht), Anklage gegen A._ wegen mehrfacher Veruntreuung, mehrfacher qualifizierter ungetreuer Geschäftsbesorgung, mehrfacher Gläubigerbevorzugung, mehrfacher Unterlassung der Buchführung, Tätigkeit ohne Bewilligung (FINMAG/BankG), Missachtung einer Verfügung der FINMA und mehrfacher Widerhandlung gegen das UWG. Am 8. Mai 2020 beantragte A._ beim Bezirksgericht, dieses habe infolge Unzuständigkeit einen Nichteintretensentscheid zu fällen und die Anklage an die Staatsanwaltschaft zurückzuweisen. Das Bezirksgericht wies diesen Antrag mit Verfügung vom 2. Juni 2020 ab. B. Eine dagegen von A._ erhobene Beschwerde wies das Obergericht des Kantons Zürich mit Beschluss vom 20. August 2020 ab. C. Dagegen hat A._ Beschwerde in Strafsachen beim Bundesgericht erhoben. Er beantragt, der angefochtene Entscheid sei vollumfänglich aufzuheben und die Anklage an die Staatsanwaltschaft zurückzuweisen. Eventualiter sei der angefochtene Entscheid vollumfänglich aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Ausserdem stellt er ein Gesuch um aufschiebende Wirkung. Das Obergericht Zürich verzichtet auf eine Stellungnahme. Die Staatsanwaltschaft beantragt, die Beschwerde vollumfänglich abzuweisen und die aufschiebende Wirkung nicht zu gewähren. Der Beschwerdeführer hat repliziert. D. Mit Verfügung vom 13. Oktober 2020 wies das Bundesgericht das Gesuch um Gewährung der aufschiebenden Wirkung ab.