Sachverhalt: A. Das Obergericht des Kantons Zürich sprach A._ am 15. Mai 2013 zweitinstanzlich der vorsätzlichen Tötung und weiterer Delikte schuldig und verurteilte ihn zu einer Freiheitsstrafe von 19 Jahren und einer Busse. Ferner ordnete es die Verwahrung im Sinne von Art. 64 Abs. 1 StGB an. Eine von A._ dagegen erhobene Beschwerde hiess das Bundesgericht mit Urteil vom 6. Mai 2014 teilweise gut. Es hob das angefochtene Urteil auf und wies das Obergericht an, ein Gutachten eines neuen Sachverständigen einzuholen, das sich zur Behandlungsfähigkeit, den Erfolgsaussichten einer (stationären) therapeutischen Massnahme und den Vollzugsmöglichkeiten äussert (Urteil 6B_829/2013 vom 6. Mai 2014 E. 4.5). Das Obergericht beauftragte in der Folge Dr. med. B._ mit der Erstellung eines neuen Gutachtens. Mit Urteil vom 29. September 2017 stellte das Obergericht unter anderem fest, dass sein Urteil vom 15. Mai 2013 hinsichtlich der Schuldsprüche und der Strafe in Rechtskraft erwachsen sei, und ordnete zudem die Verwahrung im Sinne von Art. 64 Abs. 1 StGB an. Es stützte sich auf das neu eingeholte forensisch-psychiatrische Gutachten vom 31. Juli 2015 und die gutachterlichen Ausführungen anlässlich der Berufungsverhandlung vom 3. Oktober 2016. Es gelangte zum Schluss, der Rückfallgefahr könne mit einer therapeutischen Massnahme nicht ausreichend begegnet werden; vielmehr bedürfe es der Verwahrung im Sinne von Art. 64 Abs. 1 StGB. Das Bundesgericht hiess eine von A._ dagegen erhobene Beschwerde mit Urteil vom 2. August 2018 wiederum teilweise gut und wies die Sache zur neuen Beurteilung an das Obergericht zurück. Es stellte eine Verletzung des rechtlichen Gehörs fest und führte zur Begründung aus, dass die Vorinstanz und die Parteien über jene Akten verfügen müssen, die dem Gutachter bei der Begutachtung vorlagen und auf die sich diese stützt. Das Obergericht werde deshalb die dem Gutachter im Juni 2015 vom Psychiatrisch-Psychologischen Dienst des Amts für Justizvollzug des Kantons Zürich (nachfolgend: PPD) zur Verfügung gestellten Akten beiziehen und den Parteien das rechtliche Gehör gewähren müssen. Anhand der vollständigen Akten werde es prüfen müssen, ob der Gutachter die wesentlichen Unterlagen berücksichtigt habe und sein Gutachten im Ergebnis schlüssig sei. Dabei werde es sich auch mit der Kritik von A._ hinsichtlich der Berücksichtigung verschiedener Einschätzungen des PPDs im Gutachten auseinandersetzen müssen. Ebenso werde es die gestellten Beweisanträge erneut zu prüfen haben (Urteil 6B_56/2018 vom 2. August 2018 E. 3.5, publ. in BGE 144 IV 302). Das wieder mit der Sache befasste Obergericht zog am 26. November 2018 sämtliche A._ betreffenden Akten beim PPD bei. Mit Beschluss vom 4. Mai 2020 beauftragte es Dr. med. B._ mit einer Ergänzung/Aktualisierung seines Gutachtens vom 31. Juli 2015. Unter Beilage des an den Gutachter gerichteten Fragenkatalogs setzte es den Parteien Frist an, um sich zu den Fragen zu äussern und dazu eigene Anträge zu stellen. Mit Eingabe vom 1. Juli 2020 verlangte A._ den Ausstand von Dr. med. B._. Dieser nahm am 14. August 2020 dazu Stellung und erklärte, er erachte sich nicht als befangen. Mit Beschluss vom 31. August 2020 wies das Obergericht das Ausstandsgesuch ab (Dispositiv-Ziff. 1); ebenfalls wies es verschiedene von A._ gestellte Beweisanträge ab (Dispositiv-Ziff. 2-4). B. Mit Beschwerde in Strafsachen ans Bundesgericht vom 1. Oktober 2020 beantragt A._, der Beschluss des Obergerichts vom 31. August 2020 sei aufzuheben und Dr. med. B._ habe in den Ausstand zu treten. Das Obergericht und der Beschwerdegegner haben auf eine Vernehmlassung verzichtet. Die Staatsanwaltschaft IV des Kantons Zürich und die Staatsanwaltschaft Limmattal/Albis haben sich nicht vernehmen lassen.