Sachverhalt:
A.
Mit Strafbefehl vom 16. Juli 2019 büsste die Staatsanwaltschaft des Kantons Bern, Region Emmental-Oberaargau, A._ wegen Haltens auf einem Bahnübergang mit Fr. 80.--. Mit Verfügung vom 12. August 2019 hielt sie nach Einsprache von A._ am Strafbefehl fest und überwies die Akten dem Regionalgericht Emmental-Oberaargau zur Durchführung des Hauptverfahrens. Am 2. Oktober 2019 stellte A._ gegen den verfahrensleitenden Gerichtspräsidenten Michael Erismann ein Ausstandsgesuch. Das Obergericht des Kantons Bern wies das Gesuch mit Beschluss vom 22. Oktober 2019 ab.
B.
Mit Beschwerde in Strafsachen vom 21. November 2019 an das Bundesgericht beantragt A._, den Entscheid des Obergerichts aufzuheben und Michael Erismann im Strafverfahren PEN 19 189 des Regionalgerichts Emmental-Oberaargau rückwirkend ab dem 13. August 2019 (Datum des Akteneingangs beim Regionalgericht) wegen Befangenheit in den Ausstand zu versetzen und vom weiteren Verfahrensgang auszuschliessen. Eventuell sei der Entscheid aufzuheben und die Sache im Sinne der Erwägungen des Bundesgerichts an das Obergericht zurückzuweisen.
Michael Erismann schliesst auf Abweisung der Beschwerde. Das Obergericht hat auf eine Vernehmlassung verzichtet. A._ hat am 13. Januar 2020 eine weitere Stellungnahme eingereicht.

Erwägungen:
1.
Angefochten ist ein selbstständig eröffneter Zwischenentscheid über ein Ausstandsbegehren in einer Strafsache, den die Vorinstanz als letzte und einzige kantonale Instanz gefällt hat. Dagegen steht die Beschwerde in Strafsachen offen (Art. 78 Abs. 1 und Art. 92 Abs. 1 BGG, <ref-law> i.V.m. <ref-law>). Der Beschwerdeführer ist gemäss <ref-law> zur Beschwerde befugt. Auch sonst steht einem Eintreten auf die Beschwerde grundsätzlich nichts entgegen.
2.
Mit der Beschwerde in Strafsachen kann insbesondere die Verletzung von Bundesrecht und Völkerrecht gerügt werden (Art. 95 lit. a und b BGG). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), prüft die bei ihm angefochtenen Entscheide aber grundsätzlich nur auf Rechtsverletzungen hin, welche die beschwerdeführende Person geltend macht und begründet (vgl. <ref-law>). Erhöhte Anforderungen an die Begründung gelten, soweit die Verletzung von Grundrechten gerügt wird (<ref-law>). Das Bundesgericht legt seinem Urteil weiter den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>), es sei denn, dieser sei offensichtlich unrichtig, das heisst willkürlich (vgl. <ref-ruling> E. 4.1.2 S. 62), oder beruhe auf einer Rechtsverletzung im Sinne von <ref-law> (vgl. Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG). Eine entsprechende Rüge ist substanziiert vorzubringen (<ref-law> i.V.m. <ref-law>).
3.
3.1. Gemäss <ref-law>, Art. 6 Ziff. 1 EMRK und Art. 14 Abs. 1 UNO-Pakt II (SR 0.103.2) hat jede Person Anspruch darauf, dass ihre Sache von einem unparteiischen, unvoreingenommenen und unbefangenen Richter entschieden wird. <ref-law> konkretisiert diese grundrechtliche Garantie. Die Rechtsprechung nimmt Voreingenommenheit und Befangenheit an, wenn Umstände vorliegen, die bei objektiver Betrachtung geeignet sind, Misstrauen in die Unparteilichkeit des Richters zu erwecken. Solche Umstände können namentlich in einem bestimmten Verhalten des Richters begründet sein. Dabei ist nicht auf das subjektive Empfinden einer Partei abzustellen. Das Misstrauen in die Unvoreingenommenheit muss vielmehr in objektiver Weise begründet erscheinen. Es genügt, wenn Umstände vorliegen, die bei objektiver Betrachtung den Anschein der Befangenheit und Voreingenommenheit erwecken. Für die Ablehnung ist nicht erforderlich, dass der Richter tatsächlich befangen ist (zum Ganzen: <ref-ruling> E. 5.2 S. 236 f. mit Hinweisen). Nach <ref-law> tritt eine in einer Strafbehörde tätige Person in den Ausstand, wenn sie aus anderen Gründen, insbesondere wegen Freundschaft oder Feindschaft mit einer Partei oder deren Rechtsbeistand, befangen sein könnte. Es handelt sich um eine Generalklausel, die alle in Art. 56 lit. a-e nicht ausdrücklich vorgesehenen Ausstandsgründe erfasst (BG 141 IV 178 E. 3.2.1 S. 179).
3.2. Der Beschwerdeführer führte in seinem Ausstandsgesuch sowie in seiner Stellungnahme im vorinstanzlichen Verfahren eine Reihe von Umständen an, aus denen sich in der Gesamtheit die Voreingenommenheit und Befangenheit des Beschwerdegegners im Sinne der Rechtsprechung bzw. der Ausstandsgrund von <ref-law> ergeben soll. Im Zentrum standen dabei drei Verfahrenshandlungen: Ein Telefongespräch vom 16. August 2019, in dessen Verlauf der Beschwerdegegner dem von ihm angerufenen Rechtsanwalt des Beschwerdeführers mitteilte, er erachte die Prozessaussichten bei der gegenwärtigen Aktenlage als fraglich, eine Verfügung vom 30. September 2019, mit der er einen Beweisantrag des Beschwerdeführers auf Edition gewisser Unterlagen abwies, und die trotz dieser Beweisverfügung erfolgte Einholung der entsprechenden Unterlagen mit Schreiben vom 25. September 2019, unterschrieben von einem Gerichtssekretär.
Die Vorinstanz hat im angefochtenen Entscheid ausgeführt, das fragliche Telefongespräch sei zwar mit Blick auf die bundesgerichtliche Rechtsprechung (<ref-ruling>; <ref-ruling>) nicht gänzlich unproblematisch; einen Ausstandsgrund bilde es danach jedoch nicht. Insbesondere habe der Beschwerdegegner dem Rechtsvertreter des Beschwerdeführers weder mitgeteilt, wie er voraussichtlich entscheiden werde, noch ihn im eigentlichen Sinn zum Rückzug des Rechtsmittels aufgefordert und dabei offen oder verdeckt Druck ausgeübt. Auch die Beweisverfügung begründe keinen Anschein der Befangenheit. Stelle eine Partei Beweisanträge, müsse die Verfahrensleitung von Gesetzes wegen darüber entscheiden. Tue sie dies in sachlich vertretbarer Weise und in sachlichem Ton, setze sie keinen Ausstandsgrund. Aus der Einholung der vom Beschwerdeführer verlangten Unterlagen trotz gegenteiliger Beweisverfügung und den Begebenheiten in diesem Zusammenhang ergebe sich ebenfalls kein Ausstandsgrund. Der Beschwerdegegner habe plausibel erklären können, wie es zu diesem gerichtsinternen Missverständnis gekommen sei. Ein Fehlverhalten oder gar ein willkürliches Verhalten könne ihm nicht vorgeworfen werden. Kein Ausstandsgrund sei ferner, dass er das fragliche Telefongespräch vom 16. August 2019 erst am 2. Oktober 2019 verurkundet habe. Dieses Vorgehen sei zwar nicht ideal, widerspreche jedoch weder strafprozessualen Regeln noch verfassungsrechtlichen Prinzipien wie dem Willkürverbot gemäss <ref-law>.
3.3. Der Beschwerdeführer setzt sich mit diesen Ausführungen der Vorinstanz nicht näher auseinander und macht nicht geltend, sie seien unzutreffend (vgl. hinten E. 3.4.1). Er rügt jedoch, die Vorinstanz habe im angefochtenen Entscheid erklärt, das Ausstandsgesuch stütze sich primär auf das erwähnte Telefongespräch. Damit sei sie von einem aktenwidrigen Sachverhalt ausgegangen und in Willkür verfallen. Sie habe sich im Weiteren nicht einmal ansatzweise mit seinen Argumenten auseinandergesetzt und nicht hinreichend begründet, weshalb der Beschwerdegegner keinen Ausstandsgrund gesetzt habe. Sie habe somit auch die Begründungspflicht und seinen Anspruch auf rechtliches Gehör verletzt.
Soweit diese Rügen den Anforderungen an die Beschwerdebegründung genügen (vgl. vorne E. 2), sind sie offensichtlich unbegründet. Obschon die Vorinstanz im angefochtenen Entscheid erwähnt hat, das Ausstandsgesuch stütze sich primär auf das fragliche Telefongespräch, hat sie sich in der Folge, wie dargelegt, auch mit den beiden weiteren im Zentrum des Gesuchs stehenden Verfahrenshandlungen sowie der nachträglichen Verurkundung des Telefongesprächs auseinandergesetzt. Es ist daher nicht ersichtlich, inwiefern sie ihren Entscheid auf einen aktenwidrigen Sachverhalt gestützt haben und in Willkür verfallen sein sollte. Ein Gericht muss sich im Weiteren in seinem Entscheid nicht mit allen Parteistandpunkten einlässlich auseinandersetzen und jedes einzelne Vorbringen ausdrücklich widerlegen. Vielmehr kann es sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung muss so abgefasst sein, dass sich die betroffene Person über die Tragweite des Entscheids Rechenschaft geben und diesen in voller Kenntnis der Sache an die höhere Instanz weiterziehen kann (vgl. <ref-ruling> E. 5.2 S. 70 f. mit Hinweisen). Diesen Anforderungen genügt die Begründung der Vorinstanz. Diese hat daher auch die Begründungspflicht und das rechtliche Gehör des Beschwerdeführers (Art. 3 Abs. 2 lit. c und Art. 107 StPO, 29 Abs. 2 BV, Art. 6 Ziff. 1 EMRK) nicht verletzt.
3.4.
Der Beschwerdeführer bringt ausserdem vor, die Vorinstanz habe sich damit begnügt, die erwähnten drei Verfahrenshandlungen (Telefongespräch, Beweisverfügung, Einholung der Unterlagen entgegen dieser Verfügung) einzeln und isoliert darauf zu prüfen, ob sie einen Ausstandsgrund bildeten. Bei einer derartigen Betrachtungsweise könnte in der Tat argumentiert werden, diese Verfahrenshandlungen seien nicht geeignet, den Anschein der Befangenheit zu begründen. Dieses Vorgehen blende jedoch aus, dass eine Gesamtbetrachtung erforderlich sei. Bei einer solchen könne der Beschwerdegegner nicht mehr als unbefangen angesehen werden.
Wieso eine Gesamtbetrachtung zu einem anderen Ergebnis führen sollte als die vorinstanzliche Einzelbeurteilung der fraglichen Verfahrenshandlungen, wird aus den Ausführungen des Beschwerdeführers nicht gänzlich klar. Als entscheidend erachtet er offenbar, dass die Unterlagen, deren Edition er mit seinem abgewiesenen Beweisantrag verlangt hat, vonseiten des Gerichts entgegen der Beweisverfügung bzw. dem Willen des Beschwerdegegners eingeholt worden und in die Akten gelangt seien. Damit stehe der Beschwerdegegner diskreditiert da. Zudem müsste er sich im Rahmen der Sachverhaltsermittlung, der Beweiswürdigung und der anschliessenden Urteilsfällung offenkundig "contre coeur" mit diesen Unterlagen befassen. Bei dieser Ausgangslage sei es schlicht nicht vorstellbar, dass er seine richterliche Tätigkeit noch unbefangen ausüben könne.
Dem kann nicht gefolgt werden. Der Beschwerdeführer macht nicht geltend, dass die vorinstanzliche Feststellung, die Einholung der fraglichen Unterlagen sei auf ein gerichtsinternes Missverständnis zurückzuführen, offensichtlich unrichtig sei (vgl. vorne E. 2). Ebenso wenig bringt er vor, der Beschwerdegegner habe entgegen der Beurteilung der Vorinstanz nicht plausibel erklärt, wie es zu diesem Missverständnis gekommen sei. Wieso der Beschwerdegegner durch die entgegen seiner Beweisverfügung vonseiten des Gerichts erfolgte Einholung der fraglichen Unterlagen "diskreditiert" sein sollte, erschliesst sich daher nicht. Ebenso wenig ist ersichtlich, wieso er sich deshalb "contre coeur" mit diesen Unterlagen befassen müsste. Da deren Einholung auf ein plausibel erklärbares gerichtsinternes Missverständnis zurückzuführen ist, besteht vielmehr objektiv besehen auch bei einer Gesamtbetrachtung, wie sie der Beschwerdeführer verlangt, kein Anlass zur Befürchtung, der Beschwerdegegner könnte sich aufgrund der Umstände, wie die Unterlagen in die Verfahrensakten gekommen sind, im anstehenden Gerichtsverfahren nicht mehr ohne sachfremde Vorbehalte damit auseinandersetzen. Das Misstrauen des Beschwerdeführers in die Unparteilichkeit des Beschwerdegegners erscheint daher auch bei der von ihm geforderten Betrachtungsweise als unbegründet, zumal auch keine Anhaltspunkte dafür bestehen, dass sich der Beschwerdegegner bereits vor der Durchführung der Hauptverhandlung eine abschliessende Meinung zur Relevanz der Unterlagen gebildet hätte. Die Beschwerde erweist sich daher auch in diesem Punkt und damit insgesamt als unbegründet.
4.
Demnach ist die Beschwerde abzuweisen.
Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer kostenpflichtig (<ref-law>). Parteientschädigungen für das bundesgerichtliche Verfahren sind keine auszurichten (Art. 68 Abs. 1-3 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Bern, Beschwerdekammer in Strafsachen, schriftlich mitgeteilt.
Lausanne, 11. Juni 2020
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Chaix
Der Gerichtsschreiber: Baur