Sachverhalt:
A.
A.a. Am 24. Januar 2015 soll sich X._ gemäss Darstellung der Kantonspolizei Basel-Stadt einer polizeilichen Kontrolle widersetzt und die Polizisten bei ihrer Amtshandlung behindert haben. X._ seinerseits wirft den Polizeibeamten vor, ihr Einsatz sei illegal gewesen, sie hätten ihm verschiedene Verletzungen zugefügt und unerlaubterweise einen Taser eingesetzt. Mit Strafbefehl der Staatsanwaltschaft Basel-Stadt vom 18. Juni 2015 wurde X._ wegen mehrfacher Widerhandlung gegen das Übertretungsstrafgesetz des Kantons Basel-Stadt zu einer Busse von 800.-- CHF bzw. bei schuldhafter Nichtbezahlung ersatzweise zu einer Freiheitsstrafe von acht Tagen verurteilt. Das Verfahren gegen die Polizisten ist bei der Staatsanwaltschaft hängig.
A.b. X._ erhob am 29. Juni 2015 Einsprache gegen den Strafbefehl, woraufhin die Staatsanwaltschaft die Sache dem Strafgericht überwies. Mit Verfügung vom 25. August 2015 teilte die verfahrensleitende Strafgerichtspräsidentin Y._ der Verteidigung von X._ die vorgesehenen Beweiserhebungen mit und stellte Frist für allfällige weitere Beweisanträge. Ohne die Abnahme weiterer Beweise zu verlangen, beantragte X._ am 30. Oktober 2015 die Sistierung des Verfahrens bis zum Abschluss der gegen die Polizeibeamten gerichteten Strafuntersuchung. Die Strafgerichtspräsidentin wies das Sistierungsgesuch am 2. November 2015 ab. Einen in der Folge eingereichten Antrag auf Rückweisung des Verfahrens an die Staatsanwaltschaft wies die Strafgerichtspräsidentin am 1. Dezember 2015 ebenfalls ab und entschied zugleich über die am 26. November 2015 von der Verteidigung eingereichten Beweisanträge.
Bei der Hauptverhandlung im Einspracheverfahren am 12. Januar 2016 wies die Strafgerichtspräsidentin ein erneutes Gesuch der Verteidigung auf Rückweisung und eventuell Sistierung des Verfahrens wiederum ab. Daraufhin beantragte die Verteidigung den Ausstand von Y._ wegen Befangenheit. Die Hauptverhandlung musste in der Folge aus einem anderen Grund ausgesetzt werden.
B.
Am 12. Januar 2016 überwies die Strafgerichtspräsidentin das Ausstandsgesuch dem Appellationsgericht des Kantons Basel-Stadt mit dem Antrag auf Abweisung des Antrags. Mit Entscheid vom 18. Februar 2016 wies das Einzelgericht am Appellationsgericht das Ausstandsgesuch ab.
C.
Mit Beschwerde in Strafsachen an das Bundesgericht vom 11. April 2016 beantragt X._, den Entscheid des Appellationsgerichts aufzuheben und festzustellen, dass Y._ in den Ausstand zu treten habe; eventuell sei der Entscheid des Appellationsgerichts aufzuheben und im Sinne der Erwägungen an dieses zu neuem Entscheid zurückzuweisen. Zur Begründung wird im Wesentlichen ausgeführt, wegen Voreingenommenheit der Verfahrensleiterin am Strafgericht sei ein faires Verfahren ausgeschlossen.
Y._ schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Das Appellationsgericht stellt Antrag auf Abweisung.
X._ äusserte sich am 10. und 31. Mai 2016 nochmals zur Sache.

Erwägungen:
1.
1.1. Beim angefochtenen Entscheid über den Ausstand der Strafgerichtspräsidentin handelt es sich um einen selbständig anfechtbaren, kantonal letztinstanzlichen (vgl. <ref-law>) Zwischenentscheid des Appellationsgerichts, gegen den gemäss Art. 78 ff. in Verbindung mit <ref-law> grundsätzlich die Beschwerde in Strafsachen an das Bundesgericht offen steht.
1.2. Mit der Beschwerde in Strafsachen an das Bundesgericht kann insbesondere die Verletzung von Bundesrecht gerügt werden (<ref-law>). Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), prüft die bei ihm angefochtenen Entscheide aber grundsätzlich nur auf Rechtsverletzungen hin, die von den Beschwerdeführern geltend gemacht und begründet werden (vgl. <ref-law>). Erhöhte Anforderungen an die Begründung gelten, soweit die Verletzung von Grundrechten gerügt wird (<ref-law>; <ref-ruling> E. 1.4.2 S. 254 mit Hinweisen). Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (<ref-law>), es sei denn, dieser sei offensichtlich unrichtig oder beruhe auf einer Rechtsverletzung im Sinne von <ref-law> (vgl. Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG).
2.
<ref-law> zählt verschiedene Gründe auf, die zum Ausstand von in einer Strafbehörde tätigen Personen führen. Nach <ref-law> trifft dies namentlich aus anderen (als den in lit. a-e der gleichen Bestimmung genannten) Gründen zu, insbesondere wenn die in der Strafverfolgung tätige Person wegen Freundschaft oder Feindschaft mit einer Partei oder deren Rechtsbeistand befangen sein könnte. <ref-law> konkretisiert die Verfassungsbestimmung von <ref-law> sowie Art. 6 EMRK. Danach hat jede Person Anspruch darauf, dass ihre Sache von einem unparteiischen, unvoreingenommenen und unbefangenen Richter ohne Einwirken sachfremder Umstände entschieden wird. <ref-law> soll zu der für einen korrekten und fairen Prozess erforderlichen Offenheit des Verfahrens im Einzelfall beitragen und damit ein gerechtes Urteil ermöglichen. Die Garantie des verfassungsmässigen Richters wird verletzt, wenn bei objektiver Betrachtung Gegebenheiten vorliegen, die den Anschein der Befangenheit oder die Gefahr der Voreingenommenheit zu begründen vermögen. Solche Umstände können entweder in einem bestimmten Verhalten des betreffenden Richters oder in gewissen äusseren Gegebenheiten funktioneller und organisatorischer Natur begründet sein (<ref-ruling> E. 3.4 S. 116). Bei der Anwendung von <ref-law> ist entscheidendes Kriterium, ob bei objektiver Betrachtungsweise der Ausgang des Verfahrens noch als offen erscheint. Wird der Ausstandsgrund aus materiellen oder prozessualen Rechtsfehlern abgeleitet, so sind diese nur wesentlich, wenn sie besonders krass sind und wiederholt auftreten, sodass sie einer schweren Amtspflichtverletzung gleichkommen und sich einseitig zulasten einer der Prozessparteien auswirken; andernfalls begründen sie keinen hinreichenden Anschein der Befangenheit. Die Mehrfachbefassung mit derselben Angelegenheit, nicht zuletzt im Zusammenhang mit einem prozessualen Zwischenentscheid, genügt dafür ebenfalls nicht, solange das Verfahren noch als offen erscheint. Schliesslich stellt auch die Ablehnung eines Beweisantrags durch das verfahrensleitende Gerichtsmitglied für sich allein keinen Ausstandsgrund dar (vgl. <ref-ruling>; sodann zum Ganzen Urteil des Bundesgerichts 1B_214/2015 vom 1. September 2015 E. 2).
3.
3.1. Gemäss dem Beschwerdeführer fehlt es der Strafgerichtspräsidentin an der erforderlichen Neutralität. Das gesamte Hauptverfahren gegen ihn sei durch eine einseitige Verfahrensführung geprägt, die auf der Voreingenommenheit der Strafgerichtspräsidentin beruhe. Der Ausgang des Verfahrens könne daher nicht als offen gelten. Überdies habe die Strafgerichtspräsidentin in verschiedener Hinsicht mehrere Verfahrensfehler begangen.
3.2. Der Beschwerdeführer rügt, die Vorinstanz habe den Sachverhalt unvollständig ermittelt. Er führt jedoch nicht nachvollziehbar aus, inwiefern dies zutreffen sollte. Mangels rechtsgenüglicher Begründung der Beschwerde kann darauf daher nicht eingetreten werden (vgl. vorn E. 1.2).
3.3. Der Beschwerdeführer beruft sich auf eine in der - später ausgesetzten - Hauptverhandlung gemachte Äusserung der Strafgerichtspräsidentin, wonach "die Hälfte von dem, was in diesem Verfahren Thema ist" erstellt sei. Entgegen der Auffassung des Beschwerdeführers lässt sich daraus noch keine abschliessende Würdigung der ihm vorgeworfenen Handlungen ableiten. Die Äusserung kann sich einzig auf die Handlungen als solche beziehen, ohne ihre rechtliche Beurteilung vorwegzunehmen. Darin liegt weder eine Vorverurteilung noch eine Voreingenommenheit.
3.4. Der Beschwerdeführer macht geltend, die Strafgerichtspräsidentin verweigere durch die Ablehnung angebotener Beweise jegliche Aufklärung der Umstände zugunsten des Beschwerdeführers, insbesondere derjenigen, die das angeblich illegale Vorgehen der Polizei belegen sollen. Indessen lehnte die Strafgerichtspräsidentin nicht alle Beweisanträge des Beschwerdeführers ab, sondern liess im Gegenteil etliche davon zu. Sie wies die Rückweisungs- und Sistierungsgesuche gerade aus dem Grund ab, um ein rasches Beweisverfahren zu ermöglichen. Ob die Beweisabnahmen korrekt angeordnet wurden oder ob allenfalls noch weitere Beweise einzuholen sind, wird im Strafverfahren zu klären sein. Der Beschwerdeführer wird dies im Bedarfsfall auch in geeigneter Weise anfechten können. Aus den entsprechenden Entscheiden der Strafgerichtspräsidentin lässt sich jedenfalls keine Voreingenommenheit ableiten.
3.5. Der Beschwerdeführer ist der Ansicht, die Strafgerichtspräsidentin habe einen erheblichen Verfahrensfehler begangen. Sie habe gegen Art. 29 und 30 StPO verstossen, indem sie die im gleichen Zusammenhang gegen den Beschwerdeführer einerseits und gegen die Polizeibeamten andererseits gerichteten Strafverfahren nicht vereinigt bzw. zumindest das erste Verfahren nicht einstweilen sistiert habe.
3.5.1. Nach <ref-law> werden Straftaten gemeinsam verfolgt und beurteilt, wenn eine beschuldigte Person mehrere Straftaten verübt hat oder wenn Mittäterschaft oder Teilnahme vorliegt. Gemäss <ref-law> können die Staatsanwaltschaft und die Gerichte aus sachlichen Gründen Strafverfahren trennen oder vereinigen. Der Grundsatz der Verfahrenseinheit bezweckt die Verhinderung sich widersprechender Urteile, sei dies bei der Sachverhaltsfeststellung, der rechtlichen Würdigung oder der Strafzumessung. Er gewährleistet somit das Gleichbehandlungsgebot (<ref-law>). Überdies dient er der Prozessökonomie (<ref-ruling> E. 3.2 S. 31). Wird jemand, nachdem er Polizeibeamte angegriffen haben soll, durch diese verletzt, so sind die deswegen gegen das Opfer und die Polizeibeamten eröffneten Strafverfahren zwar nicht gestützt auf <ref-law>, wohl aber gemäss <ref-law> grundsätzlich von einer einzigen Staatsanwaltschaft zu führen (<ref-ruling> E. 5 S. 33 f.).
3.5.2. Es kann offen bleiben, ob im vorliegenden Fall die Strafgerichtspräsidentin mit ihrer Weigerung, das gegen den Beschwerdeführer gerichtete Strafverfahren zumindest bis zum Abschluss der Ermittlungen in der parallel gegen die Polizisten geführten Strafuntersuchung zu sistieren oder gar die beiden Verfahren zusammenzulegen, gegen den Grundsatz der Verfahrenseinheit verstossen hat. Es steht dem Beschwerdeführer frei, dies als prozessualen Mangel im Strafverfahren geltend zu machen. Im Verfahren über den Ausstand kann die Einhaltung des Grundsatzes der Verfahrenseinheit nicht gleichermassen umfassend geprüft werden wie im Strafverfahren selbst. Selbst wenn es sich hier allenfalls um einen Verfahrensfehler handeln sollte, wäre dieser aufgrund der derzeit bekannten und zu berücksichtigenden Umstände nicht besonders krass bzw. würde nicht eine derart schwere Amtspflichtverletzung darstellen, dass darin ein Ausstandsgrund läge.
3.6. Der Beschwerdeführer vermag die angebliche Voreingenommenheit der Strafgerichtspräsidentin nicht zu belegen. Die behaupteten Verfahrensfehler sind als solche weder besonders krass noch in der erforderlichen minimalen Intensität wiederholt aufgetreten. Weitere Gründe für den Anschein der Befangenheit tut der Beschwerdeführer nicht substantiiert dar und sind auch nicht ersichtlich. Das gilt insbesondere für die vom Beschwerdeführer auch noch gerügten angeblichen Alleingänge der Strafgerichtspräsidentin sowie für die behauptete feindselige Befragung des Beschwerdeführers und seiner Entlastungszeugin im angeblichen Unterschied zur "wenig forschenden" Einvernahme der Polizeibeamten.
4.
Die Beschwerde erweist sich als unbegründet und ist abzuweisen, soweit darauf eingetreten werden kann.
Bei diesem Verfahrensausgang wird der unterliegende Beschwerdeführer kostenpflichtig (Art. 66 Abs. 1, Art. 65 BGG). Eine Parteientschädigung ist nicht zuzusprechen (vgl. <ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt, Einzelgericht, schriftlich mitgeteilt.
Lausanne, 2. Juni 2016
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Uebersax