Sachverhalt:
A.
Die Staatsanwaltschaft des Kantons Basel-Stadt eröffnete gegen X._ wegen Versicherungsbetrugs ein Strafverfahren. Sie wirft ihm vor, seine vollständige Arbeitsunfähigkeit vorgetäuscht und so unrechtmässig Versicherungsleistungen bezogen zu haben. Am 22. Juni 2012 erhob sie Anklage.
X._ stellte am 27. Mai 2012 gegen den Untersuchungsbeamten Y._ ein Ausstandsgesuch und beantragte, die Protokolle der von diesem durchgeführten Einvernahmen aus den Akten zu weisen; zudem seien sämtliche Beobachtungsberichte und Videoaufnahmen, welche in Verletzung des Schutzes der Privatsphäre erlangt worden seien, als Beweismittel zu entfernen. Die Staatsanwaltschaft wies beide Anträge am 13. Juni 2012 ab.
B.
Der Appellationsgerichtspräsident des Kantons Basel-Stadt wies die von X._ dagegen erhobene Beschwerde am 9. November 2012 ab, soweit er darauf eintrat.
C.
Mit Beschwerde in Strafsachen beantragt X._, den Entscheid des Appellationsgerichtspräsidenten aufzuheben und die Vorinstanzen anzuweisen, alle Amtshandlungen aus dem Recht zu weisen, an denen der Untersuchungsbeamte Y._ teilgenommen habe; zudem seien die Videoaufnahmen und Beobachtungsberichte aus den Akten zu entfernen.
Der Appellationsgerichtspräsident schliesst auf Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Staatsanwaltschaft beantragt, die Beschwerde abzuweisen.
X._ hat eine Replik eingereicht, worin er an seinen Anträgen festhält.

Erwägungen:
1.
1.1. Gegen den angefochtenen Entscheid ist gemäss <ref-law> die Beschwerde in Strafsachen gegeben. Sie ist zulässig gegen Entscheide letzter kantonaler Instanzen (<ref-law>). Der Beschwerdeführer ist nach Art. 81 Abs. 1 lit. a und b Ziff. 1 BGG zur Beschwerde befugt.
1.2. Soweit der angefochtene Entscheid die Entfernung der Beobachtungsberichte und Videoaufnahmen aus den Akten betrifft, handelt es sich um einen Zwischenentscheid, gegen den die Beschwerde an das Bundesgericht zulässig ist, wenn die Voraussetzungen von Art. 93 Abs. 1 lit. a oder b BGG erfüllt sind.
Nach der Rechtsprechung zu <ref-law> soll sich das Bundesgericht in der Regel nur einmal mit der gleichen Streitsache befassen müssen. Ein Zwischenentscheid ist daher nur ausnahmsweise anfechtbar, sofern ein rechtlicher Nachteil droht, der auch durch einen für den Rechtsuchenden günstigen Endentscheid nicht mehr zu beheben ist (<ref-ruling> E. 4 S. 95; <ref-ruling> E. 2.1 f. S. 190 f.; je mit Hinweisen).
Zwischenentscheide, welche die Beweisführung betreffen, haben in der Regel keinen nicht wieder gutzumachenden Nachteil rechtlicher Art zur Folge (<ref-ruling> E. 1 S. 438; Urteile 1B_17/2013 vom 12. Februar 2013 E. 1.2; 1B_325/2011 vom 27. September 2011 E. 1.4; je mit Hinweisen).
Vorliegend ist streitig, ob die Ergebnisse der Überwachung des Beschwerdeführers aus den Akten zu entfernen sind. Die Vorinstanz verneint dies. Das Gesetz sieht vor rechtskräftigem Abschluss des Strafverfahrens keine definitive Entfernung von Beweismitteln vor, deren Verwertbarkeit streitig ist (vgl. <ref-law>; Urteil 1B_584/2011 vom 12. Dezember 2011 E. 3.2). Über Verwertungsverbote wird im Endentscheid zu befinden sein. Sollten die kantonalen Instanzen ein solches verneinen und den Beschwerdeführer schuldig sprechen, könnte dieser Beschwerde in Strafsachen nach <ref-law> führen. Bejahte das Bundesgericht ein Beweisverwertungsverbot, wäre der mit dem angefochtenen Entscheid entstandene Nachteil behoben (vgl. Urteil 1B_325/2011 vom 27. September 2011 E. 1.4). Es besteht somit kein nicht wieder gutzumachender Nachteil.
Die Voraussetzung von <ref-law>, die in Strafsachen eng auszulegen ist (<ref-ruling> E. 3.2 S. 292), ist hier nicht erfüllt.
In Bezug auf die Entfernung der Beobachtungsberichte und Videoaufnahmen aus den Akten ist auf die Beschwerde daher nicht einzutreten.
1.3. Soweit der angefochtene Entscheid das Ausstandsgesuch gegen den Untersuchungsbeamten Y._ mit dem Antrag auf Entfernung der Einvernahmeprotokolle aus den Akten betrifft, stellt er einen nach <ref-law> anfechtbaren Zwischenentscheid dar (vgl. Urteil 1P.673/1992 vom 5. Februar 1993 E. 1b, nicht publ. in: <ref-ruling>).
Insoweit ist auf die Beschwerde einzutreten.
2.
Streitig ist, ob das Ausstandsbegehren verspätet ist. Die Vorinstanz bejaht dies, was der Beschwerdeführer als bundesrechtswidrig rügt.
2.1. Nach der Rechtsprechung zu Art. 29 Abs. 1 und Art. 30 Abs. 1 i.V.m. <ref-law> ist das Ausstandsgesuch ohne Verzug zu stellen. Wer einen Richter oder Beamten nicht unverzüglich ablehnt, wenn er von einem Ausstandsgrund Kenntnis erhält, sondern sich stillschweigend auf den Prozess einlässt oder diesen fortführt, verwirkt den Anspruch auf spätere Anrufung des Ablehnungsgrundes. Es wäre mit dem Grundsatz von Treu und Glauben bzw. dem Verbot des Rechtsmissbrauchs unvereinbar, Ausstandsgründe, welche in einem früheren Verfahrensstadium hätten geltend gemacht werden können, bei ungünstigem Ausgang nachzuschieben (<ref-ruling> E. 4.3 S. 496 f.; <ref-ruling> E. 3c S. 254; <ref-ruling> E. 2 S. 123).
2.2. Der Beschwerdeführer stützt seinen Vorwurf der Befangenheit des Untersuchungsbeamten Y._ auf dessen Verhalten an den Einvernahmen vom 13. Dezember 2007, 30. Januar und 24. April 2008 sowie 6./7. Januar 2009. Demnach waren dem Beschwerdeführer die Umstände, auf die er sich zur Begründung des Ausstandsbegehrens im Wesentlichen beruft, spätestens im Januar 2009 bekannt. Nach Treu und Glauben hätte er sein Gesuch unverzüglich danach stellen sollen. Stattdessen wartete er über drei Jahre zu und stellte das Begehren am 27. Mai 2012 erst kurz vor Abschluss des Vorverfahrens durch Anklageerhebung. Es ist damit offensichtlich verspätet. Der Beschwerdeführer hat seinen Anspruch auf Ablehnung des Untersuchungsbeamten verwirkt.
Die Beschwerde erweist sich in diesem Punkt als unbegründet.
3.
Sie ist abzuweisen, soweit darauf eingetreten werden kann.
Die Rechtsbegehren waren von vornherein aussichtslos. Das Gesuch um unentgeltliche Rechtspflege ist daher abzuweisen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft Basel-Stadt und dem Appellationsgericht des Kantons Basel-Stadt, Appellationsgerichtspräsident, schriftlich mitgeteilt.
Lausanne, 5. Juni 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Geisser