Sachverhalt: A. A.a. Am 14. März 2013 zeigte B.X._ ihren Ex-Mann A.X._ bei der Kantonspolizei Thurgau an wegen des Verdachts, an ihrer gemeinsamen Tochter C._ (geb. 2008) sexuelle Handlungen ausgeführt zu haben. C._ habe ihr gegenüber entsprechende Aussagen - "Dr Papi duet immer am Fudi schlecke." und "Em Papi sis Pfiffeli macht immer uf und zue." und "De Papi macht immer so komischi Grüsch und denn isch's Pfiffeli ganz härt und denn tuet's am Fudi chützele." - gemacht. Ausserdem gab B.X._ zu Protokoll, während ihrer Ehe habe A.X._ dreimal ohne ihr Einverständnis bzw. gegen ihren Willen den Geschlechtsakt mit ihr vollzogen, wobei sie sich aber nie aktiv gewehrt habe; sie wolle diese Vorfälle nicht zur Anzeige bringen. Am 19. März 2013 wurde C._ polizeilich befragt. A.b. Am 20. März 2013 eröffnete die Staatsanwaltschaft Kreuzlingen ein Strafverfahren gegen A.X._ wegen Schändung und sexueller Handlungen mit einem Kind. Am 21. März 2013 wurde A.X._ von der Kantonspolizei vernommen. Dabei wurde ihm eröffnet, dass er das Recht habe, die Aussage zu verweigern und einen Anwalt seiner Wahl beizuziehen oder eine amtliche Verteidigung zu beantragen. A.X._ erklärte, er habe eine Advokatur in Weinfelden angerufen; die Anwälte hätten aber keine Zeit. Er werde deshalb an der Einvernahme ohne Anwalt teilnehmen und allenfalls später einen Verteidiger suchen. In der Folge sagte A.X._ zur Sache aus und belastete sich dabei erheblich, teilweise weit stärker, als es seine Tochter am 19. März 2013 getan hatte. Am 22. März 2013 vernahm die Staatsanwaltschaft Kreuzlingen A.X._ in Anwesenheit des notwendigen, amtlichen Verteidigers, Rechtsanwalt Otmar Kurath. A.X._ verweigerte jegliche Aussagen zur Sache. A.c. Am 20. August 2013 ersuchte A.X._ die Staatsanwaltschaft, das Protokoll der polizeilichen Einvernahme vom 21. März 2013 aus den Akten zu entfernen und bis zum rechtskräftigen Abschluss des Strafverfahrens unter Verschluss zu halten. Die Einvernahme sei in Anwesenheit seines Verteidigers zu wiederholen. Zur Begründung führte er an, er sei ohne anwaltlichen Beistand einvernommen worden, obwohl er notwendig hätte verteidigt werden müssen. Am 27. August 2013 teilte die Staatsanwaltschaft A.X._ mit, sie werde das Protokoll der Einvernahme vom 21. März 2013 nicht aus den Akten entfernen, da zu diesem Zeitpunkt noch kein Fall notwendiger Verteidigung vorgelegen habe. Es sei am erstinstanzlichen Strafgericht zu entscheiden, ob die Einvernahme verwertbar sei, weshalb sie keine anfechtbare Verfügung erlasse. Die Wiederholung der Einvernahme erübrige sich. A.X._ erhob Beschwerde ans Obergericht mit dem Antrag, das Einvernahmeprotokoll vom 21. März 2013 aus den Akten zu entfernen. Er machte geltend, die Weigerung der Staatsanwaltschaft, eine anfechtbare Verfügung zu erlassen, stelle eine Rechtsverweigerung dar. A.d. Am 17. Oktober 2013 schützte das Obergericht des Kantons Thurgau die Beschwerde teilweise (Dispositiv-Ziffer 1). Es wies die Staatsanwaltschaft an, in Bezug auf den Vorwurf der Schändung bzw. Vergewaltigung von B.X._ umgehend entweder eine Strafuntersuchung zu eröffnen oder deren Nichtanhandnahme zu verfügen (Dispositiv-Ziffer 2). Für den Fall der Eröffnung einer Strafuntersuchung wegen Schändung bzw. Vergewaltigung von B.X._ sei das Einvernahmeprotokoll vom 21. März 2013 aus den Akten zu entfernen und unter separatem Verschluss zu halten (Dispositiv-Ziffer 3). Sollte das Verfahren wegen Schändung bzw. Vergewaltigung von B.X._ rechtskräftig nicht an die Hand genommen werden, sei das Protokoll der Einvernahme vom 21. März 2013 verwertbar und bleibe bei den Akten (Dispositiv-Ziffer 4). Es erwog, inhaltlich stelle das Schreiben der Staatsanwaltschaft vom 27. August 2013 eine Verfügung oder jedenfalls eine anfechtbare Verfahrenshandlung dar, weshalb keine Rechtsverweigerung vorliege. A.X._ habe ein Rechtsschutzinteresse an der Entfernung des Protokolls aus den Akten, da es geeignet sei, unterschwellig als Beweismittel zu wirken, was nicht statthaft sei, sollte es sich als unverwertbar erweisen. Betrachte man das Verfahren zum Nachteil von C._ separat, so sei die Einschätzung der Staatsanwaltschaft vertretbar, dass aufgrund der Aussagen der Tochter eine Strafe von unter einem Jahr zu erwarten gewesen sei und sich erst durch die Aussage von A.X._ vom 21. März 2013 ergeben habe, dass möglicherweise schwerwiegende Übergriffe im Raum stünden, die eine Strafe von über einem Jahr zur Folge haben könnten. Bei dieser Betrachtungsweise sei die Einvernahme vom 21. März 2013 rechtens gewesen und als Beweismittel verwertbar. Ziehe man jedoch auch den Vorwurf der Schändung bzw. Vergewaltigung von B.X._ in Betracht, so hätte von Anfang an eine Freiheitsstrafe von über einem Jahr prognostiziert und A.X._ dementsprechend bereits am 21. März 2013 notwendig verteidigt werden müssen. Das Vorgehen der Staatsanwaltschaft, diesen Vorwurf zu übergehen, weil er ihr nicht fundiert erschienen sei, sei unzulässig. Es sei ihr ein Offizialdelikt angezeigt worden, weshalb sie entweder eine formelle Eröffnungs- oder eine Nichtanhandnahmeverfügung hätte erlassen müssen. Das habe sie nachzuholen; je nachdem sei die Einvernahme von A.X._ vom 21. März 2013 verwertbar oder nicht. B. Mit Beschwerde in Strafsachen beantragt A.X._, diesen Entscheid des Obergerichts aufzuheben und das Protokoll der Einvernahme vom 21. März 2013 aus den Akten zu entfernen und separat unter Verschluss zu halten. Ausserdem ersucht er um unentgeltliche Rechtspflege und Verbeiständung. C. Die Staatsanwaltschaft verzichtet auf Vernehmlassung. Das Obergericht beantragt, die Beschwerde abzuweisen.