Sachverhalt:
A. Die Staatsanwaltschaft IV des Kantons Zürich erhob am 23. März 2010 Anklage gegen X._ wegen mehrfacher versuchter und vollendeter Vergewaltigung (Art. 190 Abs. 1 und Art. 22 Abs. 1 StGB), mehrfacher sexueller Nötigung (Art. 189 Abs. 1 StGB) und mehrfacher sexueller Handlungen mit Kindern (Art. 187 Ziff. 1 StGB). Gleichzeitig stellte sie einen Antrag auf Anordnung von Sicherheitshaft. Mit Eingabe vom 29. März 2010 an das Bezirksgericht Dietikon beantragte X._ die Haftentlassung, eventualiter unter Ersatzmassnahmen und subeventualiter die Anordnung des vorzeitigen Strafantritts gemäss § 71a der Strafprozessordnung des Kantons Zürich vom 4. Mai 1919 (StPO/ZH; LS 321). Mit Verfügung vom 30. März 2010 ordnete der Haftrichter des Bezirksgerichts Dietikon an, X._ habe in Haft zu bleiben. Zudem setzte er der Staatsanwaltschaft eine Frist zur Stellungnahme zum Gesuch des Angeklagten an. Mit Verfügung vom 1. April 2010 bewilligte er das Gesuch um Anordnung des vorzeitigen Strafantritts.
B. Mit Beschwerde in Strafsachen an das Bundesgericht vom 26. April 2010 beantragt X._ im Wesentlichen, die Verfügung des Haftrichters des Bezirksgerichts Dietikon vom 30. März 2010 sei aufzuheben und er selbst sei aus der Haft zu entlassen. Eventualiter sei die Sache mit der Weisung, der Beschwerdeführer sei aus der Haft zu entlassen, an die Vorinstanz zurückzuweisen.
Die Staatsanwaltschaft hält an ihrem mit der Anklageschrift vom 23. März 2010 vorgebrachten Antrag auf Anordnung der Sicherheitshaft fest. Der Haftrichter verzichtete auf eine Stellungnahme. Der Beschwerdeführer liess sich dazu nicht mehr vernehmen.

Erwägungen:
1. Gemäss Art. 78 Abs. 1 BGG beurteilt das Bundesgericht Beschwerden gegen Entscheide in Strafsachen. Ein kantonales Rechtsmittel gegen den angefochtenen Entscheid steht nicht zur Verfügung. Die Beschwerde ist nach Art. 80 i.V.m. Art. 130 Abs. 1 BGG zulässig. Der Beschwerdeführer nahm vor der Vorinstanz am Verfahren teil und hat ein rechtlich geschütztes Interesse an der Aufhebung des angefochtenen Entscheids. Er ist nach Art. 81 Abs. 1 BGG zur Beschwerde berechtigt. Das Bundesgericht kann nach Art. 107 Abs. 2 BGG bei Gutheissung der Beschwerde in der Sache selbst entscheiden. Deshalb ist der Antrag auf Haftentlassung zulässig. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
2. 2.1 Der Beschwerdeführer befindet sich im vorzeitigen Strafvollzug. Dies hindert ihn nicht daran, ein Gesuch um Haftentlassung zu stellen. Auf Gesuch um Entlassung aus dem vorzeitigen Strafvollzug hin ist zu prüfen, ob die Haftvoraussetzungen gegeben sind (<ref-ruling> E. 1d S. 79 f.; Urteil 1B_6/2010 vom 22. Januar 2010 E. 2.1; je mit Hinweisen).
Die Haft wie auch der vorzeitige Strafvollzug schränken die persönliche Freiheit ein (Art. 10 Abs. 2 i.V.m. Art. 31 BV, Art. 5 EMRK). Eine Einschränkung dieses Grundrechts ist zulässig, wenn sie auf einer gesetzlichen Grundlage beruht, im öffentlichen Interesse liegt und verhältnismässig ist; zudem darf sie den Kerngehalt des Grundrechts nicht beeinträchtigen (Art. 36 BV). Im vorliegenden Fall steht ein Freiheitsentzug und damit eine schwerwiegende Einschränkung der persönlichen Freiheit in Frage. Es bedarf deshalb sowohl nach Art. 36 Abs. 1 Satz 2 BV als auch nach Art. 31 Abs. 1 BV einer Grundlage im Gesetz selbst.
Im Hinblick auf die Schwere der Einschränkung prüft das Bundesgericht die Auslegung und Anwendung der kantonalen Rechtsgrundlage frei. Soweit jedoch reine Sachverhaltsfragen und damit Fragen der Beweiswürdigung zu beurteilen sind, greift das Bundesgericht nur ein, wenn die tatsächlichen Feststellungen der Vorinstanz offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (Art. 97 Abs. 1 i.V.m. Art. 105 Abs. 2 BGG; vgl. auch <ref-ruling> E. 3.2.3 S. 24 mit Hinweisen).
Gemäss § 58 Abs. 1 StPO/ZH kann der Angeschuldigte in Haft gesetzt werden, wenn er eines Verbrechens oder Vergehens dringend verdächtigt wird und ausserdem ein besonderer Haftgrund vorliegt. Laut vorinstanzlichem Entscheid besteht ein dringender Tatverdacht sowie als besonderer Haftgrund Kollusionsgefahr im Sinne von § 58 Abs. 1 Ziff. 2 StPO/ZH. Der Beschwerdeführer bestreitet den dringenden Tatverdacht nicht, wendet sich jedoch gegen die Annahme von Kollusionsgefahr.
2.2 Der Beschwerdeführer macht geltend, er habe eine eigene Wohnung. Mit der Mutter der Geschädigten sei er nicht verheiratet, er habe sich lediglich oft in deren Wohnung aufgehalten. In Zukunft werde er nicht mehr bei ihr wohnen. Die Geschädigte selbst sei unter der Woche in einem Schulheim in Kasteln. Es handle sich dabei um eine alte, umfunktionierte Burg, die nicht unbemerkt betreten werden könne. Die Wochenenden und die Ferien verbringe die Geschädigte seit seiner Verhaftung in einer Pflegefamilie. Von einer engen familiären Bande, wie sie vor der Verhaftung bestanden habe, könne im jetzigen Zeitpunkt nicht mehr ausgegangen werden. Der angefochtene Entscheid gehe insofern von willkürlichen Annahmen aus.
Eine allfällige Kollusionsgefahr könne mit milderen Massnahmen gebannt werden, so mit einem Kontakt- oder Rayonverbot. Mit der Bewilligung des vorzeitigen Strafvollzugs habe der Haftrichter zudem selbst belegt, dass keine relevante Kollusionsgefahr mehr bestehe. Andernfalls wäre nämlich der vorzeitige Strafvollzug gar nicht in Frage gekommen.
2.3 Der Haftrichter führt aus, es könne auch noch nach Anklageerhebung Kollusionsgefahr bestehen. Vorliegend handle es sich um schwere Delikte und die Geschädigte stehe noch im Jugendalter. Der Angeklagte sei nur zum Teil geständig. Nach eigenen Aussagen habe er die Vaterrolle für die Geschädigte übernommen und stehe sowohl zu ihr als auch zu ihrer Mutter in einer engen, familiären Beziehung. Er habe angegeben, die Mutter der Geschädigten nach wie vor zu lieben und aus seiner (zum Teil zensierten) Post gehe hervor, dass er den Kontakt zu ihr suche. Umgekehrt suche auch die Mutter der Geschädigten den Kontakt zum Angeklagten, wie beispielsweise ihr Brief vom 21. November 2009 zeige. Vor diesem Hintergrund könne es sehr leicht zu Kollusionshandlungen kommen und schon die blosse Anwesenheit des Beschwerdeführers vermöchte auf die Geschädigte einzuwirken.
2.3 Der Haftrichter führt aus, es könne auch noch nach Anklageerhebung Kollusionsgefahr bestehen. Vorliegend handle es sich um schwere Delikte und die Geschädigte stehe noch im Jugendalter. Der Angeklagte sei nur zum Teil geständig. Nach eigenen Aussagen habe er die Vaterrolle für die Geschädigte übernommen und stehe sowohl zu ihr als auch zu ihrer Mutter in einer engen, familiären Beziehung. Er habe angegeben, die Mutter der Geschädigten nach wie vor zu lieben und aus seiner (zum Teil zensierten) Post gehe hervor, dass er den Kontakt zu ihr suche. Umgekehrt suche auch die Mutter der Geschädigten den Kontakt zum Angeklagten, wie beispielsweise ihr Brief vom 21. November 2009 zeige. Vor diesem Hintergrund könne es sehr leicht zu Kollusionshandlungen kommen und schon die blosse Anwesenheit des Beschwerdeführers vermöchte auf die Geschädigte einzuwirken.
2.4 2.4.1 Kollusion bedeutet insbesondere, dass sich der Angeschuldigte mit Zeugen, Auskunftspersonen, Sachverständigen oder Mitangeschuldigten ins Einvernehmen setzt oder sie zu wahrheitswidrigen Aussagen veranlasst, oder dass er Spuren und Beweismittel beseitigt. Die strafprozessuale Haft wegen Kollusionsgefahr soll verhindern, dass der Angeschuldigte die Freiheit dazu missbraucht, die wahrheitsgetreue Abklärung des Sachverhalts zu vereiteln oder zu gefährden. Die theoretische Möglichkeit, dass der Angeschuldigte in Freiheit kolludieren könnte, genügt indessen nicht, um die Fortsetzung der Haft unter diesem Titel zu rechtfertigen. Es müssen vielmehr konkrete Indizien für die Annahme von Kollusionsgefahr sprechen (<ref-ruling> E. 3.2 S. 23; <ref-ruling> E. 2.1 S. 151; je mit Hinweisen).
Konkrete Anhaltspunkte für Kollusion können sich nach der Rechtsprechung des Bundesgerichts namentlich ergeben aus dem bisherigen Verhalten des Angeschuldigten im Strafprozess (Aussageverhalten, Kooperationsbereitschaft, Neigung zu Kollusion usw.), aus seinen persönlichen Merkmalen (Leumund, allfällige Vorstrafen usw.), aus seiner Stellung und seinen Tatbeiträgen im Rahmen des untersuchten Sachverhalts sowie aus den persönlichen Beziehungen zwischen ihm und den ihn belastenden Personen (Art der beruflichen, freundschaftlichen, familiären oder sozialen Kontakte). Bei der Frage, ob im konkreten Fall eine massgebliche Beeinträchtigung des Strafverfahrens wegen Kollusionsgefahr droht, ist auch der Art und Bedeutung der von Beeinflussung bedrohten Aussagen bzw. Beweismittel, der Schwere der untersuchten Straftaten sowie dem Stand des Verfahrens Rechnung zu tragen (<ref-ruling> E. 3.2.1 S. 23 f.; Urteil 1P.90/2005 vom 23. Februar 2005 E. 3.3, in: Pra 2006 Nr. 1 S. 1; je mit Hinweisen).
Nach Abschluss der Strafuntersuchung (und insbesondere nach Durchführung einer erstinstanzlichen Hauptverhandlung) bedarf der Haftgrund der Kollusionsgefahr einer besonders sorgfältigen Prüfung. Er dient primär der Sicherung einer ungestörten Strafuntersuchung. Zwar ist auch die richterliche Sachaufklärung vor unzulässigen Einflussnahmen zu bewahren. Dies gilt insbesondere im Hinblick auf die (in der Regel beschränkte) Unmittelbarkeit der Beweisaufnahme anlässlich der Hauptverhandlung (vgl. dazu §§ 280 und 285 StPO/ZH). Je weiter das Strafverfahren vorangeschritten ist und je präziser der Sachverhalt bereits abgeklärt werden konnte, desto höhere Anforderungen sind jedoch grundsätzlich an den Nachweis von Kollusionsgefahr zu stellen (<ref-ruling> E. 3.2.2 S. 23 mit Hinweisen).
2.4.2 Gemäss der Anklageschrift vom 23. März 2010 soll sich der Beschwerdeführer in der Zeit zwischen Januar 2005 und August 2009 regelmässig zu der 1995 geborenen Tochter seiner langjährigen Lebensgefährtin auf das Sofa im Wohnzimmer begeben und sie sexuell genötigt haben. Dabei habe er die Geschädigte jeweils an Armen, Beinen oder sonst am Körper festgehalten oder gedroht, ihren Kontakt zu ihrem Freund zu unterbinden. Am Wochenende des 22./23. August 2009 habe er die Geschädigte am gleichen Ort vergewaltigt.
In Bezug auf die Kollusionsgefahr ist insbesondere bedeutsam, dass die Geschädigte lediglich 15 Jahre alt ist und der Beschwerdeführer gemäss eigenen Aussagen für sie eine Vaterrolle eingenommen hat. Vor diesem Hintergrund und angesichts des Umstands, dass der Beschwerdeführer und die Mutter der Geschädigten nach wie vor den Kontakt zueinander suchen, ist es im Übrigen auch keineswegs willkürlich, wenn die Vorinstanz von einer engen familiären Beziehung spricht (Art. 97 Abs. 1 BGG i.V.m. Art. 9 BV). In der Anklageschrift wird dem Beschwerdeführer vorgeworfen, bei der Tatbegehung grossen physischen und psychischen Druck auf die Geschädigte ausgeübt zu haben. Die Kollusionsgefahr ist deshalb und angesichts der im angefochtenen Entscheid und der Anklageschrift dargestellten Beziehungsgeschichte des Beschwerdeführers, der Geschädigten und ihrer Mutter sowie aufgrund der Art der vorgeworfenen Delikte und des jugendlichen Alters der Geschädigten als erheblich einzustufen (vgl. BGE <ref-ruling> E. 3 S. 152 f. mit Hinweisen).
Der Haftrichter hat somit kein Bundesrecht verletzt, indem er trotz fortgeschrittenem Stand des Strafverfahrens die Kollusionsgefahr bejahte und Ersatzmassnahmen als unzureichend betrachtete. Anzufügen bleibt, dass entgegen der Ansicht des Beschwerdeführers die Bejahung der Kollusionsgefahr dem vorzeitigen Strafantritt nicht generell entgegensteht, zumal sich mit einer entsprechenden Anwendung der kantonalrechtlichen Regeln der Untersuchungs- und Sicherheitshaft auch im vorzeitigen Strafvollzug der Haftzweck sicherstellen lässt (<ref-ruling> E. 3.2.1 S. 277 f. mit Hinweis).
3. Zusammenfassend ergibt sich, dass die Beschwerde abzuweisen ist, soweit darauf einzutreten ist. Der Beschwerdeführer stellt ein Gesuch um unentgeltliche Prozessführung und Rechtsverbeiständung. Da die gesetzlichen Voraussetzungen erfüllt sind, kann dem Gesuch entsprochen werden (Art. 64 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten wird.
2. Das Gesuch um unentgeltliche Rechtspflege wird gutgeheissen.
2.1 Es werden keine Kosten erhoben.
2.2 Fürsprecher Peter Stein wird zum unentgeltlichen Rechtsbeistand ernannt und für das bundesgerichtliche Verfahren aus der Bundesgerichtskasse mit Fr. 1'500.-- entschädigt.
3. Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft IV des Kantons Zürich und dem Bezirksgericht Dietikon, Haftrichter, schriftlich mitgeteilt.
Lausanne, 18. Mai 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Dold