Sachverhalt:
A. Die Regionale Staatsanwaltschaft Bern-Mittelland führt gegen X._ eine Strafuntersuchung wegen sexueller Handlungen mit Kindern, sexueller Nötigung sowie Widerhandlungen gegen das Strassenverkehrsgesetz. X._ befindet sich seit dem 1. Juni 2012 in Untersuchungshaft. Eine von X._ gegen eine erste Verlängerung der Untersuchungshaft bis zum 30. November 2012 erhobene Beschwerde wies das Obergericht des Kantons Bern am 17. September 2012 ab. Am 8. November 2012 bewilligte die Staatsanwaltschaft ein Gesuch von X._ um vorzeitigen Massnahmeantritt. Am 4. Dezember 2012 verlängerte das Kantonale Zwangsmassnahmengericht die Untersuchungshaft von X._ bis zum 28. Februar 2013.
B. Eine von X._ gegen den Entscheid des Zwangsmassnahmengerichts vom 4. Dezember 2012 erhobene Beschwerde wies das Obergericht am 3. Januar 2013 ab.
C. Gegen den Entscheid des Obergerichts vom 3. Januar 2013 hat X._ am 4. Februar 2013 Beschwerde in Strafsachen ans Bundesgericht erhoben. Er beantragt, der angefochtene Entscheid sei aufzuheben und er, allenfalls unter Anordnung geeigneter Ersatzmassnahmen, aus der Untersuchungshaft zu entlassen. Die Vorinstanz und die Staatsanwaltschaft haben auf eine Vernehmlassung verzichtet.

Erwägungen:
1. Angefochten ist ein letztinstanzlicher kantonaler Zwischenentscheid in einer Strafsache, gegen den gemäss Art. 78 ff. i.V.m. <ref-law> die Beschwerde in Strafsachen offen steht. Der Beschwerdeführer ist nach <ref-law> beschwerdebefugt, zumal er sich nach wie vor in Haft bzw. im vorzeitigen Massnahmenvollzug befindet und deshalb ein aktuelles Interesse an der Behandlung der Beschwerde hat. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
2. Der angefochtene Entscheid betrifft die Verlängerung der Untersuchungshaft bzw. die Fortsetzung des vorzeitigen Massnahmenvollzugs und damit eine Zwangsmassnahme im Sinne von <ref-law> (SR 312.0). Strafprozessuale Zwangsmassnahmen sind Verfahrenshandlungen der Strafbehörden, die in die Grundrechte der Betroffenen eingreifen und dazu dienen, Beweise zu sichern, die Anwesenheit von Personen im Verfahren sicherzustellen oder die Vollstreckung des Endentscheids zu gewährleisten (Art. 196 lit. a-c StPO). Die Auslegung und die Anwendung der im Bundesrecht geregelten Voraussetzungen für die Grundrechtsbeschränkungen prüft das Bundesgericht mit freier Kognition (<ref-law>; vgl. <ref-ruling> E. 3.3 S. 269). Mit dem Entscheid über strafprozessuale Zwangsmassnahmen wird über die Grundrechtsbeschränkung definitiv entschieden. Somit stellen diese Zwangsmassnahmen keine vorsorglichen Massnahmen im Sinne von <ref-law> dar. Die nach dieser Bestimmung vorgeschriebene Beschränkung der Rügegründe ist demnach nicht anwendbar (vgl. Urteil 1B_277/2011 vom 28. Juni 2011 E. 1.2 mit Hinweisen).
3. Der vorzeitige Straf- oder Massnahmeantritt (<ref-law>) stellt seiner Natur nach eine strafprozessuale Zwangsmassnahme auf der Schwelle zwischen Strafverfolgung und Strafvollzug dar. Er soll ermöglichen, dass der beschuldigten Person bereits vor einer rechtskräftigen Urteilsfällung verbesserte Chancen auf Resozialisierung im Rahmen des Straf- oder Massnahmenvollzugs geboten werden können (<ref-ruling> E. 3.2.1 S. 277). Für eine Fortdauer der strafprozessualen Haft in den Modalitäten des vorzeitigen Straf- oder Massnahmenvollzugs müssen weiterhin Haftgründe gegeben sein (<ref-ruling> E. 3a S. 174). In Anwendung von <ref-law> ist vorzeitiger Straf- oder Massnahmenvollzug wie Untersuchungs- und Sicherheitshaft zulässig, wenn die beschuldigte Person eines Verbrechens oder Vergehens dringend verdächtig ist und ausserdem Flucht-, Kollusions- oder Wiederholungsgefahr vorliegt (Abs. 1) oder wenn ernsthaft zu befürchten ist, eine Person werde ihre Drohung, ein schweres Verbrechen auszuführen, wahr machen (Abs. 2). Das zuständige Gericht ordnet an Stelle der Untersuchungs- oder Sicherheitshaft eine oder mehrere mildere Massnahmen an, wenn sie den gleichen Zweck wie die Haft erfüllen (<ref-law>).
4. Der Beschwerdeführer bestreitet den dringenden Tatverdacht nicht. Er rügt jedoch, die Vorinstanz habe den Haftgrund Wiederholungsgefahr zu Unrecht bejaht.
4.1 Der besondere Haftgrund der Wiederholungsgefahr ist gegeben, wenn ernsthaft zu befürchten ist, dass die beschuldigte Person durch Verbrechen oder schwere Vergehen (vgl. dazu <ref-ruling> E. 3.2 S. 85 f.) die Sicherheit anderer erheblich gefährdet, nachdem sie bereits früher gleichartige Straftaten verübt hat (<ref-law>). Nach der Praxis des Bundesgerichts kann die Anordnung bzw. Fortsetzung von strafprozessualer Haft wegen Wiederholungsgefahr dem Verfahrensziel der Beschleunigung dienen, indem verhindert wird, dass sich der Strafprozess durch immer neue Delikte kompliziert und in die Länge zieht. Auch die Wahrung des Interesses an der Verhütung weiterer schwerwiegender Delikte ist nicht verfassungs- und grundrechtswidrig. Vielmehr anerkennt Art. 5 Ziff. 1 lit. c EMRK ausdrücklich die Notwendigkeit, Beschuldigte an der Begehung strafbarer Handlungen zu hindern, somit Spezialprävention, als Haftgrund (<ref-ruling> E. 3.2 S. 85 mit Hinweis).
4.2 Bei den in <ref-law> verlangten Vortaten muss es sich um Verbrechen oder schwere Vergehen gegen gleiche oder gleichartige Rechtsgüter gehandelt haben, wie sie im hängigen Untersuchungsverfahren massgeblich sind. Die früher begangenen Straftaten können sich aus rechtskräftig abgeschlossenen Strafverfahren ergeben. Sie können jedoch auch Gegenstand eines noch hängigen Strafverfahrens bilden, in dem sich die Frage der Untersuchungs- und Sicherheitshaft stellt, sofern mit an Sicherheit grenzender Wahrscheinlichkeit feststeht, dass die beschuldigte Person solche Straftaten begangen hat. Der Nachweis, dass die beschuldigte Person eine Straftat verübt hat, gilt bei einem glaubhaften Geständnis oder einer erdrückenden Beweislage als erbracht (<ref-ruling> E. 3.2 S. 86 mit Hinweisen). Der Haftgrund der Wiederholungsgefahr kann unter Umständen auch schon gegeben sein, wenn die beschuldigte Person früher nur eine gleichartige Straftat verübt hat (Urteil 1B_133/2011 vom 12. April 2011 E. 4.7). Bei akut drohenden Schwerverbrechen kann nach der Praxis des Bundesgerichtes unter bestimmten Voraussetzungen sogar ausnahmsweise auf das Vortatenerfordernis ganz verzichtet werden (vgl. <ref-ruling> E. 3 f. S. 18 ff.).
4.2.1 In tatsächlicher Hinsicht hat die Vorinstanz festgehalten, dass der Beschwerdeführer vorbestraft ist, unter anderem wegen verbotener Pornografie (<ref-law>), welche sich auf Knaben unter 16 Jahren bezog. Der Beschwerdeführer wurde ausserdem im Jahr 1996 wegen mehrfacher sexueller Handlungen mit einem Kind verurteilt, wobei das entsprechende Urteil nach der gesetzlich vorgesehenen Frist aus dem Strafregister entfernt worden ist. In der laufenden Strafuntersuchung werden dem Beschwerdeführer sexuelle Handlungen mit Knaben unter 16 Jahren vorgeworfen. In zwei Bestandteil der laufenden Strafuntersuchung bildenden Fällen ist unbestritten, dass der objektive Tatbestand der sexuellen Handlungen mit Kindern (<ref-law>) erfüllt ist. In einem dieser beiden Fälle stellt sich der Beschwerdeführer sinngemäss auf den Standpunkt, es stehe nicht mit an Sicherheit grenzender Wahrscheinlichkeit fest, dass er verurteilt werde, weil er Gründe für die Annahme gehabt habe, dass das Kind über 16 Jahre alt gewesen sei. Dagegen anerkennt er im anderen der beiden Fälle, dass von einer Verurteilung ausgegangen werden müsse.
4.2.2 In einem Gegenstand der laufenden Strafuntersuchung bildenden Fall ist somit unbestritten, dass sich der Beschwerdeführer der sexuellen Handlungen mit einem Kind strafbar gemacht hat. In demjenigen Fall, in dem der Beschwerdeführer vorbringt, er habe Gründe für die Annahme gehabt, dass das Kind über 16 Jahre alt gewesen sei, steht sodann mit an Sicherheit grenzender Wahrscheinlichkeit fest, dass der Beschwerdeführer zumindest nach <ref-law> zu verurteilen sein wird, wonach sich auch strafbar macht, wer in der irrigen Vorstellung gehandelt hat, das Kind sei mindestens 16 Jahre alt, wenn er bei pflichtgemässer Vorsicht den Irrtum hätte vermeiden können (vgl. dazu Urteil 6B_256/2010 vom 3. Juni 2010 E. 2). Bei den genannten Taten handelt es sich wie bei den im Falle einer Haftentlassung zu befürchtenden Delikten um schwere Straftaten gegen die sexuelle Integrität. Unter diesen Umständen ist das für die Annahme von Wiederholungsgefahr im Sinne der bundesgerichtlichen Rechtsprechung zu <ref-law> vorausgesetzte Vortatenerfordernis erfüllt, auch wenn man - wie dies die Vorinstanz getan hat - die Verurteilung des Beschwerdeführers im Jahr 1996 wegen mehrfacher sexueller Handlungen mit einem Kind und die Vorstrafe wegen Pornografie ausser Acht lässt.
4.3 Die Begehung der in <ref-law> genannten Delikte muss ernsthaft zu befürchten sein. Erforderlich ist eine sehr ungünstige Rückfallprognose. Dabei sind insbesondere die Häufigkeit und Intensität der untersuchten Delikte sowie die einschlägigen Vorstrafen zu berücksichtigen (<ref-ruling> E. 3.2 S. 86). Bei Sexualdelikten sind - wie bei schweren Gewaltdelikten - aus Gründen des Opferschutzes keine allzu hohen Anforderungen an die Wahrscheinlichkeit eines Rückfalls zu stellen (Urteil 1B_384/2010 vom 9. Dezember 2010 E. 4.4 mit Hinweisen).
4.3.1 Die Vorinstanz bejahte eine sehr ungünstige Rückfallprognose und stützte sich dabei unter anderem auf ein psychiatrisches Gutachten vom 12. September 2012, welches dem Beschwerdeführer eine Störung der Sexualpräferenz bezogen auf pubertierende Knaben und mindestens akzentuierte narzisstische sowie dissoziale Persönlichkeitszüge attestiert. Unter anderem aus dem Verhalten des Beschwerdeführers im Zusammenhang mit der Verurteilung wegen mehrfacher sexueller Handlungen mit einem Kind im Jahre 1996 sowie der Vorstrafe wegen Pornografie bezogen auf Knaben unter 16 Jahren schloss die Gutachterin auf ein stabiles sexuelles Interesse des Beschwerdeführers für pubertierende Jungen. In der Gesamtschau der einzelnen Risikofaktoren stufte sie die Wahrscheinlichkeit zukünftiger Sexualdelikte als hoch ein.
Der Beschwerdeführer bestreitet sinngemäss das Vorliegen einer Störung der Sexualpräferenz bezogen auf pubertierende Knaben. Für die Bejahung der stabilen Neigung für pubertierende Jungen im Gutachten sei gemäss Gutachterin sein Verhalten im Zusammenhang mit der Verurteilung im Jahre 1996 hoch relevant. Im Gegensatz zur Gutachterin im medizinischen Gutachten dürften sich die Strafbehörden für die gemäss <ref-law> vorzunehmende Legalprognose indessen nicht auf aus dem Strafregister entfernte Straftaten und damit auf die Umstände, die zu seiner Verurteilung im Jahr 1996 geführt haben, stützen.
4.3.2 Auch wenn man die Umstände, die zur Verurteilung des Beschwerdeführers wegen mehrfacher sexueller Handlungen mit einem Kind im Jahr 1996 geführt haben, unberücksichtigt lässt, erweist sich die Rückfallprognose für ihn unter den gegebenen Umständen als sehr ungünstig, sodass ernsthaft zu befürchten ist, dass er im Falle einer Haftentlassung erneut schwere, die Sicherheit anderer erheblich gefährdende Straftaten im Sinne von <ref-law> begehen würde. Dies zumal der Beschwerdeführer sich trotz einschlägiger Vorstrafe wegen Pornografie, welche sich auf Knaben unter 16 Jahren bezog, nicht von sexuellen Handlungen mit Kindern abhalten liess und sich auch die psychiatrische Gutachterin bei der Beurteilung der Rückfallgefahr nicht nur auf die Umstände stützte, die zur Verurteilung im Jahr 1996 geführt haben. Unabhängig von der Verurteilung im Jahr 1996 muss deshalb davon ausgegangen werden, dass der Beschwerdeführer ein sexuelles Interesse an Knaben hat, die noch nicht 16 Jahre alt sind. Der Einwand des Beschwerdeführers, er sei nicht pädophil, da er keine sexuelle Präferenz für Kinder habe, die sich in der Vorpubertät (bis ca. 11 Jahre) oder in einem frühen Stadium der Pubertät (zwischen ca. 10 und 13 Jahren) befänden, vermag an der sehr ungünstigen Rückfallprognose nichts zu ändern, zumal der Straftatbestand sexueller Handlungen mit Kindern Kinder bis zu einem Alter von 16 Jahren einschliesst.
4.4 Die Vorinstanz kam zum Schluss, dass sich die Wiederholungsgefahr nicht durch mildere Massnahmen als die Fortsetzung der Haft abwenden lasse. Insbesondere erachtete sie eine Auflage, sich einer ärztlichen Behandlung oder Kontrolle zu unterziehen, als nicht ausreichend, um der Gefahr weiterer Straftaten zu begegnen. Diese Einschätzung der Vorinstanz ist nicht zu beanstanden. Inwiefern der Beschwerdeführer in geeigneter Weise mit einer milderen Massnahme als mit der Fortsetzung der Untersuchungshaft von weiterem Delinquieren abgehalten werden könnte, ist weder dargetan noch ersichtlich.
5. Nach dem Ausgeführten ist die Beschwerde abzuweisen. Bei diesem Ausgang des Verfahrens wird der Beschwerdeführer grundsätzlich kostenpflichtig (vgl. <ref-law>). Er ersucht indes um unentgeltliche Rechtspflege. Da die Voraussetzungen von Art. 64 Abs. 1 und 2 BGG erfüllt sind, kann dem Gesuch entsprochen werden.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
2.1 Es werden keine Kosten erhoben.
2.2 Fürsprecher Mark Schibler wird aus der Gerichtskasse eine Entschädigung von Fr. 1'500.-- ausgerichtet.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Bern, Strafabteilung, Beschwerdekammer in Strafsachen, schriftlich mitgeteilt.
Lausanne, 25. Februar 2013
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Merkli
Der Gerichtsschreiber: Mattle