Sachverhalt: A. Mit Urteil des Geschworenengerichts des Kantons Zürich vom 12. Dezember 2001 wurde X._ der vorsätzlichen Tötung sowie der fahrlässigen Körperverletzung schuldig gesprochen und mit zehn Jahren Zuchthaus und einer Landesverweisung von 15 Jahren bestraft. Vollzugsbegleitend wurde eine ambulante Massnahme angeordnet. Gleichzeitig wurden die mit Urteil des Bezirksgerichts Zürich vom 17. April 1997 bedingt ausgefällte Freiheitsstrafe von acht Monaten Gefängnis (abzüglich 34 Tage erstandener Haft) und die mit Strafbefehl der Bezirksanwaltschaft Zürich vom 1. Juli 1998 bedingt ausgesprochene Freiheitsstrafe von drei Monaten Gefängnis als vollziehbar erklärt. X._ trat die Strafe am 12. Dezember 2001 an. Das Strafende fiel auf den 9. Januar 2010. Am 3. November 2009 reichte X._ ein (letztes) Gesuch um bedingte Entlassung ein. Mit Verfügung vom 26. November 2009 wies das Amt für Justizvollzug des Kantons Zürich, Sonderdienst, das Gesuch ab und widerrief gleichzeitig die mit Verfügung vom 25. Mai 2009 erteilte Bewilligung für die Versetzung vom geschlossenen Vollzug ins Arbeitsexternat. Gegen diese Verfügung erhob X._ Rekurs bei der Direktion der Justiz und des Innern des Kantons Zürich. Das Verfahren wurde infolge Gegenstandslosigkeit am 14. Januar 2010 als erledigt abgeschrieben. B. Am 16. Dezember 2009 stellte das Amt für Justizvollzug des Kantons Zürich, Sonderdienst, beim Obergericht des Kantons Zürich den Antrag, bei X._ nachträglich eine stationäre therapeutische Massnahme gemäss Art. 59 StGB anzuordnen und den Vollzug der Reststrafe aufzuschieben. Zugleich beantragte es, superprovisorisch Sicherheitshaft zu verfügen. Mit Präsidialverfügung des Obergerichts des Kantons Zürich vom 23. Dezember 2009 wurde X._ in Sicherheitshaft versetzt. Mit Eingabe vom 7. Januar 2010 beantragte X._ die Entlassung aus der Haft per 9. Januar 2010, eventualiter unter Auferlegung verschiedener Weisungen. Am 18. Januar 2010 verfügte der Präsident des Obergerichts des Kantons Zürich die Fortführung der Sicherheitshaft und wies den Eventualantrag auf Erlass von Ersatzmassnahmen ab. C. X._ führt mit Eingabe vom 8. Februar 2010 Beschwerde in Strafsachen ans Bundesgericht, mit den Anträgen, die Präsidialverfügung des Obergerichts des Kantons Zürich vom 18. Januar 2010 sei aufzuheben, und er sei umgehend aus der Haft zu entlassen. Eventualiter sei er unter Auferlegung geeigneter Weisungen aus der Haft zu entlassen. Des Weiteren beantragt er die Gewährung der unentgeltlichen Rechtspflege. Das Amt für Justizvollzug und das Obergericht des Kantons Zürich verzichten auf Stellungnahmen zur Beschwerde. D. Mit Schreiben vom 5. Februar 2010 stellte X._ ferner beim Obergericht des Kantons Zürich Antrag um Gewährung des vorzeitigen Massnahmeantritts. Diesem Antrag wurde mit Präsidialverfügung vom 12. Februar 2010 stattgegeben. Mit Verfügung des Amtes für Justizvollzug des Kantons Zürich, Sonderdienst, vom 31. März 2010 wurde X._ im Rahmen des vorzeitigen Massnahmevollzugs per 3. Mai 2010 in ein Arbeitsexternat eingewiesen.