Sachverhalt:
A. X._ befand sich vom 8. September 2006 bis am 8. Dezember 2006 wegen Verdachts der Gewalt und Drohung gegen Behörden und Beamte in Untersuchungshaft. Am 16. Juli 2009 wurde er erneut festgenommen, nachdem er auf dem Sozialamt Grenchen eine Angestellte bedroht haben soll. Mit Entscheid vom 20. Juli 2009 ordnete das Haftgericht des Kantons Solothurn Untersuchungshaft an. Zwei während der Untersuchungshaft gestellte Haftentlassungsgesuche wies es ab.
B. Am 2. September 2009 erhob die Staatsanwaltschaft des Kantons Solothurn gegen X._ Anklage beim Richteramt Solothurn-Lebern und beantragte gleichentags die Anordnung von Sicherheitshaft. Am 7. September 2009 ordnete das Haftgericht Sicherheitshaft an. Seit dem 9. November 2009 wird die Sicherheitshaft in der Psychiatrischen Klinik Königsfelden vollzogen.
C. Mit Urteil vom 3. Dezember 2009 verurteilte das Amtsgericht Solothurn-Lebern X._ wegen mehrfacher Gewalt und Drohung gegen Behörden und Beamte, einfacher Körperverletzung, Drohung, Entziehens von Unmündigen, mehrfacher Beschimpfung, Tätlichkeiten, mehrfachen Ungehorsams gegen amtliche Verfügungen sowie Übertretung des Bundesgesetzes über den Transport im öffentlichen Verkehr zu einer Freiheitsstrafe von drei Jahren sowie einer Busse von Fr. 500.--. Es ordnete weiter eine stationäre therapeutische Massnahme an und beschloss, X._ sei zur Sicherung des Massnahmevollzugs in Sicherheitshaft zu belassen. X._ erhob gegen das Urteil des Amtsgerichts Appellation.
D. Am 5. Januar 2010 stellte X._ bei der Beschwerdekammer des Obergerichts des Kantons Solothurn ein Haftentlassungsgesuch, allenfalls unter Anordnung einer ambulanten Therapie. Am 11. Januar 2010 wies der Vizepräsident der Beschwerdekammer des Obergerichts das Haftentlassungsgesuch ab, weil der Haftzweck sich angesichts der hohen Rückfallgefahr des Gesuchstellers nicht durch eine ambulante Therapie erreichen lasse.
E. Mit Beschwerde in Strafsachen an das Bundesgericht vom 11. Februar 2010 beantragt X._, das Urteil des Vizepräsidenten der Beschwerdekammer des Obergerichts sei aufzuheben und die kantonalen Behörden seien anzuweisen, den Beschwerdeführer zugunsten einer ambulanten therapeutischen Massnahme aus der Sicherheitshaft zu entlassen.
F. Die Vorinstanz beantragt die Abweisung der Beschwerde. Die Staatsanwaltschaft des Kantons Solothurn beantragt die Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Das Amtsgericht Solothurn-Lebern verzichtet auf eine Vernehmlassung.
G. Mit Stellungnahme vom 5. März 2010 hält X._ an seiner Beschwerde fest.

Erwägungen:
1. Angefochten ist das Urteil des Vizepräsidenten der Beschwerdekammer des Obergerichts, mit welchem das Haftentlassungsgesuch des Beschwerdeführers abgewiesen worden ist. Die Sachurteilsvoraussetzungen (<ref-law>) sind erfüllt, weshalb auf die Beschwerde einzutreten ist.
2. Untersuchungs- bzw. Sicherheitshaft darf nach Solothurner Strafprozessrecht nur angeordnet bzw. fortgesetzt werden, wenn der Angeschuldigte einer mit Freiheitsstrafe bedrohten Tat dringend verdächtigt wird und ausserdem ein besonderer Haftgrund vorliegt (§ 43 Abs. 2 i.V.m. § 50 Abs. 1 der Strafprozessordnung vom 7. Juni 1970 [StPO; BGS 321.1]). Als besonderer Haftgrund kommt unter anderem Fortsetzungsgefahr in Frage. Fortsetzungsgefahr liegt vor, wenn die ernstliche Gefahr besteht, dass der Verdächtige, in Freiheit belassen, seine strafbare Tätigkeit fortsetzen würde (<ref-law>). Die Untersuchungs- und die Sicherheitshaft dürfen nicht angeordnet werden, wenn sich ihr Zweck durch mildere Massnahmen erreichen lässt (§ 43 Abs. 3 i.V.m. <ref-law>).
Die Vorinstanz bejahte im angefochtenen Entscheid Fortsetzungsgefahr als besonderen Haftgrund und erachtete auch die weiteren Voraussetzungen für die Fortsetzung der Sicherheitshaft als erfüllt.
3. Die Sicherheitshaft schränkt die persönliche Freiheit des Beschwerdeführers ein (<ref-law> i.V.m. <ref-law>, Art. 5 EMRK). Bei Beschwerden, die wegen der Ablehnung eines Haftentlassungsgesuchs erhoben werden, prüft das Bundesgericht die Auslegung und Anwendung des kantonalen Prozessrechts im Hinblick auf die Schwere des Grundrechtseingriffs frei. Soweit jedoch reine Sachverhaltsfragen und damit Fragen der Beweiswürdigung zu beurteilen sind, greift es nur ein, wenn die tatsächlichen Feststellungen der Vorinstanz offensichtlich unrichtig sind oder auf einer Rechtsverletzung beruhen (vgl. nachfolgend E. 4.1).
4. Der Beschwerdeführer erklärt zwar einerseits, dass er den von der Vorinstanz festgestellten Sachverhalt nicht beanstande. Andererseits macht er aber geltend, die Vorinstanz verfalle in Willkür, indem sie ausführe, er sei nach der Entlassung aus der Untersuchungshaft im Jahr 2006 während mehrerer Jahre ambulant therapiert worden.
4.1 Nach <ref-law> legt das Bundesgericht seinem Entscheid den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat. Es kann die Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht. In diesem Sinne kann gemäss <ref-law> die unrichtige Feststellung des Sachverhalts gerügt werden, wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (vgl. <ref-ruling> E. 2.5 S. 73 f.; <ref-ruling> E. 1.2.2 S. 252).
4.2 Aus den Akten ist ersichtlich, dass sich der Beschwerdeführer vor der Untersuchungshaft im Jahr 2006, aber auch nach seiner Entlassung im Dezember 2006 von verschiedenen Personen ambulant therapiert worden ist. Wie lange die Therapien gedauert haben, ist für den Ausgang des Verfahrens nicht entscheidend. Die Rüge der willkürlichen Sachverhaltsermittlung erweist sich damit als unbegründet.
5. Der Beschwerdeführer bringt vor, er sei durch den angefochtenen Entscheid unverhältnismässig in seinem Recht auf persönliche Freiheit beschränkt worden. Unbestritten ist, dass der Beschwerdeführer der ihm vorgeworfenen Taten dringend verdächtig ist. Er rügt zudem ausdrücklich auch nicht das Bestehen von Fortsetzungsgefahr, sondern macht einzig geltend, die Aufrechterhaltung der Haft sei unverhältnismässig. Er bringt vor, ihn erwarte im Falle einer Verurteilung durch die Appellationsinstanz entsprechend der Empfehlung des vom erstinstanzlichen Strafgericht eingesetzten Gutachters eine ambulante Massnahme. Der Gutachter habe von der Anordnung einer stationären Massnahme abgeraten, weil er sich von einer ambulanten Therapie die bessere Wirksamkeit verspreche. Ein zweiter Gutachter sei zum gleichen Schluss gekommen. Das erkennende Strafgericht habe sich zu Unrecht über die Empfehlung des gerichtlich eingesetzten Gutachters hinweggesetzt. Der mit der Präventivhaft verfolgte Zweck könne auch durch die Anordnung einer ambulanten Massnahme erreicht werden.
5.1 Die Anordnung von Untersuchungs- bzw. Sicherheitshaft wegen Fortsetzungsgefahr kann dem strafprozessualen Ziel der Beschleunigung dienen, indem verhindert wird, dass sich das Verfahren durch immer neue Delikte kompliziert und in die Länge zieht. Auch die Wahrung des Interesses an der Verhütung weiterer Delikte ist nicht verfassungs- oder konventionswidrig. Vielmehr anerkennt Art. 5 Ziff. 1 lit. c EMRK ausdrücklich die Notwendigkeit, Angeschuldigte an der Begehung strafbarer Handlungen zu hindern, somit Spezialprävention, als Haftgrund. Wie bei den übrigen Haftarten gilt auch bei der Präventivhaft, dass sie nur als ultima ratio angeordnet oder aufrechterhalten werden darf. Wo sie durch mildere Massnahmen ersetzt werden kann, muss von der Anordnung oder Fortdauer der Haft abgesehen und an ihrer Stelle eine dieser Ersatzmassnahmen verfügt werden (<ref-ruling> E. 2.2 f. S. 72 f. mit Hinweisen). Das Verhältnismässigkeitsprinzip (Art. 5 Abs. 2 und Art. 36 Abs. 3 BV) gebietet, dass der Angeschuldigte, der sich aufgrund einer zu erwartenden therapeutischen Massnahme in Untersuchungs- bzw. Sicherheitshaft befindet, grundsätzlich - d.h. unter Vorbehalt des Haftzwecks - nicht schlechter gestellt wird, als wenn die Massnahme bereits angeordnet worden wäre (Urteil des Bundesgerichts 1B_4/2010 vom 21. Januar 2010 E. 3.5.1 mit Hinweisen).
5.2 Das erstinstanzliche Strafgericht verurteilte den Beschwerdeführer zu einer Freiheitsstrafe von drei Jahren sowie einer Busse. Gleichzeitig ordnete es entgegen der Empfehlung des psychiatrischen Gutachters eine stationäre therapeutische Massnahme (<ref-law>) an und entschied, der Beschwerdeführer sei zur Sicherung des Massnahmevollzugs in Sicherheitshaft zu belassen. Zwar soll dem Entscheid des Sachrichters im Haftprüfungsverfahren nicht vorgegriffen werden (Urteil des Bundesgerichts 1B_122/2009 vom 10. Juni 2009 E. 2.3). Die Sicherheitshaft wäre nach dem Gesagten aber dann unverhältnismässig, wenn absehbar wäre, dass die vom Beschwerdeführer angerufene Appellationsinstanz aller Wahrscheinlichkeit nach von der Anordnung einer stationären therapeutischen Massnahme absehen und den Vollzug der Freiheitsstrafe zugunsten einer ambulanten Therapie aufschieben wird (Art. 63 Abs. 1 und 2 StGB).
5.3 Laut dem vom erstinstanzlichen Strafgericht in Auftrag gegebenen psychiatrischen Gutachten vom 7. September 2009 leidet der Beschwerdeführer an einer paranoiden Persönlichkeitsstörung, wobei zwischen der psychischen Störung und den dem Beschwerdeführer vorgeworfenen Taten ein enger kausaler Zusammenhang bestehe. Die festgestellte Störung könne therapeutisch behandelt werden, wobei die legalprotektive Wirkung einer Therapie als gering einzustufen sei. In der Regel müsse es in solchen Fällen schon als erheblicher Erfolg gewertet werden, wenn eine Stabilisierung des Zustandsbildes ohne weitere Zunahme der Schwere der Tatvorwürfe und eine Aufrechterhaltung der therapeutischen Beziehung erreicht werden könne. Die Therapiebereitschaft des Beschwerdeführers sei als ausgesprochen brüchig zu bezeichnen, was für eine derartige Störung typisch sei. Bis zu einem gewissen Grad könne auch eine gegen den Willen des Beschwerdeführers angeordnete Behandlung erfolgsversprechend durchgeführt werden. Mit einer Nachreifung oder Festigung der Persönlichkeit in positivem Sinne sei in nächster Zeit nicht zu rechnen, im Gegenteil sei der natürliche Verlauf der paranoiden Persönlichkeitsstörung mit steigendem Alter oft eher ungünstig. Die Wahrscheinlichkeit, dass der Beschwerdeführer ähnliche wie die ihm zum Vorwurf gemachten strafbaren Handlungen begehen werde, müsse als ausgesprochen hoch eingestuft werden. Hinsichtlich der Gefahr, dass der Beschwerdeführer gemachte Drohungen wahr machen könnte, sei eine zuverlässige Prognose nicht möglich. Der Beschwerdeführer sei aber einer Tätergruppe zuzuordnen, die im Querschnittsvergleich mit anderen drohenden Tätern ein massiv höheres Risiko für die Umsetzung ihrer Drohungen aufweise.
Auf die im Auftrag zum Gutachten gestellte Frage, ob die Anordnung einer stationären therapeutischen Massnahme oder einer ambulanten Behandlung zweckmässig sei bzw. ob auch eine ambulante Behandlung geeignet sei, der Gefahr weiterer Straftaten zu begegnen, führte der Gutachter aus, er empfehle die Anordnung einer ambulanten Massnahme.
5.4 Das Gericht darf zwar in Fachfragen nicht ohne triftige Gründe vom Gutachten des Sachverständigen abweichen und muss Abweichungen begründen (<ref-ruling> E. 2 S. 86 mit Hinweisen). Wie die Vorinstanz festhält, hat das erstinstanzliche Strafgericht allerdings ausführlich und nachvollziehbar begründet, weshalb es trotz der Empfehlung des Gutachters zur Anordnung einer ambulanten Behandlung die Voraussetzungen für die Anordnung einer stationären therapeutischen Massnahme für gegeben erachtete. Auch die Vorinstanz hat sich eingehend mit dem Gutachten auseinandergesetzt. Sie hat erwogen, der Beschwerdeführer sei nach der Entlassung aus der Untersuchungshaft im Jahre 2006 trotz ambulanter Therapie straffällig geworden, was gegen das Ausreichen einer ambulanten Therapie spreche. Dass der gerichtlich bestellte psychiatrische Gutachter eine ambulante Therapie empfohlen habe, erscheine angesichts der im schriftlichen Gutachten als ausgesprochen hoch eingestuften Wahrscheinlichkeit einer weiteren Straffälligkeit des Beschwerdeführers nicht überzeugend. Immerhin sei gemäss Auskunft des Gutachters eine Behandlung des Beschwerdeführers bis zu einem gewissen Grad auch gegen dessen Willen erfolgsversprechend durchführbar. Zudem habe der Gutachter anlässlich der Hauptverhandlung des erstinstanzlichen Strafgerichts zu Protokoll gegeben, die Möglichkeit einer besseren Beobachtung des Krankheitsverlaufs spreche für eine stationäre Behandlung und die Wirksamkeit einer solchen sei nicht generell zu verneinen. Schliesslich führte die Vorinstanz aus, die stationäre Therapie in der Psychiatrischen Klinik Köngisfelden habe bis anhin eine gewisse Wirkung entfaltet, wie aus einem Bericht hervorgehe. Zusammenfassend hielt die Vorinstanz fest, von den ausführlich begründeten Schlussfolgerungen des erkennenden Strafgerichts hinsichtlich der angeordneten Massnahme sei nicht abzuweichen.
5.5 Der vom erstinstanzlichen Strafgericht beauftragte Gutachter schätzte die Wirkung einer Therapie des Beschwerdeführers allgemein als eher gering ein. Aus dem schriftlichen Gutachten geht hervor, dass er die Anordnung einer ambulanten Therapie statt einer stationären therapeutischen Massnahme in erster Linie deshalb empfohlen hat, weil er sich aus medizinischer Sicht von einer ambulanten Behandlung - trotz weniger guter Beobachtungsmöglichkeiten - etwas grössere Erfolgschancen versprach als von einer stationären therapeutischen Massnahme. Dagegen ist dem Gutachten nicht zu entnehmen, inwiefern ein Aufschub der Freiheitsstrafe zugunsten einer ambulanten Behandlung des Beschwerdeführers auch im Hinblick auf die Vermeidung weiterer Straftaten geeignet wäre. Im Gegenteil legt das Gutachten den Schluss nahe, dass in diesem Fall die Wahrscheinlichkeit für vom Beschwerdeführer während des Massnahmevollzugs verübter Delikte sehr gross wäre. Anlässlich der Befragung durch das erstinstanzliche Strafgericht führte der Gutachter denn auch aus, eine Therapie auf freiwilliger Basis komme in erster Linie dem Beschwerdeführer als Patienten zu Gute und diene nicht primär der Verbesserung der Legalprognose. Unter Berücksichtigung der sehr grossen Wahrscheinlichkeit, dass der Beschwerdeführer weitere Straftaten begehen könnte, und der vom psychiatrischen Gutachter prognostizierten begrenzten Wirkung einer Therapie auf die Vermeidung künftiger Straftaten ging die Vorinstanz zu Recht nicht davon aus, dass die Appellationsinstanz aller Wahrscheinlichkeit nach von der Anordnung einer stationären therapeutischen Massnahme absehen und den Vollzug der Freiheitsstrafe zugunsten einer ambulanten Therapie aufschieben wird.
5.6 An dieser Beurteilung ändert auch der Einwand des Beschwerdeführers nichts, schon früher habe ein Gutachter ein akutes Risiko einer Selbst- oder Fremdgefährdung verneint. Zwar kam ein Facharzt für Psychiatrie und Psychotherapie in einem Gutachten vom 22. März 2009, welches im Zusammenhang mit einem Rekursverfahren betreffend einen gegen den Beschwerdeführer verfügten fürsorgerischen Freiheitsentzug erstellt worden ist, zum Schluss, dass - soweit dies vorhersagbar sei - kein akutes Risiko einer Selbst- oder Fremdgefährdung bestehe und eine Zurückbehaltung des Beschwerdeführers in der Psychiatrischen Klinik gegen dessen Willen nicht angezeigt sei. Für die Beurteilung der Verhältnismässigkeit der Sicherheitshaft zum jetzigen Zeitpunkt ist dieses Gutachten aber nicht aussagekräftig, zumal der Beschwerdeführer gemäss dem Urteil des Amtsgerichts Solothurn-Lebern vom 3. Dezember 2009 in der Zwischenzeit entgegen der Prognose des damaligen Gutachters mehrfach straffällig geworden ist und in diesem Gutachten auch festgehalten worden ist, eine fundierte Gefährlichkeitsbeurteilung könne nicht Gegenstand der kurzfristig anberaumten und durchgeführten Begutachtung sein.
5.7 Nach dem Gesagten ist die Einschätzung der Vorinstanz, der Zweck der Sicherheitshaft lasse sich angesichts der hohen Rückfallgefahr des Beschwerdeführers nicht durch die Anordnung einer ambulanten Therapie erreichen, weshalb sich die Weiterführung der Sicherheitshaft als verhältnismässig erweise, nicht zu beanstanden.
6. Schliesslich bringt der Beschwerdeführer vor, er habe bis zum Urteil des Amtsgerichts Solothurn-Lebern vom 3. Dezember 2009 insgesamt bereits 231 Tage in Untersuchungs- bzw. Sicherheitshaft verbracht. Seither befinde er sich weiterhin in Sicherheitshaft, obwohl sich sein Zustand und sein Verhalten wesentlich verbessert hätten.
6.1 Gemäss <ref-law> und Art. 5 Ziff. 3 EMRK hat eine in strafprozessualer Haft gehaltene Person Anspruch darauf, innerhalb einer angemessenen Frist richterlich abgeurteilt zu werden oder während des Strafverfahrens aus der Haft entlassen zu werden. Eine übermässige Haftdauer stellt eine unverhältnismässige Beschränkung dieses Grundrechts dar. Die Haftdauer ist dann übermässig, wenn die Haftfrist die mutmassliche Dauer der zu erwartenden freiheitsentziehenden Sanktion übersteigt. Bei der Prüfung der Verhältnismässigkeit der Haftdauer ist namentlich der Schwere der untersuchten Straftaten Rechnung zu tragen. Der Richter darf die Haft nur so lange erstrecken, als sie nicht in grosse zeitliche Nähe der (im Falle einer rechtskräftigen Verurteilung) konkret zu erwartenden Dauer der freiheitsentziehenden Sanktion rückt (<ref-ruling> E. 4.1 S. 170; <ref-ruling> E. 3.4.2 S. 281; je mit Hinweisen). Es kann allerdings nicht ohne Weiteres von der Höhe einer separat ausgefällten (schuldadäquaten) Freiheitsstrafe auf die voraussichtliche Dauer der gleichzeitig angeordneten freiheitsentziehenden Massnahme geschlossen werden. In Fällen wie dem vorliegenden ist die Fortdauer der strafprozessualen Haft verhältnismässig, wenn aufgrund der Aktenlage mit einer rechtskräftigen Verurteilung zu einer freiheitsentziehenden Massnahme ernsthaft zu rechnen ist, deren gesamter Vollzug deutlich länger dauern könnte als die bisherige strafprozessuale Haft (<ref-ruling> E. 5d-e S. 178; Urteil des Bundesgerichts 1B_281/2009 vom 19. Oktober 2009 E. 3.1).
6.2 Aufgrund der Aktenlage ist vorliegend mit einer rechtskräftigen Verurteilung des Beschwerdeführers zu einer mehrjährigen Freiheitsstrafe sowie einer stationären therapeutischen Massnahme zu rechnen. Gemäss der Prognose des gerichtlich bestellten psychiatrischen Gutachters sowie der Einschätzung des erstinstanzlichen Strafgerichts ist die Wahrscheinlichkeit, dass der Beschwerdeführer trotz Anordnung einer Therapie erneut straffällig werden könnte, sehr gross. Unter diesen Umständen ist ernsthaft damit zu rechnen, dass der Vollzug der freiheitsentziehenden Massnahme deutlich länger dauern könnte als die bisherige strafprozessuale Haft. Unbehilflich ist auch der Einwand des Beschwerdeführers, sein Zustand und sein Verhalten hätten sich verbessert, seit er sich in der psychiatrischen Klinik befinde, zumal vom Zustand des Beschwerdeführers während der in der psychiatrischen Klinik vollzogenen Sicherheitshaft nicht auf sein Verhalten im Falle einer Haftentlassung geschlossen werden kann. Die bisherige Haftdauer erweist sich somit als verhältnismässig.
7. Die Beschwerde ist abzuweisen. Der Beschwerdeführer stellt ein Gesuch um unentgeltliche Rechtspflege (unentgeltliche Rechtspflege und Verbeiständung). Da die gesetzlichen Voraussetzungen erfüllt sind, kann diesem Begehren entsprochen werden (Art. 64 Abs. 1-2 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird gutgeheissen.
3. Es werden keine Gerichtskosten erhoben.
4. Rechtsanwalt Konrad Jeker wird aus der Gerichtskasse für das bundesgerichtliche Verfahren mit Fr. 1'500.-- entschädigt.
5. Dieses Urteil wird dem Beschwerdeführer, dem Amtsgericht Solothurn-Lebern sowie der Staatsanwaltschaft und dem Obergericht des Kantons Solothurn, Beschwerdekammer, schriftlich mitgeteilt.
Lausanne, 15. März 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Mattle