Sachverhalt:
A. X._ ist seit dem 27. Mai 2009 in Haft. Er wurde verdächtigt, mit einem Messer den Betreiber eines Kebapstands angegriffen zu haben. Am 19. Oktober 2009 lehnte der Präsident des Strafgerichts des Kantons Basel-Landschaft gestützt auf ein psychiatrisches Gutachten die Haftentlassung ab, bewilligte jedoch das Gesuch um Verlegung in eine geeignete Massnahmevollzugsanstalt.
Mit Urteil vom 9. März 2010 sprach das Strafgericht X._ vom Vorwurf der Tätlichkeit, der versuchten einfachen Körperverletzung mit einem gefährlichen Gegenstand, der versuchten Nötigung, der Beschimpfung und des Konsums von Betäubungmitteln wegen Schuldunfähigkeit frei (<ref-law>). In Bezug auf weitere angeklagte Delikte, so insbesondere jenes der versuchten vorsätzlichen Tötung, wurde er mangels Beweisen ebenfalls freigesprochen.
Mit Verfügung vom 9. April 2010 ordnete die Präsidentin der Abteilung Zivil- und Strafrecht des Kantonsgericht Basel-Landschaft die Verlängerung der Sicherheitshaft bis zur zweitinstanzlichen Hauptverhandlung, maximal jedoch um 6 Monate, an. Sie stellte fest, dass die Verlegung in eine geeignete Massnahmevollzugsanstalt bereits bewilligt worden sei, und bat die Behörden des Straf- und Massnahmevollzugs, dies so rasch als möglich umzusetzen.
B. Mit Beschwerde in Strafsachen an das Bundesgericht vom 12. Mai 2010 beantragt X._, die Verfügung des Kantonsgerichts sei aufzuheben und er selbst sei aus der Haft zu entlassen. Eventualiter sei das Kantonsgericht anzuweisen, ihn entweder innert 30 Tagen in eine geeignete Massnahmevollzugsanstalt zu verlegen oder aber aus der Haft zu entlassen.
Das Kantonsgericht beantragt in seiner Vernehmlassung die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Die Staatsanwaltschaft des Kantons Basel-Landschaft schliesst auf Abweisung der Beschwerde. Der Beschwerdeführer hält in seiner Stellungnahme dazu an seinen Anträgen und Rechtsauffassungen fest.

Erwägungen:
1. Gemäss <ref-law> beurteilt das Bundesgericht Beschwerden gegen Entscheide in Strafsachen. Ein kantonales Rechtsmittel gegen den angefochtenen Entscheid steht nicht zur Verfügung. Die Beschwerde ist nach Art. 80 i.V.m. <ref-law> zulässig. Der Beschwerdeführer nahm vor der Vorinstanz am Verfahren teil und hat ein rechtlich geschütztes Interesse an der Aufhebung des angefochtenen Entscheids. Er ist nach <ref-law> zur Beschwerde berechtigt. Das Bundesgericht kann nach <ref-law> bei Gutheissung der Beschwerde in der Sache selbst entscheiden. Deshalb ist der Antrag auf Haftentlassung zulässig. Da auch die übrigen Sachurteilsvoraussetzungen erfüllt sind, ist auf die Beschwerde einzutreten.
2. 2.1 Die Sicherheitshaft schränkt die persönliche Freiheit des Beschwerdeführers ein (Art. 10 Abs. 2 i.V.m. <ref-law>, Art. 5 EMRK). Eine Einschränkung dieses Grundrechts ist zulässig, wenn sie auf einer gesetzlichen Grundlage beruht, im öffentlichen Interesse liegt und verhältnismässig ist; zudem darf sie den Kerngehalt des Grundrechts nicht beeinträchtigen (<ref-law>). Im vorliegenden Fall steht ein Freiheitsentzug und damit eine schwerwiegende Einschränkung der persönlichen Freiheit in Frage. Es bedarf deshalb sowohl nach <ref-law> als auch nach <ref-law> einer Grundlage im Gesetz selbst.
Bei Beschwerden, die gestützt auf das Recht der persönlichen Freiheit wegen der Anordnung von Untersuchungs- oder Sicherheitshaft erhoben werden, prüft das Bundesgericht im Hinblick auf die Schwere des Eingriffs die Auslegung und Anwendung des kantonalen Prozessrechts frei. Soweit jedoch reine Sachverhaltsfragen und damit Fragen der Beweiswürdigung zu beurteilen sind, greift das Bundesgericht nur ein, wenn die tatsächlichen Feststellungen der Vorinstanz offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von <ref-law> beruhen (Art. 97 Abs. 1 i.V.m. <ref-law>; <ref-ruling> E. 2.5 S. 73 f. mit Hinweis).
2.2 Für die Anordnung bzw. Fortsetzung von Sicherheitshaft ist nach dem Strafprozessrecht des Kantons Basel-Landschaft erforderlich, dass die betreffende Person eines Verbrechens oder Vergehens dringend verdächtigt wird, deshalb gegen sie ein Strafverfahren eröffnet worden ist und ausserdem ein besonderer Haftgrund vorliegt (§ 77 des Gesetzes des Kantons Basel-Landschaft vom 3. Juni 1999 betreffend die Strafprozessordnung [StPO/BL; SGS 251]). Die Untersuchungshaft ist durch mildere Massnahmen zu ersetzen, sofern sich der Haftzweck auch auf diese Weise erreichen lässt (§§ 78 f. StPO/BL).
2.3 Der Beschwerdeführer bestreitet den hinreichenden Tatverdacht in Bezug auf die Tatbestände, bei welchen es lediglich mangels Schuldfähigkeit zu keiner Verurteilung kam, nicht (Tätlichkeit, versuchte einfache Körperverletzung mit einem gefährlichen Gegenstand, versuchte Nötigung, Beschimpfung sowie Betäubungsmittelkonsum). Er wendet sich jedoch gegen die Annahme eines besonderen Haftgrundes. Darüber hinaus macht er geltend, die Aufrechterhaltung der Haft sei unverhältnismässig, weil zum einen die Dauer der angeordneten Haft jene einer stationären Massnahme übersteige und weil er zum andern seit Oktober 2009 auf einen Therapieplatz warte. In diesem Umstand sieht der Beschwerdeführer auch eine Verletzung der Menschenwürde (<ref-law>).
3. 3.1 Der Beschwerdeführer argumentiert, es bestehe keine Wiederholungsgefahr. Sein psychischer Zustand habe sich durch die medikamentöse Behandlung deutlich verbessert. Zudem hätten der Freispruch von den Vorwürfen der versuchten vorsätzlichen Tötung und der versuchten schweren Körperverletzung sowie die Aussagen der beteiligten Personen gezeigt, dass das Vorgefallene weitaus weniger gefährlich gewesen sei, als ursprünglich angenommen.
3.2 Nach der Praxis des Bundesgerichts kann die Anordnung von Haft wegen Fortsetzungsgefahr dem strafprozessualen Ziel der Beschleunigung dienen, indem verhindert wird, dass sich das Verfahren durch immer neue Delikte kompliziert und in die Länge zieht. Auch die Wahrung des Interesses an der Verhütung weiterer Delikte ist nicht verfassungs- oder konventionswidrig. Vielmehr anerkennt Art. 5 Ziff. 1 lit. c EMRK ausdrücklich die Notwendigkeit, Angeschuldigte an der Begehung strafbarer Handlungen zu hindern, somit Spezialprävention, als Haftgrund (<ref-ruling> E. 2.2 S. 72 mit Hinweisen).
Bei der Annahme, dass der Angeschuldigte weitere Verbrechen oder erhebliche Vergehen begehen könnte, ist allerdings Zurückhaltung geboten. Die Aufrechterhaltung von strafprozessualer Haft wegen Fortsetzungsgefahr ist nur dann verhältnismässig, wenn einerseits die Rückfallprognose sehr ungünstig und anderseits die zu befürchtenden Delikte von schwerer Natur sind. Schliesslich gilt auch bei der Präventivhaft - wie bei den übrigen Haftarten - dass sie nur als ultima ratio angeordnet oder aufrechterhalten werden darf. Wo sie durch mildere Massnahmen ersetzt werden kann, muss von der Anordnung oder Fortdauer der Haft abgesehen und an ihrer Stelle eine dieser Ersatzmassnahmen verfügt werden (<ref-ruling> E. 2.3 S. 73 mit Hinweisen).
Bei der Annahme, dass der Angeschuldigte weitere Verbrechen oder erhebliche Vergehen begehen könnte, ist allerdings Zurückhaltung geboten. Die Aufrechterhaltung von strafprozessualer Haft wegen Fortsetzungsgefahr ist nur dann verhältnismässig, wenn einerseits die Rückfallprognose sehr ungünstig und anderseits die zu befürchtenden Delikte von schwerer Natur sind. Schliesslich gilt auch bei der Präventivhaft - wie bei den übrigen Haftarten - dass sie nur als ultima ratio angeordnet oder aufrechterhalten werden darf. Wo sie durch mildere Massnahmen ersetzt werden kann, muss von der Anordnung oder Fortdauer der Haft abgesehen und an ihrer Stelle eine dieser Ersatzmassnahmen verfügt werden (<ref-ruling> E. 2.3 S. 73 mit Hinweisen).
3.3 3.3.1 Über den Beschwerdeführer liegt ein psychiatrisches Gutachten vor, welches vom 10. August 2009 datiert. Gemäss diesem Gutachten leidet der Beschwerdeführer an einer paranoiden Schizophrenie. Mindestens seit März 2009 seien mehr oder weniger kontinuierlich entsprechende Symptome vorhanden.
Dem Gutachten sind Angaben zur Rückfallgefahr zu entnehmen. Die betreffenden Ausführungen basieren unter anderem auf den zur Zeit der Erstellung des Gutachtens untersuchten Tatbeständen der versuchten Körperverletzung mit einem gefährlichen Gegenstand, der mehrfachen Drohung und der mehrfachen Tätlichkeit. Unter diesem Gesichtswinkel wird ausgeführt, krankheitsbedingt sei das Risiko deutlich erhöht, dass der Beschwerdeführer erneut ähnliche Straftaten begehe. Im Falle paranoid determinierten Handelns seien indessen auch schwerere Delikte gegen Leib und Leben durchaus denkbar.
Das Argument des Beschwerdeführers, der Freispruch von den Vorwürfen der versuchten vorsätzlichen Tötung und der versuchten schweren Körperverletzung zeige, dass das Vorgefallene weniger gefährlich war als ursprünglich angenommen, vermag die Rückfallsprognose des Gutachtens nicht zu relativieren. Dieses ging gerade nicht von jenen schwerwiegenderen Delikten aus, wie sie später in die Anklageschrift aufgenommen wurden.
In Bezug auf die Behandlungsmöglichkeiten weist das Gutachten auf die Notwendigkeit einer integrierten psychiatrischen Behandlung hin. Eine Pharmakotherapie solle etabliert und überwacht werden. Zudem sei für tagesstrukturierende Massnahmen, Milieu- und Sozialtherapie, psychotherapeutische Begleitung, Psychoedukation und soziales Kompetenztraining sowie Arbeitsrehabilitation zu sorgen. Damit lasse sich die Gefahr neuerlicher Straftaten reduzieren.
3.3.2 Anlässlich der Verhandlung des Strafgerichts vom 8. und 9. März 2010 wurde die Gutachterin ausführlich befragt. Sie erklärte, aufgrund der Medikation sei seit der Erstattung des schriftlichen Gutachtens eine teilweise Rückbildung der Krankheitssymptome erfolgt. Wenn die Medikamente abgesetzt würden, so würde der Beschwerdeführer allerdings innert relativ kurzer Zeit wieder psychotisch. Die Gutachterin führte weiter aus, es sei zu berücksichtigen, dass der Beschwerdeführer die ganze Zeit in Haft und damit in einer geschützten Umgebung gewesen sei. Sie vermöge deshalb nicht definitiv zu prognostizieren, wie sich der Beschwerdeführer verhalte, wenn er "draussen" sei, wo viele Reize auf ihn zukämen, mit denen er umgehen müsse. Insgesamt sei die Rückfallprognose günstiger geworden, doch es fehle weiterhin an der Krankheitseinsicht, auch bestünden noch Wahnsymptome. Wenn die Medikamente abgesetzt würden, so müsse man wieder von ähnlichen Taten ausgehen, insbesondere auch von Delikten gegen Leib und Leben.
3.4 In Anbetracht dieser Äusserungen durfte die Vorinstanz die Fortsetzungsgefahr ohne Verfassungsverletzung bejahen. Daran ändert nichts, dass der Beschwerdeführer positiv auf die Medikamente anspricht, zumal bei deren Nichteinnahme offenbar von einer erhöhten Fremdgefährdung auszugehen ist und es auch für die Expertin schwierig war vorauszusagen, wie sich der Beschwerdeführer ausserhalb von klar vorgegebenen Strukturen verhalten würde.
4. 4.1 Weiter ist die Rüge des Beschwerdeführers zu prüfen, die Aufrechterhaltung der Haft sei unverhältnismässig, weil zum einen die Dauer der angeordneten Haft jene einer stationären Massnahme übersteige und weil er zum andern seit Oktober 2009 auf einen Therapieplatz warte.
4.2 Die Vorinstanz führte zur Verhältnismässigkeit der Haft aus, dass im Urteil des Strafgerichts eine stationäre Massnahme ausgesprochen worden sei, die in der Regel einen mehrjährigen Freiheitsentzug mit sich bringe. Gemäss <ref-law> könne dieser bis fünf Jahre dauern, zudem bestehe auch dann noch die Möglichkeit der Verlängerung. Die bisher erstandene Haftdauer sei also noch nicht in die Nähe des zu erwartenden Freiheitsentzugs gerückt.
4.3 Eine stationäre therapeutische Massnahme wird nicht auf eine bestimmte Zeit oder abhängig von einer Strafe angeordnet. Bei der Beurteilung der Verhältnismässigkeit der strafprozessualen Haft kann daher nicht von einer bestimmten Dauer der zu erwartenden Sanktion ausgegangen werden. Dennoch muss sich die Haft als verhältnismässig erweisen. Ein entscheidendes Element der Verhältnismässigkeitsprüfung ist die Therapieprognose, denn die Dauer der stationären therapeutischen Massnahme richtet sich nach der Behandlungsbedürftigkeit des Täters (vgl. <ref-law>; <ref-ruling> E. 5 S. 176 ff. mit Hinweisen). Ein pauschaler Hinweis darauf, dass eine stationäre Massnahme in der Regel mehrere Jahre dauere und dass das Gesetz als Regel eine Höchstdauer von fünf Jahren vorsehe, genügt deshalb nicht (Urteil 1B_42/2009 vom 5. März 2009 E. 3.3.1). Vorliegend ist aber damit zu rechnen, dass die zu erwartende stationäre therapeutische Massnahme über das Ende der angeordneten Haftverlängerung hinaus wird andauern müssen. Dies insbesondere deshalb, da der Beschwerdeführer die stationäre Behandlung noch nicht angetreten hat. Insofern ist der angefochtene Entscheid nicht zu beanstanden.
4.3 Eine stationäre therapeutische Massnahme wird nicht auf eine bestimmte Zeit oder abhängig von einer Strafe angeordnet. Bei der Beurteilung der Verhältnismässigkeit der strafprozessualen Haft kann daher nicht von einer bestimmten Dauer der zu erwartenden Sanktion ausgegangen werden. Dennoch muss sich die Haft als verhältnismässig erweisen. Ein entscheidendes Element der Verhältnismässigkeitsprüfung ist die Therapieprognose, denn die Dauer der stationären therapeutischen Massnahme richtet sich nach der Behandlungsbedürftigkeit des Täters (vgl. <ref-law>; <ref-ruling> E. 5 S. 176 ff. mit Hinweisen). Ein pauschaler Hinweis darauf, dass eine stationäre Massnahme in der Regel mehrere Jahre dauere und dass das Gesetz als Regel eine Höchstdauer von fünf Jahren vorsehe, genügt deshalb nicht (Urteil 1B_42/2009 vom 5. März 2009 E. 3.3.1). Vorliegend ist aber damit zu rechnen, dass die zu erwartende stationäre therapeutische Massnahme über das Ende der angeordneten Haftverlängerung hinaus wird andauern müssen. Dies insbesondere deshalb, da der Beschwerdeführer die stationäre Behandlung noch nicht angetreten hat. Insofern ist der angefochtene Entscheid nicht zu beanstanden.
4.4 4.4.1 Indessen fragt sich, ob im Rahmen der Prüfung der Verhältnismässigkeit nicht auch zu berücksichtigen ist, dass bereits am 19. Oktober 2009 der vorzeitige Massnahmeantritt angeordnet wurde, ohne dass jedoch dem Beschwerdeführer seither die Möglichkeit gegeben worden wäre, die stationäre Behandlung tatsächlich zu beginnen. Hiervon abzusehen würde bedeuten, die Haft ohne Weiteres und solange als verhältnismässig zu bezeichnen, als der benötigte Therapieplatz noch nicht zur Verfügung gestellt wurde.
4.4.2 Aus der Rechtsprechung des Bundesgerichts zum vorzeitigen Antritt einer therapeutischen Massnahme geht hervor, dass deren grundsätzliche Möglichkeit ungeachtet einer entsprechenden Bestimmung im kantonalen Strafprozessrecht besteht (<ref-law>). Der vorzeitige Massnahmeantritt erlaubt eine angemessene Behandlung psychischer Störungen, was in Untersuchungsgefängnissen nur teilweise möglich ist (Urteil 1B_307/2008 vom 23. Dezember 2008 E. 2; 1B_48/2007 vom 16. April 2007 E. 2.4 ff., in: EuGRZ 2007 S. 722; je mit Hinweisen). Das Bundesgericht hat zudem darauf hingewiesen, dass ein Angeschuldigter, der sich aufgrund einer zu erwartenden stationären therapeutischen Massnahme in Untersuchungs- bzw. Sicherheitshaft befindet, aus Gründen der Verhältnismässigkeit grundsätzlich nicht schlechter gestellt werden darf, als wenn die Massnahme bereits angeordnet worden wäre. Dies verlangt, dass die Haftmodalitäten den Bestimmungen über die stationären therapeutischen Massnahmen entsprechen, soweit sich der Haftzweck auch auf diese Weise erreichen lässt (Urteil 1B_42/2009 vom 5. März 2009 E. 3.3.2 mit Hinweis).
4.4.3 Vorliegend ist der Anspruch des Beschwerdeführers auf vorzeitigen Antritt der therapeutischen Massnahme nicht umstritten. Sein Gesuch wurde sogar bereits im Oktober 2009 bewilligt. Vor diesem Hintergrund drängt sich eine unverzügliche Verlegung des Beschwerdeführers auf. Dies insbesondere auch deshalb, weil die Gutachterin anlässlich der Hauptverhandlung im erstinstanzlichen Strafverfahren sagte, dass bei einer adäquaten Therapie in kurzer Zeit Fortschritte erzielt werden könnten. Es müsse nicht längerfristig ein "geschlossenes Setting" sein.
5. Die Beschwerde ist teilweise gutzuheissen und der angefochtene Entscheid aufzuheben. Dem Beschwerdeführer ist der vorzeitige Massnahmeantritt zu gewähren (<ref-law>). Eine Haftentlassung ist indessen nach dem Gesagten nicht gerechtfertigt.
Gerichtskosten sind bei diesem Verfahrensausgang nicht zu erheben (Art. 66 Abs. 1 und 4 BGG). Der Kanton Basel-Landschaft hat dem anwaltlich vertretenen Beschwerdeführer eine angemessene Parteientschädigung zu entrichten (<ref-law>). Damit erweist sich dessen Gesuch um unentgeltliche Rechtspflege als gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen und die Verfügung vom 9. April 2010 der Abteilung Zivil- und Strafrecht des Kantonsgerichts Basel-Landschaft aufgehoben.
Dem Beschwerdeführer ist der vorzeitige Massnahmeantritt zu gewähren.
2. Das Haftentlassungsgesuch wird abgewiesen.
3. Es werden keine Gerichtskosten erhoben.
4. Der Kanton Basel-Landschaft hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'000.-- zu entschädigen.
5. Dieses Urteil wird dem Beschwerdeführer, der Staatsanwaltschaft des Kantons Basel-Landschaft und dem Kantonsgericht Basel-Landschaft, Abteilung Zivil- und Strafrecht, schriftlich mitgeteilt.
Lausanne, 3. Juni 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Dold