Sachverhalt: A. Das Amtsgericht Olten-Gösgen verurteilte A._ (geboren 1983) am 29. April 2008 wegen qualifizierter Brandstiftung im Sinne von Art. 221 Abs. 2 StGB zu einer Freiheitsstrafe von 31⁄2 Jahren. Gleichzeitig widerrief es in Bezug auf früher ausgesprochene Freiheitsstrafen die bedingte Entlassung. Der Vollzug der Freiheitsstrafen wurde zu Gunsten einer stationären Massnahme für junge Erwachsene im Sinne von Art. 61 StGB aufgeschoben. Am 17. Juni 2011 wies das Amtsgericht Olten-Gösgen ein Gesuch des kantonalen Straf- und Massnahmenvollzugs (SMV), es sei anstelle der Massnahme für junge Erwachsene eine stationäre Massnahme nach Art. 59 StGB anzuordnen, ab. Stattdessen wurde A._ bedingt aus der Massnahme für junge Erwachsene entlassen, unter Ansetzung einer Probezeit von 2 Jahren. B. Mit Schreiben vom 6. März 2013 ersuchte der SMV das Amtsgericht Olten-Gösgen, die Rückversetzung in den Massnahmenvollzug unter Anordnung einer stationären Massnahme zur Behandlung von psychischen Störungen nach Art. 59 StGB sowie die Verfügung von Sicherheitshaft zu prüfen. Am 25. Juni 2013 erstatte Dr. B._ ein psychiatrisches Gutachten. Mit Urteil vom 24. September 2013 wies das Amtsgericht Olten-Gösgen die Anträge des SMV ab und verlängerte die mit der bedingten Entlassung angesetzte Probezeit um 2 Jahre. A._ wurde zudem die Weisung erteilt, eine ambulante Psychotherapie zu absolvieren und betäubungsmittelabstinent zu leben. Gegen das Urteil vom 24. September 2013 gelangte der Oberstaatsanwalt des Kantons Solothurn mit Berufung ans Obergericht des Kantons Solothurn. Er verlangte die Rückversetzung von A._ in den Strafvollzug unter Änderung der Sanktion in eine stationäre Massnahme nach Art. 59 StGB. Mit Schreiben vom 21. Oktober 2013 teilte der SMV dem Obergericht mit, er habe bei der Kinder- und Erwachsenenschutzbehörde des Bezirks Affoltern (KESB) am 7. Juni 2013 eine Gefährdungsmeldung eingereicht. Gemäss der Rückmeldung der KESB habe sich eine zivilrechtliche Massnahme als unzweckmässig erwiesen, da A._ nicht kooperiere. Am 31. Januar 2014 teilte der SMV dem Obergericht mit, A._ habe sich wiederholt telefonisch gemeldet, zuerst aus der Klinik Schlössli, dann aus der PUK Zürich in Rheinau. Er habe Probleme in der Beziehung mit seiner Verlobten gehabt, viel getrunken und dann auch wieder harte Drogen konsumiert. Er sei massiv abgestürzt und befinde sich freiwillig in der Klinik zum Entzug. Neue Straftaten seien nicht bekannt. Er habe seine Sachen bei seiner Ex-Verlobten abgeholt, er habe mit ihr abgeschlossen. Er habe sich in der Klinik gut eingelebt, wisse aber noch nicht, wie es weiter gehe. Der Aufenthaltsort sei aktuell PUK Zürich in Rheinau. Am 3. März 2014 ersuchte das Obergericht bei der PUK Zürich im Hinblick auf die Berufungsverhandlung vom 3. April 2014 um einen Therapiebericht, der am 18. März 2014 eingereicht wurde. Am 21. März 2014 unterbreitete das Obergericht dem Verfasser des psychiatrischen Gutachtens vom 25. Juni 2013, Dr. B._, die Frage nach einer geeigneten Institution im Hinblick auf die allfällige Anordnung einer stationären Massnahme. Der Gutachter verfasste am 28. März 2014 eine entsprechende Ergänzung zum Gutachten. Darin schätzt er das strukturelle Rückfallrisiko für Brandstiftungen unverändert kurz- und mittelfristig als mittel und langfristig als hoch ein. Das Risiko für Betäubungsmitteldelikte bezeichnet er weiterhin als sehr hoch. Weiter äussert er sich zu geeigneten Institutionen zur Durchführung einer stationären Massnahme im Sinne von Art. 59 StGB. Mit Urteil vom 3. April 2014 hob das Obergericht in unentschuldigter Abwesenheit von A._ die Massnahme für junge Erwachsene auf und ordnete neu eine stationäre therapeutische Massnahme im Sinne von Art. 59 StGB an. Mit einem separat begründeten Beschluss ordnete das Obergericht zudem die Sicherheitshaft an. C. Mit Beschwerde in Strafsachen vom 10. April 2014 beantragt A._, der Beschluss des Obergerichts vom 3. April 2014 über die Anordnung von Sicherheitshaft sei aufzuheben. Er kritisiert, dass die Sicherheitshaft ohne seine vorherige Anhörung verfügt worden sei, was mit Art. 232 StPO nicht vereinbar sei. Zudem liege keine Wiederholungsgefahr im Sinne von Art. 221 Abs. 1 lit. c StPO vor. Der Oberstaatsanwalt und das Obergericht beantragen die Abweisung der Beschwerde. Am 17. April 2014 teilt das Obergericht mit, dass der Beschwerdeführer sich bei der Polizei gemeldet habe und sich seit dem 16. April 2014 in Haft befinde. Das Obergericht führte mit dem Beschuldigten am 17. April 2014 eine Einvernahme durch. In einer weiteren Eingabe äussert sich der Beschwerdeführer zu den eingegangenen Stellungnahmen und hält an seinen Anträgen und Ausführungen fest. D. Mit Präsidialverfügung vom 11. April 2014 wurde ein Gesuch des Beschwerdeführers um aufschiebende Wirkung abgewiesen.