Faits :
A.
Par ordonnance pénale du 12 juillet 2018, le Ministère public de la République et canton de Genève a reconnu X._ coupable de tentative de violence ou menace contre les autorités et les fonctionnaires (art. 22 al. 1 et 285 ch. 1 al. 1 CP). Il l'a condamné à une peine privative de liberté de 150 jours, sans sursis.
B.
Par ordonnance du 17 septembre 2018, le ministère public, invoquant l'<ref-law>, a constaté le retrait de l'opposition formée par X._ contre l'ordonnance du 12 juillet 2018.
C.
Par arrêt du 8 janvier 2019, la Chambre pénale de recours de la Cour de justice de la République et canton de Genève a rejeté le recours formé contre l'ordonnance du 17 septembre 2019 par X._.
D.
Ce dernier forme un recours auprès du Tribunal fédéral contre cet arrêt. Il conclut, avec suite de frais et dépens, à la révocation des décisions qui précèdent et au classement de la procédure pénale. Il sollicite également le bénéfice de l'assistance judiciaire.
Invités à se déterminer sur le recours, l'autorité précédente y a renoncé, le ministère public a conclu à son rejet. Le recourant a déposé des observations.

Considérant en droit :
1.
Dans la mesure où elles ne résultent pas de l'arrêt attaqué, les pièces produites à l'appui du recours en matière pénale sont irrecevables (<ref-law>).
2.
Le recourant se plaint d'une violation de son droit d'être entendu, faute d'avoir pu consulter son dossier malgré ses demandes répétées auprès du ministère public.
Le recourant invoque avoir requis de consulter le dossier pénal dans son opposition du 23 juillet 2018 et dans son courrier au ministère public du 10 septembre 2018. Le ministère public ne semble y avoir donné suite que le 29 janvier 2019, soit après l'ordonnance par laquelle il constatait le retrait de l'opposition et après l'arrêt attaqué. Ce grief a été porté devant l'autorité précédente qui ne l'a pas examiné, omission que le recourant critique dans son recours en matière pénale. La question d'une violation du droit d'être entendu du recourant s'agissant de la consultation de son dossier peut toutefois demeurer indécise au vu de ce qui suit.
3.
Le recourant conteste avoir fait défaut sans excuse valable à l'audience fixée par le ministère public le 17 septembre 2018. Il reproche à l'autorité précédente de n'avoir pas tenu compte du fait qu'il avait été soumis à un placement à des fins d'assistance au moment de l'audience du 17 septembre 2018 et qu'il n'était dès lors pas dans des conditions lui permettant de se défendre lors de celle-ci.
3.1. Aux termes de l'<ref-law>, en cas d'opposition, le ministère public administre les autres preuves nécessaires au jugement de l'opposition (al. 1). Si l'opposant, sans excuse, fait défaut à une audition malgré une citation, son opposition est réputée retirée (al. 2). En vertu de l'<ref-law>, après l'administration des preuves, le ministère public décide de maintenir l'ordonnance pénale (let. a), de classer la procédure (let. b), de rendre une nouvelle ordonnance pénale (let. c) ou de porter l'accusation devant le tribunal de première instance (let. d).
L'ordonnance pénale n'est compatible avec la garantie constitutionnelle de l'accès au juge (art. 29a Cst.), respectivement avec le droit à ce qu'une cause soit entendue par un tribunal jouissant d'un plein pouvoir d'examen (art. 6 par. 1 CEDH), que dans la mesure où il appartient en dernier lieu à la personne concernée de l'accepter ou de faire usage, par le biais de l'opposition, de son droit à un examen par un tribunal. Contrairement à ce que prévoit l'<ref-law>, le défaut au sens de l'<ref-law> peut conduire à la perte totale de la protection légale, alors même que la personne concernée a expressément formé opposition, revendiquant ainsi précisément cette protection légale devant les autorités compétentes (<ref-ruling> consid. 3.2 p. 160 s.; <ref-ruling> c. 2.4 p. 84 s.). Selon une interprétation conforme à la Constitution et compte tenu de l'importance fondamentale que revêt le droit d'opposition, la fiction légale du retrait prévue par l'<ref-law> ne peut ainsi s'appliquer que si l'on peut déduire de bonne foi (<ref-law>) du comportement général de la personne concernée et de son désintérêt pour la suite de la procédure pénale qu'elle a renoncé en connaissance de cause à la protection dont elle jouit en vertu de la loi (<ref-ruling> consid. 3.1 p. 159 s. et consid. 3.3 p. 161; <ref-ruling> consid. 2.5 p. 85 s.).
La jurisprudence a toutefois précisé que l'<ref-law> ne saurait être interprété de sorte à permettre au condamné de choisir la manière dont sa cause sera traitée. Ce dernier ne peut ainsi faire fi de l'organisation voulue par le législateur, en particulier des compétences accordées au ministère public à la suite d'une opposition (<ref-law>), avant toute saisie éventuelle du tribunal de première instance (<ref-law>). En d'autres termes, le condamné ne peut choisir, sans disposer de motifs l'en empêchant, de ne pas se présenter à une audience fixée par le ministère public dans le cadre des compétences que l'<ref-law> lui accorde (arrêt 6B_1244/2017 du 29 mai 2018 consid. 2.3).
3.2. En l'espèce, le recourant ne s'est pas présenté à l'audience du 17 septembre 2018 du ministère public, alors que sa présence avait été requise par le biais d'un mandat de comparution (<ref-law>), ce qui n'est pas contesté. Il y a donc bien eu défaut.
L'autorité précédente a constaté que le recourant avait reçu la convocation à l'audience du 17 septembre 2018 mais avait manifesté son refus d'y donner suite par courrier du 10 septembre 2018. Le ministère public lui avait toutefois répondu aussitôt qu'il ne pouvait pas s'abstenir de se présenter, lui rappelant les conséquences d'un défaut. L'autorité précédente retient ensuite que lorsqu'il s'est agi de convoyer le recourant de l'établissement pénitentiaire de Curabilis vers le ministère public, les gardiens ont rappelé au recourant lesdites conséquences mais que le recourant a persisté à ne pas vouloir comparaître. Il n'existait aucun motif d'excuse valable. Partant, l'absence du recourant à l'audience du 17 septembre 2018 ne pouvait être considérée comme valablement excusée et c'était à bon droit qu'il avait été fait application de l'<ref-law>.
3.3. Il ressort de l'arrêt attaqué qu'au moment des ordonnances litigieuses le recourant séjournait à Curabilis. Le 10 septembre 2018, il avait indiqué au ministère public ne pouvoir se présenter invoquant notamment des anomalies affectant l'ordonnance pénale du 12 juillet 2018.
Par pli du 12 septembre 2018, le ministère public avait indiqué au recourant que cette ordonnance était parfaitement valable, que sa présence à l'audience du 17 septembre 2018 était obligatoire et qu'en cas d'absence, l'opposition faite à l'ordonnance pénale du 12 juillet 2018 serait considérée comme retirée. Contrairement à ce que soutient le ministère public dans ses déterminations, l'arrêt attaqué ne constate pas que cet envoi, par pli simple, serait parvenu au recourant avant l'audience précitée. Cette décision ne comprend de plus aucun constat s'agissant de l'état du recourant le jour de l'audience du 17 septembre 2018, alors même que celui-ci séjournait à Curabilis. On ignore en outre les raisons invoquées par lui pour refuser d'être convoyé à dite audience. Or sans connaître ces éléments, il n'est pas possible de vérifier si le recourant pouvait être considéré comme ayant fait défaut sans excuse valable au sens de l'<ref-law>, respectivement comme ayant renoncé en connaissance de cause à la protection dont il jouit en vertu de la loi. Cela suffit pour admettre le recours.
3.4. A noter au demeurant que le recourant invoque dans son recours en matière pénale qu'il avait été mis sous placement à des fins d'assistance au moment de l'audience. Ce fait n'a pas été constaté par l'autorité précédente. Il ressort néanmoins de l'arrêt 6B_371/2019 de la Cour de céans du 28 mars 2019 que, le 11 septembre 2018, le recourant a fait l'objet d'un placement à des fins d'assistance en milieu psychiatrique en raison d'une décompensation psychotique et d'un risque de passage à l'acte auto-hétéro-agressif. L'expertise réalisée dans ce cadre relevait que l'hospitalisation était tout à fait indiquée, que le patient refusait toute médication, que son état était loin d'être stabilisé, que la poursuite de l'hospitalisation s'imposait dans le but de lui faire accepter la prise d'un traitement neuroleptique, qu'à défaut de placement son état psychique se serait dégradé et que cela aurait conduit à la répétition d'actes hétéro-agressifs envers les gardiens et l'équipe soignante. Le placement avait été interrompu le 18 septembre 2018 ensuite de l'amélioration de l'état clinique (consid. 4.2.2). Ces éléments, en supposant qu'ils puissent être pris en compte - ce qui n'y a pas lieu d'approfondir ici, le recours devant de toute façon être admis (cf. supra consid. 3.3) -, excluraient l'application de l'<ref-law>.
4.
Il résulte de ce qui précède que le recours doit être admis et l'arrêt attaqué annulé. La cause est renvoyée à l'autorité précédente pour nouvelle décision.
Le recourant, qui obtient gain de cause, ne supportera pas de frais judiciaires (<ref-law>). Cela rend sans objet sa demande d'assistance judiciaire. Le canton de Genève n'a pas non plus à en supporter (<ref-law>). Il n'y a pas lieu d'allouer des dépens au recourant qui a procédé seul (<ref-ruling> consid. 4 p. 446).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est admis, l'arrêt attaqué est annulé et la cause est renvoyée à l'autorité précédente pour nouvelle décision.
2.
Il n'est pas perçu de frais judiciaires ni alloué de dépens.
3.
Le présent arrêt est communiqué aux parties et à la Cour de justice de la République et canton de Genève, Chambre pénale de recours.
Lausanne, le 13 juin 2019
Au nom de la Cour de droit pénal
du Tribunal fédéral suisse
Le Président : Denys
La Greffière : Cherpillod