Faits : A. Par décision du 19 décembre 2017, l'Office de l'exécution judiciaire du canton de Berne (OEJ), par sa Section de la probation et de l'exécution des sanction pénales (SPESP), a rejeté la demande de X._ tendant à la levée de la mesure institutionnelle de traitement des troubles mentaux (art. 59 CP) ordonnée à son égard le 29 mars 2017 par la Cour suprême du canton de Berne. Dans sa décision rendue sur recours le 19 avril 2018, la Direction de la police et des affaires militaires du canton de Berne (POM) a confirmé le rejet de la demande de levée de la mesure. B. Par jugement du 21 septembre 2018, la 2 e chambre pénale de la Cour suprême du canton de Berne a rejeté, dans la mesure où il était recevable et où il n'était pas devenu sans objet, le recours formé par X._ contre la décision du 19 avril 2018. En substance, les faits suivants peuvent être déduits du jugement. B.a. X._, ressortissant algérien né en 1971, a fait l'objet, depuis 2002, de diverses condamnations à des peines fermes de privation de liberté pour des infractions contre le patrimoine (vols et brigandages) et à l'intégrité sexuelle. B.b. Par jugement du 29 mars 2017, la Cour suprême du canton de Berne a condamné X._ pour actes d'ordre sexuel commis sur une personne incapable de discernement ou de résistance, contrainte sexuelle, brigandage, désagréments causés par la confrontation à un acte d'ordre sexuel, violation de domicile, vol, infraction à la Loi fédérale sur les étrangers et contravention à la Loi fédérale sur les stupéfiants à une peine privative de liberté de 6 ans ainsi qu'à une amende de 800 francs. Elle a en outre ordonné une mesure institutionnelle de traitement des troubles mentaux (art. 59 CP), l'intéressé étant maintenu en détention pour garantir l'exécution de la mesure prononcée (art. 231 al. 1 let. a CPP). Dans le cadre de l'instruction ayant conduit au jugement du 29 mars 2017, une expertise psychiatrique a été réalisée par le Prof. A._, directeur médical des Services B._. Dans son rapport du 22 septembre 2015, complété les 28 octobre 2015 et 16 janvier 2017, l'expert a relevé l'existence chez l'expertisé d'un trouble dyssocial de la personnalité et de troubles mentaux et du comportement liés à l'utilisation de drogues. Le risque de récidive était alors qualifié de hautement élevé. L'expert a relevé qu'un traitement psychothérapeutique était susceptible de diminuer le risque de nouvelles infractions, à condition que l'expertisé s'y engage pleinement. A défaut d'un tel engagement, l'expert a suggéré la mise en oeuvre d'entretiens motivationnels préalablement à la prise en charge psychothérapeutique. B.c. Le 7 septembre 2018, la SPESP a décidé du placement de X._ à l'Etablissement pénitentiaire de C._ ( Justizvollzugsanstalt C._) à compter du 12 septembre 2018, dans le cadre de l'exécution de la mesure institutionnelle ordonnée le 29 mars 2017. Jusqu'alors, faute de place disponible dans des institutions adaptées à l'exécution de la mesure ordonnée, l'intéressé avait séjourné dans diverses prisons régionales du canton de D._, depuis sa mise en détention provisoire, ordonnée le 28 janvier 2015. B.d. Le 10 septembre 2018, la Section des évaluations de psychologie légale du Concordat de la Suisse du Nord-Ouest et de la Suisse centrale a établi, sur mandat du SPESP, une évaluation psycho-criminologique de X._. C. X._ forme un recours en matière pénale au Tribunal fédéral contre le jugement du 21 septembre 2018. Il conclut, avec suite de frais et dépens, principalement à sa réforme en ce sens que la mesure est levée et qu'il est constaté la violation de l'art. 5 par. 4 CEDH (droit à ce qu'il soit statué à bref délai sur la légalité de la détention). Subsidiairement, il conclut à l'annulation du jugement et au renvoi de la cause à la cour cantonale pour nouvelle décision. Il sollicite en outre le bénéfice de l'assistance judiciaire. Invitée à se déterminer, la Cour suprême du canton de Berne a présenté des observations, renvoyant pour le surplus aux considérants de son jugement. Le recourant n'a pas déposé d'observations complémentaires après la communication de l'écriture de la Cour suprême. Le Parquet général du canton de Berne a renoncé à se déterminer.