Faits : A. Par décision du 7 avril 2017, la Direction de la police et des affaires militaires du canton de Berne (ci-après: POM) a rejeté le recours de X._ contre la décision rendue le 2 juin 2016 par l'Office de la privation de liberté et des mesures d'encadrement (ci-après: OPLE) de la Section de l'application des peines et mesures (ci-après: SAPEM). Cette décision refusait notamment d'écarter du dossier l'expertise psychiatrique de la Dresse A._ et son complément ainsi que le transfert de X._ en section ordinaire de l'Etablissement pénitentiaire de B._. Par la même décision, le recours interjeté par X._ contre la décision rendue le 9 août 2016 par la SAPEM ordonnant la poursuite de la détention de X._ dans la section de sécurité xxx de l'Etablissement pénitentiaire de B._ a également été rejeté. B. Par décision du 31 octobre 2017, la 2ème Chambre pénale de la Cour suprême du canton de Berne a rejeté le recours interjeté par X._ contre la décision rendue le 7 avril 2017 par la POM relative au refus d'écarter une expertise psychiatrique du dossier ainsi qu'au refus de transfert en section ordinaire de l'Établissement pénitentiaire de B._ et à la poursuite de la détention dans la section de sécurité xxx de l'Établissement pénitentiaire de B._. En substance, les faits retenus par la cour cantonale sont les suivants. Une mesure d'internement prononcée contre X._ a été formellement mise en application par la Cour de justice de Genève par décision du 23 septembre 2002. X._ a été placé dans différents établissements pénitentiaires jusqu'en 2012, étant précisé que la poursuite de la mesure selon les art. 64 ss CP a été ordonnée le 5 février 2008 par le Tribunal de l'arrondissement judiciaire de Courtelary-Moutier-La Neuveville. Le 5 mai 2012, alors qu'il avait été placé dans la section d'intégration de l'Etablissement pénitentiaire de B._, X._ a demandé son transfert dans la section yyy des Etablissements de C._, ce que l'OPLE a refusé par décision du 3 juin 2012. Dans sa décision du 28 février 2014, la POM a admis le recours déposé par X._ contre cette décision et ordonné son placement dans la section yyy des Etablissements de C._ en vue de l'application de la mesure d'internement dont il faisait l'objet. Ce placement a été remis en question par l'autorité d'exécution du fait que X._ pouvait se retrouver seul avec des collaboratrices travaillant dans cette section, situation inconnue jusque-là de ladite autorité. Par courrier du 2 juin 2014, la Direction des Etablissements de C._ a informé la SAPEM que, pour des raisons de sécurité, X._ serait déplacé en régime ordinaire desdits établissements le 10 juin 2014, à la suite d'un téléphone de la responsable des risques auprès de la SAPEM qui avait demandé si du personnel féminin travaillait dans ladite section et qui avait rendu le chef de la section attentif au fait qu'il fallait exclure tout risque à l'égard du personnel de sexe féminin de la section yyy. Le 30 juin 2015, la SAPEM a mandaté la Dresse A._ pour établir une expertise psychiatrique de X._, afin de disposer d'une expertise psychiatrique actuelle et de pouvoir planifier la suite de l'exécution de la mesure d'internement. Celui-ci a été transféré temporairement, du 3 au 9 novembre 2015, à l'Etablissement pénitentiaire de B._ afin que l'expertise puisse se poursuivre sans vitre de protection. Dans l'expertise du 17 novembre 2015, la Dresse A._ a notamment constaté qu'il existait actuellement " un risque de récidive structurel élevé pour les délits sexuels et pour l'homicide chez l'expertisé ainsi que des risques intra muros ". La SAPEM est parvenue à la conclusion que dans le milieu où se trouvait X._ aux Etablissements de C._, il n'était pas possible de mettre en place les mesures de sécurité adaptées aux risques mentionnés dans l'expertise psychiatrique de la Dresse A._ et que seule la section de sécurité zzz de l'Etablissement pénitentiaire de B._ offrait la sécurité nécessaire afin d'éviter les risques invoqués. X._ a donc été placé temporairement dans la section de sécurité zzz, pour une durée de trois mois, le temps de procéder aux clarifications supplémentaires quant au placement adéquat de l'intéressé. A la suite des recommandations de la Dresse A._, X._ a été déplacé dans la section de sécurité xxx de l'Etablissement pénitentiaire de B._, le complément d'expertise du 26 janvier 2016 indiquant que ce déplacement était sans risque étant donné que X._ n'aurait pas de contact avec des femmes dans cette section. Par décision du 8 février 2016, la SAPEM a ordonné le placement de X._ pour une durée de six mois dans la section de sécurité xxx de l'Etablissement pénitentiaire de B._ en précisant que le séjour dans cette section serait réexaminé tous les six mois. Par décision du 9 août 2016, après avoir entendu l'intéressé qui s'est opposé à son maintien dans la section xxx, la SAPEM a prolongé de six mois son placement dans ladite section, en précisant que ce placement devait être revu tous les six mois. C. X._ interjette un recours en matière pénale contre la décision de la cour cantonale du 31 octobre 2017. Il conclut, avec suite de frais et dépens, principalement, à l'annulation de cette décision, à ce que l'expertise psychiatrique de la Dresse A._ du 17 novembre 2015 et son complément du 26 janvier 2016 soient écartés du dossier, à ce que son transfert dans la section ordinaire de l'Etablissement pénitentiaire de B._ soit ordonné, et à ce qu'au besoin, une nouvelle expertise soit ordonnée. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.