Faits : A. Par jugement du 21 février 2017, le Tribunal criminel de l'arrondissement de la Broye et du Nord vaudois a condamné X._, pour tentative de meurtre avec désistement, violation simple des règles de la circulation routière, conduite malgré une incapacité (ébriété simple), conduite d'un véhicule en état défectueux, vol d'usage d'un véhicule automobile et conduite sans autorisation, à une peine privative de liberté de sept ans, sous déduction de 401 jours de détention avant jugement, ainsi qu'à une amende de 800 francs. Il a également ordonné au prénommé de se soumettre à un traitement institutionnel des troubles mentaux au sens de l'art. 59 CP et a suspendu l'exécution de la peine privative de liberté au profit de celui-ci. Par décision du 18 juillet 2017, l'Office d'exécution des peines (ci-après : OEP) a ordonné le placement institutionnel de X._, avec effet rétroactif au 21 février 2017, au sein de la prison A._, à B._, dans l'attente d'un transfert au sein de la Colonie fermée de C._ (ci-après : C._), avec la poursuite d'un suivi psychothérapeutique auprès du Service de médecine et psychiatrie pénitentiaires (ci-après : SMPP). B. Par arrêt du 6 septembre 2017, la Chambre des recours pénale du Tribunal cantonal du canton de Vaud a rejeté le recours formé par X._ contre la décision du 18 juillet 2017. La cour cantonale a retenu les faits suivants. B.a. X._, né en 1964, a été condamné à sept reprises, dont cinq fois entre 1982 et 1995, à des peines privatives de liberté totalisant plus de cinq ans, pour des infractions touchant notamment à la vie, à l'intégrité corporelle, au patrimoine ou à la liberté. Seule deux condamnations sont encore inscrites dans son casier judiciaire, soit l'une, en 1997, pour tentative de meurtre, vol, voies de fait et délit contre la LArm, ainsi qu'une autre, en 2005, pour vol, dommages à la propriété, menaces, violation de domicile, conducteur pris de boisson, vol d'usage, circulation malgré un retrait ou un refus du permis de conduire et utilisation sans droit d'un cycle ou d'un cyclomoteur. A l'occasion de cette dernière condamnation, X._ a été sanctionné par une peine privative de liberté de deux ans, dont l'exécution a été suspendue au profit d'un internement, mesure levée le 23 décembre 2009 au profit d'une mesure institutionnelle (art. 59 CP), laquelle a été levée le 10 avril 2015, la peine suspendue n'étant pas exécutée. B.b. Au cours de la procédure pénale ayant conduit au jugement du 21 février 2017, X._ a été soumis à une expertise psychiatrique. Les experts ont déposé leur rapport le 15 juillet 2016. Il en ressort que le prénommé souffre de trouble mixte de la personnalité à traits émotionnellement labiles de type borderline, narcissiques et dyssociaux ainsi que d'utilisation d'alcool nocive pour la santé. Les experts ont relevé que le risque de récidive pour des actes de même nature était élevé si X._ se trouvait dans une situation similaire de perturbation psychique, livré à lui-même, sans cadre clair, solide et soutenant, ainsi qu'aux prises avec des difficultés relationnelles dans sa vie de couple avec des menaces de perte d'étayage ou d'abandon. Selon les experts, ce cadre était essentiel, car l'intéressé avait montré à maintes reprises combien il était rapidement démuni lorsqu'il était livré à lui-même, et qu'en l'absence de cadre, il ne parvenait pas à investir de manière suivie des professionnels aptes à l'étayer, ni même à solliciter leur aide lorsqu'il se sentait perdre la maîtrise de ses propres projets. Dès lors, à la moindre déstabilisation psychique, il risquait de reprendre une consommation d'alcool excessive ou de récidiver par des actes violents. Le cadre évoqué correspondait selon les experts à un cadre institutionnel en foyer psychiatrique ouvert. B.c. Dans ses déterminations du 30 août 2017, l'OEP a évoqué le long et difficile parcours pénal de X._. Il a en particulier rappelé que dans le cadre de la mise en oeuvre de la mesure d'internement prononcée le 2 décembre 2005 par le Tribunal correctionnel de l'arrondissement de la Broye et du Nord vaudois ainsi que des élargissements de régime accordés, celui-ci s'était évadé de C._ à l'occasion d'une conduite le 25 avril 2007. Parti en France où il avait sombré dans l'alcool, il était revenu en Suisse à la fin du mois de juillet 2007. Par ailleurs, dans le cadre de la mise en oeuvre de la mesure thérapeutique institutionnelle prononcée le 23 décembre 2009, l'OEP avait ordonné son transfert, dès le 27 décembre 2011, au sein de la Fondation D._, après un long processus de placement visant à assurer une transition cohérente et étayante. X._ avait toutefois fugué moins de 12 jours après, soit le 8 janvier 2012, sans qu'aucun signe précurseur n'eût été détecté, et n'avait pu être interpellé que le 2 juin 2012. Par la suite, il avait à nouveau été placé au sein de la Fondation D._ dès le 21 mai 2013, mais un transfert au sein de l'Unité psychiatrique de la prison E._ avait dû être ordonné après une tentative de suicide. Enfin, ensuite de l'ordonnance du 25 mars 2015 du Juge d'application des peines ordonnant levant la mesure thérapeutique institutionnelle, l'intéressé avait intégré, le 10 avril 2015, un foyer en France, qu'il avait quitté après seulement deux mois. Neuf mois plus tard, il avait attenté à sa vie. L'OEP estimait ainsi qu'au vu des échecs des précédents placements institutionnels, des deux évasions et de la récidive persistante, tout placement en milieu institutionnel ouvert devait être soigneusement évalué. L'OEP avait pu constater l'importante impulsivité de X._, son intolérance à la frustration et une tendance à l'"auto-sabotage", qui rendaient nécessaire un accompagnement intensif dans les étapes clé devant être franchies jusqu'à une réinsertion. En outre, il était indispensable que l'intéressé démontre une certaine stabilité sur le long terme dans le cadre d'élargissements de régime progressifs, mesurés et régulièrement évalués, dans le milieu fermé, puisque les expériences antérieures avaient confirmé sa difficulté d'ancrage dans toute nouvelle structure qui n'était pas aussi encadrante que le milieu carcéral. Par ailleurs, l'OEP avait expliqué que lors de ses séjours en milieu institutionnel - soit 12 jours en 2012 et six mois en 2013 -, X._ n'était pas parvenu à solliciter activement le réseau professionnel existant pour le soutenir. Lorsque le prénommé était rattrapé par ses émotions négatives, qui survenaient immanquablement après une certaine période, en l'absence de cadre externe, il agissait contre autrui, alors que lorsqu'il était contenu par l'environnement, il agissait contre lui-même ou contre le cadre. Un tel fonctionnement obligeait l'OEP à privilégier une étape préalable afin de protéger la sécurité publique. En définitive, au vu du parcours pénal de X._, de ses évasions, de l'échec de ses placements en institution, de son nouveau passage à l'acte et du risque élevé de récidive ressortant de l'expertise psychiatrique, il était indispensable, selon l'OEP, de disposer d'un bilan actualisé de la présente incarcération avant d'envisager un placement dans un foyer spécialisé ouvert. Un plan d'exécution de la mesure devait ainsi être élaboré par l'établissement carcéral, puis validé par l'OEP. La situation devait en outre être soumise à l'appréciation de la Commission interdisciplinaire consultative concernant les délinquants dangereux (ci-après : CIC). C. X._ forme un recours en matière pénale au Tribunal fédéral contre l'arrêt du 6 septembre 2017, en concluant, avec suite de frais et dépens, principalement à sa réforme en ce sens que son placement institutionnel est ordonné au sein d'un établissement spécialisé apte à ce qu'il puisse suivre un traitement institutionnel des troubles mentaux en foyer psychiatrique ouvert, cas échéant que son placement institutionnel soit ordonné au sein de la prison A._ dans l'attente d'un transfert au sein d'un établissement spécialisé apte à ce qu'il puisse suivre un traitement institutionnel de ses troubles mentaux en foyer psychiatrique ouvert. Subsidiairement, il conclut à son annulation et au renvoi de la cause à l'OEP pour nouvelle décision. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.