Sachverhalt: A. A.a. A._ AG (Klägerin, Beschwerdeführerin) bezweckt die Produktion und den Verleih von Grossfilmen und Beiprogrammen sowie den An- und Verkauf solcher Filme. Sie ist Mitglied der Schweizerischen Vereinigung zur Bekämpfung der Piraterie (SAFE). Die B._ AG (Beklagte, Beschwerdegegnerin) bezweckt die Erbringung von Fernmelde- und Rundfunkdiensten, Informatikdienstleistungen und von Beratungsleistungen sowie das Anbieten von damit zusammenhängenden Produkten und Dienstleistungen. Insbesondere bietet sie über ihre technische Infrastruktur als sog. Access Provider Kunden in der ganzen Schweiz Internetzugang an. Unter den Access Providern in der Schweiz verfügt sie über den höchsten Marktanteil. A.b. Im Internet finden sich unter http://www.cineblog-01.net und ähnlichen Domains Portale, die in benutzerfreundlicher Art (mit Suchfunktionen usw.) Verweisungen (Links) auf andere Internetseiten (sog. Hoster) publizieren, auf denen der Nutzer - von sog. Uploadern hochgeladene - Filme direkt abspielen (Streaming) oder herunterladen kann (Download). Diese Portale sind in italienischer Sprache abgefasst und richten sich entsprechend an ein italienischsprechendes Publikum. Die Portale generieren ihre Einnahmen insbesondere aus Abschlussprovisionen für Premium-Abonnements der Hoster sowie aus Provisionen für Werbungen. Die Klägerin behauptet, dass auf diesen Portalen tausende von Filmen ausschliesslich unrechtmässig zugänglich gemacht würden, darunter auch Filme, an denen die Klägerin für das Gebiet der Schweiz Exklusivlizenznehmerin der Urheberrechte sei. Sie hat deshalb die Beklagte aufgefordert, den Zugang zu diesen Portalen zu sperren, was die Beklagte jedoch verweigerte. B. B.a. Mit Klage vom 22. September 2015 beantragte die Klägerin dem Handelsgericht des Kantons Bern, es sei die Beklagte zu verpflichten, durch dazu geeignete technische Massnahmen (z.B. IP-Sperre, DNS-Sperre oder URL-Sperre) ihren Kunden im Internet den Zugang zu den Domains www.cineblog-01.net, www.cineblog01.li, www.cb01.eu, www.cb01.org, www.cb01.biz und verschiedenen weiteren (einzeln aufgeführten) ähnlichen Internetseiten zu sperren. Die Beklagte widersetzte sich der Klage und beantragte, auf diese sei nicht einzutreten, eventualiter sei sie abzuweisen. B.b. Mit Entscheid vom 16. August 2017 wies das Handelsgericht des Kantons Bern die Klage ab, soweit es darauf eintrat (Dispositiv-Ziffer 1). Die Gerichtskosten setzte es auf Fr. 38'000.-- fest und auferlegte sie der Klägerin (Dispositiv-Ziffer 2). Diese wurde zudem verurteilt, der Beklagten eine Parteientschädigung von Fr. 42'000.-- zu bezahlen (Dispositiv-Ziffer 3). Die Vorinstanz erachtete es zunächst als zweifelhaft, ob die Rechtsbegehren der Klägerin genügend bestimmt seien; dies könne jedoch offenbleiben, zumal die Klage abzuweisen sei. Den von der Beklagten erhobenen Einwand, mangels Nachweises der vollständigen Rechtekette von den Urhebern zur Klägerin sei diese nicht aktivlegitimiert, wies das Gericht zurück. Demgegenüber erwog es, die Beklagte sei nicht Teilnehmerin einer Urheberrechtsverletzung und daher nicht passivlegitimiert, was zur Abweisung der Klage führe. C. Mit Beschwerde in Zivilsachen beantragt die Klägerin dem Bundesgericht, es sei der Entscheid des Handelsgerichts des Kantons Bern vom 16. August 2017 aufzuheben und die Klage sei gutzuheissen; eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Soweit die Beschwerdeführerin mit ihrer Beschwerde unterliege, seien Dispositiv-Ziffern 2 und 3 des angefochtenen Entscheids aufzuheben und es seien die Gerichtskosten auf maximal Fr. 21'250.-- sowie die Parteikosten auf maximal Fr. 23'450.-- festzusetzen; eventualiter sei der Entscheid zur neuen Kostenregelung an die Vorinstanz zurückzuweisen. Die Beschwerdegegnerin beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz hat auf Vernehmlassung verzichtet. Die Beschwerdeführerin hat dem Bundesgericht eine Replikschrift eingereicht.