Sachverhalt: A. A.a. Die C._ GmbH (Markeninhaberin, Klägerin, Beschwerdegegnerin) ist eine deutsche Gesellschaft mit Sitz in U._. Sie betreibt insbesondere Verlagsgeschäfte, Druckereien sowie die Herstellung und Verbreitung von Informationsmitteln und -material aller Art. Sie entstand am 28. April 2012 durch eine rechtsformwechselnde Umwandlung der C._ GmbH & Co. KG. Die A._ AG (Beklagte, Beschwerdeführerin) hat ihren Sitz in V._ und bezweckt insbesondere das Erwerben, Verwalten, Entwickeln und Veräussern von Immaterialgüterrechten. Sie hat mit Fusionsvertrag vom 17. Juni 2015 die Aktiven und Passiven der B._ AG (vor Ende 2009 D._ AG) übernommen, die insbesondere die Herstellung von und den Handel mit Büchern, Zeitschriften etc. bezweckte. A.b. Die schweizerische Marke D._ Nr. xxx (international Nr. yyy) wurde von der Rechtsvorgängerin der Beklagten am 15. Mai 2007 für die Klassen 9, 16, 40, 41 und 45 für Waren und Dienstleistungen betreffend Druckereierzeugnisse und Druckerei- und Verlagsdienstleistungen, ohne Beschränkung auf eine bestimmte Sparte, hinterlegt. A.c. Am 9. Dezember 2009 veräusserte die Beklagte ihre Marke D._ im Rahmen eines Asset Purchase Agreement (APA) zusammen mit ihrem Verlagsteil Architektur und Design an die spanische Gesellschaft E._ S.L. Diese übertrug danach sämtliche Rechte und Pflichten aus dem APA an ihre Tochtergesellschaft F._ GmbH, welche im Jahre 2010 in D._ GmbH umfirmierte. Diese fiel am 6. März 2012 in Konkurs. A.d. Mit Vertrag vom 24. April 2012 erwarb die Klägerin die Marke D._ zusammen mit den Aktiven des Verlagsteils Architektur und Design aus der Konkursmasse der D._ GmbH. Sie verwendet die Marke im Rahmen ihres Fachverlags für Architektur, Landschaftsarchitektur und Design. A.e. Die Beklagte verwendet das Zeichen D._ im Zusammenhang mit ihrem Verlagsteil Science, Technology, Medicine (STM). Sie stellte am 26. April 2012 beim Institut für geistiges Eigentum den Antrag auf Eintragung einer ausschliesslichen Lizenz für diese Verwendung der Marke Nr. zzz D._. Dieser Antrag wurde mit Entscheid vom 21. Januar 2013 rechtskräftig abgewiesen. B. B.a. Die Klägerin gelangte mit Eingabe vom 23. Mai 2013 an das Appellationsgericht des Kantons Basel-Stadt und stellte folgende Begehren: "1. Es sei der Beklagten zu verbieten, im Geschäftsverkehr die Bezeichnung 'D._', ungeachtet der Schreibweise, für a. elektronische Publikationen, b. Druckerzeugnisse aller Art, c. Dienstleistungen in den Bereichen Veröffentlichung und/oder Herausgabe von gedruckten oder elektronischen Büchern, Zeitungen und/oder Zeitschriften, d. Dienstleistungen eines Verlages, eines Verlegers und/oder eines Herausgebers zu verwenden und/oder von Dritten verwenden zu lassen. 2. Das Verbot gemäss Rechtsbegehren Ziffer 1 sei unter Androhung der Bestrafung der verantwortlichen Organe und geschäftsführenden Personen wegen Ungehorsams gegen amtliche Verfügungen im Sinne von Art. 292 StGB für den Zuwiderhandlungsfall aufzuerlegen. 3. Die Beklagte sei zu verpflichten, den mit den seit 24. April 2012 unter der Bezeichnung 'D._' vertriebenen Produkten und Dienstleistungen gemäss Rechtsbegehren Ziffern 1a und 1d erzielten Umsatz und Gewinn offenzulegen. 4. Die Beklagte sei zu verpflichten, der Klägerin nach Wahl der Klägerin Schadenersatz oder Gewinnherausgabe in der Höhe, wie von der Klägerin nach Erhalt der gemäss Rechtsbegehren Ziffer 3 anbegehrten Daten beziffert, mindestens aber in der Höhe von CHF 50'000.--, zu bezahlen. (Kosten) " Das Appellationsgericht des Kantons Basel-Stadt hiess die Klage mit Entscheid vom 20. Januar 2016 teilweise gut und verbot der Beklagten unter Androhung der Bestrafung ihrer Organe und geschäftsführenden Personen wegen Ungehorsams gegen amtliche Verfügungen gemäss Art. 292 StGB (Busse bis Fr. 10'000.--) für den Widerhandlungsfall, im Geschäftsverkehr die Bezeichnung "D._" ungeachtet der Schreibweise, für elekronische Publikationen, Druckerzeugnisse aller Art, Dienstleistungen in den Bereichen Veröffentlichung und/oder Herausgabe von gedruckten oder elektronischen Büchern, Zeitungen und/oder Zeitschriften, Dienstleistungen eines Verlages, eines Verlegers und/oder eines Herausgebers im Bereich STM (Science, Technology, Medicine) in der Schweiz zu verwenden und/oder von Dritten verwenden zu lassen (Dispositiv-Ziffer 1). Die Gerichtskosten auferlegte das Appellationsgericht im Umfang von einem Drittel der Klägerin, im Umfang von zwei Dritteln der Beklagten (Dispositiv-Ziffer 3). Das Gericht bejahte seine örtliche und sachliche Zuständigkeit (E. 1), bejahte das Rechtsschutzinteresse der Klägerin am Unterlassungsbegehren für das Gebiet der Schweiz und den Bereich STM (E. 2) und kam zum Schluss, dass der Anspruch materiell begründet sei, während der Beklagten an der Verwendung des Zeichens keine Rechte mehr zuständen (E. 3). Das Begehren auf Rechnungslegung wies das Gericht mangels hinreichender Substanziierung ab (E. 4). Die Gerichtskosten wurden nach Ausgang des Verfahrens verteilt (E. 5). C. Mit Beschwerde in Zivilsachen beantragt die Beklagte dem Bundesgericht, es seien die Ziffern 1 und 3 des Dispositivs des Urteils des Appellationsgerichts des Kantons Basel-Stadt vom 20. Januar 2016 aufzuheben und die Klage der Beschwerdegegnerin sei unter Kosten- und Entschädigungsfolgen zulasten der Beschwerdegegnerin abzuweisen, soweit darauf einzutreten ist; eventualiter seien die Ziffern 1 und 3 des Dispositivs des Entscheids des Appellationsgerichts des Kantons Basel-Stadt vom 20. Januar 2016 aufzuheben und das Verfahren sei zur Neubeurteilung an die Vorinstanz zurückzuweisen; subeventualiter sei die Ziffer 3 des Dispositivs des Entscheid des Appellationsgerichts des Kantons Basel-Stadt vom 20. Januar 2016 aufzuheben und die Gerichtskosten für das vorinstanzliche Verfahren von Fr. 20'000.-- seien im Umfang von vier Fünfteln der Beschwerdegegnerin und einem Fünftel der Beschwerdeführerin aufzuerlegen und die Beschwerdegegnerin sei zur Leistung einer Parteientschädigung von Fr. 5'000.-- an die Beschwerdeführerin zu verurteilen. Die Beschwerdeführerin rügt, der Sachverhalt sei offensichtlich unrichtig und unter Verletzung des rechtlichen Gehörs ermittelt worden, die Vorinstanz habe ihre Vorbringen falsch qualifiziert, die im APA verwendeten Begriffe "license" und "trade name" rechtsfehlerhaft ausgelegt, die Bösgläubigkeit der Beschwerdegegnerin rechtsfehlerhaft beurteilt, die Konkursfestigkeit der Lizenz zu Unrecht verneint und schliesslich auch ein unlauteres bzw. rechtsmissbräuchliches Verhalten der Beschwerdegegnerin zu Unrecht verneint. Schliesslich rügt die Beschwerdeführerin, die Vorinstanz habe die Prozesskosten selbst für den Fall der Abweisung ihrer Beschwerde rechtsfehlerhaft verteilt. Die Beschwerdegegnerin beantragt in ihrer Beschwerdeantwort die Abweisung der Beschwerde, soweit Eintreten. Die Vorinstanz beantragt in ihrer Vernehmlassung die Abweisung der Beschwerde. Die Parteien haben repliziert und dupliziert. D. Dem Gesuch der Beschwerdeführerin um Erteilung der aufschiebenden Wirkung wurde mit Präsidialverfügung vom 6. Juli 2016 mangels Opposition der Gegenpartei praxisgemäss entsprochen.