Sachverhalt: A. Die D._AG (Verkäuferin) war Eigentümerin des Hotels E._ in U._, das an die A._AG (Mieterin; Beschwerdeführerin) vermietet war, deren Anteile zu 100 % der Verkäuferin gehörten. Mit Kaufvertrag vom 30. Oktober 2012 erwarb die B._AG (Käuferin; Vermieterin; Beschwerdegegnerin) per 1. November 2012 das Hotel. A.a. Am 25./26. Oktober 2012 schloss die Käuferin mit der Mieterin, die das Hotel und die Fahrzeughalle schon während Jahren betrieben hatte, einen bis 2032 befristeten Mietvertrag zu einem Anfangsmietzins von jährlich 2'370'000.-- zuzüglich MwSt, fällig jeweils per Monatsanfang. Im Ingress des Vertrages ist festgehalten, die Mieterin sei mit der Verkäuferin "konzernmässig verbunden". Die Mieterin verpflichtete sich im Mietvertrag, eine Bankgarantie über Fr. 2 Mio. zur Sicherstellung sämtlicher Ansprüche der Vermieterin aus dem Mietverhältnis zu stellen. Am 30. Oktober 2012 gab die Bank eine entsprechende Garantie ab, in der sie sich gegenüber der Vermieterin unwiderruflich verpflichtete: " Ihnen auf erstes Verlangen, ungeachtet der Gültigkeit und der Rechtswirkung des eingangs erwähnten Mietverhältnisses und unter Verzicht auf jegliche Einreden und Einwendungen aus demselben, jeden Betrag bis maximal CHF 2'000'000, Kapital, Zinsen und Nebenkosten eingeschlossen, zu bezahlen, gegen Ihre schriftliche Zahlungsaufforderung und Ihre schriftliche Bestätigung, dass die A._AG, [...], ihre unter dem Mietverhältnis vereinbarten Verpflichtungen nicht erfüllt hat. " Die Garantie war bis zum 31. Dezember 2032 gültig. Der Mietvertrag hielt ferner fest, die Verkäuferin als Muttergesellschaft der Mieterin gebe eine Patronatserklärung für diese zur Sicherstellung der oben im Mietvertrag genannten Ansprüche für die Dauer von dessen Gültigkeit ab. Die Verkäuferin stellte am 31. Oktober 2012 zugunsten der Vermieterin eine entsprechende Patronatserklärung aus. A.b. Am 2. Oktober 2013 wurde die Verkäuferin, die D._AG, in F._Ltd. umfirmiert und die ehemalige F._Ltd. wechselseitig in D._AG. Danach übernahm die Mieterin aufgrund eines Fusionsvertrages vom 8. November 2013 die Aktiven und Passiven der nunmehr als F._Ltd. firmierenden Verkäuferin, worauf diese im Handelsregister gelöscht wurde. Bereits am 4. Juli 2013 waren die bisherigen Mitglieder des Verwaltungsrates der Mieterin aus diesem ausgetreten. Die an ihre Stelle in den Verwaltungsrat gewählten Mitglieder schieden am 11. April 2014 ebenfalls aus, und es wurden am 17. April 2014 drei neue Mitglieder in den Verwaltungsrat der Mieterin gewählt. Hintergrund dieser Mutationen bildete ein Wechsel der Kontroll- und Beherrschungsverhältnisse. A.c. Zwischen der Vermieterin und der unter neuer Führung stehenden Mieterin kam es im Frühjahr 2014 rasch zu Auseinandersetzungen, da die Mieterin den vertraglichen Mietzins als aus dem Betrieb nicht erwirtschaftbar erachtete, eine Anpassung auf ein wirtschaftlich tragbares Mass anstrebte und die Miete per 1. Mai 2014 nicht mehr bezahlte. Mit Schreiben vom 23. Mai 2014 kündigte die Vermieterin den Mietvertrag aus wichtigem Grund, wobei sie sich Schadenersatz und Mietzinsforderungen vorbehielt. Mit Schreiben vom 26. Mai 2014 beanspruchte sie bei der Bank den Garantiebetrag und berief sich auf einen Schadenersatzanspruch gegenüber der Mieterin, der Fr. 2 Mio. übersteige. Nachdem die Mieterin erfolglos versucht hatte, die Zahlung gerichtlich untersagen zu lassen, führte die Bank die Zahlung am 6. Juni 2014 aus und belastete diese dem Konto der Mieterin. Die Mieterin forderte die Garantie unter Abzug der nicht bezahlten Mietzinse zurück und erklärte vorsorglich die Verrechnung mit den zukünftig fällig werdenden Mietzinsen, die sie in der Folge ebenfalls nicht bezahlte. Die Kündigung focht sie beim Kreisgericht St. Gallen an. In der Folge einigten sich die Parteien auf eine nahtlose Weiterführung des Hotelbetriebs durch die Vermieterin und eine "faktische Rückgabe" des Mietobjekts per 31. Januar 2015. Von dieser Einigung nicht betroffen war die Frage der von der Vermieterin bezogenen Garantie und der Zulässigkeit der Verrechnung mit den Mietzinsen. B. Die Vermieterin führte vor dem Handelsgericht St. Gallen Klage und forderte von der Mieterin die ausstehenden Mietzinse ein. Sie erhöhte den eingeklagten Betrag im Verlaufe des Verfahrens, da weitere Mietzinsraten verfallen waren, und verlangte schliesslich je Fr. 213'300.-- zuzüglich Zins für die Monate Mai 2014 bis Januar 2015 sowie Rechtsöffnung in den für die ausstehenden Mietzinse eingeleiteten Betreibungen unter Nachklagevorbehalt für Schadenersatz. Die Mieterin verlangte widerklageweise Fr. 80'300.-- nebst Zins entsprechend der von der Vermieterin bezogenen Garantiesumme abzüglich der Mietzinse, für die sich die Mieterin auf Verrechnung berufen hatte. Am 22. März 2016 schützte das Handelsgericht die Klage und wies die Widerklage ab. C. Mit Beschwerde in Zivilsachen und subsidiärer Verfassungsbeschwerde beantragt die Mieterin dem Bundesgericht im Wesentlichen, den Entscheid des Handelsgerichts aufzuheben, die Klage abzuweisen und die Widerklage zu schützen. Ihr Gesuch um Gewährung der aufschiebenden Wirkung wies das Bundesgericht mit Präsidialverfügung vom 18. August 2016 ab. Die Beschwerdegegnerin schliesst auf kostenfällige Abweisung der Beschwerde, soweit darauf einzutreten sei, während das Handelsgericht auf Vernehmlassung verzichtet.