Sachverhalt: A. A.a. Die C._ GmbH (Klägerin 1, Beschwerdegegnerin 1) wurde 1992 gegründet und bezweckt den "Vertrieb von Nahrungsergänzungsmitteln für Boden, Pflanzen, Tier und Mensch sowie von technischen Produkten zur Vitalisierung". Sie betreibt seit 2013 eine Zweigniederlassung in U._. D._ (Kläger 2, Beschwerdegegner 2) ist als Geschäftsführer der C._ GmbH eingetragen. Die A._ GmbH (Beklagte, Beschwerdeführerin) bezweckt den "Vertrieb von marktgerechten Agrar-, Gebrauchs- und Verbrauchsprodukten, insbesondere Heimtierfutter und Nahrungsergänzungen für Boden, Pflanzen, Tier und Mensch sowie Erbringung von Dienstleistungen in diesen Bereichen, vorwiegend in der Schweiz". Sie wurde am 21. März 2007 gegründet und am 10. Mai 2007 unter der Firma "E._ GmbH" ins Handelsregister eingetragen. Die Stammanteile wurden zu 30 % von der C._ GmbH und zu 70 % von F._ gehalten. Im März 2009 übernahm die C._ GmbH alle Stammanteile, die Firma wurde in "B._ GmbH" umbenannt und sie verlegte ihren Sitz nach V._. Im Juni 2009 übernahm G._ 70 % der Stammanteile und wurde als Geschäftsführerin und Gesellschafterin mit Einzelunterschrift im Handelsregister eingetragen. Die Umfirmierung in A._ GmbH erfolgte während der Hängigkeit des Verfahrens vor der Vorinstanz am 2. April 2014. A.b. Die A._ GmbH ist Inhaberin der CH-Wortmarke Nr. 629 410 "REICO" und der CH-Wort-/Bildmarke Nr. 629 989 "REICO", die beide am 1. Dezember 2011 hinterlegt wurden. Am 14. Dezember 2011 registrierte sie den Domainnamen "reico-vital-systeme.com". Die C._ GmbH ist Inhaberin der am 12. März 2007 registrierten deutschen Wort-/Bildmarke DE 30722813 "REICO VITAL-SYSTEME" sowie des Domainnamens "reico-schweiz.com". D._ ist Inhaber der Gemeinschaftswortmarke Nr. 008808842 "REICO" mit Priorität vom 13. Januar 2010 und hat am 19. Februar 2013 eine Gemeinschafts-Wort-/Bildmarke "REICO VITAL-SYSTEME" angemeldet. A.c. Gegen die Hinterlegung der CH-Wortmarke Nr. 643 963 "REICO" (13. Mai 2013) und der CH-Wort-/Bildmarke Nr. 643 659 "REICO VITAL-SYSTEME" (3. Mai 2013) durch D._ hat die A._ GmbH Widerspruch erhoben. Sie veranlasste die zollrechtliche Zurückbehaltung einer Warensendung der C._ GmbH an deren Zweigniederlassung in U._ und ersuchte das Handelsgericht des Kantons St. Gallen mit Massnahmegesuch vom 30. Juli 2013 um vorläufige Beschlagnahmung dieser Ware. Der Handelsgerichtspräsident wies das Gesuch mit Entscheid vom 25. Oktober 2013 ab mit der Begründung, die Gesuchsgegnerin habe glaubhaft gemacht, dass sie im Sinne von Art. 4 MSchG im Verhältnis zur Gesuchstellerin als Inhaberin der Marken zu betrachten sei. B. B.a. Am 12. Dezember 2013 gelangten die Kläger an das Handelsgericht des Kantons St. Gallen mit den Begehren, es sei der Beklagten unter Strafandrohung zu verbieten, unter den (Wort- sowie Wortbild-) Zeichen "REICO", "REICO Schweiz", "Reico-Vital-Schweiz" und/oder "Reico Vital Systeme" Tierfutter, Nahrungsergänzungsmittel, Boden- und Pflanzenprodukte und/oder Körperhygieneprodukte zu bewerben, anzubieten, in Verkehr zu bringen etc. (Ziffer 1) und es sei ihr zu verbieten, diese Zeichen als Unternehmensbezeichnung im geschäftlichen Verkehr zu verwenden (Ziffer 2). Die Beklagte sei zudem zu verpflichten, ihr die CH-Marken Nr. 629 410 "REICO" und Nr. 629 989 "REICO" zu übertragen, eventuell seien diese nichtig zu erklären (Ziffer 3). Die Beklagte sei ausserdem zu verpflichten, sämtliche für die entschädigungslose Übertragung des Domainnamens "reico-vital-schweiz.com" erforderlichen Erklärungen abzugeben, eventuell sei die Nichtigkeit dieses Namens festzustellen und die US-Registrierungsbehörde anzuweisen, ihn zu löschen (Ziffer 4). B.b. Mit Entscheid vom 5. Juli 2016 hiess das Handelsgericht des Kantons St. Gallen die Klage im Wesentlichen gut. Das Dispositiv lautet: "1. Der A._ GmbH wird unter Androhung der Bestrafung ihrer verantwortlichen Organe und geschäftsführenden Personen wegen Ungehorsams gegen eine amtliche Verfügung gemäss Art. 292 StGB mit Busse für den Zuwiderhandlungsfall untersagt, unter den Kennzeichen "REICO", "REICO Schweiz", "Reico-Vital-Schweiz" und/oder "Reico Vital Systeme", insbesondere in folgender Ausgestaltung Tierfutter, Nahrungsergänzungsmittel, Boden- und Pflanzenprodukte und/oder Körperhygieneprodukte zu bewerben, anzubieten, in Verkehr zu bringen oder zu diesem Zwecke zu lagern, und/oder zu solchen Handlungen Dritter anzustiften, bei ihnen mitzuwirken oder ihre Begehung zu begünstigen oder zu erleichtern. 2. Der A._ GmbH wird unter Androhung der Bestrafung ihrer verantwortlichen Organe und geschäftsführenden Personen wegen Ungehorsams gegen eine amtliche Verfügung gemäss Art. 292 StGB mit Busse für den Zuwiderhandlungsfall untersagt, die Kennzeichen "REICO", "REICO Schweiz" und/oder "B._ GmbH" als Unternehmensbezeichnung, insbesondere als Firma, im geschäftlichen Verkehr zu verwenden. 3. Die A._ GmbH wird unter Androhung der Bestrafung ihrer verantwortlichen Organe und geschäftsführenden Personen wegen Ungehorsams gegen eine amtliche Verfügung gemäss Art. 292 StGB mit Busse für den Zuwiderhandlungsfall verpflichtet, die CH-Marken Nr. 629 410 REICO und Nr. 629 989 innert 30 Tagen nach Eintritt der Rechtskraft des Urteils auf die Klägerin 1 zu übertragen. 4. Die A._ GmbH wird unter Androhung der Bestrafung ihrer verantwortlichen Organe und geschäftsführenden Personen wegen Ungehorsams gegen eine amtliche Verfügung gemäss Art. 292 StGB mit Busse für den Zuwiderhandlungsfall verpflichtet, sämtliche Erklärungen abzugeben, welche erforderlich sind, um den Domainnamen "reico-vital-schweiz.com" entschädigungslos auf die C._ GmbH zu übertragen. (Kosten) ". Das Handelsgericht kam zum Schluss, es seien sämtliche Voraussetzungen einer Agentenmarke erfüllt, weshalb sich die Beklagte nicht auf die Priorität ihrer Hinterlegung im schweizerischen Register berufen könne. Zudem schloss das Handelsgericht, dass die Beklagte gewissermassen als Hilfsperson der Klägerin das Zeichen REICO gebraucht habe, weshalb diese die Übertragung auch gestützt auf UWG verlangen könne; namentlich könne sie die Verwendung des Zeichens als Firmenbestandteil verbieten. C. C.a. Mit Beschwerde in Zivilsachen stellt die Beklagte die Rechtsbegehren, es sei der Entscheid des Handelsgerichts des Kantons St. Gallen vom 5. Juli 2016 aufzuheben und die Klage sei abzuweisen, eventuell sei die Sache an das Handelsgericht zur Neubeurteilung zurückzuweisen insbesondere mit der Anweisung, drei Personen (Dr. H._, Frau F._, Herrn I._) als Zeugen einzuvernehmen und den Sachverhalt mit Blick auf einen Rechtfertigungsgrund nach Art. 4 MSchG/Art. 6septies PVÜ frei zu prüfen. Sie rügt als Verletzung von Art. 152 Abs. 1 ZPO bzw. Art. 8 ZGB und Art. 29 Abs. 2 BV, dass die erwähnten Zeugen ohne Begründung zu verschiedenen Behauptungen nicht einvernommen worden seien. Ausserdem bringt sie gegen die Annahme einer Agentenmarke vor, Art. 4 MSchG sei unrichtig ausgelegt und angewendet worden und Art. 4 MSchG in Verbindung mit Art. 6septies PVÜ sei verletzt worden. Gegen das Verbot der Verwendung der Zeichen als Firmenbestandteil rügt sie, Art. 2 und 3 Abs. 1 lit. d UWG, Art. 963 Abs. 2 OR sowie Art. 29 Abs. 2 ZGB seien verletzt. C.b. Die Vorinstanz äussert sich in ihrer Vernehmlassung zur Rüge der Verletzung von Art. 152 ZPO und verzichtet im Übrigen unter Hinweis auf den angefochtenen Entscheid auf Stellungnahme. C.c. Die Kläger beantragen in der Antwort die Abweisung der Beschwerde, soweit darauf einzutreten ist. C.d. Die Parteien haben unaufgefordert repliziert und dupliziert. C.e. Mit Präsidialverfügung vom 13. Oktober 2016 wurde das Gesuch um Erteilung der aufschiebenden Wirkung abgewiesen.