Sachverhalt:
A.
A.a. Die C._ GmbH (Klägerin 1, Beschwerdegegnerin 1) wurde 1992 gegründet und bezweckt den "Vertrieb von Nahrungsergänzungsmitteln für Boden, Pflanzen, Tier und Mensch sowie von technischen Produkten zur Vitalisierung". Sie betreibt seit 2013 eine Zweigniederlassung in U._.
D._ (Kläger 2, Beschwerdegegner 2) ist als Geschäftsführer der C._ GmbH eingetragen.
Die A._ GmbH (Beklagte, Beschwerdeführerin) bezweckt den "Vertrieb von marktgerechten Agrar-, Gebrauchs- und Verbrauchsprodukten, insbesondere Heimtierfutter und Nahrungsergänzungen für Boden, Pflanzen, Tier und Mensch sowie Erbringung von Dienstleistungen in diesen Bereichen, vorwiegend in der Schweiz". Sie wurde am 21. März 2007 gegründet und am 10. Mai 2007 unter der Firma "E._ GmbH" ins Handelsregister eingetragen. Die Stammanteile wurden zu 30 % von der C._ GmbH und zu 70 % von F._ gehalten. Im März 2009 übernahm die C._ GmbH alle Stammanteile, die Firma wurde in "B._ GmbH" umbenannt und sie verlegte ihren Sitz nach V._. Im Juni 2009 übernahm G._ 70 % der Stammanteile und wurde als Geschäftsführerin und Gesellschafterin mit Einzelunterschrift im Handelsregister eingetragen. Die Umfirmierung in A._ GmbH erfolgte während der Hängigkeit des Verfahrens vor der Vorinstanz am 2. April 2014.
A.b. Die A._ GmbH ist Inhaberin der CH-Wortmarke Nr. 629 410 "REICO" und der CH-Wort-/Bildmarke Nr. 629 989 "REICO", die beide am 1. Dezember 2011 hinterlegt wurden. Am 14. Dezember 2011 registrierte sie den Domainnamen "reico-vital-systeme.com".
Die C._ GmbH ist Inhaberin der am 12. März 2007 registrierten deutschen Wort-/Bildmarke DE 30722813 "REICO VITAL-SYSTEME" sowie des Domainnamens "reico-schweiz.com".
D._ ist Inhaber der Gemeinschaftswortmarke Nr. 008808842 "REICO" mit Priorität vom 13. Januar 2010 und hat am 19. Februar 2013 eine Gemeinschafts-Wort-/Bildmarke "REICO VITAL-SYSTEME" angemeldet.
A.c. Gegen die Hinterlegung der CH-Wortmarke Nr. 643 963 "REICO" (13. Mai 2013) und der CH-Wort-/Bildmarke Nr. 643 659 "REICO VITAL-SYSTEME" (3. Mai 2013) durch D._ hat die A._ GmbH Widerspruch erhoben. Sie veranlasste die zollrechtliche Zurückbehaltung einer Warensendung der C._ GmbH an deren Zweigniederlassung in U._ und ersuchte das Handelsgericht des Kantons St. Gallen mit Massnahmegesuch vom 30. Juli 2013 um vorläufige Beschlagnahmung dieser Ware. Der Handelsgerichtspräsident wies das Gesuch mit Entscheid vom 25. Oktober 2013 ab mit der Begründung, die Gesuchsgegnerin habe glaubhaft gemacht, dass sie im Sinne von <ref-law> im Verhältnis zur Gesuchstellerin als Inhaberin der Marken zu betrachten sei.
B.
B.a. Am 12. Dezember 2013 gelangten die Kläger an das Handelsgericht des Kantons St. Gallen mit den Begehren, es sei der Beklagten unter Strafandrohung zu verbieten, unter den (Wort- sowie Wortbild-) Zeichen "REICO", "REICO Schweiz", "Reico-Vital-Schweiz" und/oder "Reico Vital Systeme" Tierfutter, Nahrungsergänzungsmittel, Boden- und Pflanzenprodukte und/oder Körperhygieneprodukte zu bewerben, anzubieten, in Verkehr zu bringen etc. (Ziffer 1) und es sei ihr zu verbieten, diese Zeichen als Unternehmensbezeichnung im geschäftlichen Verkehr zu verwenden (Ziffer 2). Die Beklagte sei zudem zu verpflichten, ihr die CH-Marken Nr. 629 410 "REICO" und Nr. 629 989 "REICO" zu übertragen, eventuell seien diese nichtig zu erklären (Ziffer 3). Die Beklagte sei ausserdem zu verpflichten, sämtliche für die entschädigungslose Übertragung des Domainnamens "reico-vital-schweiz.com" erforderlichen Erklärungen abzugeben, eventuell sei die Nichtigkeit dieses Namens festzustellen und die US-Registrierungsbehörde anzuweisen, ihn zu löschen (Ziffer 4).
B.b. Mit Entscheid vom 5. Juli 2016 hiess das Handelsgericht des Kantons St. Gallen die Klage im Wesentlichen gut. Das Dispositiv lautet:
"1. Der A._ GmbH wird unter Androhung der Bestrafung ihrer verantwortlichen Organe und geschäftsführenden Personen wegen Ungehorsams gegen eine amtliche Verfügung gemäss <ref-law> mit Busse für den Zuwiderhandlungsfall untersagt, unter den Kennzeichen "REICO", "REICO Schweiz", "Reico-Vital-Schweiz" und/oder "Reico Vital Systeme", insbesondere in folgender Ausgestaltung
Tierfutter, Nahrungsergänzungsmittel, Boden- und Pflanzenprodukte und/oder Körperhygieneprodukte zu bewerben, anzubieten, in Verkehr zu bringen oder zu diesem Zwecke zu lagern, und/oder zu solchen Handlungen Dritter anzustiften, bei ihnen mitzuwirken oder ihre Begehung zu begünstigen oder zu erleichtern.
2. Der A._ GmbH wird unter Androhung der Bestrafung ihrer verantwortlichen Organe und geschäftsführenden Personen wegen Ungehorsams gegen eine amtliche Verfügung gemäss <ref-law> mit Busse für den Zuwiderhandlungsfall untersagt, die Kennzeichen "REICO", "REICO Schweiz" und/oder "B._ GmbH" als Unternehmensbezeichnung, insbesondere als Firma, im geschäftlichen Verkehr zu verwenden.
3. Die A._ GmbH wird unter Androhung der Bestrafung ihrer verantwortlichen Organe und geschäftsführenden Personen wegen Ungehorsams gegen eine amtliche Verfügung gemäss <ref-law> mit Busse für den Zuwiderhandlungsfall verpflichtet, die CH-Marken
Nr. 629 410 REICO und
Nr. 629 989
innert 30 Tagen nach Eintritt der Rechtskraft des Urteils auf die Klägerin 1 zu übertragen.
4. Die A._ GmbH wird unter Androhung der Bestrafung ihrer verantwortlichen Organe und geschäftsführenden Personen wegen Ungehorsams gegen eine amtliche Verfügung gemäss <ref-law> mit Busse für den Zuwiderhandlungsfall verpflichtet, sämtliche Erklärungen abzugeben, welche erforderlich sind, um den Domainnamen "reico-vital-schweiz.com" entschädigungslos auf die C._ GmbH zu übertragen.
(Kosten) ".
Das Handelsgericht kam zum Schluss, es seien sämtliche Voraussetzungen einer Agentenmarke erfüllt, weshalb sich die Beklagte nicht auf die Priorität ihrer Hinterlegung im schweizerischen Register berufen könne. Zudem schloss das Handelsgericht, dass die Beklagte gewissermassen als Hilfsperson der Klägerin das Zeichen REICO gebraucht habe, weshalb diese die Übertragung auch gestützt auf UWG verlangen könne; namentlich könne sie die Verwendung des Zeichens als Firmenbestandteil verbieten.
C.
C.a. Mit Beschwerde in Zivilsachen stellt die Beklagte die Rechtsbegehren, es sei der Entscheid des Handelsgerichts des Kantons St. Gallen vom 5. Juli 2016 aufzuheben und die Klage sei abzuweisen, eventuell sei die Sache an das Handelsgericht zur Neubeurteilung zurückzuweisen insbesondere mit der Anweisung, drei Personen (Dr. H._, Frau F._, Herrn I._) als Zeugen einzuvernehmen und den Sachverhalt mit Blick auf einen Rechtfertigungsgrund nach <ref-law>/Art. 6septies PVÜ frei zu prüfen. Sie rügt als Verletzung von <ref-law> bzw. <ref-law> und <ref-law>, dass die erwähnten Zeugen ohne Begründung zu verschiedenen Behauptungen nicht einvernommen worden seien. Ausserdem bringt sie gegen die Annahme einer Agentenmarke vor, <ref-law> sei unrichtig ausgelegt und angewendet worden und <ref-law> in Verbindung mit Art. 6septies PVÜ sei verletzt worden. Gegen das Verbot der Verwendung der Zeichen als Firmenbestandteil rügt sie, Art. 2 und 3 Abs. 1 lit. d UWG, <ref-law> sowie <ref-law> seien verletzt.
C.b. Die Vorinstanz äussert sich in ihrer Vernehmlassung zur Rüge der Verletzung von <ref-law> und verzichtet im Übrigen unter Hinweis auf den angefochtenen Entscheid auf Stellungnahme.
C.c. Die Kläger beantragen in der Antwort die Abweisung der Beschwerde, soweit darauf einzutreten ist.
C.d. Die Parteien haben unaufgefordert repliziert und dupliziert.
C.e. Mit Präsidialverfügung vom 13. Oktober 2016 wurde das Gesuch um Erteilung der aufschiebenden Wirkung abgewiesen.

Erwägungen:
1.
Die Beschwerde hat eine Zivilsache zum Gegenstand (<ref-law>) und richtet sich gegen den Endentscheid (<ref-law>) eines oberen kantonalen Gerichts, das als Fachgericht für handelsrechtliche Streitigkeiten als einzige Instanz entschieden hat (<ref-law>), ein Streitwert in dieser vermögensrechtlichen Angelegenheit ist nicht erforderlich (<ref-law>), die Beschwerdeführerin ist mit ihren Anträgen im Wesentlichen unterlegen (<ref-law>) und die Beschwerdefrist ist eingehalten (Art. 100 in Verbindung mit <ref-law>). Auf die Beschwerde ist - unter Vorbehalt hinreichender Begründung (<ref-law>) - einzutreten.
2.
Nach <ref-law> geniessen Marken keinen Schutz, die ohne Zustimmung des Inhabers auf den Namen von Agenten, Vertretern oder anderen zum Gebrauch Ermächtigten eingetragen werden oder die nach Wegfall der Zustimmung im Register eingetragen bleiben.
2.1. Der besondere Schutzausschlussgrund der eingetragenen Marke nach <ref-law> beruht - ähnlich wie die relativen Ausschlussgründe - auf dem Vorbestehen bestimmter Drittzeichen; diese sind zwar im Inland nicht als Marke eingetragen, aber vom besser Berechtigten im In- oder Ausland benutzt worden (MATTHIAS STÄDELI, in: Basler Kommentar, Markenschutzgesetz/Wappenschutzgesetz, 3. Aufl. 2017, N. 5 zu <ref-law>; FLORENT THOUVENIN, Nichtigkeit und Anfechtbarkeit im Markenrecht, sic! 2009 S. 546). Die Norm bezweckt den Schutz des wirtschaftlichen Inhabers einer Marke gegenüber einem Agenten, Vertreter oder einem anderen zur Nutzung des Zeichens während der Dauer der Zusammenarbeit Ermächtigten, der das Zeichen ohne Ermächtigung auf seinen Namen hinterlegt oder die Eintragung nach Beendigung der Zusammenarbeit weiterhin behält (Botschaft des Bundesrates vom 21. November 1990 zu einem Bundesgesetz über den Schutz von Marken und Herkunftsangaben, BBl 1991 I 22 Ziff. 222.12 zu Art. 4 E-MschG; vgl. auch MARKUS WANG, in: Noth/Bühler/Thouvenin [Hrsg.], Markenschutzgesetz, 2009, N. 1 zu <ref-law>; CHRISTOPH WILLI, Markenschutzgesetz, 2002, N. 1 zu <ref-law>). Dieser Schutz beruht auf der Annahme, dass der Nutzungsberechtigte gegenüber dem Inhaber aufgrund der Zusammenarbeit einer Interessenwahrungs- bzw. Loyalitätspflicht unterliegt, die einer Aneignung der Marke entgegensteht (Urteil 4A_128/2013 vom 30. September 2013 E. 3.2.1, nicht publ. in: <ref-ruling>). Die vom Gesetzgeber anvisierte besondere Konstellation setzt somit einen Vertrag voraus, der zwischen dem wirklichen und dem angemassten Inhaber der Marke bestanden hat oder noch besteht und der die Wahrung der geschäftlichen Interessen des Geschäftsherrn sowie eine Ermächtigung zum Gebrauch einer fremden Marke zum Inhalt hat (<ref-ruling> E. 2.3 S. 584 f. mit Hinweisen, vgl. auch Urteil 4A_128/2013 vom 30. September 2013 E. 3.2.1, nicht publ. in: <ref-ruling>). Ob diese Voraussetzungen vorliegen, beurteilt sich im internationalen Verhältnis nach dem Vertragsstatut (vgl. WANG, a.a.O., N. 14 zu <ref-law>; STÄDELI, a.a.O., N. 15 zu <ref-law>).
2.2. Dem angefochtenen Entscheid ist zu den konkreten vertraglichen Beziehungen der Parteien, insbesondere bei der Hinterlegung der Marken durch die Beklagte im Dezember 2011, nichts zu entnehmen. Die Vorinstanz stellt im Gegenteil fest, dass der Inhalt der Zusammenarbeit nach der Gründung der Beklagten und namentlich nach der Übernahme der Mehrheitsbeteiligung an der Beklagten durch deren heutige Geschäftsführerin strittig sei. Sie erwähnt, dass eine beabsichtigte Kooperationsvereinbarung nicht zustande kam und sie hält fest, dass nach der Übernahme der Mehrheitsbeteiligung durch die heutige Geschäftsführerin die Absicht bestand, dass die Beklagte die zu vertreibenden Produkte "ausschliesslich" bei der Klägerin 1 beziehe, diese die Produkte und Dienstleistungen zu "Einstandspreisen" verrechne und die Beklagte den Marketingplan der Klägerin 1 übernehme, dass sie keine Kunden oder Berater ausserhalb der Schweiz beliefere und dass die Klägerin 1 im Gegenzug die Produktehaftung übernehmen sollte. Ungeachtet dessen, dass keine Rahmenvereinbarung zustande kam, schloss die Vorinstanz auf eine weit über eine blosse Liefervereinbarung hinausgehende Zusammenarbeit und mithin auf die von der Rechtsprechung geforderte Loyalitäts- und Interessenwahrungspflicht der Beklagten gegenüber der Klägerin 1.
2.3. Der Schluss auf eine enge Zusammenarbeit, die eine vertragliche Loyalitätsverpflichtung der Beklagten gegenüber der Klägerin 1 begründen soll, ergibt sich für die Vorinstanz aus der Absicht der Beklagten zur Zusammenarbeit (mit entsprechender Exklusitivät, abgestimmtem Marketing) mit der Klägerin 1 sowie aus den Übereinstimmungen der kennzeichnenden Firmenbestandteile und Gesellschaftszwecke der Klägerin 1 und der Beklagten sowie aus der Beteiligung der Klägerin 1 an der Beklagten. Die Beschwerdeführerin rügt zutreffend, dass diese von der Vorinstanz festgestellten Tatsachen nicht ausreichen, um auf eine vertragliche Loyalitätspflicht der Beklagten gegenüber der Klägerin 1 zu schliessen. Die Minderheitsbeteiligung der Klägerin 1 an der Beklagten weist keine Konzern-Verbundenheit aus. Nach den Erwägungen der Vorinstanz vermögen denn auch die Änderungen der Beteiligungsverhältnisse an der Beklagten den Entscheid nicht zu beeinflussen. Aus Beteiligungen an juristischen Personen allein kann keine Loyalitätsverpflichtung abgeleitet werden. Und dass die Kläger die Beklagte im Jahre 2007 gründeten, erlaubt keine Aussage über den Inhalt allfälliger Vertragsbeziehungen. Auch kann aus einer blossen Absichtserklärung gerade nicht auf eine vertragliche Vereinbarung geschlossen werden, die über eine blosse Lieferantenbeziehung hinausreichen und die erforderliche Treuepflicht der Beklagten gegenüber der Klägerin 1 begründen würde. Dass schliesslich das Kennzeichen REICO von beiden Parteien gebraucht und beansprucht wird, ist gerade Gegenstand der vorliegenden Streitigkeit und vermag eine Abweichung vom Prioritätsrecht der Beklagten in der Schweiz nicht zu begründen.
2.4. Die von der Vorinstanz festgestellten Tatsachen reichen nicht aus, um eine vertragliche Treuepflicht der Beklagten gegenüber den Klägern mit dem berechtigten Schluss zu begründen, diese habe das Zeichen REICO in der Schweiz für die Kläger gebraucht. Da damit die Grundlage für die Annahme entfällt, die Kläger seien zum Gebrauch des Zeichens REICO in der Schweiz besser berechtigt, entfällt auch die Grundlage, der Beklagten aufgrund des Namens- oder Wettbewerbsrechts den Gebrauch des Zeichens REICO zu verbieten. Die Beschwerde erweist sich als begründet. Gemäss <ref-law> kann das Bundesgericht in diesem Fall in der Sache selbst entscheiden oder die Sache an die Vorinstanz zurückweisen. Da die Beschwerdegegner in der Antwort vorbringen, die Vertragsbeziehung der Parteien sei über eine blosse Lieferantenbeziehung hinausgegangen - was sie schon vor Vorinstanz behauptet hätten - rechtfertigt es sich, die Sache zur Feststellung des konkreten Inhalts der Vertragsbeziehungen unter den Parteien namentlich im Zeitpunkt der Hinterlegung der Marken durch die Beklagte an die Vorinstanz zurückzuweisen. Die Vorinstanz wird zu beurteilen haben, ob eine vertragliche Zusammenarbeit bestand, in deren Rahmen die Kläger die Beklagte zum Gebrauch des umstrittenen Zeichens (das sie für die Schweiz als eigenes beansprucht hätten) für sie ermächtigten, so dass die Beklagte mit der Hinterlegung bzw. dem Einbehalt der Marke nach Beendigung der Zusammenarbeit ihre vertragliche Treuepflicht verletzte.
3.
Angesichts des Ausgangs des Verfahrens sind die Gerichtskosten den Beschwerdegegnern zu auferlegen (Art. 66 Abs. 1 und 5 BGG) und diese sind zu verpflichten, der Beschwerdeführerin deren Parteikosten für das bundesgerichtliche Verfahren zu ersetzen (Art. 68 Abs. 1, 2 und 4 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen, der Entscheid des Handelsgerichts des Kantons St. Gallen vom 5. Juli 2016 wird aufgehoben und die Sache wird zur Neubeurteilung an die Vorinstanz zurückgewiesen.
2.
Die Gerichtskosten von Fr. 5'000.-- werden den Beschwerdegegnern (unter solidarischer Haftbarkeit und intern zu gleichen Teilen) auferlegt.
3.
Die Beschwerdegegner haben die Beschwerdeführerin für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen (unter solidarischer Haftbarkeit und intern zu gleichen Teilen).
4.
Dieses Urteil wird den Parteien und dem Handelsgericht des Kantons St. Gallen schriftlich mitgeteilt.
Lausanne, 27. Februar 2017
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Die Gerichtsschreiberin: Marti-Schreier