Sachverhalt:
A.
Ebenso wie zwei andere Aktionäre hielt A._ (Kläger, Beschwerdeführer) 16 der insgesamt 50 Aktien an der C._ AG mit Sitz in Liechtenstein, welche die zwei übrigen Aktien selber hielt. Mit Vertrag vom Januar 2010 verkaufte er zusammen mit einem zweiten Aktionär die von ihnen gehaltenen Aktien an die B._ AG (Beklagte, Beschwerdegegnerin). Gemäss Rechtswahlklausel im Vertrag ist liechtensteinisches Recht darauf anwendbar. Vom Preis von Fr. 480'000.-- je Verkäufer blieben gegenüber dem Kläger bislang Fr. 180'000.-- unbezahlt.
B.
Mit Eingabe vom 18. Juni 2015 reichte der Kläger beim Kantonsgericht Zug, Einzelrichter, eine Teilklage ohne Begründung ein, in der er begehrte, die Beklagte sei zur Zahlung von Fr. 30'000.-- nebst Zins zu verpflichten. Die Beklagte beantragte Klageabweisung und begründete diese mit einer eigenen Forderung gegenüber dem Kläger über Fr. 33'600.--, die sie zur Verrechnung stellte. Das Kantonsgericht hiess die Klage mit Urteil vom 29. August 2016 gut. Die zur Verrechnung gebrachte Forderung erachtete es als im Zeitpunkt der Verrechnung nicht mehr existierend.
Das von der Beklagten angerufene Obergericht des Kantons Zug, I. Zivilabteilung, hiess die Berufung mit Urteil vom 6. Juni 2017 gut und wies die Klage vollumfänglich ab. Seines Erachtens bestand die zur Verrechnung gebrachte Forderung im massgeblichen Zeitpunkt noch.
C.
Mit Beschwerde in Zivilsachen, eventualiter subsidiärer Verfassungsbeschwerde, ersucht der Kläger das Bundesgericht im Wesentlichen, das Dispositiv des angefochtenen Urteils dahingehend abzuändern, dass die Beschwerde [recte: Berufung] in Bestätigung des Entscheids des Kantonsgerichts vollumfänglich abgewiesen werde, soweit darauf einzutreten sei. Eventualiter beantragt er, das angefochtene Urteil sei aufzuheben und die Sache zu neuer Beurteilung und Entscheidung an das Obergericht zurückzuweisen. Die Beschwerdegegnerin beantragt, die Beschwerde sei abzuweisen. Denselben Antrag stellt das Obergericht unter Hinweis auf die Erwägungen im angefochtenen Urteil.
Mit Präsidialverfügung vom 28. September 2017 wurde das Gesuch des Beschwerdeführers um Erteilung der aufschiebenden Wirkung abgewiesen.

Erwägungen:
1.
1.1. Der Beschwerdeführer beantragt, das Dispositiv des angefochtenen Entscheids sei dahingehend abzuändern, dass die Beschwerde [recte: Berufung] in Bestätigung des erstinstanzlichen Urteils abgewiesen werde, soweit darauf einzutreten sei. Die im kantonalen Verfahren erhobene Berufung ist vom Bundesgericht allerdings nicht zu überprüfen, kann entsprechend von diesem auch nicht abgewiesen werden. Mit diesem Begehren will der Beschwerdeführer letztlich erreichen, dass der angefochtene Entscheid aufgehoben und seine Klage kostenfällig gutgeheissen wird, wie dies die Erstinstanz getan hat. Sinngemäss handelt es sich dabei also um ein zulässiges reformatorisches Rechtsbegehren.
1.2. Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (<ref-law>; <ref-ruling> E. 2.1 S. 397 mit Hinweisen). Beim angefochtenen Entscheid handelt es sich um einen Endentscheid (<ref-law>) in einer Zivilsache (<ref-law>) einer letzten kantonalen Instanz (<ref-law>), die als Rechtsmittelinstanz urteilte (<ref-law>). Der Beschwerdeführer ist vorinstanzlich unterlegen und zur Beschwerde berechtigt (<ref-law>). Der erforderliche Streitwert (<ref-law>) wird erreicht und die Beschwerdefrist ist eingehalten (<ref-law>). Auf die Beschwerde in Zivilsachen ist - unter Vorbehalt einer genügenden Begründung (<ref-law>) - einzutreten. Für eine subsidiäre Verfassungsbeschwerde, wie sie der Beschwerdeführer eventualiter erhebt, besteht damit kein Raum (<ref-law>).
2.
Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Dazu gehören sowohl die Feststellungen über den streitgegenständlichen Lebenssachverhalt als auch jene über den Ablauf des vor- und erstinstanzlichen Verfahrens, also die Feststellungen über den Prozesssachverhalt (<ref-ruling> E. 1.3.1 S. 17 f. mit Hinweisen). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei willkürlich (<ref-ruling> E. 2 S. 117; <ref-ruling> E. 1.5 S. 401). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein können (<ref-law>).
Für eine Kritik am festgestellten Sachverhalt gilt das strenge Rügeprinzip von <ref-law> (<ref-ruling> E. 2.3 S. 266 mit Hinweisen). Die Partei, welche die Sachverhaltsfeststellung der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern diese Voraussetzungen erfüllt sein sollen (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen). Wenn sie den Sachverhalt ergänzen will, hat sie zudem mit präzisen Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (<ref-ruling> E. 2 S. 90 mit Hinweisen). Genügt die Kritik diesen Anforderungen nicht, können Vorbringen mit Bezug auf einen Sachverhalt, der vom angefochtenen Entscheid abweicht, nicht berücksichtigt werden (<ref-ruling> E. 1.3.1 S. 18).
Der Beschwerdeführer schildert in seiner Beschwerde ausführlich den Sachverhalt und die Prozessgeschichte. Soweit die erforderlichen Aktenhinweise fehlen, was über weite Strecken der Fall ist, sind diese Ausführungen nicht zu hören. Ebenso wenig zu berücksichtigen sind die Sachverhaltsausführungen und -erweiterungen der Beschwerdegegnerin in ihrer Beschwerdeantwort, da dort die Voraussetzungen dafür ebenfalls unbeachtet bleiben.
3.
Die Vorinstanz hielt fest, bereits erstinstanzlich sei unbestritten geblieben, dass die Beschwerdegegnerin dem Beschwerdeführer grundsätzlich noch den Restkaufpreis von Fr. 180'000.-- schulde. Umstritten sei aber die von der Beschwerdegegnerin zur Verrechnung gebrachte Forderung über Fr. 33'600.--, die auf einer Dividendenauszahlung basiere. Die C._ AG habe nämlich im Sommer 2009 eine Dividende von Fr. 2'100.-- pro Aktie an die damaligen Aktionäre ausbezahlt, beim Beschwerdeführer ausmachend Fr. 33'600.--. Jedoch habe keine Generalversammlung stattgefunden, an der diese Auszahlung beschlossen worden sei, obwohl eine solche nach liechtensteinischem Recht erforderlich wäre. Auf entsprechenden Hinweis der Revisionsstelle im Juli 2010 seien diese ausbezahlten Beträge in der Jahresrechnung 2009 der C._ AG daher als Forderungen gegenüber den (ehemaligen) Aktionären eingebucht worden.
Aus dem Protokoll der ordentlichen Generalversammlung vom Februar 2014 habe die Erstinstanz jedoch geschlossen, die fraglichen Dividendenausschüttungen seien an dieser Generalversammlung nachträglich genehmigt worden. Mit dieser Feststellung habe die Erstinstanz die Verhandlungsmaxime offensichtlich und in erheblichem Masse verletzt, da keine der Parteien eine solche nachträgliche Genehmigung erstinstanzlich behauptet habe. Die Erstinstanz hätte daher den entsprechenden, von ihr selber - und nur von ihr - in den Akten entdeckten Hinweis nicht berücksichtigen dürfen. Die Vorinstanz kam deshalb zu folgendem Schluss: "Zusammenfassend ergibt sich, dass die Ausschüttung von Dividenden an den Kläger unzulässig war und davon auszugehen ist, dass diese auch nachträglich nicht genehmigt wurde, weshalb der Beklagten gegenüber dem Kläger eine entsprechende (an sie abgetretene) Rückforderung zusteht".
Unbehelflich sei sodann der Einwand des Beschwerdeführers, seine Forderung verringere sich selbst bei einer Verrechnung lediglich auf Fr. 146'400.--, weshalb die Klage auch diesfalls gutzuheissen sei, da sich die Forderung gewissermassen "von oben herab" und nicht "von unten hinauf" reduziere. Dem hielt die Vorinstanz entgegen, dass der Beschwerdeführer eine Teilklage über Fr. 30'000.-- nebst Zins eingereicht habe. Eine allfällige Restforderung sei offenkundig nicht Gegenstand des Gerichtsverfahrens. Die Verrechnungseinrede könne sich daher auch nur auf die streitgegenständliche Forderung von Fr. 30'000.-- beziehen.
4.
Der Beschwerdeführer macht zunächst eine unrichtige Feststellung des Sachverhalts geltend, indem die Vorinstanz sein rechtliches Gehör verletzt habe. Bereits erstinstanzlich habe er vorgetragen und zum Beweis verstellt, dass der Beschwerdegegnerin diese Dividendenausschüttungen vor dem Abschluss des Aktienkaufvertrags bekannt gewesen und diese folglich bei der Festsetzung des Kaufpreises berücksichtigt worden seien. Weiter hätten die Parteien abgemacht, ein entsprechender Dividendenbeschluss sei noch im Rahmen einer formell abzuhaltenden ordentlichen Generalversammlung zu fällen. Daran habe sich die Beschwerdegegnerin anschliessend aber nicht gehalten, sondern stattdessen die ausgeschütteten Dividenden als Forderungen gegenüber den bisherigen Aktionären einbuchen lassen. Die Vorinstanz hätte den diesbezüglichen Sachverhalt feststellen und die dazu angebotenen Beweise abnehmen müssen, was sie jedoch nicht getan habe. Vielmehr habe sie sich mit seiner auf diese Sachverhaltsvorbringen gestützten Einrede des Rechtsmissbrauchs resp. der Vereitelung eines Bedingungseintritts nicht ansatzweise auseinandergesetzt.
Analoges gelte hinsichtlich seiner Einwendungen zur Wirksamkeit der Abtretung der von der Beschwerdegegnerin geltend gemachten Forderung der C._ AG sowie zur Zulässigkeit der Ausrichtung von Zwischendividenden nach liechtensteinischem Recht.
Im Wesentlichen dasselbe rügt der Beschwerdeführer nochmals als Verletzung von <ref-law>, von <ref-law> sowie von <ref-law> (SR 291).
4.1. Das rechtliche Gehör nach <ref-law> verlangt, dass die Behörde die Vorbringen der betroffenen Person hört, prüft und in der Entscheidfindung berücksichtigt. Daraus folgt die Verpflichtung der Behörde, ihren Entscheid zu begründen. Dabei kann sie sich auf die für den Entscheid wesentlichen Punkte beschränken. Die Begründung muss so abgefasst sein, dass sich die betroffene Person über die Tragweite des Entscheids Rechenschaft geben und ihn in voller Kenntnis der Sache an die höhere Instanz weiterziehen kann. In diesem Sinn müssen wenigstens kurz die Überlegungen genannt werden, von denen sich die Behörde hat leiten lassen und auf die sich ihr Entscheid stützt (<ref-ruling> E. 2.2 S. 84; <ref-ruling> E. 5.2 S. 236; je mit Hinweisen). Es genügt dabei, wenn die Begründung implizit erfolgt und sich aus den übrigen Erwägungen ergibt. <ref-law> wird allerdings dann verletzt, wenn es ein Gericht unterlässt, sich zu Rügen zu äussern, die eine gewisse Überzeugungskraft aufweisen, oder wenn es bei seiner Entscheidfindung gewichtige Behauptungen und Argumente nicht berücksichtigt (<ref-ruling> E. 3.2.1 S. 565 mit Hinweisen).
4.2. An den von ihm angegebenen Stellen in der erstinstanzlichen Replik und der zweitinstanzlichen Berufungsantwort trug der Beschwerdeführer in der Tat vor, der Beschwerdegegnerin seien die Dividendenzahlungen im Verlaufe des Jahres 2009 vor Abschluss des Kaufvertrags bekannt gewesen und der Preis sei unter deren Berücksichtigung festgesetzt worden. Weiter behauptete er unter Anrufung von Beweismitteln, die Ausschüttung hätte nach dem Erwerb der Aktien durch die Beschwerdegegnerin noch im Rahmen einer formellen Generalversammlung beschlossen werden müssen, doch habe sich die Beschwerdegegnerin alsdann nicht an diese Abmachung gehalten, sondern stattdessen die ausgeschütteten Beträge als Forderungen gegenüber den ehemaligen Aktionären einbuchen lassen.
Die Erstinstanz brauchte sich damit nicht auseinanderzusetzen, da sie davon ausging, die Dividendenausschüttung sei nachträglich genehmigt worden, weshalb die zur Verrechnung gebrachte Forderung ihres Erachtens nicht mehr bestand (vgl. E. 3). Anders beurteilte dies die Vorinstanz, die sich infolgedessen aber auch dieser Vorbringen hätte annehmen müssen, was sie jedoch nicht getan hat. Weder stellte sie fest, ob diese Sachverhaltsbehauptungen von der Beschwerdegegnerin in der Duplik überhaupt bestritten worden sind, noch nahm sie die beantragten Beweismittel ab oder führte aus, weshalb sie davon absah, noch traf sie anderweitige Feststellungen zu diesen Sachverhaltsbehauptungen oder äusserte sich dazu, ob nach dem einschlägigen Recht von einem rechtsmissbräuchlichen Verhalten auszugehen sei.
Insofern genügt das angefochtene Urteil den verfassungsrechtlichen Anforderungen an die Begründung von Entscheiden nicht.
4.3. Ebenso zutreffend ist der Verweis des Beschwerdeführers auf seine erst- und zweitinstanzlichen Vorbringen gegen die Forderungsabtretung. Mit diesen Argumenten und dem dort gestellten Beweisantrag setzte sich die Vorinstanz nicht auseinander. Bloss in ihrer Zusammenfassung hielt sie in einer Klammerbemerkung fest, es handle sich um eine "an sie [die Beschwerdegegnerin] abgetretene" Forderung (vgl. E. 3), erörterte diese Abtretung aber nicht weiter und behandelte insbesondere auch die diesbezüglichen Beanstandungen des Beschwerdeführers nicht. Auch insofern genügt das vorinstanzliche Urteil den Anforderungen an Urteilsbegründungen nicht.
4.4. Was die Zulässigkeit der Ausrichtung von Zwischendividenden nach liechtensteinischem Recht angeht, verweist der Beschwerdeführer in seiner Beschwerde hingegen einzig auf seine Berufungsantwort, nicht auch auf seine erstinstanzlichen Eingaben. An der angegebenen Stelle äusserte er sich primär zur liechtensteinischen Rechtslage und hielt fest, Voraussetzung für Zwischendividenden sei ein Zwischenabschluss und dass das Grundkapital sowie allfällige Reserven nicht angetastet würden. Jedoch stellte er im kantonalen Verfahren, zumindest an der von ihm angegebenen Stelle, nicht die Behauptung auf, die er nunmehr in seiner Beschwerde vor Bundesgericht vorträgt, nämlich dass diese Zwischendividende "im Rahmen einer Universalversammlung" beschlossen worden sein soll.
Die Vorinstanz stellte u.a. fest, es gehöre gemäss Art. 338 Abs. 2 Ziff. 2 des liechtensteinischen Personen- und Gesellschaftsrechts vom 20. Januar 1926 (PGR; LR 216.0) zu den Befugnissen der Generalversammlung, die Dividende festzusetzen. Diese Begründung genügt den verfassungsrechtlichen Minimalanforderungen, zumal der Beschwerdeführer keine Stelle in seinen vorinstanzlichen Eingaben nachweist, an der er behauptet haben will, die hier massgebenden Statuten würden die Ausschüttung von Zwischendividenden durch die Verwaltung erlauben (vgl. dazu Art. 182c Abs. 3 PGR), wozu sich die Vorinstanz infolgedessen auch nicht zu äussern hatte. Dem Beschwerdeführer war es denn auch möglich, diese Beurteilung sachgerecht anzufechten. Mit seinem neuen Tatsachenvorbringen (Dividendenbeschluss anlässlich einer Universalversammlung) im bundesgerichtlichen Verfahren ist er allerdings nicht zu hören, gab doch nicht erst der vorinstanzliche Entscheid Anlass dazu, sondern bereits die erstinstanzliche Klageantwort (<ref-law>).
Dieses Vorbringen des Beschwerdeführers ist daher unbegründet.
4.5. Nach dem Gesagten verletzte die Vorinstanz das rechtliche Gehör des Beschwerdeführers, indem sie ihren Entscheid bezüglich zweier entscheidwesentlicher Punkte nicht begründete (hiervor E. 4.2. und 4.3). Das führt grundsätzlich dazu, dass der angefochtene Entscheid aufzuheben und zu neuer Prüfung und Begründung an die Vorinstanz zurückzuweisen ist. Der Beschwerdeführer macht allerdings weiter geltend, die Klage sei ungeachtet der Verrechnung so oder so gutzuheissen. Er verfüge nämlich selbst nach Verrechnung noch über eine Forderung von Fr. 146'400.--, was den eingeklagten Betrag deutlich übersteige. Um zu vermeiden, dass die Rückweisung zu einem formellen Leerlauf führt, ist nachfolgend zu prüfen, wie es sich damit verhält.
5.
5.1. Der Beschwerdeführer ist der Ansicht, selbst wenn die zur Verrechnung gebrachte Forderung von Fr. 33'600.-- bestehen sollte, wäre die Klage gutzuheissen, da seine verbleibende Forderung den eingeklagten Betrag nach wie vor deutlich übersteige. Die verfahrensrechtliche Situation sei insofern vergleichbar mit einem Fall der eventuellen Klagenhäufung. Der Klage sei stattzugeben, wenn ihm insgesamt eine Forderung zustehe, die den Teilklagebetrag übersteige - das sei offenkundig der Fall. "Streitgegenständlich ist die Restkaufpreisforderung in Höhe von CHF 180'000 bzw. eventualiter die nach Zulassung der Verrechnung der Gegenforderung auf CHF 146'400 reduzierte Restkaufpreisforderung. Auf diese bezieht sich die Verrechnungseinrede, nicht auf den im Sinne einer echten Teilklage mit CHF 30'000 bezifferten Betrag des Leistungsbegehrens". Eine Grundlage für die vollumfängliche Abweisung der Teilklage über Fr. 30'000.-- würde deshalb nur bestehen, wenn die Beschwerdegegnerin eine Forderung von mindestens Fr. 180'000.-- hätte zur Verrechnung bringen können, was nicht annähernd der Fall gewesen sei. Die Vorinstanz verletze deshalb mit ihrem Urteil <ref-law>.
Im Wesentlichen dasselbe rügt der Beschwerdeführer nochmals unter anderen Titeln, namentlich als Verletzung von <ref-law>, von <ref-law>, von <ref-law> und von <ref-law>.
5.2. Gemäss bundesgerichtlicher Rechtsprechung bestimmt sich der Streitgegenstand nach den prozessualen Ansprüchen in den Klageanträgen und dem behaupteten Lebenssachverhalt, d.h. dem Tatsachenfundament, auf das sich die Begehren stützen (<ref-ruling> E. 2.1 S. 213 mit Hinweisen).
Das Rechtsbegehren der Klage lautet auf Zahlung von Fr. 30'000.--. Als Sachverhalt, der diesem nicht individualisierenden Rechtsbegehren zu Grunde liegt, behauptet der Beschwerdeführer, er habe der Beschwerdegegnerin 16 Aktien an der C._ AG verkauft, wofür ihm diese noch den restlichen Kaufpreis von Fr. 180'000.-- schulde. Demzufolge macht er mit seiner Klage bloss einen Teil des Betrags geltend, der ihm behauptetermassen insgesamt zusteht. Damit liegt eine Teilklage vor, und zwar eine echte, denn die Gesamtforderung von Fr. 180'000.--, von welcher der Beschwerdeführer einen quantitativen Teil einklagt, beruht auf einem einzigen Anspruch (vgl. auch <ref-ruling> E. 3.4 S. 258 f.).
5.2.1. Die Teilklage wird in <ref-law> geregelt. Liegt ein teilbarer Anspruch vor, so ist es prozessrechtlich zulässig, auch nur einen Teil davon einzuklagen. Als einzige spezifische prozessrechtliche Voraussetzung für die Zulässigkeit einer Teilklage statuiert die ZPO somit die Teilbarkeit des Anspruchs, die bei Geldforderungen stets gegeben ist. Freilich ist das Rechtsmissbrauchsverbot auch hier zu respektieren (<ref-ruling> E. 5.2 S. 686 f.). Die prozessuale Möglichkeit, Teilklage zu erheben, wird als Ausfluss der Dispositionsmaxime verstanden (Botschaft zur Schweizerischen Zivilprozessordnung vom 28. Juni 2006, BBl 2006 7288 Ziff. 5.6 zu Art. 84 E-ZPO). Aus der Dispositionsmaxime folgt weiter, dass ein Gericht einer Partei nicht mehr und nichts anderes zusprechen darf, als sie verlangt, aber auch nicht weniger, als die Gegenpartei anerkannt hat (<ref-law>). Es sind also die Parteien, die bestimmen können, ob, wann in welchem Umfang und wie lange sie als Kläger einen prozessualen Anspruch gerichtlich geltend machen bzw. als Beklagter anerkennen wollen (Urteil 4A_397/2016 vom 30. November 2016 E. 2.1 mit Hinweisen).
Das Thema einer echten Teilklage ist ein einziger Streitgegenstand, sie beruht nicht auf einer objektiven Klagenhäufung. Eine Parallele zwischen ihr und einer eventuellen Klagenhäufung, die notwendigerweise mehrere Rechtsbegehren voraussetzt, ist daher - entgegen dem Beschwerdeführer - nicht auszumachen. Eine echte Teilklage wirft dafür auch die Fragen hinsichtlich der Bestimmtheit des Rechtsbegehrens nicht auf, die sich spezifisch aufgrund der Kombination von Teilklage und objektiver Klagenhäufung stellen (dazu <ref-ruling> E. 3 S. 256 ff.; <ref-ruling> E. 5.3 S. 687 ff.).
Wie sonst auch, hat das Rechtsbegehren einer echten Teilklage aber so bestimmt formuliert zu sein, dass es bei Gutheissung der Klage zum Urteil erhoben werden kann. Lautet es auf Geldzahlung, muss es deshalb beziffert werden (<ref-law>; statt anderer etwa <ref-ruling> E. 4.3 S. 619). Die Bezifferung ist insbesondere erforderlich im Hinblick auf die Wahrung des rechtlichen Gehörs der Gegenpartei - diese muss wissen, gegen was sie sich verteidigen muss (<ref-ruling> E. 5.3.1 S. 108 mit Hinweisen).
5.2.2. Ob es in der Sache angängig ist, dass ein Gläubiger von seinem Schuldner (vorerst) nur verlangt, einen Teil eines geschuldeten Betrags und nicht sogleich den Gesamtbetrag zu begleichen, ist hingegen dem einschlägigen materiellen Recht zu entnehmen. Handelt es sich dabei um Schweizerisches Recht, besteht diese Möglichkeit (vorbehältlich abweichender Parteivereinbarungen und allfälliger Sondernormen) generell; sie ergibt sich aus der Privatautonomie.
Auf den Anspruch des Beschwerdeführers ist nicht schweizerisches, sondern liechtensteinisches Recht anwendbar. Die kantonalen Instanzen gingen implizit davon aus, dieses lasse Teilforderungen ebenfalls zu. Keine der Parteien beanstandet dies, weshalb es damit sein Bewenden hat. Ohnehin wäre die Prüfungsbefugnis des Bundesgerichts diesbezüglich bloss eine eingeschränkte, da es sich um eine vermögensrechtliche Sache handelt (<ref-law> e contrario).
5.2.3. Indem er sein Rechtsbegehren mit Fr. 30'000.-- bezifferte, hat sich der Beschwerdeführer dafür entschieden, bloss einen quantitativen Teil des von ihm insgesamt behaupteten Anspruchs einzuklagen. Der Dispositionsgrundsatz erlaubt ihm, dies zu tun. Gleichzeitig ist er aber auch an das von ihm gewählte prozessuale Vorgehen gebunden. Weder kann er in diesem Prozess die Beurteilung eines höheren Betrags als des eingeklagten erwarten noch dürfte das Gericht ihm mehr als beantragt zusprechen. Und die Gegenseite braucht sich nur, aber immerhin, gegen den eingeklagten Betrag von Fr. 30'000.-- zu verteidigen - mehr steht nicht auf dem Spiel. Da der Streitgegenstand insbesondere durch den eingeklagten Betrag begrenzt wird (vgl. Urteil 4C.233/2000 vom 15. November 2000 E. 3a), kann ein Urteil dem Beschwerdeführer im aus seiner Sicht besten Fall einen Vollstreckungstitel über (maximal) Fr. 30'000.-- verschaffen.
Die Vorinstanz hatte demnach zu prüfen, ob dem Beschwerdeführer ein Anspruch über (mindestens) Fr. 30'000.-- zusteht. Ob sein Anspruch Fr. 30'000.-- übersteigt und gegebenenfalls um wie viel, war nicht Gegenstand des Verfahrens und vom Gericht nicht zu beurteilen. Diese Prüfung fiel hier leicht. Die Beschwerdegegnerin bestritt nämlich den vom Beschwerdeführer behaupteten Anspruch im Grundsatze nicht. Die von ihr beantragte Klageabweisung begründete sie einzig mit einer Gegenforderung, die sie zur Verrechnung brachte. Im Regelfall dürfte es sich aber anders verhalten und die beklagte Partei bestreitet zunächst den eingeklagten Anspruch als solchen und erklärt bloss eventualiter Verrechnung, für den Fall, dass das Gericht die Hauptforderung trotz ihrer Bestreitungen als erwiesen erachten sollte (Urteil 4A_290/2007 vom 10. Dezember 2007 E. 8.3.1). Vorliegend stand aber bereits nach dem Schriftenwechsel fest, dass der Beschwerdeführer grundsätzlich über einen Anspruch in Höhe des eingeklagten Betrags von Fr. 30'000.-- verfügt. Zu prüfen verblieb lediglich, ob die Beschwerdegegnerin diesen gerichtlich geltend gemachten Betrag mittels Verrechnung getilgt hat.
5.3. Die Beschwerdegegnerin gab ihre Verrechnungserklärung in ihrer Klageantwort und damit während laufendem Verfahren ab. Zugleich erhob sie die Verrechnungseinwendung. Während sich die Zulässigkeit der Verrechnungserklärung aus dem materiellen Recht ergibt, bestimmt sich diejenige der Verrechnungseinwendung nach Prozessrecht (zit. Urteil 4A_290/2007 E. 8.3.1).
5.3.1. Unbestritten ist, dass die Verrechnungseinwendung prozesskonform eingebracht wurde. Dieses Verteidigungsmittel richtet sich gegen den eingeklagten Betrag und soll zur Abweisung der Klage führen.
5.3.2. Die Forderung des Beschwerdeführers, die mit der zur Verrechnung gebrachten Forderung der Beschwerdegegnerin getilgt werden soll, untersteht liechtensteinischem Recht. Die (materiell-rechtliche) Zulässigkeit der Verrechnungserklärung beurteilt sich nach demselben Recht (<ref-law>). Im Übrigen findet auch auf die zur Verrechnung gebrachte Forderung liechtensteinisches Recht Anwendung. Wie es sich mit der zur Verrechnung gebrachten Forderung und der Zulässigkeit der Verrechnungserklärung verhält, wird von der Vorinstanz noch hinsichtlich zweier Punkte zu behandeln sein (vgl. E. 4.5). Abgesehen davon ist die Zulässigkeit der Verrechnungserklärung, von der die Vorinstanz ohne Weiteres ausging, in der Beschwerde nicht, zumindest nicht hinreichend, beanstandet worden oder vermögen die Vorbringen nicht durchzudringen (vgl. E. 4.4).
Die Beschwerdegegnerin begehrte die Abweisung der Klage und erhob die Verrechnungseinwendung, womit sie hinreichend deutlich zum Ausdruck brachte, dass sich ihre Verrechnungserklärung vorab auf den eingeklagten Betrag bezog. Davon ging die Vorinstanz ohne Weiteres aus, wobei sie sich nicht zum insofern einschlägigen Recht äusserte. Vorliegend ist liechtensteinisches Recht anwendbar, nicht schweizerisches. Der Beschwerdeführer bringt in seiner Beschwerde weder vor, die Vorinstanz habe zu Unrecht schweizerisches anstatt ausländisches Recht angewandt (<ref-law>), noch dass das liechtensteinische Recht dem Schuldner diese Möglichkeit nicht einräume und die Vorinstanz daher das anwendbare ausländische Recht willkürlich angewandt habe (vgl. <ref-law> e contrario). Entsprechend hat es damit sein Bewenden.
5.3.3. Steht die zur Verrechnung gebrachte Forderung von Fr. 33'600.-- im Umfang von (mindestens) Fr. 30'000.-- der Beschwerdegegnerin zu und ist die Verrechnungserklärung zulässig, wird die Klage nach dem Gesagten vollumfänglich abzuweisen sein (vgl. auch Urteil 4A_389/2015 vom 9. Dezember 2015 Sachverhalt lit. B und E. 2 betreffend Zahlung während einem Verfahren).
5.4. Der Beschwerdeführer ist jedoch der Ansicht, streitgegenständlich sei die gesamte Restkaufpreisforderung von Fr. 180'000.--. Er betrachtet damit ausschliesslich den von ihm behaupteten Lebenssachverhalt und übergeht sein Rechtsbegehren. Er hat nämlich bewusst nur um gerichtlichen Rechtsschutz für einen Betrag von Fr. 30'000.-- nachgesucht und nicht den Willen gehabt, in diesem (ersten) Verfahren mehr einzuklagen. Die Beschwerdegegnerin durfte und musste das mit Fr. 30'000.-- bezifferte Rechtsbegehren nach Treu und Glauben so verstehen, dass der Beschwerdeführer damit nicht mehr als den im Rechtsbegehren aufgeführten Betrag einklagen und beurteilt haben wollte. Entsprechend musste sie sich auch nur, aber immerhin, gegen diese Fr. 30'000.-- zur Wehr setzen. Hinzu kommt das prozessuale Verhalten des Beschwerdeführers: Nachdem die Hauptforderung von der Beschwerdegegnerin nicht bestritten wurde, war ausschliesslich der Bestand der Verrechnungsforderung streitig. In diesen Streit hat sich der Beschwerdeführer eingelassen. Damit brachte er zum Ausdruck, dass er deren Beurteilung wünschte. Dabei ist er zu behaften. Nicht zu prüfen ist, ob und inwiefern der Beschwerdeführer in seiner Replik noch eine Klageänderung hätte vornehmen können, da er weder geltend macht, dies getan zu haben, noch die Vorinstanz solches feststellte (vgl. dazu zit. Urteil 4A_389/2015 E. 2).
5.5. Es liegt somit keine Verletzung von <ref-law> oder der anderen vom Beschwerdeführer in diesem Zusammenhang angerufenen Normen vor.
6.
Die Rückweisung zum erneuten Entscheid mit noch offenem Ausgang gilt für die Kostenverlegung in der Regel als vollständiges Obsiegen im Sinne von Art. 66 Abs. 1 sowie Art. 68 Abs. 1 und 2 BGG, unabhängig davon, ob sie beantragt resp. das entsprechende Begehren im Haupt- oder im Eventualantrag gestellt wird (<ref-ruling> E. 11.1 S. 312; <ref-ruling> E. 6.1 S. 235; je mit Hinweisen; ferner etwa Urteil 5A_850/2016 vom 25. September 2017 E. 3.2 mit Hinweisen). Die Beschwerdegegnerin ist dementsprechend kosten- und entschädigungspflichtig.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Das angefochtene Urteil des Obergerichts des Kantons Zug, I. Zivilabteilung, vom 6. Juni 2017 wird aufgehoben und die Sache wird zu neuer Beurteilung an das Obergericht zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
2.
Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zug, I. Zivilabteilung, schriftlich mitgeteilt.
Lausanne, 17. Mai 2018
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Der Gerichtsschreiber: Lüthi