Erwägungen:
1.
Die B._ AG (Beschwerdegegnerin) ist eine Aktiengesellschaft mit Sitz in U._. Aktionäre sind A._ (Beschwerde führer) mit einem Aktienanteil von 48.33 % und C._ mit einem Aktienanteil von 51.67 %.
Am 28. Mai 2019 reichte A._ beim Kantonsgericht Zug ein gegen die B._ AG gerichtetes Gesuch im summarischen Verfahren ein. Er verlangte im Wesentlichen die Ernennung eines Sachwalters. Zur Begründung berief er sich auf Mängel in der Organisation der Gesellschaft (<ref-law>).
Mit Entscheid vom 21. Januar 2020 wies der Einzelrichter am Kantonsgericht das Gesuch ab. Er setzte C._ alseinzelzeichnungsberechtigtes Mitglied des Verwaltungsrats ein und "bestätigte" die D._ AG als Revisionsstelle, jeweils für eine Mindesteinsatzdauer von einem Jahr. Die dagegen gerichtete Berufung wies das Obergericht des Kantons Zug mit Urteil vom 10. Juni 2020 ab.
A._ hat dieses Urteil mit Beschwerde in Zivilsachen beim Bundesgericht angefochten und um die Ernennung eines Sachwalters für die B._ AG ersucht. In verfahrensrechtlicher Hinsicht beantragte er, es sei festzustellen, dass der Beschwerde die auf schiebende Wirkung zukomme.
Mit Präsidialverfügung vom 18. August 2020 wurde der Beschwerde mangels Erfolgsaussichten keine aufschiebende Wirkung zuerkannt.
Es wurden keine Vernehmlassungen eingeholt.
2.
Der angefochtene Entscheid des Obergerichts ist ein Endentscheid (<ref-law>) einer Vorinstanz im Sinne von <ref-law>. Der Streitwert erreicht die Grenze von Fr. 30'000.-- gemäss <ref-law>.
3.
3.1. Mit Beschwerde in Zivilsachen können Rechtsverletzungen nach Art. 95 und 96 BGG gerügt werden. Die Beschwerde ist hinreichend zu begründen, ansonsten darauf nicht eingetreten werden kann (<ref-ruling> E. 2 S. 116; <ref-ruling> E. 2.1). In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (<ref-law>). Unerlässlich ist dabei, dass auf die Begründung des angefochtenen Entscheids eingegangen und im Einzelnen aufgezeigt wird, worin eine vom Bundesgericht überprüfbare Rechtsverletzung liegt. Die beschwerdeführende Partei soll in der Beschwerde an das Bundesgericht nicht bloss die Rechtsstandpunkte, die sie im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (<ref-ruling> E. 2 S. 116, 86 E. 2 S. 89).
3.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Dazu gehören sowohl die Feststellungen über den streitgegenständlichen Lebenssachverhalt als auch jene über den Ablauf des vor- und erstinstanzlichen Verfahrens, also die Feststellungen über den Prozesssachverhalt (<ref-ruling> E. 1.3.1 mit Hinweisen). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 2 S. 117; <ref-ruling> E. 1.5). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein können (<ref-law>). Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>). Die Partei, welche die Sachverhaltsfeststellung der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern diese Voraussetzungen erfüllt sein sollen (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen). Wenn sie den Sachverhalt ergänzen will, hat sie zudem mit präzisen Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (<ref-ruling> E. 2 S. 90).
4.
4.1. Die Vorinstanzen stellten fest, dass bei der Beschwerdegegnerin Organisationsmängel im Sinne von <ref-law> bestünden; es fehle der Gesellschaft sowohl an (gültig gewählten) Mitgliedern des Verwaltungsrats als auch an einer (gültig gewählten) Revisionsstelle. Indes sei nicht - wie vom Beschwerdeführer beantragt - ein Sachwalter zu ernennen, sondern rechtfertige es sich, C._ als Verwaltungsratsmitglied mit Einzelunterschrift einzusetzen und die (bereits im Handelsregister eingetragene, allerdings nicht gültig gewählte) D._ AG als Revisionsstelle zu bestätigen.
4.2. Das Gesetz listet in Art. 731b Abs. 1 bis OR Massnahmen auf, die das Gericht zur Behebung eines Organisationsmangels ergreifen kann. Dabei handelt es sich um einen beispielhaften, nicht abschliessenden Katalog. Der Gesetzgeber wollte dem Richter ähnlich wie bei der Auflösungsklage gemäss <ref-law> einen hinreichenden Handlungsspielraum gewähren, um eine mit Blick auf die konkreten Umstände des Einzelfalls angemessene Massnahme treffen zu können (<ref-ruling> E. 2.4, 294 E. 3.1.4 S. 298; je mit Hinweisen).
Das Bundesgericht schreitet gegen solche Ermessensentscheide nur mit Zurückhaltung und einzig dann ein, wenn die Vorinstanz grundlos von in Lehre und Rechtsprechung anerkannten Grundsätzen abgegangen ist, wenn Tatsachen berücksichtigt wurden, die keine Rolle hätten spielen dürfen, oder wenn umgekehrt Umstände ausser Betracht geblieben sind, die zwingend hätten beachtet werden müssen. In derartige Ermessensentscheide wird ferner eingegriffen, wenn sich diese als offensichtlich unbillig oder als in stossender Weise ungerecht erweisen (vgl. <ref-ruling> E. 4.2.5; <ref-ruling> E. 11.2 S. 98; siehe zu <ref-law> im Besonderen Urteil 4A_499/2019 vom 25. März 2020 E. 3.2 mit Hinweisen).
4.3.
4.3.1. Der Beschwerdeführer möchte geltend machen, dass die erstinstanzlich eingesetzten Organe nicht unabhängig seien. Indes beschränkt er sich darauf, Sachverhaltselemente herauszugreifen, welche das Obergericht "offensichtlich unrichtig" festgestellt habe, ohne sich hinreichend mit den Kriterien auseinanderzusetzen, auf welche das Obergericht seinen Ermessensentscheid nach Art. 731b Abs. 1 bis OR stützte. Die Ausführungen in der Beschwerde geben offensichtlich nicht Anlass, das sorgfältig ausgeübte vorinstanzliche Rechtsfolgeermessen zu korrigieren (siehe auch vorangehende Erwägungen 3.1, 3.2 und E. 4.2). Es ist immerhin was folgt zu bemerken:
4.3.2. Der Beschwerdeführer führteinerseits aus, dass gegen die als Verwaltungsratsmitglied eingesetzte C._ ein Strafverfahren "betreffend Urkundendelikte sowie wegen ungetreuer Geschäftsbesorgung und/oder Veruntreuung" laufe. Gleichzeitig nehme sie als Verwaltungsratsmitglied die Interessen der Beschwerdegegnerin "als Geschädigte und mögliche Privatklägerin" in diesem Strafverfahren wahr. Sie befinde sich in einem Interessenkonflikt, weshalb ein Sachwalter einzusetzen sei.
Das Obergerichterwog, es gehe aus den Akten nicht hervor, dass dieses (vom Beschwerdeführer veranlasste) Strafverfahren auch tatsäch lich eröffnet worden sei. Der Beschwerdeführer behauptet, diese Feststellung sei offensichtlich unrichtig, und verweist auf verschiedene Strafanzeigen, staatsanwaltschaftliche Verfügungen und eine Verhandlungsanzeige.
Darauf kommt es indes nicht an. Zwar hat das Bundesgericht schon erkannt, dass unter ausserordentlichen Umständen ein sich zu einem Organisationsmangel verdichtender Interessenkonflikt vorliege, wenn die Gesellschaftsinteressen in einer bestimmten Angelegenheit deshalb nicht mehr unabhängig wahrgenommen und vertreten werden könnten, weil sämtliche Verwaltungsratsmitglieder gegenläufige Interessen verfolgten (Urteil 4A_717/2014 vom 29. Juni 2015 E. 2.5.2). Um einen solchen Fall bejahen zu können, hätte der Beschwerde führer aber präzise und gestützt auf den vorinstanzlich festgestellten Sachverhalt darlegen müssen, welche Rolle der Beschwerdegegnerin im genannten Strafverfahren zukommt und aus welchen Gründen es C._ (als einzigem Verwaltungsratsmitglied) unmöglich sein soll, die Interessen der Beschwerdegegnerin unabhängig zu vertreten, mithin gleichsam von einer Funktionsunfähigkeit des Organs und damit auch der Gesellschaft auszugehen wäre. Allein mit der Behauptung, es liege "offensichtlich" eine "unauflösliche[] Interessenkollision" vor, ist solches nicht dargetan.
Im Übrigen geht der Beschwerdeführer auf die Argumente nicht ein, welche nach Ansicht der Vorinstanz für die Ernennung von C._ und gegen die Einsetzung eines Sachwalters sprechen, so etwa ihre langjährige Erfahrung als Verwaltungsratsmitglied der Beschwerdegegnerin, ihre Kenntnisse über deren Vertragspartner oder den Umstand, dass sie keine Einarbeitungszeit benötige und die Geschäfte umgehend weiterführen und vorantreiben könne.
4.3.3. Andererseits bemängelt der Beschwerdeführer, dass auch die Revisionsstelle nicht unabhängig sei. Er übergeht, dass er den vorinstanzlichen Ermessensentscheid nicht als offensichtlich stossend ausweist, wenn er frei und losgelöst von den tatsächlichen Feststellungen im angefochtenen Urteil Elemente aufzählt, welche die Unabhängigkeit der Revisionsstelle belegten, und dieser dabei namentlich unterstellt, "wissentlich und willentlich unwahre Urkunden" angefertigt und "dadurch Falschbeurkundungen im Sinn von <ref-law>" begangen zu haben. Ob die Beschwerdegegnerin tatsächlich (nur) zu einer eingeschränkten Revision verpflichtet ist, wie dies die Vorinstanz erwähnte, der Beschwerdeführer aber bestreitet, ist vor diesem Hintergrund nicht weiter von Belang. Entscheidend ist die Feststellung des Obergerichts, der Beschwerdeführer habe nicht schlüssig dargetan, weshalb die Unabhängigkeit der vom Kantonsgericht ernannten Revisionsstelle beeinträchtigt sein soll. Mit Blick auf den willkürfrei festgestellten Sachverhalt erscheint die Einsetzung der D._ AG als Revisionsstelle jedenfalls ohne Weiteres vertretbar.
4.3.4. Im Übrigen ist darauf hinzuweisen, dass es im Organisationsmängelverfahren grundsätzlich nicht darum gehen kann, die wirtschaftliche Richtigkeit von Geschäftsentscheiden der Gesellschaftsorgane zu hinterfragen. Entsprechend ist die vorinstanzliche Erwägung nicht zu beanstanden, die mangelhafte Aufgabenerledigung eines Organs allein begründe keinen Organisationsmangel; hierfür stünden andere Behelfe (etwa eine Verantwortlichkeitsklage) zur Verfügung. <ref-law> zielt einzig auf Fälle, in denen eine zwingende gesetzliche Vorgabe hinsichtlich der Organisation der Gesellschaft nicht oder nicht mehr eingehalten wird, und bezweckt die Wiederherstellung des rechtmässigen Zustands (vgl. <ref-ruling> E. 2.2, 294 E. 3.1.2 S. 297; je mit Hinweisen). Dies scheint der Beschwerdeführer teilweise zu übersehen, so insbesondere, wenn er C._ verschiedene (angebliche) Verfehlungen im Zusammenhang mit ihrer bisherigen Amtsführung vorhält.
4.4. Der vom Beschwerdeführer geübten Kritik, die Vorinstanz habe <ref-law> verletzt, ist nicht zu folgen.
5.
Damit bleibt es auch bei der vorinstanzlichen Verlegung der Prozesskosten. Inwiefern <ref-law> verletzt sein soll, wie dies der Beschwerdeführer moniert, wird von ihm nicht nachvollziehbar dargetan.
6.
Die Beschwerde ist offensichtlich unbegründet und im Verfahren nach <ref-law> abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten gemäss <ref-law> dem Beschwerdeführer aufzuerlegen. Der Beschwerdegegnerin ist kein Aufwand entstanden, für den sie nach <ref-law> zu entschädigen wäre.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zug, II. Zivilabteilung, schriftlich mitgeteilt.
Lausanne, 16. September 2020
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Der Gerichtsschreiber: Stähle