Erwägungen:
1.
1.1. Mit Eingabe vom 1. April 2019 reichte A._ (Beschwerdeführer) beim Kantonsgericht Zug eine Klage ein. Er verlangte, seine ehemalige Arbeitgeberin - die B._ GmbH (Beschwerdegegnerin) - sei zur Ausstellung eines (verbesserten) Arbeitszeugnisses sowie zur Zahlung von Fr. 171'190.-- zu verurteilen.
Mit Verfügung vom 8. April 2019 zeigte das Kantonsgericht den Parteien unter anderem an, dass der erstinstanzliche Prozess Gerichtskosten in der mutmasslichen Höhe von Fr. 10'000.-- verursachen werde, unter Hinweis darauf, dass weitere Gerichtskosten vorbehalten blieben. Der gleichentags verlangte Kostenvorschuss von Fr. 10'000.-- hat A._ fristgerecht bezahlt.
1.2. In der Folge wurde das Verfahren "einstweilen auf die Frage der rechtzeitigen Einreichung der Klage" beschränkt. Das Kantonsgericht unterbreitete zu diesem Punkt einen Vergleichsvorschlag, dem die Parteien zustimmten. Gestützt auf diesen Vergleich fällte das Kantonsgericht am 2. September 2019 einen Zwischenentscheid, mit folgendem (hier interessierendem) Inhalt:
"1. Es wird festgehalten, dass die Klage im vorliegenden Prozess am 1. April 2019 der Schweizerischen Post übergeben wurde und damit als rechtzeitig eingereicht gilt.
-..]
3.1 Die Gerichtskosten des vorliegenden Zwischenentscheids werden wie folgt festgesetzt:
CHF 600.00 Entscheidgebühr
Die Gerichtskosten werden dem Kläger auferlegt und mit dem vom Kläger
geleisteten Kostenvorschuss von CHF 10'000.00 verrechnet.
3.2 Der Kläger wird mit separatem Schreiben zur Leistung eines weiteren Kostenvorschusses von CHF 600.00 aufgefordert.
-..]"
Dieser Zwischenentscheid wurde am 3. September 2019 als Gerichtsurkunde versandt. Am selben Tag wurde - wie im Zwischenentscheid angekündigt - mit separater (eingeschriebener) Sendung eine Kostenvorschussverfügung über den Betrag von Fr. 600.-- an den Beschwerdeführer verschickt. Beide Zustellungen erfolgten - wie auch sämtliche vorherigen Zustellungen - über den Rechtsvertreter des Beschwerdeführers.
Sowohl der Zwischenentscheid als auch die Kostenvorschussverfügung wurden dem Rechtsvertreter des Beschwerdeführers am 4. September 2019 zur Abholung avisiert, von diesem indes nicht abgeholt und daher nach sieben Tagen ans Kantonsgericht retourniert.
Am 16. September 2019 versandte das Kantonsgericht den - inzwischen wieder dort eingetroffenen - Zwischenentscheid vom 2. September 2019 per A-Post erneut an den Rechtsvertreter des Beschwerdeführers. Diesem ging die Sendung am 17. September 2019 zu. Nicht mitverschickt wurde die Kostenvorschussverfügung vom 3. September 2019, welche erst am 23. September 2019 wieder beim Kantonsgericht eintraf.
Am 20. September 2019 versandte das Kantonsgericht eine Mahnung hinsichtlich des (ergänzenden) Kostenvorschusses von Fr. 600.--, unter Ansetzung einer fünftägigen Nachfrist und Androhung der Nichteintretensfolge bei Säumnis. Diese Mahnung ging dem Rechtsvertreter des Beschwerdeführers am 23. September 2019 zu.
Hiernach stellte das Kantonsgericht fest, dass es die Mahnung versehentlich um einige Tage verfrüht verschickt hatte. Es setzte dem Beschwerdeführer mit Verfügung vom 9. Oktober 2019 daher (erneut) eine letzte Frist von fünf Tagen zur Bezahlung des (ergänzenden) Kostenvorschusses an, wobei es auf die vorangegangene Mahnung vom 20. September 2019 verwies und anmerkte, dass diese verfrüht erfolgt sei. Zudem machte es wiederum auf die Säumnisfolgen aufmerksam. Diese als Gerichtsurkunde versandte Nachfristansetzung ging dem Rechtsvertreter des Beschwerdeführers am 12. Oktober 2019 zu. Ebenfalls am 9. Oktober 2019 verschickte das Kantonsgericht die ursprüngliche Kostenvorschussverfügung vom 3. September 2019 per A-Post zur Kenntnisnahme, wobei es mit einem Stempel anmerkte, dass diese Verfügung bereits gültig zugestellt worden sei. Der Rechtsvertreter des Beschwerdeführers erhielt dieses Schreiben am 10. Oktober 2019.
1.3. Nachdem der Beschwerdeführer den (ergänzenden) Kostenvorschuss auch innert Nachfrist nicht bezahlt hatte, trat das Kantonsgericht mit Entscheid vom 25. November 2019 in Anwendung von <ref-law> androhungsgemäss auf die Klage nicht ein.
Die dagegen gerichtete Berufung wies das Obergericht des Kantons Zug mit Urteil vom 29. September 2020 ab.
1.4. A._ hat dieses Urteil mit "Beschwerde in Zivilsachen" und "subsidiäre[r] Verfassungsbeschwerde" beim Bundesgericht angefochten und "in Bezug auf die Kostenfrage" um Gewährung der aufschiebenden Wirkung ersucht.
Mit Präsidialverfügung vom 4. November 2020 wurde das Begehren um Erteilung der aufschiebenden Wirkung mangels hinreichender Begründung des Gesuchs und zufolge Aussichtslosigkeit der Beschwerde abgewiesen.
Es wurden keine Vernehmlassungen eingeholt.
2.
Das angefochtene Urteil des Obergerichts ist ein Endentscheid (<ref-law>) einer Vorinstanz im Sinne von <ref-law>. Da der Streitwert von <ref-law> erreicht ist, fällt die subsidiäre Verfassungsbeschwerde ausser Betracht (vgl. <ref-law>).
3.
3.1. Mit Beschwerde in Zivilsachen können Rechtsverletzungen nach Art. 95 und 96 BGG gerügt werden. Die Beschwerde ist hinreichend zu begründen, ansonsten darauf nicht eingetreten werden kann (<ref-ruling> E. 2 S. 116; <ref-ruling> E. 2.1). In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (<ref-law>). Unerlässlich ist dabei, dass auf die Begründung des angefochtenen Entscheids eingegangen und im Einzelnen aufgezeigt wird, worin eine vom Bundesgericht überprüfbare Rechtsverletzung liegt. Die beschwerdeführende Partei soll in der Beschwerde an das Bundesgericht nicht bloss die Rechtsstandpunkte, die sie im kantonalen Verfahren eingenommen hat, erneut bekräftigen, sondern mit ihrer Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz ansetzen (<ref-ruling> E. 2 S. 116, 86 E. 2 S. 89).
3.2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Dazu gehören sowohl die Feststellungen über den streitgegenständlichen Lebenssachverhalt als auch jene über den Ablauf des vor- und erstinstanzlichen Verfahrens, also die Feststellungen über den Prozesssachverhalt (<ref-ruling> E. 1.3.1 mit Hinweisen). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (<ref-ruling> E. 2 S. 117; <ref-ruling> E. 1.5). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein können (<ref-law>). Neue Tatsachen und Beweismittel dürfen nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>). Die Partei, welche die Sachverhaltsfeststellung der Vorinstanz anfechten will, muss klar und substanziiert aufzeigen, inwiefern diese Voraussetzungen erfüllt sein sollen (<ref-ruling> E. 1.3.1 S. 18 mit Hinweisen). Wenn sie den Sachverhalt ergänzen will, hat sie zudem mit präzisen Aktenhinweisen darzulegen, dass sie entsprechende rechtsrelevante Tatsachen und taugliche Beweismittel bereits bei den Vorinstanzen prozesskonform eingebracht hat (<ref-ruling> E. 2 S. 90).
4.
4.1. Die Beschwerde verfehlt über weite Strecken die eben dargestellten Begründungsanforderungen, da darin auf die Entscheidbegründung des Obergerichts nicht hinreichend eingegangen wird. Dies gilt etwa, soweit der Beschwerdeführer den Vorinstanzen in allgemein gehaltenen Ausführungen eine Missachtung des Gebots von Treu und Glauben vorwirft, ohne konkret aufzuzeigen, inwiefern sie zivilprozessuale Normen verletzt haben sollen. Ausserdem weicht er wiederholt in unzulässiger Weise von den Sachverhaltsfeststellungen im angefochtenen Urteil ab; so unter anderem, wenn er einleitend den Prozesssachverhalt - ohne jegliche Aktenhinweise - aus seiner eigenen Sicht schildert und dabei Ausführungen zu seinen "Ferienvorbereitungen", zur "Möglichkeit, per QR-Code die Abholungsfrist zu verlängern", oder zur Adressierung der vom Kantonsgericht verschickten Rechnungen macht.
4.2. Soweit die Beschwerde eine hinreichende Begründung enthält, erweist sie sich als offensichtlich unbegründet. Dies trifft namentlich auf die Behauptung des Beschwerdeführers zu, die Kostenvorschussverfügung vom 3. September 2019 sei "nichtig", weshalb "[a]lle darauf gestützten Entscheidungen [...] an der gleichen Nichtigkeit" litten. Zur Begründung verweist er auf <ref-law>, dessen Formvorgaben nicht eingehalten worden seien, sowie auf kantonale Regeln über die gerichtsinterne Unterschriftsberechtigung. Er übersieht, dass nicht jede mangelhafte Eröffnung einer Verfügung zur Nichtigkeit führt. Weder tut der Beschwerdeführer dar, dass die geltend gemachten Eröffnungsmängel besonders schwer wögen (vgl. <ref-ruling> E. 4 S. 438), noch bringt er vor, dass ihm aus ihnen ein Nachteil erwachsen wäre. Bereits aus diesem Grund kann dahingestellt bleiben, ob - und falls ja: in welcher Strenge - <ref-law> überhaupt auf prozessleitende Verfügungen Anwendung findet (siehe etwa Urteil 5A_120/2012 vom 21. Juni 2012 E. 4.1 am Ende).
Schon das Obergericht stellte im Übrigen fest, dass der Beschwerdeführer nicht substanziiert geltend gemacht habe, weshalb die behaupteten formellen Mängel zur Nichtigkeit der Kostenvorschussverfügung führen sollten. Sie führte ferner unter Hinweis auf Art. 103 und Art. 319 lit. b Ziff. 1 ZPO aus, dass der Beschwerdeführer die Kostenvorschussverfügung vom 3. September 2019 selbständig mit Beschwerde hätte anfechten müssen und er die gegen diese Verfügung gerichtete Kritik nicht mit Berufung gegen den Nichteintretensentscheid vortragen könne. Dazu nimmt der Beschwerdeführer nicht Stellung; vielmehr wendet er sich auch vor Bundesgericht inhaltlich gegen die Kostenvorschussverfügung und erklärt, weshalb die Nachforderung eines (ergänzenden) Kostenvorschusses gegen die kantonale Kostenverordnung verstosse. Seine Ausführungen gehen an der Sache vorbei; abgesehen davon tut er keine Willkür in der Anwendung von kantonalem Recht dar.
4.3. Auch der Schluss der Vorinstanz, die - nicht abgeholte - Kostenvorschussverfügung vom 3. September 2019 gelte gestützt auf <ref-law> als zugestellt, ist nicht bundesrechtswidrig. Sie erwog, dass der Beschwerdeführer angesichts des rechtshängigen Prozessrechtsverhältnisses mit der Zustellung einer entsprechenden Verfügung habe rechnen müssen und dass insbesondere ein Postrückbehaltungsauftrag auf diese Zustellfiktion keinen Einfluss habe. Diese Erwägungen sind zutreffend (vgl. <ref-ruling> E. 3.1; <ref-ruling> E. 3.1 S. 227). Der Beschwerdeführer moniert in diesem Zusammenhang den Umstand, dass ihm sowohl der Zwischenentscheid als auch die Kostenvorschussverfügung am selben Tag (am 4. September 2019) avisiert worden seien. Inwiefern sich das Vorgehen der Erstinstanz nicht mit den Zustellungsregeln gemäss <ref-law> vertragen soll, ergibt sich daraus nicht.
4.4. Entscheidend ist damit die Erkenntnis der Vorinstanz, dass dem Beschwerdeführer sowohl die Kostenvorschussverfügung vom 3. September 2019 (Zustellfiktion) als auch die Nachfristansetzung vom 9. Oktober 2019 rechtsgültig eröffnet worden sind. Inwiefern der Nichteintretensentscheid bundesrechtswidrig sein soll, nachdem der Beschwerdeführer (auch) die Nachfrist zur Leistung des (ergänzenden) Kostenvorschusses ungenutzt verstreichen liess, ist nicht ersichtlich. Der in der Beschwerde erhobene Vorwurf, das Obergericht habe eine "Rechtsverweigerung" begangen, trifft offensichtlich nicht zu.
5.
Die Beschwerde ist offensichtlich unbegründet und im Verfahren nach <ref-law> abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten gemäss <ref-law> dem Beschwerdeführer aufzuerlegen. Der Beschwerdegegnerin ist kein Aufwand entstanden, für den sie nach <ref-law> zu entschädigen wäre.

Demnach erkennt das Bundesgericht:
1.
Auf die subsidiäre Verfassungsbeschwerde wird nicht eingetreten.
2.
Die Beschwerde in Zivilsachen wird abgewiesen, soweit darauf einzutreten ist.
3.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zug, I. Zivilabteilung, schriftlich mitgeteilt.
Lausanne, 14. Dezember 2020
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Kiss
Der Gerichtsschreiber: Stähle