Sachverhalt:
A.
A._ ist Eigentümer der Liegenschaft Hammer in der Gemeinde Cham und Inhaber eines althergebrachten Wassernutzungsrechts im gleichnamigen Wasserkraftwerk an der Unteren Lorze.
Das Kraftwerk Hammer besteht im Wesentlichen aus dem Stauwehr, einem kurzen Oberwasserkanal für die Ableitung des Lorzenwassers und dem Maschinenhaus. Die Restwasserstrecke zwischen dem Stauwehr und der Wasserrückgabe unterhalb des Maschinenhauses weist eine Länge von rund 80 m auf. Seit einem Defekt an der Turbine im Jahr 2010 steht das Kraftwerk still, so dass der gesamte Abfluss der Lorze über die Restwasserstrecke fliesst.
B.
Am 5. Oktober 2015 reichte A._ zwei Baugesuche für die Sanierung des Wasserkraftwerks Hammer ein: Das erste betrifft die Restwassersanierung und die Wiederherstellung der Fischgängigkeit, das zweite den Ersatz von Kraftwerksturbine und Generator sowie die Instandstellung und Automatisierung der Wehranlage. Am 26. Oktober 2015 stellte die Gemeinde Cham in eigener Sache ein Baugesuch für die Sanierung der östlichen Ufermauer in der Restwasserstrecke des Kraftwerks Hammer. Die Gemeinde Cham leitete alle drei Baugesuche zwecks Verfahrenskoordination an die Baudirektion des Kantons Zug weiter.
Das Bundesamt für Umwelt (BAFU) stellte mit Schreiben vom 14. Juli 2015 die Finanzierung der Massnahmen zur Gewährleistung der freien Fischwanderung gemäss Art. 15a bis des Energiegesetzes vom 26. Juni 1998 (aEnG) in Aussicht (heute: Art. 34 des Energiegesetzes vom 30. September 2016 [EnG; SR 730.0]).
C.
Mit Beschluss vom 4. Oktober 2016 wies der Regierungsrat des Kantons Zug eine Einsprache des WWF Schweiz und des WWF Zug bezüglich der Sanierung des Wasserkraftwerks Hammer ab, soweit er darauf eintrat. Gestützt auf Art. 80 des Gewässerschutzgesetzes (GSchG; SR 814.20) legte er die entschädigungslose Restwassermenge des Kraftwerks Hammer auf 400 l/s fest. Davon sollen 200 l/s als Betriebswasser für den Fischabstieg (neuer Bypass) verwendet und die übrigen 200 l/s über die Restwasserstrecke abgegeben werden. Gleichzeitig eröffnete der Regierungsrat folgende Teilentscheide:
a) Ausnahmebewilligung für Bauvorhaben ausserhalb Bauzonen des Amts für Raumplanung vom 16. September 2016;
b) fischereirechtliche Sanierungsverfügung nach Art. 10 des Bundesgesetzes vom 21. Juni 1991 über die Fischerei (BGF; SR 923.0) zur Wiederherstellung der Fischwanderung des Amts für Wald und Wild vom 19. September 2016;
c) fischereirechtliche Bewilligung nach Art. 8-10 BGF des Amts für Wald und Wild vom 19. September 2016;
d) Ausnahmebewilligung für die Unterschreitung Waldabstand der Direktion des Innern vom 20. September 2016;
e) Baubewilligung des Gemeinderats Cham vom 9. September 2016;
f) Baubewilligung des Tiefbauamts vom 3. Oktober 2016 betreffend Ufermauer mit kantonalem Gesamtentscheid.
D.
Gegen die regierungsrätlichen Beschlüsse erhob der WWF Schweiz am 14. November 2016 Beschwerde an das Verwaltungsgericht des Kantons Zug, weil die festgelegte Restwassermenge deutlich zu tief sei und die vorgesehenen Fischwanderhilfen ungenügend seien, insbesondere mit Blick auf die Seeforelle. Das Verwaltungsgericht wies die Beschwerde am 5. Oktober 2017 ab, soweit es darauf eintrat.
E.
Dagegen hat der WWF Schweiz am 20. November 2017 Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht erhoben. Er beantragt, der angefochtene Entscheid sei aufzuheben und die Sache zu neuem Entscheid im Sinne der Beschwerdebegründung an den Regierungsrat des Kantons Zug zurückzuweisen.
F.
A._ (Beschwerdegegner) beantragt, die Beschwerde sei abzuweisen. Der Kanton Zug (vertreten durch die Baudirektion) schliesst ebenfalls auf Beschwerdeabweisung. Die Gemeinde Cham beantragt, sie sei von allfälligen Verfahrens- oder Parteientschädigungskosten zu befreien.
Das Bundesamt für Umwelt (BAFU) ist der Auffassung, das ehehafte Wasserrecht sei durch eine befristete Wasserrechtskonzession abzulösen. Die angeordneten Massnahmen zur Sicherung der freien Fischwanderung hält es für ausreichend.
Im weiteren Schriftenwechsel halten die Beteiligten an ihren Anträgen fest.
G.
Mit Verfügung vom 11. Dezember 2017 wurde der Beschwerde die aufschiebende Wirkung zuerkannt.
Der Beschwerdegegner teilt mit, dass er sich aufgrund der beschwerdebedingten Verfahrensverzögerung entschieden habe, die bestehende Turbine des Wasserkraftwerks Hammer zu reparieren. Diese habe den Betrieb seit 9. Februar 2018 wieder aufgenommen. Er gehe davon aus, dass dies nicht im Widerspruch zur aufschiebenden Wirkung der Beschwerde stehe, weil die alte Turbine nicht Streitgegenstand sei.
H.
Der Beschwerdeführer hat zwischenzeitlich drei weitere Fälle an das Verwaltungsgericht des Kantons Zug weitergezogen, die Wasserkraftwerke mit ehehaften Rechten an der Unteren Lorze betreffen. Zwei der drei Verfahren wurden vom Verwaltungsgericht im Hinblick auf das vorliegende Verfahren sistiert.

Erwägungen:
1.
Gegen den kantonal letztinstanzlichen Endentscheid des Verwaltungsgerichts steht grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht offen (Art. 82 lit. a, 86 Abs. 1 lit. d und 90 BGG). Der Beschwerdeführer ist als gesamtschweizerisch tätige Umwelt- und Naturschutzorganisation nach Art. 12 des Bundesgesetzes vom 1. Juli 1966 über den Natur- und Heimatschutz (NHG; SR 451) zur Beschwerde berechtigt, da der Gewässerschutz und die Sicherung angemessener Restwassermengen eine Bundesaufgabe im Sinne von <ref-law> darstellen (in <ref-ruling> nicht publ. E. 1.2). Auf die rechtzeitig erhobene Beschwerde ist einzutreten.
1.1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann insbesondere die Verletzung von Bundesrecht gerügt werden (<ref-law>). Das Bundesgericht wendet das Bundesrecht (mit Ausnahme der Grundrechte) von Amtes wegen an (<ref-law>). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat, sofern dieser nicht offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (Art. 105 und Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel können nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (<ref-law>).
Vorliegend kann offenbleiben, ob die vom Beschwerdeführer neu vorgebrachten Fakten und Zahlen, insbesondere zu ehehaften Wasserrechten in der Schweiz und zu weiteren Wasserkraftwerken an der Unteren Lorze, zulässige Noven darstellen, da sie nicht entscheiderheblich sind: Streitgegenstand ist einzig die Sanierung des Wasserkraftwerks Hammer. Die vom Beschwerdegegner kritisierten neuen Ausführungen in der Replik stehen im Zusammenhang mit den Ausführungen in den Vernehmlassungen der Baudirektion (zur Sanierungsbedürftigkeit des Geschiebetransports) und des Beschwerdegegners (zur Angemessenheit der verfügten Restwassermenge) und sind daher vom Replikrecht gedeckt, soweit sie überhaupt entscheidrelevant sind.
1.2. Näher zu prüfen ist der Streitgegenstand.
Der Beschwerdeführer verlangt die Aufhebung des verwaltungsgerichtlichen Entscheids und die Rückweisung der Sache an den Regierungsrat zu neuem Entscheid über die Baugesuche. Streitig sind daher die vom Regierungsrat am 4. Oktober 2016 erteilten Bau- und Ausnahmebewilligungen.
Vor Regierungsrat hatte der Beschwerdeführer zudem noch beantragt, die alten ehehaften Nutzungsrechte seien in ein befristetes Konzessionsverhältnis nach heutigem Recht umzuwandeln. Auf diesen Antrag trat der Regierungsrat nicht ein; dies erachtete das Verwaltungsgericht im angefochtenen Entscheid als zulässig, was vom Beschwerdeführer vor Bundesgericht nicht beanstandet wird.
Streitgegenstand sind somit nur die erteilten Bau- und Ausnahmebewilligungen, nicht aber die (auch vom BAFU in seiner Vernehmlassung geltend gemachte) Verpflichtung zur Umwandlung des ehehaften Rechts in eine Konzession. Dies hat allerdings nur zur Folge, dass eine derartige Umwandlung im vorliegenden Verfahren nicht angeordnet werden kann. Dagegen kann geprüft werden, ob eine Konzession Voraussetzung für die Erteilung der angefochtenen Bewilligungen ist. Wäre dies der Fall, könnten (und müssten) diese aufgehoben werden.
2.
<ref-law> legt Mindestrestwassermengen für Wasserentnahmen aus Fliessgewässern mit ständiger Wasserführung fest. Diese werden im Einzelfall, aufgrund einer umfassenden Interessenabwägung, erhöht (<ref-law>); eine Unterschreitung der Mindestrestwassermenge ist nur in Ausnahmefällen zulässig (<ref-law>). Der in den Übergangsbestimmungen enthaltene <ref-law> präzisiert jedoch, dass durch Wasserentnahmen wesentlich beeinträchtigte Fliessgewässer (nur) so weit saniert werden, als dies ohne entschädigungsbegründende Eingriffe in bestehende Wassernutzungsrechte möglich ist (Abs. 1). Weitergehende Sanierungsmassnahmen können gegen Entschädigung aus überwiegenden Interessen, insbesondere zum Schutz von kantonalen oder nationalen Inventarobjekten, angeordnet werden (Abs. 2).
2.1. Diese Regelung wurde mit Rücksicht auf die grossen finanziellen Konsequenzen getroffen, welche die integrale Durchsetzung der Restwasservorschriften bei bestehenden Konzessionen gehabt hätte (Botschaft des Bundesrats vom 29. April 1987 zur Volksinitiative "zur Rettung unserer Gewässer" und zur Revision des GSchG, BBl 1987 II 1061 ff. [nachfolgend Botschaft], S. 1090). Diese verschaffen dem Konzessionär nach Massgabe des Verleihungsaktes ein wohlerworbenes Recht auf die Benutzung des Gewässers; das einmal verliehene Nutzungsrecht kann nur aus Gründen des öffentlichen Wohles und gegen volle Entschädigung zurückgezogen oder geschmälert werden (so Art. 43 des Bundesgesetzes vom 22. Dezember 1916 über die Nutzbarmachung der Wasserkräfte [Wasserrechtsgesetz, WRG; SR 721.80], der die vorbestehende Rechtsprechung kodifiziert hat). Die anzuordnenden Sanierungsmassnahmen finden deshalb (vorbehältlich <ref-law>) bei bestehenden Wasserrechten ihre Grenze dort, wo eine Entschädigungspflicht des Gemeinwesens einsetzen würde (Botschaft S. 1170).
2.2. Aus dieser Zielrichtung des Gesetzes folgern Rechtsprechung und Lehre übereinstimmend, dass nicht jede bestehende Rechtsposition die integrale Anwendung der Restwasservorschriften ausschliesst, sondern nur wohlerworbene Rechte gemeint sind, d.h. Rechte, in deren Substanz auch der Gesetzgeber nur gegen Entschädigung eingreifen darf (vgl. <ref-ruling> E. 2.7.2 S. 34 f.; ENRICO RIVA, Kommentar GSchG/WBG 2016, N. 10 f. zu <ref-law>; MAURUS ECKERT, Rechtliche Aspekte der Sicherung angemessener Restwassermengen, Diss. Zürich 2002, S. 144).
2.3. Vorliegend ist streitig, ob dem Beschwerdeführer ein wohlerworbenes Recht in diesem Sinne zusteht. Wäre dies der Fall, dürfte die Sanierung gemäss <ref-law> nur bis zur Entschädigungsgrenze angeordnet werden; Abs. 2 GSchG kommt vorliegend unstreitig nicht zur Anwendung. Die Entschädigungsgrenze wurde vom Regierungsrat bei einer Restwasserabgabe von 400 l/s angenommen. Dagegen würde die minimale Restwassermenge nach <ref-law> (gemäss Berechnung des Beschwerdeführers) 1'028 l/s betragen.
3.
Mit Verfügung vom 30. Juni 1967 anerkannte der Regierungsrat gegenüber der Rechtsvorgängerin des Beschwerdegegners, der Papierfabrik Cham AG, ein althergebrachtes Recht auf Nutzung der Wasserkraft der Lorze im Kraftwerk Hammer; dieses wurde als Personalservitut im Grundbuch eingetragen. Das Verfügungsdispositiv lautet:
I. Nutzung der Wasserkraft
Der Papierfabrik Cham AG, Cham, als Inhaberin von vier Wasserkraftanlagen an der Lorze in der Gemeinde Cham, steht das Recht zu, das gesamte nutzbare Wasser der Lorze vom See bis zum Einlauf des Kanals des Kraftwerkes Hagendorn in die Lorze bei Rumentikon in vier Stufen, nämlich in der "Obermühle", im "Hammer", in der "Untermühle" und in "Hagendorn" im Rahmen der vorhandenen Anlagen zur Kraftgewinnung zu benützen. Es wird festgestellt, dass es sich um dingliche und daher zeitlich unbefristete Wassernutzungsrechte althergebrachter Natur an der Lorze handelt, die vom Kanton als selbstständige und dauernde Rechte der Papierfabrik Cham AG zu Lasten der Parzellen Nrn. 422, 177, 405, 408 496, 872 und 1003 des Kantons Zug anerkannt werden.
Die Gefällstufen der vier Wasserkraftanlagen sind folgende: (...).
II. Wassernutzung zu Fabrikationszwecken
(...)
(...)
Es wird festgehalten, dass die Papierfabrik Cham AG das Recht zur Vornahme von Umbauten und Neuinstallationen, welche zur Steigerung des Ausnützungsgrades dienen, hat und dass sie befugt ist, die Anlagen und Gebäulichkeiten, welche Gegenstand dieser selbständigen und dauernden Baurechte bilden, jeweils dem neuesten Stand der Technik anzupassen. Jede Änderung bedarf der Bewilligung des Regierungsrats. Der Kanton erteilt die Bewilligungen, sofern keine öffentlichen Interessen verletzt werden.
(...)
3.1. Das Verwaltungsgericht ging davon aus, dieses Wassernutzungsrecht stelle ein ehehaftes Wasserrecht dar. Dieses begründe - wie alle ehehaften Rechte - ein wohlerworbenes Recht, in dessen Substanz nur gegen Entschädigung eingegriffen werden dürfe. Dies habe zur Folge, dass das Wasserkraftwerk Hammer nicht vollständig, sondern nur bis zur Entschädigungsgrenze saniert werden dürfe (<ref-law>).
3.2. Der Beschwerdeführer macht dagegen geltend, der Schutz ehehafter Wasserrechte könne nicht weiter gehen als bei anderen Eigentumsrechten, die vom Gesetzgeber aus Gründen des öffentlichen Interesses in der Regel entschädigungslos modifiziert werden könnten. Hierfür beruft er sich auf ein Rechtsgutachten von MICHAEL BÜTLER und ENRICO RIVA V om 22. März 2017 zur Anwendung des Umweltrechts bei ehehaften Wasserrechten (nachfolgend: Rechtsgutachten BÜTLER/ RIVA). Dieses folgert aus Systematik, Entstehungsgeschichte und Zweck der Restwasservorschriften, dass diese auch auf ehehafte Wasserrechte integral anwendbar seien, und zwar i.d.R. sofort, spätestens aber nach Ablauf der maximalen Konzessionsdauer von 80 Jahren. Ein zeitlich unbefristeter Ausschluss der Restwasservorschriften sei gesetzlich nicht vorgesehen und widerspreche dem Verfassungsauftrag, angemessene Restwassermengen zu sichern (Art. 24bis aBV bzw. <ref-law>).
3.3. Der Beschwerdegegner teilt die Auffassung des Verwaltungsgerichts. Ehehafte Rechte zählten nach ständiger Rechtsprechung und fast einhelliger Lehre zu den wohlerworbenen Rechten, weshalb <ref-law> zur Anwendung komme. Dies sei vom Gesetzgeber im Jahr 2009, bei der Einfügung von <ref-law>, bestätigt worden (AS 2010 4285, 4289), diene diese Bestimmung doch speziell dem Schutz historischer Kleinwasserkraftwerke in Inventargebieten, die in der Regel auf ehehaften Rechten beruhten (vgl. Bericht des Bundesrats vom 27. Oktober 2004, BBl 2004 S. 6634). Die vom Regierungsrat verfügte Restwassermenge von 400 l/s führe zu einer Minderproduktion an hydroelektrischer Energie im Kraftwerk Hammer von 5,4 % und erreiche damit zweifellos die Entschädigungsgrenze.
3.4. Das BAFU betont, dass der Staat nach heutiger Rechtsauffassung Sondernutzungsrechte an öffentlichen Gewässern nicht mehr auf unbefristete Dauer, sondern nur noch befristet, mittels Konzession, erteile. In <ref-ruling> habe das Bundesgericht klargestellt, dass altrechtliche Konzessionen, die noch ohne zeitliche Begrenzung erteilt worden seien, nachträglich zu befristen seien, weil es in höchstem Mass dem öffentlichen Interesse widerspreche, öffentliche Gewässer auf ewige Zeiten ihrem Zweck zu entfremden. Die Kantone behandelten die ehehaften Rechte sehr unterschiedlich. So habe der Kanton Thurgau alle ehehaften Rechte auf 2010 befristet. Andere Kantone versuchten im Einzelfall, mit dem Inhaber des ehehaften Rechts eine Befristung zu vereinbaren. Aus Sicht des öffentlichen Interesses an der Sicherung angemessener Restwassermengen sowie im Hinblick auf die Rechtsgleichheit sei es angezeigt, dass ehehafte Rechte durch zeitgemässe Wasserrechtskonzessionen abgelöst werden.
3.5. Im Folgenden ist zunächst ein Überblick über Rechtsprechung und Literatur zu den wohlerworbenen Rechten im Allgemeinen (E. 4) und zu den ehehaften Rechten im Besonderen (E. 5) zu geben, um anschliessend die vorliegend streitigen Fragen zu prüfen (E. 6). Alsdann ist noch auf die Rügen zur freien Fischwanderung einzugehen (E. 7 und 8).
4.
Ausgangspunkt ist der Rechtsgrundsatz, dass es keinen Anspruch auf Beibehaltung einer einmal geltenden Rechtsordnung gibt (<ref-ruling> E. 8.1 S. 60; Urteil 2C_561/2007 vom 6. November 2008 E. 3, in: ZBl 110/2009 S. 571; RDAF 2010 I S. 328). Unter Umständen können nach Treu und Glauben angemessene Übergangsfristen für neue belastende Regelungen verfassungsrechtlich geboten sein; diese haben jedoch nicht den Zweck, die Betroffenen möglichst lange von der günstigeren bisherigen Regelung profitieren zu lassen, sondern einzig, ihnen eine angemessene Frist einzuräumen, sich an die neue Regelung anzupassen (<ref-ruling> E. 7.6.1 S. 40 f. mit Hinweisen; zu weiteren übergangsrechtlichen Möglichkeiten vgl. ALFRED KÖLZ, Intertemporales Verwaltungsrecht, ZSR 102/1983 II S. 231 ff.).
4.1. Die Eigentumsgarantie (<ref-law>) gewährleistet das Eigentum nur in den Schranken, die ihm im öffentlichen Interesse durch die Rechtsordnung gezogen sind. Nach ständiger Rechtsprechung sind namentlich die Anforderungen des Gewässerschutzes (<ref-law>), des Umweltschutzes (<ref-law>) und der Raumplanung (<ref-law>) zu beachten; diese gewichtigen öffentlichen Interessen sind der Gewährleistung des Eigentums grundsätzlich gleichgestellt (grundlegend <ref-ruling> E. 3c S. 336). Dementsprechend qualifiziert das Bundesgericht etwa Nichteinzonungen (<ref-ruling> E. 2a S. 128 mit Hinweisen) oder Zweitwohnungsbeschränkungen (<ref-ruling> E. 3.2 S. 373) als in der Regel entschädigungslos zulässige Inhaltsbestimmungen des Grundeigentums. Eine Eigentumsbeschränkung, die einer Enteignung gleichkommt und damit eine Entschädigungspflicht wegen materieller Enteignung auslöst (<ref-law>; Art. 5 Abs. 2 RPG), liegt nur ausnahmsweise vor, wenn der Eingriff besonders schwer wiegt oder dem Einzelnen ein unzumutbares Sonderopfer abverlangt wird (ständige Rechtsprechung seit <ref-ruling> E. 3 S. 339).
4.2. Einzig die sogenannten "wohlerworbenen Rechte" weisen eine erhöhte Rechtsbeständigkeit auch gegenüber nachträglichen Gesetzesänderungen auf. Zwar sind auch diese Rechte in ihrem Bestand nicht absolut geschützt, d.h. in sie darf aus überwiegenden Gründen des öffentlichen Interesses, gestützt auf eine gesetzliche Grundlage und unter Wahrung des Verhältnismässigkeitsgrundsatzes, eingegriffen werden. Eingriffe in die "Substanz" des Rechts müssen jedoch nach Rechtsprechung und Lehre entschädigt werden, auch unterhalb der Schwelle der materiellen Enteignung (<ref-ruling> E. 3b S. 145; <ref-ruling> E. 3c S. 178 f.; <ref-ruling> E. 7.1 S. 35, je mit Hinweisen; RIVA, Wohlerworbene Rechte, a.a.O., S. 38 ff. und 51 f.; HÄFELIN/ MÜLLER/UHLMANN, Allgemeines Verwaltungsrecht, 7. Aufl., Rz. 1243 f.). Diese Rechtsauffassung liegt auch <ref-law> zugrunde, wonach das durch Konzession verliehene Wassernutzungsrecht nur aus Gründen des öffentlichen Wohles und gegen volle Entschädigung aufgehoben oder geschmälert werden darf.
4.3. Während wohlerworbene Rechte ursprünglich auf die Eigentumsgarantie gestützt wurden, steht heute der Schutz von Treu und Glauben im Vordergrund: Geschützt wird das Vertrauen des Bürgers in das Verhalten der staatlichen Behörden (grundlegend <ref-ruling> E. 1b S. 167 f.). Es handelt sich um Rechte, die im gegenseitigen Vertrauen zwischen dem Staat und dem Träger des Rechts darauf begründet worden sind, dass die Rechtsbeziehungen auf eine bestimmte Dauer grundsätzlich unverändert bleiben und einen verstärkten Schutz, namentlich vor späteren Eingriffen durch den Gesetzgeber, geniessen sollen (HÄFELIN/MÜLLER/UHLMANN, a.a.O., Rz. 1237; RIVA, Wohlerworbene Rechte, a.a.O., S. 80 ff. und S. 84 ff. mit Hinweisen). Dieser verstärkte Schutz dient namentlich dem Schutz von erheblichen Investitionen, die ansonsten von Privaten nicht getätigt würden (so bei Konzessionen; vgl. <ref-ruling> E. 9.5 S. 513). Andere vermögensrechtliche Ansprüche gegenüber dem Staat werden nur ausnahmsweise, bei qualifizierter Zusicherung, als wohlerworben anerkannt (vgl. <ref-ruling> E. 7.1 und 7.2 S. 35 f. mit Hinweisen zum öffentliche Dienstrecht und zur beruflichen Vorsorge).
4.4. In <ref-ruling> erwog das Bundesgericht erstmals, dass die Qualifikation einer Rechtsposition als wohlerworbenes Recht sich nicht allein aufgrund ihrer Entstehung und unabhängig von der aktuellen Rechtslage beurteile, sondern das (typisierte) Ergebnis einer Interessenabwägung sei, welche den aufgrund einer früheren Rechtsordnung eingeräumten privaten Rechten den Vorrang vor der Durchsetzung der mit einer Rechtsänderung verfolgten öffentlichen Interessen einräume (E. 5a S. 75 f. mit Verweis auf KATHRIN KLETT, Verfassungsrechtlicher Schutz "wohlerworbener Rechte" bei Rechtsänderungen, Diss. Bern 1984, S. 224 ff., 233).
Der damalige Entscheid betraf die nachträgliche Befristung altrechtlich unbefristet erteilter Wasserrechtskonzessionen. Das Bundesgericht verneinte damals ein wohlerworbenes Recht auf zeitlich unbeschränkte Sondernutzung öffentlicher Gewässer (<ref-ruling> E. 5a und b S. 76 f.) : Zwar gehöre die vereinbarte Konzessionsdauer grundsätzlich zur Substanz des wohlerworbenen Rechts, weil der Konzessionär ein Werk mit beträchtlichen Investitionen erstelle, dessen Rentabilität nur kalkuliert werden könne, wenn Sicherheit über die finanziellen Lasten aus der Konzession und über die Konzessionsdauer bestehe. Das Gemeinwesen dürfe daher das Leistungsverhältnis nicht nachträglich zu seinen Gunsten verändern, insbesondere durch Kürzung der Konzessionsdauer. Allerdings seien Wasserrechtskonzessionen nach heutigem Recht zwingend zu befristen (Art. 54 lit. e und Art. 58 WRG); das Parlament sei davon ausgegangen, dass eine Konzessionsdauer von 80 Jahren selbst für ganz grosse Unternehmungen mit kostspieligen Anlagen für eine zweckmässige Amortisation ausreiche. Es widerspreche in höchstem Masse dem öffentlichen Interesse, Sondernutzungskonzessionen auf unbeschränkte Dauer zu erteilen und das öffentliche Gewässer auf ewige Zeiten seinem Zweck zu entfremden. Das liefe darauf hinaus, dass sich das Gemeinwesen der Gewässerhoheit entäussere. Auch zivilrechtlich sei es ausgeschlossen, obligatorische Verträge auf "ewige" Zeiten abzuschliessen und aufrechtzuerhalten. Es handle sich dabei um einen Grundsatz, der um der öffentlichen Ordnung und Sittlichkeit Willen Geltung habe (<ref-law>) und auch im öffentlichen Recht als massgeblich erachtet werde. Altrechtliche Konzessionen, die noch ohne zeitliche Begrenzung erteilt wurden, seien daher nachträglich zu befristen und könnten unter Gewährung einer angemessenen Übergangsfrist entschädigungslos aufgelöst werden (E. 6 S. 78).
4.5. In <ref-ruling> E. 6.1 - 6.4 S. 372 ff. erachtete das Bundesgericht schliesslich eine entschädigungslose Herabsetzung einer Zusatzrente der weitergehenden Vorsorge um einen Drittel als zulässig, obgleich diese dem Versicherten in Bestand und Höhe qualifiziert zugesichert worden war und damit als wohlerworbenes Recht gelte (E. 2.3 S. 369). Das Gericht führte aus, auch wohlerworbene Rechte seien nicht absolut geschützt. Die einseitige (entschädigungslose) Reglementsänderung rechtfertige sich aufgrund der ausserordentlichen Gefährdung des finanziellen Gleichgewichts der Vorsorgeeinrichtung auf sehr lange Sicht, was zu einem bedeutenden Teil auf ein strukturelles Defizit zurückzuführen sei. Es handle sich um einen grundlegenden und unverzichtbaren Sanierungsbeitrag, der den Prinzipien der Verhältnismässigkeit, der Subsidiarität und der Gleichbehandlung der Destinatäre entspreche.
5.
Als ehehafte Rechte (" droits immémoriaux ") werden Rechte bezeichnet, die ihren Ursprung in einer Rechtsordnung haben, die nicht mehr besteht. Sie können nach neuem Recht nicht mehr begründet werden, aber unter der neuen Rechtsordnung weiterbestehen (vgl. <ref-ruling> E. 4b S. 74; <ref-ruling> E. 5.1.2 S. 324 f.; je mit Hinweisen). In der Regel handelt es sich um Rechte, die vormals dem Privatrecht zugewiesen wurden, heute aber zum öffentlichen Recht gehören, ohne sich indessen reibungslos in dieses einzuordnen (KASPAR SUTTER/MARKUS MÜLLER, Historische Rechtspositionen - Fortwirkung oder Untergang? Überlegungen am Beispiel der staatlichen Pfarrerbesoldung im Kanton Bern, ZBl 2013 S. 47 5).
5.1. Ehehafte Rechte werden in Rechtsprechung und Lehre traditionell als eine spezielle Kategorie der wohlerworbenen Rechte betrachtet (vgl. z.B. <ref-ruling> E. 2 S. 37 zu ehehaften Weiderechten; Urteile 2P.256/2002 vom 24. März 2003 E. 3 und 1A.320/2000 vom 20. September 2001 E. 3a/cc, in: SJ 2002 I S. 91; URP 2001 S. 1053; RDAF 2002 I S. 363 zu ehehaften Wasserrechten; je mit Hinweisen; PETER LIVER, Die ehehaften Wasserrechte in der Schweiz, FS Paul Gieseke, 1958, S. 225 ff, insbes. S. 231; DOMINIK STRUB, Wohlerworbene Rechte, insbesondere im Bereich des Elektrizitätsrechts, Diss. Freiburg 2001, S. 204; HÄFELIN/MÜLLER/UHLMANN, a.a.O., N. 1240 S. 267; so auch noch ENRICO RIVA, Wohlerworbene Rechte - Eigentum - Vertrauen, Bern 2007, S. 153; DERSELBE in: GSchG/WBG Kommentar, N. 3 und N. 12 vor Art. 80-83 GSchG sowie N. 9 ff. zu <ref-law>).
ALFRED KÖLZ (Das wohlerworbene Recht - immer noch aktuelles Grundrecht?, in: SJZ 74/1978 S. 65) bezeichnet sie als "Zeugen unbewältigter juristischer Vergangenheit", weil man sich bei der Schaffung neuen Rechts gescheut habe, alte subjektive Rechtspositionen abzuschaffen. Sie hätten die Bezeichnung "wohlerworbene Rechte" erhalten und stünden seither sozusagen als erratische Blöcke im öffentlichen Recht (ähnlich KLETT, a.a.O., S. 94).
5.2. WERNER DUBACH (Die wohlerworbenen Rechte im Wasserrecht, November 1979, publ. in: Mitteilung Nr. 1 des Bundesamts für Wasserwirtschaft, Bern 1980, S. 53 und 59 f.) kam dagegen in einem Rechtsgutachten zuhanden des Bundesamts für Wasserwirtschaft zum Ergebnis, dass ehehafte Wasserrechte zwar durch die Eigentumsgarantie geschützt seien, nicht aber den darüber hinausgehenden Schutz von wohlerworbenen Rechten genössen, weil sie - anders als die konzessionierten Wassernutzungsrechte - nicht auf einem besonderen Vertrauensverhältnis zum Staat beruhten (a.a.O., S. 63 f. und S. 128). Dies bedeute, dass ehehafte Rechte, wie alle Privatrechte, durch den Gesetzgeber modifiziert werden könnten (S. 65), insbesondere auch zur Sicherung angemessener Restwassermengen (S. 126 ff.). Eine enteignungsähnliche und damit entschädigungspflichtige Massnahme liege erst vor, wenn die bestehende Nutzung untersagt, verunmöglicht oder in besonders gewichtiger Weise erschwert werde (S. 127 f.), d.h. wenn nach den allgemeinen Grundsätzen eine materielle Enteignung vorliege. Ihre Aufhebung sei dagegen als formelle Enteignung nur gegen volle Entschädigung zulässig (S. 64).
PIERRE MOOR/ETIENNE POLTIER (Droit administratif Bd. II, 3. Aufl., S. 25) führen den Schutz vertraglicher und vertragsähnlicher Rechte gegenüber dem Gesetzgeber auf den Grundsatz " pacta sunt servanda" zurück und halten die Rechtsfigur des wohlerworbenen Rechts für entbehrlich. Ihres Erachtens geniessen ehehafte Rechte denselben Status wie jedes andere private vermögenswerte Recht, d.h. sie unterliegen dem Schutz der Eigentumsgarantie (so auch MOOR/BELLANGER/ TANQUEREL, Droit administratif, Bd. III, 2. Aufl., S. 663/664).
5.3. Das Rechtsgutachten BÜTLER/RIVA (S. 42 ff.) folgt grundsätzlich der Konzeption von DUBACH: Die Privilegierung der ehehaften Rechte gegenüber anderen der Eigentumsgarantie unterstehenden privaten Rechten finde weder in Verfassung noch Gesetz eine Grundlage; sie könne sich mangels Vertrauensgrundlage auch nicht auf <ref-law> stützen. Die postulierte Gesetzesbeständigkeit solcher Rechte sei mit dem Grundsatz "lex posterior derogat legi priori" unvereinbar. Die Autoren sind daher der Auffassung, dass auch ehehafte Rechte dem normalen Restwasserregime nach <ref-law> unterliegen (S. 45 ff.). Wollte man sie dennoch als wohlerworbene Rechte qualifizieren, müssten sie jedenfalls - wie altrechtliche Wasserrechtskonzessionen (<ref-ruling> E. 5b und c S. 76 ff.) - nach einer Dauer von maximal 80 Jahren an das geltende Recht angepasst werden (S. 51).
5.4. SUTTER/MÜLLER bezeichnen historische Rechtspositionen als "terra incognita" in der Rechtsdogmatik (a.a.O., ZBl. 2013 S. 472). Diese müssten - wie alles staatliche Recht - ihre Grundlage in der geltenden Verfassung finden (S. 473 f.), und ihre Beständigkeit könne nicht grösser sein als die ihnen zugrunde liegenden Verfassungsgarantien, insbesondere das Prinzip des Vertrauensschutzes, die Eigentumsgarantie und das Verhältnismässigkeitsprinzip (S. 477). Ob und wenn ja, unter welchen Voraussetzungen in wohlerworbene historische Rechte eingegriffen werden könne, beurteile sich daher in einer einzelfallbezogenen Interessenabwägung, unter Berücksichtigung der jeweils betroffenen verfassungsmässigen Rechte und der allgemeinen Prinzipien der Haftung bei rechtmässiger Staats- bzw. Legislativtätigkeit (a.a.O. S. 478 f.). Dabei sei insbesondere der Zweck des staatlichen Eingriffs zu berücksichtigen: Verfolge dieser überwiegend (eigene) fiskalische Staatsinteressen, dürfte er nur unter restriktiven Bedingungen und i.d.R. nach vorgängiger Entschädigung zulässig sein. Hingegen führten im allgemeinen öffentlichen Interesse liegende regulatorische Verkürzungen nur ausnahmsweise zu einer Entschädigungspflicht, etwa dann, wenn ein Eingriff besonders schwer wiege oder ein Sonderopfer vorliege. Bei vertraglichen bzw. vertragsähnlichen Rechtsverhältnissen sei überdies der Grundsatz der Unveräusserlichkeit der öffentlichen Gewalt zu berücksichtigen, der einer vertraglichen Bindung des Staates auf ewige Zeiten entgegenstehe (a.a.O. S. 480). Wohlerworbene Ansprüche seien daher - wie sämtliches Recht - jedenfalls unter Beachtung einer angemessenen Frist ablösbar (a.a.O. S. 489).
6.
Streitig ist vorliegend das Recht des Beschwerdegegners zur Nutzung des Lorzewassers auf der Stufe "Hammer".
6.1. In der Verfügung von 1967 hielt der Regierungsrat fest, dass die Nutzbarmachung der Wasserkraft im Kanton Zug ursprünglich den Uferanstössern zugestanden habe. § 86 Abs. 1 des Zuger Einführungsgesetzes zum ZGB vom 17. August 1911 (EG ZGB; BGS 211.1) habe verschiedene Gewässer, darunter die Lorze, für öffentlich erklärt; mit dem Zuger Gesetz betreffend die Nutzbarmachung der Wasserkräfte vom 16. Februar 1922 sei die Wasserkraftnutzung dem Staat zugesprochen und dafür eine Konzessionspflicht eingeführt worden. Die Papierfabrik Cham AG habe die Wasserkraft der Lorze damals in vier Stufen tatsächlich ausgenützt. Es habe sich nicht um eine Beleihung gehandelt, sondern um Privatrechte an der Lorze, deren Begründung nach der früheren Rechtsordnung durch Besitzergreifung an der Wasserkraft, verbunden mit einer behördlichen Erlaubnis (Polizeibewilligung), möglich gewesen sei. Mit der Ausnützung der Wasserkraft seitens des Uferanstössers sei ein dingliches Recht am öffentlichen Gewässer entstanden, das unter dem Schutz der Eigentums garantie stehe.
6.2. Schon nach ihrem Wortlaut begründete diese Verfügung kein neues, wohlerworbenes Recht, sondern anerkannte ein vorbestehendes Recht im bisherigen Umfang. Dies entsprach dem damals geltenden Recht, das die Begründung von Wassernutzungsrechten nur noch in Form einer (befristeten) staatlichen Konzession zuliess.
Rechtsgrund ist somit nicht die Anerkennung (verbunden mit dem Eintrag im Grundbuch). Vielmehr handelt es sich um eine ehemals mit dem Eigentum am Ufergrundstück zusammenhängende Nutzungsbefugnis, die einseitig, durch Okkupation, ausgeübt wurde. Diese Nutzungsbefugnis wurde 1922 zugunsten der neu eingeführten staatlichen Wasserrechtsverleihung beseitigt (vgl. dazu BGE 48 I 580 E. 2 S. 597 ff.). Ausgenommen wurden jedoch Fälle, in denen von der Befugnis bereits tatsächlich, durch Erstellung und Gebrauch von Wasserwerken, Gebrauch gemacht worden war: Diese bereits ausgeübten Rechte wurden weiter anerkannt (vgl. BGE 48 I 580 E. 2 S. 601 ff.) und als wohlerworbene ehehafte Wasserrechte eingestuft (vgl. LIVER, a.a.O., S. 230).
6.3. Formell handelt es sich bei dieser Nutzungsberechtigung nicht um eine Konzession (obgleich anscheinend der historische Gesetzgeber davon ausging, zumal er in § 16 des Zuger Gesetzes vom 16. Februar 1922 eine Spezialvorschrift über den Widerruf von "bestehenden Wasserrechtskonzessionen" vorsah; vgl. dazu BGE 48 I 580 E. 2 S. 603). Vielmehr wurde das Recht in Form eines beschränkten dinglichen Rechts (Personalservitut) an einem (heute öffentlichen) Gewässer anerkannt. Inhaltlich handelt es sich gleichwohl um ein Sondernutzungsrecht an einem öffentlichen Gewässer; dessen Schutz rechtfertigt sich (wie bei den Konzessionen) mit Blick auf die getätigten Investitionen (Errichtung von Wasserwerken). Die Interessenlage ist damit gleich zu beurteilen wie bei den altrechtlichen, unbefristet erteilten Konzessionen; ein darüber hinausgehender Schutz ehehafter Wasserrechte lässt sich verfassungsrechtlich, unter dem Blickwinkel der Eigentumsgarantie und des Vertrauensschutzes, nicht rechtfertigen.
6.4. Sondernutzungskonzessionen ohne zeitliche Begrenzung werden heute als verfassungswidrig erachtet, weil das Gemeinwesen die Möglichkeit haben muss, sich von Zeit zu Zeit zu vergewissern, ob die Nutzung mit dem öffentlichen Interesse noch im Einklang steht (PETER KARLEN, Schweizerisches Verwaltungsrecht, Zürich 2018, S. 365), ansonsten es sich seiner Gewässerhoheit entäussern würde.
Der Investitionsschutz rechtfertigt die Aufrechterhaltung überkommener Rechte nur bis zur Amortisation der getätigten Investitionen, längstens aber für eine Dauer von 80 Jahren (vgl. <ref-ruling> E. 5b S. 76 f.). Altrechtliche Konzessionen, die noch ohne zeitliche Begrenzung erteilt wurden, sind daher nachträglich zu befristen und können unter Gewährung einer angemessenen Übergangsfrist entschädigungslos aufgelöst werden (<ref-ruling> E. 6 S. 78).
6.5. Entsprechendes gilt für die ehehaften Wasserrechte: Auch diese sind nach 80 Jahren den heute geltenden Vorschriften zu unterstellen, und zwar grundsätzlich entschädigungslos. Die ehehaften Rechte (z.B. Personalservituten) sind daher abzulösen (u.U. mit einer gewissen Übergangsfrist). Will der Berechtigte die Wassernutzung weiterführen, bedarf er hierfür einer Konzession nach heutigem Recht, zu den geltenden Konzessionsbedingungen, und muss alle für Neuanlagen geltenden Vorschriften des Umwelt- und Gewässerschutzrechts einhalten, insbesondere die Restwasservorschriften.
Diese Anpassung an das heutige Recht muss bei erster Gelegenheit erfolgen und ist jedenfalls Voraussetzung für die Erneuerung der Wasserkraftanlagen. Bau- und Ausnahmebewilligungen dürfen daher erst erteilt werden, wenn eine Konzession erteilt worden ist.
Da es vorliegend an dieser Voraussetzung fehlt, ist die Beschwerde schon aus diesem Grund gutzuheissen und der angefochtene Entscheid aufzuheben. Die Sache ist an den Regierungsrat zurückzuweisen, um das weitere Vorgehen in den hängigen Baugesuchsverfahren zu prüfen.
6.6. Reparatur und Wiederinbetriebnahme der alten Turbine sind nicht Gegenstand des vorliegenden Verfahrens (vgl. vorne E. 1.2). Auch diese Nutzung der Wasserkraft muss jedoch - sofern sie aufrechterhalten werden soll - den aktuellen gesetzlichen Anforderungen entsprechen. Diesen kann sich der Beschwerdegegner nicht durch Rückzug des Baugesuchs entziehen.
7.
Aus prozessökonomischen Gründen rechtfertigt es sich, die Rügen in Bezug auf die Fischgängigkeit zu prüfen.
7.1. Der Beschwerdeführer ist der Auffassung, die angeordneten Auf- und Abstiegshilfen, insbesondere der vorgesehene Multifunktions-Schlitzpass, seien ungenügend dimensioniert, weil sie nur auf die heute in der Unteren Lorze vorkommenden Fische ausgelegt seien, nicht aber auf die grössere Seeforelle. Nach <ref-law>, Art. 9 f. BGF und <ref-law> sei eine freie und verletzungsfreie Fischwanderung für alle potentiell vorkommenden Arten zu gewährleisten. Dazu gehöre auch die Seeforelle: Diese komme im Zugersee vor und werde demnächst, nach der Sanierung der Anlagen des Kraftwerks Obermühle, wieder in die Untere Lorze absteigen können. Unterhalb des Kraftwerks Hammer bestünden optimale Laichgründe, und auch andernorts könnten durch Aufwertungsmassnahmen wieder gute Laichhabitate für die Seeforelle geschaffen werden, z.B. durch Kiesschüttungen in Verbindung mit künstlichen Hochwasserabflüssen. Der Beschwerdeführer beruft sich hierfür auf den Expertenbericht "Fischwerk" von Werner Dönni vom 6. März 2017 sowie auf Erfahrungen im Kanton Zürich bei der Aufwertung der Limmat. Aufgrund des Gefährdungsstatus der Seeforelle und der wichtigen Vernetzungsfunktion der Unteren Lorze zwischen Reuss und Zugersee müssten die vom Beschwerdeführer vorgeschlagenen Massnahmen, ihre Kosten und ihre Verhältnismässigkeit zumindest vertieft geprüft werden. Dies sei bisher nicht geschehen.
7.2. Das Verwaltungsgericht hielt - ebenfalls gestützt auf das Gutachten "Fischwerk" - fest, dass insbesondere das Substrat der Flusssohle zwischen den Kraftwerken Hammer und Frauenthal für Seeforellen, die ihre Eier im Kies vergraben, zum Laichen wenig geeignet sei; nur im Abschnitt Imperweid-Wannhäusern gebe es optimale und im Abschnitt Maschwanden geeignete Laichhabitate. Das Gutachten erwähne zwar mögliche Aufwertungsmassnahmen, relativiere jedoch deren Wirkung: So werde ausgeführt, dass die innere Kolmation (d.h. die "Verbackung" der Flusssohle durch Feinsediment, mineralische Ablagerungen und das Aufkommen der Wandermuschel) auch mit strömungslenkenden Massnahmen (z.B. höheren Fliessgeschwindigkeiten) im Bereich der Kraftwerke kaum verhindert bzw. aufgebrochen werden könne. Das Verwaltungsgericht betonte, dass die Untere Lorze als Seeausfluss bereits aufgrund der natürlichen Gegebenheiten ein stark gedämpftes Abflussregime habe und kaum Geschiebetransport aufweise. Massnahmen wie das Einbringen von Kies oder die maschinelle Lockerung der Sohle würden daher nur kurzfristig Abhilfe schaffen und seien deshalb unverhältnismässig. Gleiches gelte für die vom Beschwerdeführer vorgeschlagene Simulation von künstlichen Hochwasserereignissen, weil aufgrund der vorgelagerten Geschiebesenke (See) das mobilisierbare Geschiebe fehle. Das Potenzial der Unteren Lorze für die Naturverlaichung von Seeforellen müsse somit als gering beurteilt werden.
7.3. Der Beschwerdegegner teilt die Auffassung des Verwaltungsgerichts. Im Übrigen ist er der Auffassung, dass der Multifunktions-Schlitzpass auch für die Seeforelle ausreichend dimensioniert sei.
7.4. Die Baudirektion äussert sich detailliert zur Situation an der Limmat. Dort seien Kiesschüttungen vorgenommen worden, die bei Hochwasserabflüssen aus dem Zürichsee abgetragen und flussabwärts transportiert würden, wo neue Laichplätze für Fische entstünden. Es handle sich um Massnahmen zur Wiederherstellung des Geschiebehaushalts nach <ref-law>, deren Kosten gemäss Art. 34 EnG grundsätzlich abgegolten würden. Diese Sanierung sei aufgrund der umfangreichen Kiesentnahmen aus der Limmat, insbesondere im Zusammenhang mit dem Bau der Durchmesserlinie, notwendig geworden. An der Unteren Lorze bestünden dagegen keine Anlagen, die zu einer wesentlichen Beeinträchtigung des Geschiebetransports führten. Im Übrigen sei die Eignung der Unteren Lorze für die Forellenreproduktion auch aufgrund der Wassertemperatur fraglich: Die Seeforelle laiche bei Temperaturen zwischen 1° und 9°; zur Laichzeit (meist Mitte November) betrage die durchschnittliche Wassertemperatur an der Unteren Lorze in den vergangenen drei Jahren im Mittel 11.5°. Mit dem Klimawandel dürfte sich dies noch verschärfen.
7.5. Der Beschwerdeführer hält der Baudirektion in seiner Replik entgegen, dass auch an der Unteren Lorze eine wesentliche Beeinträchtigung des Geschiebebetriebs i.S.v. Art. <ref-law> und Art. 42a GSchV vorliege, weil die morphologischen Strukturen und die Dynamik des Gewässers durch die vorhandene Kanalisierung und Begradigung der Unteren Lorze beeinträchtigt worden seien; insbesondere sei die Seitenerosion vollständig unterbunden und der wichtige Eintrag von Sohlenmaterial könne nicht mehr stattfinden. Es seien daher geeignete Massnahmen zur Behebung dieses Missstands zu treffen. Der Kanton sei auch nach <ref-law>, <ref-law> und Art. 8 der Auenverordnung vom 28. Oktober 1992 (AuenV; SR 451.31) - in Frauenthal befinde sich eine Aue von nationaler Bedeutung - verpflichtet, das Gewässer zu revitalisieren und Beeinträchtigungen der natürlichen Dynamik des Gewässer- und Geschiebehaushalts zu beseitigen. Der hohen Wassertemperatur könne mit einer Uferbepflanzung wirksam entgegengetreten werden.
7.6. Das BAFU bestätigt, dass es sich bei der Unteren Lorze um ein artenreiches, aus nationaler Sicht ökologisch bedeutendes Gewässer handelt, insbesondere aufgrund seiner Lage zwischen Reuss und Zugersee und der damit verbundenen Funktion als Wanderkorridor. Gemäss der strategischen Planung für die Sanierung der Wasserkraft des Kantons Zug sei sie prioritär zu sanieren.
Als potenziell vorkommende Fischarten i.S.v. <ref-law> seien jedoch nur solche zu berücksichtigen, bei denen ein realistisches Potenzial bestehe, dass sie mittel- bis längerfristig in das entsprechende Gewässer zurückkehren. Gemäss Expertenbericht "Fischwerk" seien grosse Teile der Unteren Lorze im Bereich Zugersee bis Kraftwerk Frauenthal nicht als Potenzialabschnitt geeignet, vor allem aufgrund der Verfestigung des Sohlenmaterials. Mit beträchtlicher Wahrscheinlichkeit bestehe auch unterhalb des Kraftwerks Frauenthal bis Rüssspitz nur eine dünne Deckschicht, unter der die darunterliegenden Kiesschichten verfestigt seien (innere Kolmation). Selbst wenn dieser 3,5 km lange Abschnitt gute Bedingungen aufweisen würde, reiche diese Strecke für eine Ansiedlung der Seeforelle in der Unteren Lorze nicht aus. Vielmehr müssten auf den übrigen Strecken Revitalisierungsmassnahmen realisiert und die Verfestigung des Bodensubstrats aufgebrochen werden. Ob sich in der Folge tatsächlich eine Population von Seeforellen etablieren und wie lange dieser Prozess dauern würde, sei nur schwer abzuschätzen. Schliesslich sei zu berücksichtigen, dass die Untere Lorze hohe Wassertemperaturen aufweise, da das Wasser aus einem Oberflächengewässer abfliesse. Die entsprechenden Temperaturen seien für die Wiederansiedlung der Seeforelle nicht sehr günstig.
Das BAFU kommt daher zum Schluss, das Potenzial der Unteren Lorze als Lebensraum für die Seeforelle sei als gering einzustufen. Entsprechend seien die zur Sicherstellung der freien Fischwanderung geplanten Massnahmen nach <ref-law> hinreichend und müsse nicht auch die Durchgängigkeit für die Seeforelle sichergestellt werden.
8.
Zunächst ist festzuhalten, dass sich das Verwaltungsgericht mit dem vom Beschwerdeführer eingereichten Gutachten "Fischwerk" auseinandergesetzt und die darin vorgeschlagenen Aufwertungsmassnahmen geprüft hat, wenn auch nicht im Detail und ohne Kostenschätzung. Es hielt die Massnahmen nicht wegen der Kosten für unverhältnismässig, sondern weil sie angesichts des geringen Geschiebepotenzials der Unteren Lorze als zu wenig erfolgversprechend erschienen. In der Tat bestätigt auch das Gutachten "Fischwerk" (S. 12), dass die Behebung der Kolmation schwierig sei, wenn keine Ursachenbekämpfung möglich sei. Vorliegend ist jedoch vom längerfristigen Bestand der Gewässerverbauungen auszugehen - auch mit Blick auf das ISOS, das die Bewahrung der alten Gewerbebauten und Kanalanlagen am Lorzenlauf vom See bis zum Hammergut empfiehlt (vgl. ISOS, Kanton Zug, 2002, Gemeinde Cham, S. 137).
Das BAFU bestätigt, dass die Untere Lorze gegenwärtig keine günstigen Voraussetzungen für das Laichen der Seeforelle bietet und deshalb - auch bei einer Behebung der Hindernisse für die Fischwanderung - nicht mit einem Abstieg der Seeforelle zu rechnen sei. Das Bundesgericht hat keinen Grund, von der Einschätzung des Bundesamts abzuweichen, das als Fachstelle des Bundes für den Gewässerschutz und die Fischerei über besondere Fach- und Sachkunde verfügt.
Ob durch Aufwertungsmassnahmen, insbesondere zur Behebung der inneren und äusseren Kolmation, mittel- oder langfristig ein Habitat für die Seeforelle geschaffen werden kann, erscheint ungewiss. Voraussetzung dafür wäre jedenfalls eine Sanierung des Geschiebehaushalts der Unteren Lorze. Ob eine derartige Sanierung geboten ist (nach <ref-law> oder gemäss Art. 8 AuenV), ist im vorliegenden Verfahren, in dem es nur um eine kurze Restwasserstrecke ausserhalb eines Schutzgebiets geht, nicht zu entscheiden. Die nötigen Entscheidgrundlagen dafür liegen nicht vor, insbesondere beruht das Gutachten "Fischwerk", auf das sich alle Beteiligten stützen, lediglich auf einer Begehung ohne weitergehende Abklärungen.
Diese Frage könnte sich dagegen im hängigen Verfahren betreffend das Wasserkraftwerk Frauenthal stellen, das eine Aue von nationaler Bedeutung (Nr. 97 Anh. 1 AuenV) und weitere Inventargebiete berührt. Sollten in jenem Verfahren Massnahmen zur Aufwertung der Unteren Lorze beschlossen werden, die das Potenzial für die Seeforelle wesentlich verbessern würde, müssten auch die Fischwanderhilfen beim Kraftwerk Hammer auf diese Fischart ausgerichtet werden. Insofern empfiehlt sich eine Koordination beider Verfahren.
Sollte eine umfassende Sanierung des Geschiebebetriebs der Unteren Lorze erst zu einem späteren Zeitpunkt beschlossen werden, müssten im Rahmen jenes Verfahrens auch die Fischwanderhilfen beim Kraftwerk Hammer überprüft werden.
9.
Nach dem Gesagten ist die Beschwerde gutzuheissen. Der angefochtene Entscheid des Verwaltungsgerichts ist aufzuheben und die Sache im Sinne der Erwägungen an den Regierungsrat zurückzuweisen.
Bei diesem Ausgang des Verfahrens wird der Beschwerdegegner kosten- und entschädigungspflichtig (Art. 66 und 68 BGG). Das Verwaltungsgericht wird die Kosten und Entschädigungen des kantonalen Verfahrens neu verlegen müssen.

Demnach erkennt das Bundesgericht:
1.
In Gutheissung der Beschwerde wird das Urteil des Verwaltungsgerichts Zug, verwaltungsrechtliche Kammer, vom 5. Oktober 2017 aufgehoben. Die Sache wird an den Regierungsrat Zug zurückgewiesen.
2.
Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdegegner auferlegt.
3.
Der Beschwerdegegner hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 6'000.-- zu entschädigen.
4.
Das Verwaltungsgericht hat über die Kosten- und Entschädigungsfolgen des vorinstanzlichen Verfahrens neu zu befinden.
5.
Dieses Urteil wird den Parteien, dem Gemeinderat Cham, dem Regierungsrat und dem Verwaltungsgericht des Kantons Zug, Verwaltungsrechtliche Kammer, sowie dem Bundesamt für Umwelt schriftlich mitgeteilt.
Lausanne, 29. März 2019
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Chaix
Die Gerichtsschreiberin: Gerber