Erhöhung des Wasserzinses, hat sich ergeben:
A.- Am 16. März 1926 hat der Bundesrat der Buss, Aktiengesellschaft in Basel, und den Lonza-Werken G.m.b.H.
in Waldshut zuhanden einer noch zu gründenden Aktiengesellschaft die Konzession zur Errichtung einer Wasserkraftanlage am Rhein bei Rekingen erteilt. Mit Art. 17 Abs. 1 der Konzession wurde die vom Unternehmer nutzbar gemachte Wasserkraft des Rheins derart verteilt, dass je die Hälfte auf das schweizerische und auf das badische Staatsgebiet entfällt.
Gemäss Art. 17 Abs. 2 der Konzession beträgt der Anteil des Kantons Zürich an der schweizerischen Hälfte 37,5 Prozent, derjenige des Kantons Aargau 62,5 Prozent. Nach Art. 19 der Konzession hat der Unternehmer den Kantonen Zürich und Aargau eine einmalige Gebühr und einen jährlichen Wasserzins nach der jeweiligen schweizerischen Gesetzgebung zu leisten.
Diese Hauptverleihung erweiterte der Bundesrat am 28. April 1938 und am 9. Oktober 1956 durch Zusatzverleihungen.
In Art. 1 der Zusatzverleihung von 1956 wurde dem Kraftwerkunternehmen das Recht erteilt, die mit der Zusatzverleihung vom 28. April 1938 von 425 auf 510 m3/s angepasste Nutzwassermenge weiter auf 560 m3/s zu erhöhen und in den bestehenden Anlagen zu nutzen. Art. 5 der Zusatzverleihung legt fest, dass der Anteil des Kantons Zürich an der schweizerischen Hälfte der Wasserkraft neu 34,4 Prozent beträgt, derjenige des Kantons Aargau 65,6 Prozent. Gemäss Art. 7 dieser Zusatzverleihung hat das Kraftwerkunternehmen für den schweizerischen Anteil an der gewonnenen Mehrleistung den Kantonen Zürich und Aargau die einmalige Verleihungsgebühr und den jährlichen Wasserzins nach den kantonalen Vorschriften zu entrichten. In Art. 8 wird festgehalten, dass die neue Verleihung mit den Verleihungen vom 16. März 1926 und 28. April 1938 eine untrennbare Einheit bildet und dass die Bestimmungen der vorgenannten Verleihungen in Kraft bleiben, soweit sie nicht mit denjenigen der vorliegenden Verleihung im Widerspruch stehen.
B.- Mit der am 1. Mai 1997 in Kraft getretenen Änderung des Bundesgesetzes vom 22. Dezember 1916 über die Nutzbarmachung der Wasserkräfte (Wasserrechtsgesetz, WRG; SR 721. 80) wurde der bundesrechtliche Höchstansatz für den Wasserzins bei Anlagen ab zwei Megawatt Bruttoleistung von Fr. 54.-- auf Fr. 80.-- pro Kilowatt Bruttoleistung (BkW) erhöht (<ref-law>).
Mit Schreiben vom 2. Dezember 1997 teilte das Amt für Gewässerschutz und Wasserbau des Kantons Zürich (heute:
Amt für Abfall, Wasser, Energie und Luft; AWEL) der Kraftwerk Reckingen AG mit, der Wasserzins für den schweizerischen Wasserkraftanteil werde aufgrund dieser Revision des Wasserrechtsgesetzes auf Fr. 80.-- pro Bruttokilowattstunde und damit für den zürcherischen Anteil auf Fr. 453'824.-- jährlich erhöht; da die Gesetzesänderung auf den 1. Mai 1997 in Kraft gesetzt worden sei, habe die Konzessionärin für 1997 eine Restzahlung von Fr. 98'328. 50 zu leisten. Die Kraftwerk Reckingen AG wandte sich hierauf mit Schreiben vom 12. Dezember 1997 an das Bundesamt für Wasserwirtschaft; eine Kopie des Schreibens übermittelte sie dem zürcherischen Amt für Gewässerschutz und Wasserbau mit der Bitte, dieses als Einsprache gegen die "Wasserzinsfestsetzung" vom 2. Dezember 1997 zu behandeln. Sie machte unter anderem geltend, es gehe nicht an, dass die Wasserkraft als regenerative Energie dermassen mit Abgaben belastet werde, dass Industrien wegen der zu teuren Elektrizität auf fossile Energieträger wie Gas, Öl etc. umstellten und zum Teil so den Strom umweltbelastend erzeugten. Sie kritisierte ferner, die Erhöhung des Wasserzinses bewirke, dass wesentlich weniger in das Kraftwerk investiert werden könne; die seit langem andauernde einseitige Erhöhung des Wasserzinses durch die Schweiz benachteilige zudem das Land Baden-Württemberg erheblich.
Mit Schreiben vom 28. Januar 1998 teilte das Bundesamt für Wasserwirtschaft der Kraftwerk Reckingen AG mit, Bundesgesetze seien einer richterlichen Überprüfung nicht zugänglich, womit dem Unternehmen, was die Erhöhung des Wasserzinses betreffe, mit einem "rechtsmittelfähigen Bescheid" nicht geholfen wäre. Am 24. Februar 1998 setzte die Baudirektion des Kantons Zürich den neuen Wasserzins und die für das Jahr 1997 zu leistende Restzahlung durch Verfügung fest. Dagegen rekurrierte die Kraftwerk Reckingen AG an den Regierungsrat des Kantons Zürich. Sie bestritt unter anderem die Kompetenz des Kantons Zürich zur Festsetzung des Wasserzinses, da diese Kompetenz gemäss <ref-law> zwingend dem Bund zustehe, weil es sich um ein Grenzkraftwerk handle. Zudem habe keine Abstimmung mit dem Land Baden-Württemberg stattgefunden. Mit Beschluss vom 1. Dezember 1999 wies der Regierungsrat des Kantons Zürich den Rekurs ab, soweit er nicht gegenstandslos geworden war. Er wies auf Art. 7 der Zusatzverleihung vom 9. Oktober 1956 hin, wonach die Rekurrentin den jährlichen Wasserzins für den schweizeri-schen Anteil an der gewonnenen Mehrleistung nach den kantonalen Vorschriften zu entrichten habe. Der Regierungsrat führte aus, dass die Schweizerisch-Deutsche Kommission für die Wasserkraftnutzung auf der Rheinstrecke Basel-Bodensee sich auf eine Übergangslösung verständigt habe, wonach einzig der schweizerische Anteil an der Energieproduktion mit der Differenz vom bisherigen zum Maximalansatz gemäss <ref-law> belastet werden solle, dies nach Mass-gabe der in den Konzessionen festgelegten Hoheitsanteile.
Er kam zum Schluss, dass der Kanton mangels einer anderslautenden Festlegung durch den Bund zumindest im Rahmen der Übergangslösung den jährlichen Wasserzins gestützt auf § 66 Abs. 1 des kantonalen Wasserwirtschaftsgesetzes vom 2. Juni 1991 (WWG) in der Höhe des bundesrechtlichen Höchstansatzes von Fr. 80.-- pro BkW erheben dürfe.
Mit Entscheid vom 2. März 2000 hiess das Verwaltungsgericht des Kantons Zürich die dagegen erhobene Beschwerde gut und hob den Rekursentscheid des Regierungsrats vom 1. Dezember 1999 sowie die Verfügung der Baudirektion vom 24. Februar 1998 auf. Es war zum Schluss gelangt, dass einzig der Bund bzw. das für ihn handelnde Departement für die Festsetzung des neuen Wasserzinses zuständig sei; daher sei der angefochtene Entscheid bereits mangels Kompetenz der kantonalen Baudirektion aufzuheben, womit sich eine Prüfung der Problematik der Abstimmung mit den deutschen Behörden erübrige.
C.- Dagegen hat die Baudirektion des Kantons Zürich namens und als Vertreterin des Staates Zürich beim Bundesgericht Verwaltungsgerichtsbeschwerde erhoben (Verfahren 2A.183/2000). Sie beantragt die Aufhebung des angefochte-nen Entscheids. Gegen den Entscheid des Verwaltungsgerichts vom 2. März 2000 hat auch das Eidgenössische Departement für Umwelt, Verkehr, Energie und Kommunikation Verwaltungsgerichtsbeschwerde erhoben (Verfahren 2A.179/2000). Es beantragt, den angefochtenen Entscheid aufzuheben und die Verfügung der Baudirektion des Kantons Zürich vom 24. Februar 1998 vollumfänglich zu bestätigen.
Die Kraftwerk Reckingen AG beantragt, die Beschwerdeverfahren zu vereinigen und beide Beschwerden abzuweisen.
Die Staatskanzlei des Kantons Zürich (für den Regierungsrat) schliesst auf Gutheissung der Beschwerde des Eidgenössischen Departements für Umwelt, Verkehr, Energie und Kommunikation und auf Aufhebung des angefochtenen Entscheids. Das Verwaltungsgericht des Kantons Zürich beantragt, die Beschwerden abzuweisen, soweit darauf einzutreten sei. Das Eidgenössische Departement für Umwelt, Verkehr, Energie und Kommunikation schliesst sich dem Antrag der Kraftwerk Reckingen AG an, die beiden Beschwerdeverfahren zu vereinigen.

Das Bundesgericht zieht in Erwägung:
1.- a) Die Verwaltungsgerichtsbeschwerde ist zulässig gegen Verfügungen, die sich auf öffentliches Recht des Bundes stützen oder hätten stützen sollen (<ref-law> in Verbindung mit Art. 97 OG), sofern diese von einer in Art. 98 OG genannten Vorinstanz erlassen worden sind und keiner der in Art. 99 ff. OG oder in der Spezialgesetzgebung vorgesehenen Ausschlussgründe greift (<ref-ruling> E. 1a/aa).
Der angefochtene Entscheid stützt sich auf das Bundesgesetz über die Nutzbarmachung der Wasserkräfte; ein Ausschlussgrund liegt nicht vor. Aus <ref-law> ergibt sich zudem, dass bei Streitigkeiten zwischen dem Konzessionär und der Verleihungsbehörde als letzte Instanz immer das Bundesgericht zuständig ist; Vorinstanz ist entweder die zuständige kantonale Gerichtsbehörde (Abs. 1) oder die Rekurskommission UVEK (Abs. 2). Die Verwaltungsgerichtsbeschwerde ist damit zulässig.
b) Die Legitimation des Departements für Umwelt, Verkehr, Energie und Kommunikation ergibt sich aus Art. 103 lit. b OG. Der Kanton Zürich ist durch den angefochtenen Entscheid berührt; da es um seine fiskalischen Interessen als Bezüger des Wasserzinses geht, hat er ein schutzwürdiges Interesse an der Aufhebung der angefochtenen Verfügung (vgl.
Art. 103 lit. a OG).
c) Da mit beiden Beschwerden derselbe Entscheid angefochten wird und sich zudem dieselben Rechtsfragen stellen, rechtfertigt es sich, die beiden Beschwerdeverfahren zu vereinigen (<ref-law> in Verbindung mit Art. 40 OG).
2.- Das Verwaltungsgericht hat den Beschluss des Regierungsrates vom 1. Dezember 1999 aufgehoben, weil es zum Schluss gekommen ist, dass im vorliegenden Fall nicht der Kanton Zürich, sondern einzig der Bund zur Festsetzung der Höhe des vom Kraftwerk geschuldeten Wasserzinses berechtigt sei.
a) Betrifft die Erteilung oder Ausübung von Rechten an Wasservorkommen das internationale Verhältnis, so entscheidet darüber unter Beizug der beteiligten Kantone der Bund (Art. 24bis Abs. 4 Satz 1 aBV; vgl. die fast gleich lautende Fassung von <ref-law>). Die Bestimmung ermächtigt die Bundesbehörden, über die Rechte an internationalen Gewässern Verfügungen zu treffen, die an sich gemäss Art. 24bis Abs. 3 aBV (bzw. <ref-law>) in den Kompetenzbereich der Kantone fallen würden. Durch diese Kompetenzverschiebung wird dem Bund allerdings nicht die Gewässerhoheit übertragen. Vielmehr bleiben auch die Gewässer, welche das internationale Verhältnis berühren, kantonal, sodass der Wasserzins weiterhin dem betreffenden Kanton zukommt.
Indessen ist die Festsetzung des Wasserzinses bzw.
allfälliger anderer Entschädigungen für die Nutzung der Wasserkraft bei diesen Gewässern Sache des Bundes (Art. 24bis Abs. 4 Satz 3 aBV, <ref-law>; vgl. <ref-law>). Der Bund handelt, nachdem er den betroffenen Kanton angehört hat, in dessen Interesse und für dessen Rechnung (vgl. unveröffentlichtes Urteil des Bundesgerichts vom 23. August 1999 i.S. Kraftwerke Hinterrhein AG, E. 2a). Die Regelung von Art. 24bis Abs. 4 aBV bzw. <ref-law> und <ref-law> entzieht den Kantonen nicht das Recht, zu ihren Gunsten ausbedungene Leistungen selbständig gegenüber dem Konzessionär geltend zu machen (vgl. unveröffentlichtes Urteil vom 23. August 1999, a.a.O., E. 2c). An dieser Kompetenzverteilung zwischen Bund und Kantonen hat das Inkrafttreten der neuen Bundesverfassung nichts geändert.
b) Im vorliegenden Fall hat der Bundesrat in der Konzession vom 16. März 1926 in Bezug auf den Wasserzins in Art. 19 Folgendes festgelegt:
"Für die Überlassung der Wassernutzungsrechte hat
der Unternehmer den Kantonen Zürich und Aargau eine
einmalige Gebühr und einen jährlichen Wasserzins
nach der jeweiligen schweizerischen Gesetzgebung zu
leisten. Die Höhe des Wasserzinses vermindert sich
um den Betrag einer Sondersteuer auf Wasserkräfte
oder daraus erzeugter Energie. "
Dieser Verweis auf die "jeweilige schweizerische Gesetzgebung" ist so auszulegen, dass der betroffene Kanton einen Wasserzins in der Höhe des vom Gesetzgeber in Art. 49 des Wasserrechtsgesetzes festgesetzten Maximums beziehen darf. Damit aber ist der konkrete, von der Konzessionärin jährlich geschuldete Wasserzins genügend bestimmt; der Kanton setzt damit, dass er den so berechenbaren Betrag vom Kraftwerk einfordert, nicht den Wasserzins fest, sondern er bezieht lediglich die vom Bund festgesetzten, zu seinen Gunsten ausbedungenen Leistungen. Soweit in der Zusatzverleihung vom 9. Oktober 1956 auf das kantonale Recht verwiesen wird, ist der Wasserzins zumindest bestimmbar, ist er doch gemäss § 66 des zürcherischen Wasserwirtschaftsgesetzes in der Höhe des bundesrechtlichen Höchstansatzes zu erheben; es gilt daher dasselbe. Mit der Verfügung der Baudirektion vom 24. Februar 1998 bzw. dem Rekursentscheid des Regierungsrates vom 1. Dezember 1999 hat der Kanton Zürich entgegen der Auffassung der Vorinstanz nicht gemäss <ref-law> den Wasserzins festgesetzt, sondern lediglich den in der Konzession festgesetzten bzw. bestimmbaren Zins bezogen.
Dazu ist er aber nach dem Gesagten berechtigt. Das Verwaltungsgericht hat demnach den Rekursentscheid des Regierungsrats vom 1. Dezember 1999 und die Verfügung der Baudirektion vom 24. Februar 1998 zu Unrecht aufgehoben.
Anzumerken bleibt, dass die Baudirektion in ihrer Verfügung eine Anpassung des Wasserzinses "aufgrund neuer staatlicher Vereinbarungen zwischen der Schweiz und Deutschland" ausdrücklich vorbehalten hat; darauf Bezug nehmend hat der Regierungsrat in seinem Rekursentscheid ausgeführt, auf Grund einer definitiven Abstimmung im Sinne von <ref-law> sei damit weder eine künftige Senkung noch eine Rückerstattung ausgeschlossen. Es war demnach den kantonalen Behörden bewusst, dass sie insoweit den Wasserzins nicht anstelle des Bundes festsetzen, sondern ihn nur beziehen dürfen.
c) Zu prüfen bleibt die - vom Verwaltungsgericht nicht entschiedene - Frage, welche Tragweite im Zusammen-hang mit der durch den Gesetzgeber vorgenommenen Erhöhung des Wasserzinsmaximums auf jährlich 80 Franken pro Kilowatt Bruttoleistung das in <ref-law> erwähnte Erfordernis der "notwendigen Abstimmung" hat. Bei dieser Frage handelt es sich aber um einen Streit zwischen dem Konzessionär und der Verleihungsbehörde, da es der Bundesrat war, der in der Konzession durch den Verweis auf die schweizerische Gesetzgebung die Höhe des Wasserzinses festgesetzt hat. Gemäss Art. 71 Abs. 2 in Verbindung mit Abs. 1 WRG entscheidet über einen solchen Streit die Rekurskommission UVEK als Schiedskommission.
d) Der Entscheid des Verwaltungsgerichts ist daher aufzuheben und die Sache an die Rekurskommission UVEK weiterzuleiten.
Diese wird zu prüfen haben, ob die bisher mit dem Land Baden-Württemberg erfolgten Besprechungen als internationale Abstimmung im Sinne von <ref-law> gelten können.
3.- Die Kraftwerk Reckingen AG ist zwar formell unterlegen, da die Beschwerden entgegen ihrem Antrag gutgeheissen werden; es rechtfertigt sich indessen angesichts der besonderen Fallkonstellation, von der Erhebung von Gerichtskosten abzusehen. Parteientschädigungen sind nicht geschuldet (Art. 159 Abs. 2 OG).

Demnach erkennt das Bundesgericht:
1.- Die Beschwerdeverfahren 2A.179/2000 und 2A.183/2000 werden vereinigt.
2.- Die Beschwerden werden im Sinne der Erwägungen gutgeheissen, der Entscheid des Verwaltungsgerichts des Kantons Zürich vom 2. März 2000 aufgehoben und die Akten zuständigkeitshalber an die Rekurskommission UVEK weitergeleitet.
3.- Es werden keine Kosten erhoben.
4.- Dieses Urteil wird den Beschwerdeführern, der Kraftwerk Reckingen AG, dem Regierungsrat sowie dem Verwaltungsgericht des Kantons Zürich schriftlich mitgeteilt.
_
Lausanne, 4. Dezember 2000
Im Namen der II. öffentlichrechtlichen Abteilung
des SCHWEIZERISCHEN BUNDESGERICHTS
Der Präsident: Die Gerichtsschreiberin: