Sachverhalt:
A. Der Landrat des Kantons Glarus erteilte am 5. Mai 2010 der SN Energie AG die Konzession für die Ausnützung der Wasserkraft des Sernf bzw. der Linth zwischen der Au in Schwanden und dem Linthkrumm in Mitlödi für eine Dauer von 80 Jahren vom Tage der Inbetriebsetzung des zu erstellenden neuen Kraftwerks an. Der Konzessionsbeschluss enthielt einen Art. 28 mit folgendem Wortlaut:
"Heimfall
1 Nach Ablauf der Konzession behält sich der Kanton den Heimfall vor. Der Inhalt des Heimfallrechts richtet sich nach den dannzumal geltenden Bundes- und Kantonsvorgaben.
2 Die Standortgemeinde hat Anspruch auf mindestens einen Drittel an der Heimfallverzichtsabgeltung oder am Heimfallsubstrat, sofern die kantonale Gesetzgebung nicht einen höheren Anteil vorgibt."
B. Die SN Energie AG erhob am 14. Juni 2010 je eine Beschwerde an das Bundesgericht und an das Verwaltungsgericht des Kantons Glarus, jeweils mit dem Antrag, Art. 28 der Konzession sei aufzuheben.
Das Bundesgericht trat am 8. September 2010 auf die bei ihm erhobene Beschwerde mangels Erschöpfung des Instanzenzugs nicht ein (Verfahren 2C_520/2010).
Das Verwaltungsgericht des Kantons Glarus hiess die Beschwerde vom 14. Juni 2010 mit Urteil vom 31. August 2011 gut, hob Art. 28 der Konzession auf und wies die Angelegenheit zur Neuaushandlung des vertraglichen Konzessionsteils an den Landrat zurück.
C. Gegen das Urteil des Verwaltungsgerichts vom 31. August 2011 führt der Landrat des Kantons Glarus Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er stellt den Antrag, es sei das Urteil des Verwaltungsgerichts aufzuheben und die Konzession in der Fassung vom 5. Mai 2010 zu bestätigen. Eventualiter sei die Konzession insgesamt aufzuheben.
Das Verwaltungsgericht schliesst auf Abweisung der Beschwerde. Die SN Energie AG beantragt, auf die Beschwerde sei nicht einzutreten, eventuell sei sie abzuweisen.
Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen den kantonal letztinstanzlichen Entscheid in einer Angelegenheit des öffentlichen Rechts ist grundsätzlich zulässig (Art. 82 lit. a und Art. 86 Abs. 1 lit. d BGG), unter Vorbehalt von E. 1.2 - 1.4 hiernach.
1.2 Näher zu prüfen ist die Legitimation des Beschwerdeführers.
Die Beschwerde wird vom Landrat erhoben, der aber mangels eigener Rechtspersönlichkeit nicht als solcher Beschwerde erheben kann (BGE 1B_77/2011 vom 15. Juli 2011 E. 1.5, zur Publikation vorgesehen; 134 II 45 E. 2.2.3 S. 48). Vielmehr erhebt er in seiner Eigenschaft als Parlament und oberste Aufsichtsbehörde des Kantons Glarus (Art. 82 Abs. 1 und Abs. 2 der Verfassung des Kantons Glarus vom 1. Mai 1988 [KV/GL]) sowie als für die Konzessionserteilung zuständiges Organ (Art. 91 lit. e KV/GL) im Namen des Kantons Beschwerde.
Auf eine besondere Beschwerdebefugnis im Sinne von Art. 89 Abs. 2 BGG kann sich der Kanton nicht berufen. Nach dem allgemeinen Beschwerderecht von Art. 89 Abs. 1 BGG ist zur Beschwerde in öffentlich-rechtlichen Angelegenheiten berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen hat oder keine Möglichkeit zur Teilnahme erhalten hat, durch den angefochtenen Entscheid besonders berührt ist und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung hat. Diese Regelung ist in erster Linie auf Privatpersonen zugeschnitten, doch kann sich auch das Gemeinwesen darauf stützen, falls es durch einen angefochtenen Entscheid gleich oder ähnlich wie ein Privater oder aber in spezifischer Weise in der Wahrnehmung einer hoheitlichen Aufgabe betroffen wird. Das allgemeine Interesse an der richtigen Rechtsanwendung verschafft dem Gemeinwesen noch keine Beschwerdebefugnis (BGE 1B_77/2011 vom 15. Juli 2011 E. 1.4, zur Publikation vorgesehen; 136 II 383 E. 2.3 und 2.4 S. 385 ff.).
In der Sache geht es vorliegend darum, dass der Kanton für sich ein Hoheitsrecht für die Wassernutzung beansprucht, während die Beschwerdegegnerin und die Vorinstanz ihm ein solches absprechen. Damit wird der Kanton in einer wesentlichen (behaupteten) hoheitlichen Stellung betroffen und ist deshalb zur Beschwerdeführung legitimiert.
1.3 Der angefochtene Entscheid weist die Angelegenheit an den Beschwerdeführer zurück und ist somit ein Zwischenentscheid, der nur unter den Voraussetzungen von Art. 92 oder 93 BGG angefochten werden kann (BGE 133 V 477 E. 4.2 S. 481 f.). Ein nicht wieder gut zu machender Nachteil im Sinne von Art. 93 Abs. 1 lit. a BGG liegt vor, wenn ein Gemeinwesen, an welches eine Sache zurückgewiesen wird, gezwungen wird, entgegen seiner Rechtsauffassung eine neue Anordnung zu erlassen (BGE 133 V 477 E. 5.2.2 S. 483 f.). Das ist hier der Fall, da der Kanton durch den angefochtenen Entscheid verpflichtet wird, entgegen seiner Rechtsauffassung den vertraglichen Inhalt der Konzession neu auszuhandeln.
1.4 Das Bundesgericht überprüft die richtige Anwendung von Bundesrecht frei und von Amtes wegen (Art. 95 lit. a und Art. 106 Abs. 1 BGG). Die Anwendung des kantonalen Rechts als solches bildet ausser in den Fällen von Art. 95 lit. c-e BGG nicht Beschwerdegrund. Überprüft werden kann insoweit nur, ob der angefochtene Entscheid auf willkürlicher Gesetzesanwendung beruht oder sonst wie gegen übergeordnetes Recht verstösst (BGE 136 I 241 E. 2.4 und E. 2.5.2 S. 249 f.; 133 II 249 E. 1.2.1 S. 151 f.). Hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht gilt eine qualifizierte Rügepflicht: Das Bundesgericht prüft eine solche Rüge nur insoweit, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG).
2. 2.1 Nach Art. 3 BV sind die Kantone souverän, soweit ihre Souveränität nicht durch die Bundesverfassung beschränkt ist. Gemäss Art. 76 Abs. 4 BV verfügen die Kantone über die Wasservorkommen. Der Bund legt Grundsätze fest über die Nutzung der Gewässer zur Energieerzeugung (Art. 76 Abs. 2 BV). Nach Art. 1 Abs. 1 des Bundesgesetzes vom 22. Dezember 1916 über die Nutzbarmachung der Wasserkräfte (Wasserrechtsgesetz, WRG; SR 721.80) übt der Bund die Oberaufsicht aus über die Nutzbarmachung der Wasserkräfte der öffentlichen und der privaten Gewässer. Das kantonale Recht bestimmt, welchem Gemeinwesen (Kanton, Bezirk, Gemeinde oder Körperschaft) die Verfügung über die Wasserkraft der öffentlichen Gewässer zusteht (Art. 2 Abs. 1 WRG). Wo das gegenwärtige kantonale Recht die Verfügung über die Wasserkraft öffentlicher Gewässer den Uferanstössern zuspricht, bleibt es bis zu seiner Aufhebung durch die Kantone in Kraft (Art. 2 Abs. 2 WRG). Für diese Fälle der Verfügung kraft Privatrechts nach Art. 2 Abs. 2 WRG enthält Art. 17 WRG besondere Vorschriften: Zur Nutzbarmachung der Privatgewässer oder der öffentlichen Gewässer kraft Privatrechts der Uferanstösser bedarf es der Erlaubnis der zuständigen kantonalen Behörde (Abs. 1), welche darüber wacht, dass die wasserbaupolizeilichen Vorschriften des Bundes und der Kantone beobachtet und bestehende Nutzungsrechte nicht verletzt werden (Abs. 2). Die Artikel 5, 7a, 8 und 11 sowie der zweite Abschnitt des Gesetzes gelten dafür sinngemäss (Abs. 3). Der dritte Abschnitt des WRG (Art. 38-71) enthält Vorschriften für die Verleihung von Wasserrechten, u.a. über die Erteilung der Konzession, die Tragweite des Nutzungsrechts und den Inhalt der Konzession. Die Verleihungsbehörde setzt in der Konzession nach Massgabe des kantonalen Rechts die Leistungen und Bedingungen fest, gegen die dem Konzessionär das Nutzungsrecht erteilt wird, u.a. über den Heimfall (Art. 48 Abs. 1 und Art. 54 lit. i WRG). Die Konzession wird für höchstens 80 Jahre erteilt (Art. 58 WRG). Sie erlischt durch Ablauf ihrer Dauer (Art. 64 lit. a WRG), was zum Heimfall führen kann (Art. 67 WRG).
2.2 Die Vorinstanz hat erwogen, gemäss dem in Art. 2 Abs. 2 WRG vorbehaltenen kantonalen Recht stehe im Kanton Glarus das Recht zur Nutzung der Wasserkraft den Ufereigentümern zu (Art. 170 Abs. 1 des Gesetzes vom 7. Mai 1911 über die Einführung des Schweizerischen Zivilgesetzbuches im Kanton Glarus [EG ZGB/GL]). Gemäss Landsgemeindebeschluss von 1918 über die Verwertung von Wasserkräften im Kanton Glarus nehme der Kanton sein Enteignungsrecht gemäss Art. 178 EG ZGB/GL in Anspruch für alle Wasserkräfte, die zum Ausbau als geeignet erscheinen, und delegiere diese Kompetenz an den Landrat. Die darauf gestützte Konzession des Landrats sei aber nicht eine Konzession nach dem Wasserrechtsgesetz des Bundes, da dem Uferanstösser das Recht auf Wasserkraftnutzung ja bereits von Gesetzes wegen zustehe; sie beinhalte einerseits den Verzicht des Kantons auf Ausübung seines Enteignungsrechts und andererseits die aus den verschiedenen Spezialgesetzgebungen resultierenden Anforderungen zur Nutzbarmachung der Wasserkraft. Der dritte Abschnitt des Wasserrechtsgesetzes samt der darin festgelegten Heimfallregelung gelte dafür nicht. Die in der Konzession enthaltene Heimfallklausel habe daher keine rechtliche Grundlage. Zwar dürfe die Konzession auch vertragliche Regelungen enthalten, die keine direkte gesetzliche Grundlage haben, doch dürfe das Gemeinwesen dabei seine hoheitliche Stellung nicht ausnutzen; die getroffenen Vereinbarungen müssten in einem ausgewogenen Verhältnis zueinander stehen und dürften die Konzessionärin nicht übervorteilen. Ein Heimfall (entschädigungsloser Eigentumsübergang nach Ablauf der Konzessionsdauer) sei ein schwerer Eingriff ins Eigentum, der nur zulässig wäre, wenn ihm eine staatliche Gegenleistung gegenüberstehe. Da aber die Wasserkraftnutzung schon von Gesetzes wegen dem Ufereigentümer zustehe, werde ihm dieses Recht nicht mit der Konzession verliehen. Der darin enthaltene Verzicht auf das Enteignungsrecht stehe in keinem Verhältnis zum Heimfallvorbehalt; der Konzessionärin würden damit unverhältnismässige Leistungen ohne gesetzliche Grundlage aufgebürdet. Sie könnte zwar einer solchen Leistung freiwillig zustimmen, aber nicht ohne ihren Willen zur Zustimmung verpflichtet werden, und wehre sich zu Recht gegen den in Art. 28 der Konzession enthaltenen Heimfallvorbehalt. Umgekehrt könne der Kanton auch nicht verpflichtet werden, die Konzession ohne die für ihn bedeutsame Heimfallklausel zu erteilen. Das Gericht könne daher nicht einfach die Konzession ohne die Heimfallklausel gelten lassen. Es könne aber auch nicht die ganze Konzession aufheben. Im Ergebnis sei die Angelegenheit zur neuerlichen Aushandlung der vertraglichen Konzessionsbedingungen an den Landrat zurückzuweisen.
2.3 Der Beschwerdeführer stellt nicht in Frage, dass im Kanton Glarus private Wasserrechte bestehen. Er rügt auch nicht die Betrachtungsweise der Vorinstanz, wonach der dritte Abschnitt des Wasserrechtsgesetzes des Bundes für die glarnerische Konzession nicht gilt. Dies entspricht denn auch der bundesgerichtlichen Rechtsprechung (Urteile 2E_3/2009 und 2E_4/2009 vom 11. Juli 2011 E. 3; C 190/62 vom 9. Juli 1962; A.29.LX vom 15. Dezember 1932 E. 1). Dagegen macht der Beschwerdeführer gestützt auf historische Unterlagen geltend, die Konzessionserteilung sei auch nach glarnerischem Recht nicht nur die Erteilung einer Polizeibewilligung oder die Aufhebung des Enteignungsbanns, sondern sie enthalte vielmehr auch eine politische Komponente. Von dieser Auffassung geht aber auch die Vorinstanz aus: Sie zitiert zwar eine Literaturstelle, in der die glarnerische Wasserrechtskonzession als Baubewilligung bzw. Polizeierlaubnis bezeichnet wird, macht sich aber diese Auffassung nicht zu eigen, sondern führt ausdrücklich aus, dass die glarnerische Konzession keine herkömmliche Polizeibewilligung darstelle, enthalte sie doch auch den Verzicht auf Enteignung (E. 3d S. 8 des angefochtenen Entscheids). Sodann erwähnt sie auch, dass mit der Konzession das Recht zur Enteignung (von Drittgrundstücken) erteilt werde (E. 4a S. 10 des angefochtenen Entscheids), was selbstverständlich eine Übertragung von Hoheitsrechte darstellt (und was nach Art. 178 Abs. 2 EG ZGB/GL voraussetzt, dass der Kanton nicht selber das Enteignungsrecht ausübt). Die Vorinstanz geht denn auch davon aus, dass der Landrat nicht verpflichtet sei, die Konzession ohne Heimfallklausel zu erteilen (E. 8a S. 15 des angefochtenen Entscheids). Das alles lässt aber die entscheidende vorinstanzliche Betrachtung nicht als willkürlich erscheinen, wonach es an einer gesetzlichen Grundlage für ein Heimfallsrecht fehle und dieses eine unverhältnismässige Gegenleistung sei.
2.4 Entgegen der Auffassung des Beschwerdeführers widerspricht diese vorinstanzliche Betrachtung auch nicht Art. 76 Abs. 4 BV: Das darin statuierte Verfügungsrecht der Kantone besagt bloss, dass die Gewässerhoheit nicht mit der Gesetzgebungshoheit auf den Bund übergegangen ist (AUBERT/MAHON, Petit commentaire de la Constitution, 2003, Rz. 15 zu Art. 76; MARTI, in Ehrenzeller/Mastronardi/Schweizer/Vallender [Hrsg.], Die Schweizerische Bundesverfassung - Kommentar, 2. Aufl. 2008, Rz. 22 zu Art. 76; JAGMETTI, in: Aubert/Eichenberger et al. [Hrsg.], Kommentar zur Bundesverfassung der Schweizerischen Eidgenossenschaft vom 29. Mai 1874, Rz. 22 ff. zu Art. 24, Rz. 58 f. zu Art. 24bis). Dies schliesst aber nicht aus, dass das kantonale Recht die Befugnis zur Wassernutzung den Privaten überlässt (vgl. Urteil 2C_622/2010 vom 20. Dezember 2010 E. 3.2; 2P.256/2002 vom 24. März 2003 E. 1.2.2 und E. 3; JAGMETTI, a.a.O., Rz. 17 zu Art. 24, m.H. auf die glarnerische Regelung). Jedenfalls ergibt sich diese Möglichkeit ausdrücklich aus Art. 2 Abs. 2 WRG, welcher so oder so für das Bundesgericht verbindlich ist (Art. 190 BV).
2.5 Der Beschwerdeführer bringt sodann vor, das angefochtene Urteil leide an einem inneren Widerspruch: Dieses führe nämlich zutreffend aus, dass sich durch die einseitige Streichung der Heimfallklausel das Konzessionsverhältnis stark zu Ungunsten des Kantons ändere; aufgrund dieser Aussage müsse nun aber zwingend geschlossen werden, dass der Vertrag mit der Heimfallklausel wirtschaftlich ausgeglichen gewesen sei. Die Rüge ist unbegründet: Dass die Streichung der Heimfallklausel den Inhalt des Vertrags zu Ungunsten des Kantons verändert, schliesst nicht aus, dass der Vertrag zuvor (d.h. mit der Heimfallklausel) zum Nachteil der Konzessionärin im Ungleichgewicht gewesen ist.
2.6 Schliesslich rügt der Beschwerdeführer, die Vorinstanz habe willkürlich davon abgesehen, die Konzession gesamthaft aufzuheben. Der verfügungsmässige Teil der Konzession könne nur bestehen, wenn der vertragliche Teil rechtsgültig ausgehandelt worden sei; eine Teilnichtigkeit der Konzession für den vertraglichen, nicht aber für den verfügungsmässigen Teil sei nicht denkbar und damit willkürlich; es sei unklar, was passiere, wenn sich der Beschwerdeführer und die Konzessionärin nicht einigen könnten.
Die Vorinstanz hat erwogen, die völlige Aufhebung der Konzession würde einerseits die Rechtsstellung der Konzessionärin verschlechtern, wenn diese es bevorzugen würde, die Konzession mit dem Heimfallsvorbehalt abzuschliessen anstatt gänzlich ohne die Konzession dazustehen; umgekehrt wäre es stossend, wenn der Kanton verpflichtet würde, die Konzession ohne Heimfallsklausel erteilen zu müssen, weil sich dadurch die Leistungen stark zu Ungunsten des Kantons verändern würden. Zudem könne das Gericht nicht über den mit der Beschwerde definierten Streitgegenstand hinausgehen, der sich nur auf Art. 28 der Konzession beziehe. Deshalb sei nur Art. 28 aufzuheben, nicht die ganze Konzession. Das bedeute aber nicht, dass die Konzession ohne Weiteres in ihrer jetzigen Fassung - lediglich ohne Art. 28 - abzuschliessen wäre, weil dies einer Festlegung des vertraglichen Teil des Konzession durch das Gericht gleichkäme, wodurch dieses unzulässigerweise in die Dispositionsfreiheit der Parteien eingreifen würde.
Die Erwägungen der Vorinstanz sind nachvollziehbar und jedenfalls nicht willkürlich oder sonst wie bundesrechtswidrig. Zwar trifft es zu, dass aus dem Dispositiv des angefochtenen Urteils nicht klar hervorgeht, was die Folgen sind, wenn sich die Parteien über den neu auszuhandelnden vertraglichen Konzessionsteil nicht einigen können. Aus den Erwägungen geht die Rechtsauffassung der Vorinstanz aber hinreichend klar hervor: Der Kanton kann nicht ohne die Zustimmung der Beschwerdegegnerin die Heimfallklausel in die Konzession aufnehmen. Die Parteien haben aber die Möglichkeit, die Konzession neu auszuhandeln, wobei zwischen einem entschädigungslosen Heimfallsrecht und dem Verzicht auf jegliches Heimfallsrecht auch verschiedene Mittellösungen denkbar sind. Kommt keine Einigung zustande, ist der Kanton nicht verpflichtet, die Konzession zu erteilen. Er kann aber auch die Konzession ohne die Heimfallklausel erteilen. Die Formulierung des Dispositivs ist somit jedenfalls im Zusammenhang mit den Erwägungen verständlich und es besteht kein Anlass, sie aufzuheben. Damit erweist sich auch das Eventualbegehren des Beschwerdeführers als unbegründet.
3. Nach dem Ausgeführten ist die Beschwerde abzuweisen. Der Beschwerdeführer trägt die Kosten des bundesgerichtlichen Verfahrens, da das Heimfallsrecht ein Vermögensinteresse darstellt (Art. 66 Abs. 4 BGG); er hat zudem der privaten Beschwerdegegnerin für das bundesgerichtliche Verfahren eine Parteientschädigung zu bezahlen (Art. 68 Abs. 1 und Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Kanton Glarus auferlegt.
3. Der Kanton Glarus hat der Beschwerdegegnerin für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 2'000.-- zu bezahlen.
4. Dieses Urteil wird den Parteien und dem Verwaltungsgericht des Kantons Glarus, I. Kammer, schriftlich mitgeteilt.
Lausanne, 18. Januar 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Zähndler