Sachverhalt:
A. Beim Hochwasser vom August 2005 verursachten Murgänge des Glyssibachs bei Brienz nebst Sachschäden von mehr als Fr. 40 Mio. auch den Tod von zwei Menschen. In der Folge wurde der Hochwasserschutz am Glyssibach verbessert. Dazu wurden u.a. das alte Bachbett im Dorfbereich verbreitert und für die Durchleitung von Murgängen ein 20 m breiter Korridor freigehalten. Das dafür notwendige Bauland im Umfang von insgesamt 13'224 m2 wurde vom Kanton freihändig zum Preis von insgesamt Fr. 3'369'785.-- erworben, wobei pro Quadratmeter zwischen Fr. 150.-- und Fr. 290.-- bezahlt wurden.
B. Am 16. Juli 2010 beantragte der Kanton Bern beim Bundesamt für Umwelt (BAfU) einen Bundesbeitrag für den Landerwerb, wobei er von einem beitragsberechtigten Betrag von Fr. 3'369'785.-- und einem Subventionssatz von 43 % ausging. Mit Verfügung vom 30. September 2010 bewilligte das BAfU einen Bundesbeitrag in Höhe von Fr. 56'863.--, nämlich 43 % von anrechenbaren Kosten im Umfang von Fr. 132'240.--. Zur Begründung erwog es, für den Landerwerb anrechenbar seien nur Preise für Landwirtschaftsland in Höhe von maximal Fr. 10.-- pro Quadratmeter.
C. Gegen die Verfügung des BAfU beschwerte sich der Kanton Bern beim Bundesverwaltungsgericht und stellte dort den Antrag, es sei ein Bundesbeitrag von 43 % der Landerwerbskosten bis zum Höchstbetrag von Fr. 1'449'007.55 (anrechenbare Kosten von Fr. 3'369'785.-) zu gewähren; eventuell sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Mit Urteil vom 2. Mai 2011 wies das Bundesverwaltungsgericht die Beschwerde ab.
D. Mit Eingabe vom 31. Mai 2011 erhebt der Kanton Bern Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht und erneuert das vorinstanzlich gestellte Begehren.
Während das Bundesverwaltungsgericht auf Vernehmlassung verzichtet, schliesst das BAfU auf Abweisung der Beschwerde. Der Beschwerdeführer äussert sich mit Eingabe vom 15. August 2011 zur Vernehmlassung des BAfU.

Erwägungen:
1. Beim angefochtenen Entscheid handelt es sich um einen Endentscheid des Bundesverwaltungsgerichts in einer Angelegenheit des öffentlichen Rechts (Art. 82 lit. a; Art. 86 Abs. 1 lit. a und Art. 90 BGG). Der Ausschlussgrund von <ref-law> ist nicht erfüllt, da Art. 6 und Art. 9 des Bundesgesetzes vom 21. Juni 1991 über den Wasserbau (WBG; SR 721.100) in Verbindung mit Art. 1 ff. der Verordnung über den Wasserbau vom 2. November 1994 (WBV; SR 721.100.1) genügend konkret umschreiben, unter welchen Bedingungen die im Einzelfall beantragte Unterstützung zu gewähren ist, ohne dass es im Ermessen der gesetzesanwendenden Behörde liegt, ob sie diesen Beitrag gewähren will oder nicht (vgl. Urteile 2C_449/2009 vom 21. Januar 2010 E. 1.1; 2C_762/2008 vom 8. Mai 2009 E. 1.1). Daran ändert auch nichts, dass die Abgeltungen gemäss Art. 6 Abs. 1 und Art. 10 WBG nur im Rahmen der bewilligten Kredite gewährt werden (Urteile 2A.529/2005 vom 20. April 2006 E. 1; 2A.95/2004 vom 18. Februar 2004 E. 2.1). Der Entscheid kann daher mit Beschwerde in öffentlich-rechtlichen Angelegenheiten an das Bundesgericht weitergezogen werden. Der beschwerdeführende Kanton hat am vorinstanzlichen Verfahren teilgenommen und ist dort mit seinen Begehren unterlegen. Er ist durch den angefochtenen Entscheid besonders berührt und hat als Subventionsgesuchsteller ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung (<ref-law>; <ref-ruling> E. 2.3 S. 353 f.; <ref-ruling> E. 2.2.1 S. 46 f.; <ref-ruling> E. 2b S. 383 f.). Auf die Beschwerde ist einzutreten.
2. Streitig ist vorliegend einzig, ob der Subventionsbemessung für den Landerwerb die Landerwerbskosten nach Baulandpreisen oder nach Nicht-Baulandpreisen zugrunde zu legen sind.
2.1 Gemäss Art. 6 WBG fördert der Bund im Rahmen der bewilligten Kredite Massnahmen, die dazu dienen, Menschen und erhebliche Sachwerte vor den Gefahren des Wassers zu schützen (Abs. 1). Er leistet Abgeltungen namentlich für die Erstellung, die Instandstellung und den Ersatz von Schutzbauten und -anlagen sowie für die Erstellung von Gefahrenkatastern und Gefahrenkarten, die Einrichtung und den Betrieb von Messstellen sowie den Aufbau von Frühwarndiensten zur Sicherung von Siedlungen und Verkehrswegen (Abs. 2). Beiträge werden nur für Massnahmen gewährt, die auf einer zweckmässigen Planung beruhen, die gesetzlichen Anforderungen erfüllen und ein gutes Kosten-Nutzen-Verhältnis aufweisen (Art. 9 Abs. 1 WBG). Der Bundesrat regelt die Voraussetzungen im Einzelnen und erlässt Vorschriften namentlich über die Höhe der Beiträge und die anrechenbaren Kosten (Art. 9 Abs. 2 WBG).
2.2 Gemäss unbestrittener und für das Bundesgericht verbindlicher (<ref-law>) Sachverhaltsfeststellung der Vorinstanz befanden sich die streitbetroffenen Grundstücke vor dem Hochwasserereignis in einer Bauzone und wurden in der nach den Ereignissen aktualisierten Gefahrenkarte der roten Zone zugewiesen.
2.3 In rechtlicher Hinsicht hat die Vorinstanz erwogen, subventionsberechtigt seien nur diejenigen Kosten für den Landerwerb, die der Kanton aufgrund der Eigentumsgarantie den betroffenen Eigentümern zu bezahlen hatte. Wenn Land für ein Gewässerschutzprojekt benützt werde, sei die Entschädigung in einem Zweistufenverfahren zu bemessen: In einem ersten Schritt sei zu prüfen, ob die Differenz zwischen Bauland- und Nichtbauland-Werten nach den Kriterien der materiellen Enteignung zu entschädigen sei. Sodann sei in der anschliessenden formellen Enteignung nur der Wert von Nicht-Bauland zu entschädigen. Die Zuweisung zur roten Zone sei eine polizeiliche Massnahme im engeren Sinne, die der Grundeigentümer entschädigungslos zu dulden habe. Da in der roten Zone schon aus faktischen Gründen eine bauliche Nutzung nicht möglich sei, entfalle eine Entschädigung aus materieller Enteignung. Geschuldet sei daher nur der Preis entsprechend der am Stichtag noch möglichen Nutzung, d.h. der Nicht-Baulandpreis (Preis für Landwirtschaftsland). Dass diejenigen Grundeigentümer, deren Liegenschaften dank der technischen Bauwerke aus der roten Zone befreit wurden, ihre Nutzungsmöglichkeiten zurückerhalten und dies zu Lasten der Grundeigentümer gehe, die den Verlust ihres Landes in Kauf nehmen müssten, ändere daran nichts, da solche Ungleichbehandlungen situationsbedingt erforderlich seien.
2.4 Der Beschwerdeführer stimmt mit der Vorinstanz darin überein, dass die Angemessenheit der bezahlten Entschädigung nach enteignungsrechtlichen Kriterien zu prüfen sei. Er erblickt jedoch in der Auszonung der Landfläche eine entschädigungspflichtige materielle Enteignung. Die Grundstücke seien nicht in eine Gefahren- oder Schutzzone gewiesen, sondern zum Gewässerraum geschlagen und für ein öffentliches Werk verwendet worden. Die Auszonung sei somit nicht ausschliesslich im engeren Sinne polizeilich motiviert gewesen, sondern liege in einem überwiegenden weiteren öffentlichen Interesse: Durch das Opfern der betroffenen Grundstücke hätten andere Parzellen und öffentliche Werke vor der Hochwassergefahr geschützt werden können. Zudem seien die betroffenen Flächen vorher in einer rechtskonformen Bauzone gelegen und bereits überbaut gewesen, womit eine bestehende rechtmässige Nutzung tangiert werde. Zudem sei auch der Tatbestand des Sonderopfers erfüllt. Die Zuweisung zu einer roten Zone ziehe nämlich nicht zwangsläufig eine Auszonung bzw. ein Bauverbot nach sich: Im vorliegenden Fall seien die auf der gegenüberliegenden Seite des Glyssibachs gelegenen Grundstücke anfänglich ebenfalls der roten Zone, aber dank der Realisierung des Hochwasserschutzprojekts nachher wieder der blauen, gelben oder gelb-weissen Zone zugewiesen worden. Das an sich bedrohte Gebiet sei so mit aktiven Hochwasserschutzmassnahmen geschützt worden und habe dadurch in der Bauzone verbleiben können, dies aber unter Opferung einzelner Grundstücke, die zur Realisierung der Hochwasserschutzmassnahmen beansprucht wurden. Würde den Eigentümern dieser Grundstücke eine Entschädigung der Baulandpreise verweigert, so würden diese rechtsungleich behandelt gegenüber den anderen Grundeigentümern, die dank den Hochwasserschutzmassnahmen ihre Grundstücke samt baulichen Nutzungsmöglichkeiten behalten konnten.
3. 3.1 Im vorliegenden Fall ist zu beachten, dass es hier nicht darum geht, die Entschädigungen für die einzelnen Grundeigentümer festzulegen, sondern die Abgeltung des Bundes an den Kanton. Zwar wird diese in Bezug auf den Landerwerb nach den Entschädigungsgrundsätzen des Enteignungsrechts bemessen, doch sind dabei auch die vorgenannten Grundsätze von Art. 9 WBG (zweckmässige Planung, Gesetzmässigkeit, gutes Kosten-Nutzen-Verhältnis) zu beachten. Vermeidbare Mehrkosten müsste der Bund nicht anerkennen.
3.2 Was die Entschädigungsgrundsätze des Enteignungsrechts anbelangt, so wird das von der Vorinstanz angewendete Zweistufenverfahren vom Beschwerdeführer nicht in Frage gestellt. Allerdings ist dieses auf Fälle zugeschnitten, wo mit zeitlichen Abständen zunächst eine Baubeschränkung auferlegt und später das Grundstück formell enteignet wird (so in der Konstellation von <ref-ruling> sowie des Urteils 1A.104/2000 vom 20. Oktober 2000 in: ZBl 102/2001 S. 550). Ist die Baubeschränkung hingegen nur eine planerische Vorwirkung des Werks, für welches formell enteignet wird, so handelt es sich dabei um einen werkbedingten Nachteil, der bei der Bemessung der Entschädigung für die formelle Enteignung ausser Acht zu bleiben hat (Art. 20 Abs. 3 des Bundesgesetzes vom 20. Juni 1930 über die Enteignung [EntG; SR 711]; <ref-ruling> E. 5 S. 474; <ref-ruling> E. 5b S. 26; PETER HÄNNI, Planungs-, Bau- und besonderes Umweltschutzrecht, 5. Aufl. 2008, S. 633 f.; vgl. auch <ref-ruling> E. 12 S. 68 f.). Bei der Bestimmung des Verkehrswertes des formell enteigneten Grundstücks darf somit nicht berücksichtigt werden, dass es im Zeitpunkt der formellen Enteignung bereits mit einer Baubeschränkung belegt war (Urteile 1P.659/2006 vom 22. Januar 2007 E. 4.3; 1P.645/2006 vom 22. Januar 2007 E. 5.2). Ob vorliegend nach dem Zweistufenverfahren oder nach den Grundsätzen der Entschädigung für formelle Enteignung zu verfahren ist, kann offen bleiben, da sich dadurch - wie im Folgenden zu zeigen ist - im Ergebnis nichts ändert.
4. 4.1 Nach ständiger Rechtsprechung liegt eine - gemäss <ref-law> zu entschädigende - materielle Enteignung vor, wenn dem Eigentümer der bisherige oder ein voraussehbarer künftiger Gebrauch einer Sache untersagt oder in einer Weise eingeschränkt wird, die besonders schwer wiegt, weil der betroffenen Person eine wesentliche aus dem Eigentum fliessende Befugnis entzogen wird. Geht der Eingriff weniger weit, so wird gleichwohl eine materielle Enteignung angenommen, falls einzelne Personen so betroffen werden, dass ihr Opfer gegenüber der Allgemeinheit unzumutbar erscheint und es mit der Rechtsgleichheit nicht vereinbar wäre, wenn hierfür keine Entschädigung geleistet würde. In beiden Fällen ist die Möglichkeit einer zukünftigen besseren Nutzung der Sache nur zu berücksichtigen, wenn im massgebenden Zeitpunkt anzunehmen war, sie lasse sich mit hoher Wahrscheinlichkeit in naher Zukunft verwirklichen (<ref-ruling> E. 2 S. 730 ff. mit Hinweisen; Urteil 1A.74/2004 vom 20. Dezember 2004 E. 2.1, nicht publ. in: <ref-ruling> E. 2.1).
4.2 Eine Entschädigungspflicht entfällt aber dann, wenn der streitige Eingriff als Polizeimassnahme im engeren Sinne zu betrachten ist. Polizeiliche Eigentumsbeschränkungen sind ohne Rücksicht auf ihre Schwere grundsätzlich entschädigungslos hinzunehmen, wenn mit der gegen den Störer gerichteten Massnahme eine als Folge der beabsichtigten Grundstücksbenutzung zu erwartende konkrete, d.h. ernsthafte und unmittelbare Gefahr für die öffentliche Ordnung, Sicherheit und Gesundheit abgewendet werden soll und wenn die zuständige Behörde zu diesem Zweck ein von Gesetzes wegen bestehendes Verbot konkretisiert und in Bezug auf die in Frage stehende Grundstücksnutzung bloss die stets zu beachtenden polizeilichen Schranken der Eigentumsfreiheit festsetzt (<ref-ruling> E. 4 S. 332 ff.; <ref-ruling> E. 5 S. 337 ff.; jeweils mit Hinweisen). Entschädigungslos zu dulden sind jedoch nur die im Sinne des Verhältnismässigkeitsgrundsatzes notwendigen polizeilichen Beschränkungen, nicht dagegen Anordnungen, die weiter gehen als zur Abwendung der ernsthaften und unmittelbaren Gefahr erforderlich ist; andernfalls kann eine Entschädigungspflicht bestehen (<ref-ruling> E. 3.3.1 S. 215 f.; <ref-ruling> E. 5 S. 334 f.; <ref-ruling> E. 5b S. 338 f.; jeweils mit Hinweisen).
4.3 Sodann hat die Rechtsprechung drei mögliche Ausnahmen vom Grundsatz der Entschädigungslosigkeit von Eigentumsbeschränkungen polizeilicher Natur im engeren Sinne vorbehalten (BGE <ref-ruling> E. 5b S. 338 f.). Es sind dies:
die Fälle eines nicht nur polizeilich, sondern auch raumplanerisch bedingten Bauverbotes,
der Fall des Verbots einer bereits bestehenden Nutzung (vgl. <ref-ruling>),
der Fall, in welchem die Schaffung einer Schutzzone eine Auszonung baureifen oder grob erschlossenen Landes bewirkt (vgl. <ref-ruling> E. 3d S. 337 f.; Urteil 1A.122/2002 vom 6. Dezember 2002 E. 3.1) oder einer solchen Auszonung gleichkommt.
Allerdings liegt keine materielle Enteignung vor, wenn die aus polizeilichen Gründen angeordnete Beschränkung unmittelbar dem Schutz des Grundeigentümers selbst dient, so etwa bei einem Bauverbot in einem lawinengefährdeten Gebiet oder bei einer Waldabstandszone (<ref-ruling> E. 7b S. 19 f.; <ref-ruling> E. 5c/aa S. 339; Urteil 1P.373/1995 vom 1. April 1996 E. 4b/bb in: ZBl 98/1997 S. 175), aber auch dann, wenn die Bedrohung von Dritten herrührt, unter Vorbehalt von Schadenersatzansprüchen gegen diesen Dritten (<ref-ruling> E. 7b S. 19 f.; <ref-ruling> E. 5a S. 87 f.). Dass in einem solchen Fall die Beschränkungen auch weitere Interessen schützen (z.B. den Wald), schliesst die Entschädigungslosigkeit nicht aus (BGE <ref-ruling> E. 5c/aa S. 339). Dasselbe gilt dort, wo eine Überbauung aus faktischen Gründen gar nicht ernsthaft in Frage kommt, z.B. in einem Sumpfgebiet (<ref-ruling> E. 4a S. 355 f.) oder innerhalb der Wasserlinie eines Sees (Urteil A.389/1986 vom 17. September 1987 E. 3a in: ZBl 90/1989 S. 543). Als ungeeignet zur Überbauung gilt auch eine übermässige Lärmbelastung (<ref-ruling> E. 7b S. 19 f.). Dient jedoch die aus polizeilichen Gründen angeordnete Beschränkung dem Schutz eines öffentlichen Werkes, so ist sie auch dann gleich zu behandeln wie eine sonstige Auszonung, wenn sie aus polizeilichen Gründen im engeren Sinne erfolgt und sich gegen den Störer richtet (BGE <ref-ruling> E. 5c/bb S. 340).
4.4 In der Lehre wird z.T. vorgeschlagen, auf die Differenzierungen nach polizeilichen und nicht polizeilichen Eingriffen zu verzichten und stattdessen einzig danach zu unterscheiden, wie intensiv die Einschränkung sei und welchem Ziel sie dient, d.h. ob sie eher zum Schutz der betroffenen Grundeigentümer oder aber der Allgemeinheit dient (HÄFELIN/MÜLLER/UHLMANN, Allgemeines Verwaltungsrecht, 6. Aufl. 2010, Rz. 2214; TSCHANNEN/ZIMMERLI/MÜLLER, Allgemeines Verwaltungsrecht, 3. Aufl. 2009, S. 625 f.; PETER HÄNNI, Enteignung und Entschädigung - Entwicklungen und neue Fragen, Schweizerische Baurechtstagung, 2005, S. 144 f.; WALDMANN/HÄNNI, Handkommentar Raumplanungsgesetz, 2006, Rz. 50 zu Art. 5; BERNHARD WALDMANN, Entschädigung aus materieller Enteignung für raumplanerische Nutzungsbeschränkungen zum Schutz vor Naturgefahren? Sicherheit und Recht 2009 S. 159 ff., 164; vgl. auch MÜLLER/SCHEFER, Grundrechte in der Schweiz, 4. Aufl. 2008, S. 1035 f.; ENRICO RIVA, Hauptfragen der materiellen Enteignung, 1990, S. 323 ff., mit Hinweisen zur älteren Literatur; ZEN RUFFINEN/GUY-ECABERT, Aménagement du territoire, construction, expropriation, 2001, S. 635 ff.). Es wird aber auch vertreten, dass eine Entschädigung generell nicht gerechtfertigt sei, wenn es um den Schutz vor Naturgefahren oder gegen Verhaltensweisen des Grundeigentümers bzw. um Schutz vor Gefährdungen gehe, die vom Grundstück selber ausgehen (MOOR/POLTIER, Droit administratif, vol. II, 3. Aufl. 2011, S. 900). Teilweise wird eine Entschädigungspflicht bejaht, wenn mit Freihaltezonen in erster Linie Dritte oder die Allgemeinheit geschützt werden sollen und die Gefährdung nicht vom eigenen Grundstück bzw. seiner Nutzung ausgeht (WALDMANN, a.a.O., S. 168 f.) oder - auch bei rein polizeilich motivierten Massnahmen zum Schutz des betroffenen Grundstücks - wenn eine bisher bestehende rechtmässige Nutzung verboten wird (WALDMANN, a.a.O., S. 172).
5. 5.1 Nach der dargelegten Rechtslage besteht somit grundsätzlich keine Entschädigungspflicht aus materieller Enteignung, soweit zum Schutz der streitbetroffenen Grundstücke gegen Naturgefahren Bauverbote verhängt wurden. Soweit die vorbestehenden Bauten auf den betreffenden Grundstücken durch die Murgänge ganz oder weitgehend zerstört wurden, geht es auch nicht um das Verbot einer bestehenden Nutzung (zweiter Ausnahmefall im Sinne von E. 4.3), da die bestehende Nutzung nicht durch das staatliche Verbot, sondern bereits durch das Naturereignis verunmöglicht wurde; das Verbot des Wiederaufbaus eines durch Naturereignisse zerstörten Hauses ist demnach nicht als Verbot einer bestehenden, sondern einer neuen Nutzung zu betrachten (Urteil 1A.251/2003 vom 2. Juni 2004 E. 3.4 in: ZBl 106/2005 S. 380; Urteil A.389/1986 vom 17. September 1987 E. 3b in: ZBl 90/1989 S. 543; ebenso WALDMANN, a.a.O., S. 173; kritisch PETER KARLEN, Das abgebrannte Badehäuschen, recht 1991, S. 99 ff., 103 f.; vgl. allerdings Art. 24c Abs. 2 des Bundesgesetzes vom 22. Juni 1979 über die Raumplanung [Raumplanungsgesetz, RPG; SR 700], wonach bestehende zonenwidrige Bauten wiederaufgebaut werden können, wenn sie durch Naturgefahren zerstört wurden [MUGGLI in: Aemisegger/ Kuttler/Moor/Ruch (Hrsg.), Kommentar zum Bundesgesetz über die Raumplanung, 2010, N 26 zu Art. 24c]). Dasselbe würde gelten, wenn die Grundsätze der formellen Enteignung angewendet werden (vgl. E. 3.2 hiervor): Baulandwert ist zu entschädigen, wenn das Land Baulandcharakter hat, was grundsätzlich voraussetzt, dass es sich in einer Bauzone befindet. Nach Art. 15 RPG umfassen Bauzonen Land, das sich für die Überbauung eignet. Land, das durch Naturgefahren bedroht ist, ist nicht für die Überbauung geeignet, wenn die Gefahr genügend gross ist und nicht durch andere Massnahmen reduziert werden kann (<ref-ruling> E. 5c und E. 6 S. 251 ff.; FLÜCKIGER/GRODECKI in: Aemisegger/Kuttler/Moor/Ruch [Hrsg.], a.a.O., N 65 zu Art. 15). Deshalb ist auch enteignungsrechtlich der Baulandcharakter zu verneinen, wenn das Grundstück aufgrund einer Bedrohung durch Naturgefahren gar nicht überbaut werden kann (Urteile 1P.421/2002 vom 7. Januar 2003 E. 2; 1P.855/2006 vom 15. Februar 2007).
5.2 Indessen ist die Auffassung der Vorinstanz, dass das fragliche Land aus rein polizeilichen Gründen wegen der Zuordnung zur roten Zone faktisch unüberbaubar gewesen sei, zu undifferenziert: Die Zuordnung zur roten Zone besagt zunächst nur, dass mit einer Wahrscheinlichkeit von mehr als 3x10-3 ein Hochwasser mit starker Intensität eintritt (Bundesamt für Raumentwicklung/Bundesamt für Wasser und Geologie/Bundesamt für Umwelt, Wald und Landschaft, Empfehlung Raumplanung und Naturgefahren, 2005, S. 16). Damit ist Schutzbedarf ausgewiesen, aber noch keine Nutzungsbeschränkung festgelegt (WALDMANN, a.a.O., S. 166). Als Schutzmöglichkeiten kommen grundsätzlich zwei Varianten in Frage: Einerseits kann durch aktive Schutzmassnahmen (Verbauungen, Dämme usw.; vgl. Art. 6 Abs. 2 lit. a WBG; Art. 19 des Bundesgesetzes vom 4. Oktober 1991 über den Wald [Waldgesetz, WaG; SR 921.0]; Art. 17 der Verordnung vom 30. November 1992 über den Wald [Waldverordnung, WaV; SR 921.01]) die Gefährdung so stark reduziert werden, dass eine bauliche Nutzung der betroffenen Gebiete wieder möglich und zulässig ist; andererseits kann durch raumplanerische Massnahmen (Gefahrenzonen; vgl. Art. 6 Abs. 2 lit. c RPG; Urteil 1A.271/2004 vom 26. Juli 2005 E. 4), in dem bedrohten Gebiet eine bauliche Nutzung untersagt werden. Die Aussage der Vorinstanz, die Zuweisung zur roten Zone schliesse eine bauliche Nutzung faktisch aus, ist deshalb in dieser allgemeinen Form nicht zutreffend: Ob eine solche Nutzung ausgeschlossen ist und bleibt, hängt vielmehr davon ab, ob das zuständige Gemeinwesen mit planerischen Massnahmen eine bauliche Nutzung im betroffenen Gebiet verbietet, oder ob es hinreichende aktive Schutzmassnahmen trifft. Nur in denjenigen Bereichen, die auch nach Durchführung der aktiven Schutzmassnahmen in der roten Zone verbleiben, besteht ein Bauverbot (vgl. Art. 6 Abs. 2 des Baugesetzes des Kantons Bern vom 9. Juni 1985 [BauG/BE]; ZAUGG/LUDWIG, Kommentar zum Baugesetz des Kantons Bern, 3. Aufl. 2007, Rz. 4 zu Art. 6).
5.3 Von Bundesrechts wegen besteht weder eine generelle Pflicht des Gemeinwesens, Siedlungsgebiete durch aktive Schutzmassnahmen vor Naturgefahren zu schützen, noch ein Verbot, dies zu tun. Zwar verpflichtet <ref-law> die Kantone, die Anrissgebiete von Lawinen sowie Rutsch-, Erosions- und Steinschlaggebiete zu sichern, jedoch nur, wo der Schutz von Menschen oder erheblichen Sachwerten dies erfordert. Dies bedeutet aber nicht, dass Schutzmassnahmen auch dann getroffen werden müssen, wenn neue Bauten in gefährdeten Gebieten erstellt werden (<ref-law>; Art. 2 Abs. 5 lit. a WBV; Urteil 2A.245/1996 vom 1. Juli 1998 E. 6d-f in: RDAT 1999 I S. 344) und schliesst passive Schutzmassnahmen nicht aus (vgl. Urteil 1P.675/2004 vom 12. Juli 2005 E. 3 in: RtiD 2005 II S. 100). Art. 3 WBG legt seinerseits eine Prioritätenordnung zwischen passiven und aktiven Hochwasserschutzmassnahmen fest (vgl. BBl 1988 II 1389), was aber nicht heisst, dass aktive Schutzmassnahmen nur dann getroffen werden dürften, wenn planerische Massnahmen überhaupt nicht in Frage kommen. In manchen Gegenden, vor allem im Alpenraum, hätte ein ausschliesslich passiver Schutz zur Folge, dass erhebliche Teile des Siedlungsgebiets aufgegeben werden müssten, was aus sozialen, volkswirtschaftlichen, regionalpolitischen und vielen anderen Gründen unerwünscht ist. Es wurden und werden deshalb an vielen Orten aktive Schutzmassnahmen getroffen, welche zur Folge haben, dass Gebiete als Baugebiete in Frage kommen, die ohne solche Schutzmassnahmen einer roten Gefahrenzone zugeordnet werden müssten. Dies ist mit Art. 3 WBG vereinbar (vgl. Urteile 1C_109/2010 vom 8. September 2010 E. 6; 1C_148/2008 vom 11. Dezember 2008 E. 4; 1A.157/2006 vom 9. Februar 2007 E. 3) und kann sich vor allem dort aufdrängen, wo Siedlungen bereits bestehen und erst im Nachhinein eine Gefährdung erkannt wird (WALDMANN, a.a.O., S. 167, 171).
5.4 Die zuständigen Behörden haben einen grossen Ermessensbereich, auf welche Weise sie Gefährdungen durch Naturgefahren begegnen wollen (WALDMANN, a.a.O., S. 161). Allerdings hat die Wahl der Strategie Auswirkungen auf die Kostentragung: Passive Schutzmassnahmen, d.h. Auszonungen, führen nach der dargelegten Rechtslage grundsätzlich nicht zu Entschädigungen. Die Kosten des Hochwasserschutzes werden damit von den betroffenen Eigentümern getragen. Aktive Schutzmassnahmen werden demgegenüber in der Regel durch die zuständigen Gemeinwesen getroffen und auch finanziert. Die Eigentümer, die von den Schutzmassnahmen profitieren, könnten zwar grundsätzlich zu Grundeigentümerbeiträgen herangezogen werden (Urteil 2P.281/2005 vom 27. März 2006 E. 3.2; 2P.154/1990 vom 21. Februar 1991 E. 3 in: ZBl 92/1991 S. 421; vgl. auch <ref-ruling> E. 3.6 S. 380 f.). Dies bedürfte jedoch einer entsprechenden gesetzlichen Grundlage. Es kann auch Gründe geben, solche Kosten nicht oder nur teilweise den Grundeigentümern zu übertragen, indem davon ausgegangen wird, der Schutz von menschlichen Siedlungen vor Naturgefahren sei eine originäre staatliche Aufgabe (vgl. <ref-law>; Art. 7 und Art. 15 des Gesetzes über Gewässerunterhalt und Wasserbau des Kantons Bern vom 14. Februar 1989 [Wasserbaugesetz; WBG/BE]; PATRICIA EGLI, Drittwirkung von Grundrechten, S. 292 f., JOSEF TH./HESS, Schutzziele im Umgang mit Naturrisiken in der Schweiz, 2011, S. 91 und 219 ff.). Gerade der Umstand, dass die Kostenfolgen je nachdem unterschiedlich sind, kann auch den Entscheid des zuständigen Gemeinwesens über die zu treffenden Massnahmen beeinflussen.
5.5 In der Praxis werden häufig nicht ausschliesslich aktive oder ausschliesslich passive Schutzmassnahmen getroffen, sondern eine Kombination, indem einige Grundstücke mit einem Bauverbot belegt, andere hingegen durch aktive Massnahmen geschützt werden, wobei diese Massnahmen in der Regel ihrerseits Land beanspruchen. Genau eine solche Situation liegt hier vor: Es wurde nämlich - wie der Beschwerdeführer mit Recht vorbringt - nicht bloss durch eine Zonenplanung für die rote Zone zum Schutz der davon betroffenen Grundeigentümer ein Bauverbot verhängt, was nach dem Gesagten grundsätzlich entschädigungslos hinzunehmen wäre. Vielmehr ergibt sich aus den Akten, dass durch das Hochwasserereignis vom August 2005 nicht nur auf den jetzt streitbetroffenen, sondern auf zahlreichen weiteren Grundstücken Häuser zerstört oder beschädigt wurden, ebenso die Kantonsstrasse und die Eisenbahnlinie. In der aufgrund dieser Ereignisse korrigierten Gefahrenkarte wurde im Bereich des Glyssibachs zunächst ein erheblich grösseres Gebiet der roten Zone zugewiesen. Dank dem durchgeführten Wasserbauprojekt konnte der grösste Teil dieses Gebiets dann der blauen, gelben oder gelb-weissen Zone zugeordnet werden und liegt nach wie vor in der Bauzone, während auf den jetzt streitbetroffenen Grundstücken ein Korridor zur Durchleitung von Murgängen freigehalten wurde. Das Gemeinwesen hat somit ein Wasserbauwerk errichtet und zu diesem Zweck einen kleineren Teil der betroffenen Grundstücke erworben, um den grösseren Teil wie auch die Strassen- und Bahnlinie durch aktive Massnahmen schützen zu können. Diese Massnahmen und der damit verbundene Freihaltebereich dienen nicht nur dem Schutz der streitbetroffenen Grundstücke, sondern mindestens teilweise auch dem Schutze Dritter bzw. der Allgemeinheit.
5.6 Eine Entschädigung zum Baulandwert kann daher nicht schon mit dem Argument verneint werden, die betroffenen Grundstücke lägen in einem gefährdeten Gebiet. Denn einerseits dient die Freihaltemassnahme (auch) der Realisierung und dem Schutz eines öffentlichen Werkes, so dass eine materielle Enteignung nicht schon mit dem Hinweis auf den polizeilichen Charakter verneint werden kann (vgl. E. 4.3 in fine). Andererseits gibt es andere Grundstücke, die ebenfalls im gefährdeten Gebiet liegen, aber dank den auf den betroffenen Grundstücken erstellten Hochwasserschutzmassnahmen nun einen besseren Schutz geniessen als zuvor und in eine tiefere Gefahrenzone eingestuft werden konnten. Die beiden Gruppen von Grundeigentümern werden daher ungleich behandelt, was auch der Beschwerdegegner anerkennt. Diese Ungleichbehandlung kann entgegen der Auffassung des Beschwerdegegners und der Vorinstanz nicht mit dem Argument gerechtfertigt werden, im Raumplanungsrecht sei es unvermeidlich, dass benachbarte Parzellen unterschiedlich behandelt werden: Diese Regel bezieht sich auf die Zulässigkeit der Massnahme an sich; im Enteignungsrecht ist aber zu unterscheiden zwischen der Zulässigkeit der Massnahme und den finanziellen Folgen, die sich aus einer zulässigen Eigentumseinschränkung ergeben (RIVA, a.a.O., S. 302). Werden wie im vorliegenden Fall einzelne Grundstücke herangezogen, um für eine grössere Zahl weiterer Grundstücke die Sicherheit zu verbessern, so liegt ein klassischer Fall des Sonderopfers vor, welches Ausprägung des generellen Gedankens des Lastenausgleichs ist: Einzelne Grundeigentümer müssen zu Gunsten der Allgemeinheit oder Dritter ein Opfer erbringen, so dass es mit der Rechtsgleichheit nicht vereinbar wäre, wenn hierfür keine Entschädigung geleistet würde (<ref-ruling> E. 5b S. 268 ff.; <ref-ruling> E. 4 S. 32 ff.; <ref-ruling> E. 2 S. 15 f.; RIVA, a.a.O., S. 295 ff.; WALDMANN, a.a.O., S. 162 f.). Zwar ist auch bei der Sonderopfervariante vorausgesetzt, dass eine Nutzungsmöglichkeit entzogen wird, die sich sonst mit hoher Wahrscheinlichkeit in naher Zukunft hätte verwirklichen lassen (<ref-ruling> E. 6 S. 147; <ref-ruling> E. 6c S. 384 f.). In Fällen wie dem vorliegenden hätte aber eine Nutzungsmöglichkeit für die betroffenen Grundstücke in der Tat bestanden, wenn nicht sie, sondern andere Grundstücke für die Realisierung des Wasserbauprojekts herangezogen worden wären; Grundstücke, welche dank dem jetzt realisierten Projekt weiterhin genutzt werden können. In solchen Situationen ist es gewissermassen - wenn vielleicht auch nicht technisch, so doch rechtlich - zufällig, welche Grundstücke für Schutzmassnahmen herangezogen werden und welche davon profitieren. Das rechtfertigt einen Ausgleich zu Gunsten der betroffenen Grundstückseigentümer.
5.7 Nach dem Gesagten wäre es mit den enteignungsrechtlichen Entschädigungsgrundsätzen nicht vereinbar, für die beanspruchten Grundstücke nur den Preis für Landwirtschaftsland zu bezahlen. Das gilt auch dann, wenn die Bemessung der Entschädigung nach den Grundsätzen der formellen Enteignung erfolgt: Die Einschränkung der baulichen Tätigkeit ergab sich nicht zwangsläufig als Folge der Naturgefahr, sondern sie ist nach dem Gesagten Teil des durchgeführten Wasserbauprojekts und darf bei der Bemessung des Verkehrswerts nicht berücksichtigt werden (vgl. E. 3.2 hiervor).
5.8 Das bedeutet allerdings nicht zwingend, dass der gesamte vom Beschwerdeführer in Rechnung gestellte Betrag anrechenbar ist. Denn einerseits ist auch bei der Bemessung des Verkehrswerts die allenfalls weiterhin bestehende Gefährdung wertmindernd zu berücksichtigen (WALDMANN, a.a.O., S. 172). Zudem könnte das Gemeinwesen, welches aktive Schutzmassnahmen ergreift, von jenen Grundeigentümern, die davon einen Nutzen haben, eine finanzielle Beteiligung an diesen Massnahmen verlangen (vgl. E. 5.4 hiervor). Das würde auch für die hier betroffenen Grundeigentümer gelten, wenn deren Grundstücke nicht für die Erstellung des Werks verwendet worden wären. Ob hier von den Eigentümern der von den Schutzmassnahmen profitierenden Grundstücke solche Beiträge erhoben wurden, ist aus den Akten nicht ersichtlich. Sollte dies der Fall sein, so wäre auch den Eigentümern der hier streitbetroffenen Grundstücke aus Rechtsgleichheitsgründen höchstens der Baulandwert abzüglich entsprechender Beiträge zu entschädigen. Sodann ist zu berücksichtigen, dass einige der streitbetroffenen Grundstücke nur teilweise für die Erstellung des Werks erworben wurden, teilweise aber nach wie vor in der Bauzone bleiben und weiterhin baulich genutzt werden können. Soweit auf diesen Rest-Grundstücken eine bauliche Nutzung nach wie vor möglich ist, wäre auch ein Vorteil anzurechnen, der durch die Realisierung des Hochwasserschutzwerks entstanden ist (Art. 20 Abs. 3 bzw. Art. 22 Abs. 1 EntG). Zu berücksichtigen wäre ferner, wenn die vom Kanton geleisteten Entschädigungen allenfalls übermässig gewesen wären oder wenn ohne sachlichen Grund auf eine angemessene Beteiligung der Grundeigentümer verzichtet worden wäre (vgl. E. 3.1 und E. 5.4 hiervor).
5.9 Vorliegend ist aus den Akten nicht erkennbar, ob die vom Kanton geltend gemachten Kosten den in E. 5.8 genannten Aspekten hinreichend Rechnung tragen. Die Sache ist daher an die Vorinstanz zurückzuweisen, damit sie diese Aspekte prüft und über die Höhe der Abgeltung neu entscheidet. Da es nicht um die Entschädigung der Grundeigentümer, sondern um die Bemessung der Bundesabgeltungen geht, wird diese Prüfung auch eher pauschal erfolgen können.
6. Bei diesem Ausgang des Verfahrens trägt der Beschwerdegegner, welcher Vermögensinteressen verfolgte, die Kosten des bundesgerichtlichen Verfahrens (Art. 65 Abs. 1-3 und <ref-law>). Der obsiegende Beschwerdeführer hat keinen Anspruch auf Parteientschädigung (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Das Urteil des Bundesverwaltungsgerichts vom 2. Mai 2011 wird aufgehoben und die Sache zur neuen Entscheidung im Sinne der Erwägungen an die Vorinstanz zurückgewiesen.
2. Die Gerichtskosten von Fr. 8'000.- werden dem Beschwerdegegner auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Beschwerdegegner sowie dem Bundesverwaltungsgericht, Abteilung I, schriftlich mitgeteilt.
Lausanne, 9. November 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Zähndler