Sachverhalt:
A. Mit Eingabe vom 20. Dezember 2010 ersuchten die ewz Übertragungsnetz AG und die Nordostschweizerische Kraftwerke Grid AG (NOK Grid) bei der Eigenössischen Schätzungskommission Kreis 9 um Enteignung eines Durchleitungsrechts und eines Rechts auf Fortbestand eines Leistungsmasts auf dem Grundstück GB Schwyz Kat. Nr. 266 ("Mosen"), Galgenen, für die 220 kV Übertragungsleitung Siebnen-Samstagern.
B. Die Schätzungskommission Kreis 9 trat am 3. Januar 2011 mangels Zuständigkeit nicht auf das Gesuch ein.
Das hierauf angerufene Bundesverwaltungsgericht schützte den vorinstanzlichen Entscheid am 26. August 2001 im Hauptpunkt und hiess den Eventualantrag in dem Sinne gut, als es das Gesuch der Beschwerdeführerinnen an das Eidgenössische Starkstrominspektorat weiterleitete.
C. Mit ihrer Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 3. Oktober 2011 beantragen die ewz Übertragungsnetz AG und die Nordostschweizerische Kraftwerke Grid AG dem Bundesgericht die Aufhebung des vorinstanzlichen Urteils vom 26. August 2011. Die Eidgenössische Schätzungskommission Kreis 9 sei anzuweisen, das Gesuch der Beschwerdeführerinnen vom 20. Dezember 2010 zwecks Einleitung des Enteignungsverfahrens zu behandeln.
Die Mitglieder der Erbengemeinschaft A._ als private Beschwerdegegner schliessen auf Abweisung der Beschwerde, während die Eidgenössische Schätzungskommission Kreis 9 und das Bundesverwaltungsgericht je auf eine Vernehmlassung verzichten.
In einer weiteren Eingabe halten die Beschwerdeführerinnen sinngemäss an ihren Anträgen fest.
Erwägungen:
1. Der angefochtene Entscheid des Bundesverwaltungsgerichts (Art. 86 Abs. 1 lit. a BGG) stützt sich in erster Linie auf Bundesverwaltungsrecht (eidgenössisches Elektrizitätsgesetz und Enteignungsgesetz) und betrifft demzufolge eine öffentlich-rechtliche Angelegenheit im Sinne von Art. 82 lit. a BGG. Ein Ausschlussgrund nach Art. 83 BGG liegt nicht vor. Beim angefochtenen Urteil handelt es sich um einen Endentscheid i.S.v. Art. 90 BGG. Die Beschwerdeführerinnen als Eigentümerinnen der Hochspannungsleitung Siebnern-Samstagern, für die derzeit kein Durchleitungsrecht auf dem Grundstück Kat. Nr. 266 der Beschwerdegegner besteht, sind durch den abweisenden Entscheid der Vorinstanz in besonderem Masse berührt. Entsprechend sind sie zur Beschwerde legitimiert. Die weiteren Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, weshalb auf die frist- und formgerecht eingereichte Beschwerde grundsätzlich einzutreten ist.
2. Der bisherige, im Jahr 1960 abgeschlossene Dienstbarkeitsvertrag für die Durchleitung der Hochspannungsleitung auf dem Grundstück der Beschwerdegegner ist 2010 abgelaufen. Die Beschwerdeführerinnen beabsichtigen, neu auch eine Telekommunikationsleitung durch die fragliche Parzelle zu führen. Dabei soll kein weiterer Strang neben der bereits bestehenden Leitung montiert werden. Die Datenübertragung erfolge heute durch im Erdseil integrierte Lichtwellenleiter. Die hohe Kapazität dieser Leiter für den Datentransport eröffne den Netzbetreibern die Möglichkeit, überschüssige Kapazitäten an Fernmeldedienstanbieter abzutreten. In diesem Zusammenhang werfen die Beschwerdeführerinnen dem Bundesverwaltungsgericht in vor, es habe Art. 16 Abs. 1 des Bundesgesetzes vom 24. Juni 1902 betreffend die elektrischen Schwach- und Starkstromanlagen (Elektrizitätsgesetz, EleG; SR 734.0) falsch ausgelegt, weil es von der Änderung einer Starkstromanlage ausgegangen sei.
2.1 Die umstrittene Norm hält fest, dass wer Starkstromanlagen oder Schwachstromanlagen nach Art. 4 Abs. 3 EleG erstellen oder ändern will, eine Plangenehmigung benötigt (Art. 16 Abs. 1 EleG).
2.2 Ein Gesetz ist in erster Linie aus sich selbst heraus, das heisst nach Wortlaut, Sinn und Zweck und den ihm zu Grunde liegenden Wertungen auf der Basis einer teleologischen Verständnismethode auszulegen. Auszurichten ist die Auslegung auf die ratio legis, die zu ermitteln dem Gericht allerdings nicht nach den subjektiven Wertvorstellungen der Richter aufgegeben ist, sondern nach den Vorgaben des Gesetzgebers. Die Auslegung des Gesetzes ist zwar nicht entscheidend historisch zu orientieren, im Grundsatz aber dennoch auf die Regelungsabsicht des Gesetzgebers und die damit erkennbar getroffenen Wertentscheidungen auszurichten, da sich die Zweckbezogenheit des rechtsstaatlichen Normverständnisses nicht aus sich selbst begründen lässt, sondern aus den Absichten des Gesetzgebers abzuleiten ist, die es mit Hilfe der herkömmlichen Auslegungselemente zu ermitteln gilt. Die Gesetzesauslegung hat sich vom Gedanken leiten zu lassen, dass nicht schon der Wortlaut allein die Rechtsnorm darstellt, sondern erst das an Sachverhalten verstandene und konkretisierte Gesetz. Gefordert ist die sachlich richtige Entscheidung im normativen Gefüge, ausgerichtet auf ein befriedigendes Ergebnis mit Blick auf die ratio legis. Dabei befolgt das Bundesgericht einen pragmatischen Methodenpluralismus und lehnt es namentlich ab, die einzelnen Auslegungselemente einer hierarchischen Prioritätsordnung zu unterstellen. Die Gesetzesmaterialien können beigezogen werden, wenn sie auf die streitige Frage eine klare Antwort geben (statt vieler: BGE 133 III 175 E. 3.3.1 S. 178; Urteil 1C_442/2008 vom 9. Juli 2009 E. 2.1).
2.3 Das Bundesverwaltungsgericht geht zunächst der Frage nach, ob vom Begriff der Änderung einer Starkstromanlage nur bauliche Änderungen oder auch Zweckänderungen erfasst werden. Dazu hatte das Bundesgericht bereits in BGE 133 II 49 E. 6.3 S. 55 festgestellt, es sei davon auszugehen, dass sich der eidgenössische Gesetzgeber im Jahr 1902 kaum habe vorstellen können, Starkstromleitungen könnten zu einem anderen Zwecke mitbenutzt werden. Was den Sinn von Art. 16 Abs. 1 EleG anbelangt, verweist das Bundesverwaltungsgericht auf BGE 132 III 651, in dem sich das Bundesgericht mit der zivilrechtlichen Frage befasst hat, ob der Betrieb eines Glasfaserkabels (Lichtwellenleiter) auf einer Hochspannungsleitung, das einerseits der Erdung der Leitung dient und andererseits Dritten für die Übertragung von Daten der Telekommunikation zur Verfügung gestellt wird, vom dienstbarkeitsvertraglich vereinbarten Zweck des Betriebs einer elektrischen Leitung miterfasst werde oder diesen sprenge. Es war zum Schluss gelangt, das vertraglich eingeräumte Recht auf Errichtung und Betrieb einer Leitung für die Übertragung elektrischer Energie schliesse den Transport von Daten nur insoweit ein, als er für den Betrieb der elektrischen Leitung selbst erforderlich sei. Der Einsatz der Leitung zur Erbringung von Fernmeldediensten werde hingegen durch den vereinbarten Zweck der Dienstbarkeit nicht gedeckt. Die Einrichtung und der Betrieb einer Fernmeldeanlage seien etwas anderes - ein aliud - als der Bau und Betrieb einer elektrischen Leitung (BGE 132 III 651 E. 8.1 S. 656). Daraus wiederum wurde im späteren Entscheid BGE 133 II 49 E. 5 S. 53 f. gefolgert, bei der Errichtung einer Mobilfunkantenne auf einem Hochspannungsleitungsmast handle es sich nicht mehr nur um die Änderung einer elektrischen Anlage, sondern um die Erstellung einer Fernmeldeanlage auf einer elektrischen Anlage. Im erstgenannten Entscheid befand das Bundesgericht, die von den Beschwerdeführerinnen vorgesehene Nutzung der strittigen Hochspannungsleitung für Telekommunikationszwecke sei eine Änderung der Starkstromanlage, obschon keine sichtbare bauliche Veränderung geplant war. Identität der Dienstbarkeit ist nicht schon bei gleicher Art der Benutzung des belasteten Grundstücks gegeben. Erforderlich ist vielmehr, dass das nunmehrige Bedürfnis des Berechtigten sich im Rahmen des ursprünglichen Bedürfnisses hält. Der Eigentümer des belasteten Grundstücks braucht die Ausübung der Dienstbarkeit zu einem anderen Zweck als dem, für den sie begründet worden ist, nicht zuzulassen (BGE 132 II 651 E. 8 mit Hinweisen). Für das Bundesverwaltungsgericht ist nachvollziehbar, dass in der Folge die zusätzliche Nutzung von Lichtwellenleitern auf Hochspannungsleitungen zur Erbringung fernmeldedienstlicher Leistungen trotz Fehlens baulicher Veränderungen als Änderungen einer elektrischen Anlage qualifiziert und damit auch Zweckänderungen von Starkstromanlagen von Art. 16 Abs. 1 EleG erfasst und dem Plangenehmigungsverfahren unterstellt werden.
2.4 Die Vorinstanz setzt sich zudem mit dem von den Beschwerdeführerinnen zitierten Urteil 1E.12/2004 vom 22. Dezember 2004 auseinander. In E. 1.2 dieses Entscheids hatte das Bundesgericht festgehalten, wenn für eine bestehende Anlage im Nachhinein noch weitere Rechte zu erwerben seien, ohne dass die Anlage geändert würde und ein Plangenehmigungsverfahren erforderlich wäre, bestimme sich das Verfahren mangels einer Sonderregelung ausschliesslich nach dem Enteignungsgesetz. Zu Recht hält das Bundesverwaltungsgericht den Vorbringen der Beschwerdeführerinnen entgegen, vorliegend treffe dies nicht zu: Einerseits werde der Zweck der Anlage erweitert, wobei das entsprechende, im ursprünglichen Dienstbarkeitsvertrag vom 22. Januar 1960 nicht vorgesehene Dienstbarkeitsrecht für den Betrieb einer Telekommunikationsleitung zu erwerben und von einer Änderung einer Starkstromanlage i.S.v. Art. 16 Abs. 1 EleG auszugehen sei, die ein Plangenehmigungsverfahren erforderlich mache. Andererseits sei der befristete Dienstbarkeitsvertrag inzwischen abgelaufen, ohne dass sich die Beschwerdeführerinnen frühzeitig um den Erwerb der dafür weiterhin benötigten Rechte gekümmert hätten. Es gehe daher nicht um den Weiterbestand eines dienstbarkeitsvertraglich berechtigten Werks, sondern vielmehr um den Erwerb einer neuen Dienstbarkeit zur nachträglichen Rechtfertigung einer seit eineinhalb Jahren rechtswidrig betriebenen Starkstromanlage. Dies verdiene keinen Rechtsschutz. Die Baute sei von den Eigentümern zwar bisher geduldet worden, könne aber jederzeit mittels zivilrechtlicher Eigentumsfreiheitsklage beseitigt werden. Geschehe dies, sei ohnehin ein Plangenehmigungsverfahren durchzuführen, da eine neue (eventuell verlegte bzw. den neuen Verhältnissen angepasste) Anlage erstellt werden müsste.
2.5 Weiter hat das Bundesgericht zur hier interessierenden Problematik im soeben zitierten Urteil in E. 1.2 Folgendes in Erwägung gezogen: Sind nach Abschluss des Plangenehmigungsverfahrens Änderungen oder Ergänzungen an Starkstromanlagen vorzunehmen, können diese in einem nachlaufenden Bewilligungsverfahren angeordnet bzw. genehmigt werden. Solche Ergänzungs- oder Detailprojektierungsverfahren sind nach gefestigter Rechtsprechung auch dann zulässig, wenn die Spezialgesetzgebung sie nicht ausdrücklich vorsieht. Voraussetzung ist allerdings, dass die Rechtsschutzinteressen der betroffenen Eigentümer gewahrt werden (vgl. etwa BGE 124 II 293 E. 19c S. 335 mit Hinweisen; Urteil 1E.12/2004 des Bundesgerichts vom 22. Dezember 2004 E. 1.2, publ. in: ZBl 107/2006 S. 499). Dazu gibt das Bundesverwaltungsgericht zu bedenken, dass sich die Verhältnisse seit Errichtung der Dienstbarkeit vor 50 Jahren geändert haben. So wurde der Grundstücksteil, über den die strittige Leitung verläuft, in die Bauzone umgezont, weshalb sich die Beschwerdegegner gegen eine Erneuerung der Dienstbarkeit wehren bzw. verlangen, die Durchleitung auf einen anderen Teil ihrer Parzelle zu verlegen (Art. 693 ZGB). Ausserdem ist das Grundstück Nr. 270 betroffen, welches nicht den Beschwerdegegnern gehört. Das bedeutet, dass Drittinteressen zu berücksichtigen sind. Darüber sowie über die Erteilung des Enteignungsrechts bzw. die Rechtmässigkeit der Enteignung sei im Plangenehmigungsverfahren zu entscheiden. Erschwerend kommt für das Bundesverwaltungsgericht hinzu, dass - auch wenn es um die Frage der Entschädigung ginge - die Schätzungskommission dennoch nicht für die Beurteilung des Gesuchs zuständig wäre, da die Beschwerdeführerinnen dieses nicht rechtzeitig vor Ablauf des Dienstbarkeitsvertrags eingereicht hätten, sodass nun u.a. eine neue Dienstbarkeit für den Betrieb der Starkstromanlage benötigt werde. Art. 64 Abs. 1 lit. k des eidgenössischen Enteignungsgesetzes vom 20. Juni 1930 (EntG; SR 711) über die Entschädigung für die Erneuerung befristeter Durchleitungsrechte gelange folglich nicht zur Anwendung. Die Schätzungskommission habe ihre Zuständigkeit zu Recht verneint, habe sie doch keine rechtliche Handhabe, um den Beschwerdegegnern die geforderten Dienstbarkeiten zwangsweise abzuringen.
2.6 Diese Beurteilung ist im Ergebnis nicht zu beanstanden. Was die Beschwerdeführerinnen dagegen vorbringen, überzeugt nicht. Das Bundesverwaltungsgericht hat nicht den Eindruck erweckt, in BGE 132 III 651 sei es um die bau- oder planungsrechtliche Qualifikation der Leitungen gegangen. Die Vorinstanz hat aber richtigerweise den Zusammenhang zwischen den beiden einschlägigen Entscheiden und den Konnex zwischen den privat- und den öffentlich-rechtlichen Fragen aufgezeigt. Allerdings fragt sich, ob sich die gesamte Problematik nicht treffender unter die "Erstellung einer Starkstromanlage" subsumieren liesse, ist doch der Dienstbarkeitsvertrag seit längerer Zeit abgelaufen und wird neu eine andere Leitung betrieben als im Vertrag vereinbart. Die Berufung auf das Urteil 1E.12/2004 ist denn auch unbehelflich. Es geht nicht bloss um eine Verlängerung, sondern um eine gänzlich neue Regelung der Durchleitung. Damit unterscheidet sich der vorliegende Fall massgeblich von jenen in den zitierten Entscheiden. Die Durchleitung der Hochspannungsleitung muss grundsätzlich überprüft werden, haben sich doch mit der inzwischen stattgefundenen Umzonung auch die planerischen Gegebenheiten verändert. Da in jedem Fall ein Plangenehmigungsverfahren notwendig ist, wird in diesem auch über die Bewilligung für den Lichtwellenleiter mit erweiterter Zweckbestimmung zu befinden sein, bei dem es sich nicht um eine unwesentliche Nebennutzung handelt. Hier rechtfertigt sich die Koordination im Plangenehmigungsverfahren, wohingegen in BGE 132 II 49 die Hochspannungsleitung an sich nicht zur Diskussion stand. Deshalb war die nachträglich anzubringende und unabhängig von der Stromanlage betriebene Mobilfunkanlage gesondert nach dem Fernmeldegesetz zu bewilligen. Dem Starkstrominspektorat obliegt es vorliegend, das bundesrechtliche Plangenehmigungsverfahren mit anderen, für die gleiche Planvorlage notwendigen eidgenössischen und kantonalen Verfahren zu koordinieren.
2.7 Was die Beschwerdeführerinnen gegen die Durchführung des nun notwendig gewordenen Plangenehmigungsverfahren vorbringen, überzeugt nicht, zumal sich die Verhältnisse seit Vereinbarung der Durchleitung 1960 in verschiedener Hinsicht massgeblich verändert haben.
3. Die Beschwerde ist demnach abzuweisen. Dem Ausgang des Verfahrens entsprechend haben die Beschwerdeführerinnen für die bundesgerichtlichen Kosten aufzukommen (Art. 66 Abs 1 BGG). Sie haben die privaten Beschwerdegegner zudem angemessen für das bundesgerichtliche Verfahren zu entschädigen (Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdeführerinnen auferlegt.
3. Die Beschwerdeführerinnen haben die privaten Beschwerdegegner für das bundesgerichtliche Verfahren unter solidarischer Haftbarkeit mit Fr. 3'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, der Eidgenössischen Schätzungskommission, Kreis 9, und dem Bundesverwaltungsgericht, Abteilung I, schriftlich mitgeteilt.
Lausanne, 24. Februar 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Die Gerichtsschreiberin: Scherrer Reber