Sachverhalt:
A. Nach dem bernischen Gebäudeversicherungsgesetz vom 9. Juni 2010 (GVG/BE; BSG 873.11), in Kraft seit dem 1. Januar 2011, sind alle im Kanton Bern gelegenen Gebäude obligatorisch bei der Gebäudeversicherung Bern (GVB) gegen Feuer- und Elementarschaden zu versichern (Art. 4 und Art. 8 GVG/BE). Die GVB ist eine selbständige Anstalt des öffentlichen Rechts mit eigener Rechtspersönlichkeit (Art. 3 GVG/BE). Nach den Art. 7, 44 und 45 GVG/BE kann die GVB Zusatzversicherungen und Nebentätigkeiten über juristisch selbständige, privatrechtlich organisierte Tochtergesellschaften anbieten. Zu diesem Zweck gründete die GVB die privatrechtlich organisierte GVB Privatversicherungen AG, welche für sämtliche Zusatzversicherungen zuständig sein soll, sowie die GVB Services AG, welche Nebentätigkeiten anbieten soll.
Mit Verfügung vom 6. Juli 2011 erteilte die Eidgenössische Finanzmarktaufsicht (FINMA) der GVB Privatversicherungen AG auf deren Gesuch hin die Bewilligung zum Betrieb der Versicherungszweige B8 (Feuer und Elementarschäden), B9 (Sonstige Sachschäden), B13 (Allgemeine Haftpflicht) und B16 (Verschiedene finanzielle Verluste). Die Bewilligungserteilung wurde auszugsweise im Schweizerischen Handelsamtsblatt vom 8. Juli 2011 publiziert.
B. Gegen diese Verfügung erhoben der Schweizerische Versicherungsverband (SVV), die Schweizerische Mobiliarversicherung AG und die Emmentalische Mobiliar Versicherungs-Genossenschaft, welche zuvor erfolglos um Parteistellung im Verfahren vor der FINMA ersucht hatten, am 8. August 2011 Beschwerde beim Bundesverwaltungsgericht mit dem Antrag, die angefochtene Verfügung sei aufzuheben und die von der GVB Privatversicherungen AG beantragte Bewilligung sei nicht zu erteilen; eventuell sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Mit Urteil vom 12. Dezember 2011 trat das Bundesverwaltungsgericht auf die Beschwerde mangels Legitimation der Beschwerdeführer nicht ein.
C. Der Schweizerische Versicherungsverband SVV, die Schweizerische Mobiliarversicherung AG und die Emmentalische Mobiliar Versicherungs-Genossenschaft erheben Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht mit dem Antrag, das Urteil des Bundesverwaltungsgerichts sei aufzuheben, den Beschwerdeführern sei die Legitimation zuzuerkennen und die Vorinstanz sei anzuweisen, auf die Beschwerde vom 8. August 2011 einzutreten und die Sache materiell zu beurteilen. Eventuell sei die Frage der Beschwerdelegitimation zur Neubeurteilung an die Vorinstanz zurückzuweisen oder den Beschwerdeführern im Bewilligungsverfahren der Beschwerdegegnerin vor der FINMA Parteistellung zuzuerkennen und die FINMA anzuweisen, das Bewilligungsverfahren unter Wahrung der Parteirechte der Beschwerdeführer durchzuführen.
Das Bundesverwaltungsgericht verzichtet auf Vernehmlassung. Die GVB Privatversicherungen AG und die FINMA beantragen die Abweisung der Beschwerde.
Mit Verfügung des Präsidenten der II. öffentlich-rechtlichen Abteilung des Bundesgerichts vom 22. Februar 2012 wurde der Beschwerde die aufschiebende Wirkung zuerkannt.
Die Parteien äusserten sich erneut zu den Vorbringen der jeweiligen Gegenpartei.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen den Nichteintretensentscheid des Bundesverwaltungsgerichts in einer Angelegenheit des öffentlichen Rechts ist zulässig (Art. 82 lit. a, Art. 86 Abs. 1 lit. a und Art. 90 BGG). Die Beschwerdeführer sind durch den angefochtenen Entscheid, der ihnen die Befugnis zur Beschwerdeerhebung abspricht, zur Beschwerde legitimiert (Art. 89 Abs. 1 BGG).
2. Die Beschwerdeführer machen im Wesentlichen geltend, das Bundesverwaltungsgericht habe ihre Beschwerdelegitimation im vorinstanzlichen Verfahren zu Unrecht verneint und hierdurch Bundesrecht verletzt.
2.1 Anwendbar ist vorliegend Art. 48 VwVG. Nach Absatz 1 dieser Bestimmung ist zur Beschwerde berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen hat oder keine Möglichkeit zur Teilnahme erhalten hat, durch die angefochtene Verfügung besonders berührt ist und ein schutzwürdiges Interesse an deren Aufhebung oder Änderung hat. Nach Absatz 2 sind ferner jene Personen, Organisationen und Behörden zur Beschwerde berechtigt, denen ein anderes Bundesgesetz dieses Recht einräumt. Eine Konstellation im Sinne von Art. 48 Abs. 2 VwVG besteht vorliegend nicht. Die Legitimation beurteilt sich somit nach Art. 48 Abs. 1 VwVG, der gleich lautet wie Art. 89 Abs. 1 BGG und auch gleich auszulegen ist.
2.2 Die Beschwerdeführerin 2 und die Beschwerdeführerin 3 sind Versicherungsunternehmen und damit Konkurrentinnen der Beschwerdegegnerin; der Beschwerdeführer 1 ist der Dachverband der privaten Versicherungswirtschaft der Schweiz, als Verein im Sinne von Art. 60 ff. ZGB organisiert und statutarisch mit der Wahrung der gemeinsamen Interessen der Vereinsmitglieder betraut; er ist daher nach den Grundsätzen der sog. egoistischen Verbandsbeschwerde zur Beschwerde legitimiert, sofern auch die Mehrheit oder doch eine Grosszahl seiner Mitglieder dazu befugt wären (<ref-ruling> E. 1.1 S. 542 mit Hinweisen).
2.3 Die Vorinstanz hat dies verneint und sich dabei auf die ständige Rechtsprechung des Bundesgerichts gestützt, wonach Konkurrenten nicht schon aufgrund der Befürchtung, einer verstärkten Konkurrenz ausgesetzt zu sein, zur Beschwerde legitimiert sind; diese Art des Berührtseins liegt vielmehr im Prinzip des freien Wettbewerbs. Erforderlich ist eine spezifische Beziehungsnähe, die sich aus einer einschlägigen wirtschaftspolitischen oder sonstigen speziellen gesetzlichen Regelung ergibt, z.B. durch Kontingentierungen, Bedürfnisklauseln oder Monopoleinräumungen (Urteil 2C_694/2009 vom 20. Mai 2010 E. 1.1 nicht publ. in: <ref-ruling>; <ref-ruling> E. 2c und E. 2h f. S. 269, 271 f.; <ref-ruling> E. 3d S. 9). Ferner ist ein Konkurrent zur Beschwerde legitimiert, soweit er geltend macht, andere Konkurrenten würden privilegiert behandelt (<ref-ruling> E. 2c S. 269; <ref-ruling> E. 3e und 3g/cc S. 9 f., 12). Hingegen kann das blosse allgemeine Interesse der Konkurrenten, dass die für alle geltenden allgemeinen Vorschriften gegenüber den anderen Wirtschaftsteilnehmern korrekt angewendet werden, keine Beschwerdelegitimation begründen (BGE <ref-ruling> E. 3g/bb S. 11 f.; <ref-ruling> E. 4b/bb S. 380 f.), und zwar auch nicht zu Gunsten der Konkurrenten, welche befürchten, infolge einer angeblich rechtswidrigen Zulassung neuer Produkte einen Umsatzrückgang zu erleiden (BGE <ref-ruling> E. 5b S. 382 ff.). Konkurrenten sind sodann nicht legitimiert, wenn sie nicht eine Dritten zugestandene Begünstigung rügen, sondern im Gegenteil verhindern wollen, dass - ohne dass eine entsprechende Schutznorm zu ihren Gunsten vorläge - Dritten das zugestanden wird, was ihnen auch zusteht (<ref-ruling> E. 2.6 S. 203 ff.). Nach diesen Grundsätzen sind z.B. Inspektions- oder Revisionsstellen nicht zur Beschwerde gegen die Zulassung weiterer Inspektions- oder Revisionsstellen legitimiert, wenn diese Zulassung von der Erfüllung rein polizeilicher Voraussetzungen abhängt (Urteil 2A.19/2006 vom 24. Mai 2006 E. 3). Gleiches gilt für landwirtschaftliche Produzenten bezüglich der Zulassung von Lebensmitteln gemäss Art. 16a ff. des Bundesgesetzes vom 6. Oktober 1995 über die technischen Handelshemmnisse (THG; SR 946.51; Urteile 2C_348/2011 vom 22. August 2011 E. 2.3; 2C_457/2011 vom 26. Oktober 2011 E. 3.3; 2C_854/2011 vom 10. Mai 2012 E. 3). Demgegenüber sind Apotheker zur Beschwerde legitimiert, soweit die in Frage stehende Norm die Apotheken vor Konkurrenz schützen will (Urteil 2C_53/2009 vom 23. September 2011 E. 1.3), ebenso Produzenten, die sich dagegen wehren, dass die Befugnis zur Verwendung einer kontrollierten Ursprungsbezeichnung ausgedehnt wird, weil die entsprechenden Regelungen eine spezielle Zulassungsordnung für die umschriebenen Produkte darstellen (<ref-ruling> E. 1.2 S. 246 f.).
2.4 Im Bereich des Versicherungswesens verneinte das Bundesgericht die Parteistellung eines Versicherungsunternehmens in einem aufsichtsrechtlichen Verfahren betreffend die Liquidation bzw. Entlassung aus der Versicherungsaufsicht gegen einen Rückversicherer, bei welchem es rückversichert ist (Urteil 2C_762/2010 vom 2. Februar 2011 E. 4.5). Demgegenüber wurde dem heutigen Beschwerdeführer 1 sowie anderen Versicherungsunternehmen die Legitimation zur Anfechtung von Gesetzesbestimmungen zuerkannt (im Verfahren der abstrakten Normenkontrolle), welche vorsahen, dass eine öffentlich-rechtliche Gebäudeversicherung nebst ihrer Monopoltätigkeit auch weitere Versicherungsaufgaben in Konkurrenz zu privaten Versicherungsunternehmen wahrnehmen kann: Die Legitimation ergab sich dort indessen nicht aus der blossen Tatsache, dass die Beschwerdeführer in jenem Fall Konkurrenten der Gebäudeversicherungsanstalt waren und diese aufgrund der angefochtenen Gesetzesbestimmungen die gleiche Tätigkeit ausführen durfte. Vielmehr war massgebend, dass die dortigen Beschwerdeführer einen Verstoss gegen verfassungsrechtliche Grundsätze rügten, da es der staatlichen Anstalt mit Teilmonopol erlaubt wurde, ausserhalb ihrer Monopoltätigkeit im Wettbewerb tätig zu sein, wodurch sie nach Darstellung der Beschwerdeführer in wettbewerbsverzerrender und verfassungswidriger Weise gegenüber den privaten Unternehmen privilegiert sei (Urteil 2C_485/2010 vom 3. Juli 2012 E. 1.2). Dabei berief sich das Bundesgericht auf andere Entscheide, in welchen Privaten die Legitimation zuerkannt worden war, im Rahmen einer abstrakten Normenkontrolle eine behauptete verfassungswidrige Privilegierung Dritter in Frage zu stellen (<ref-ruling> E. 2.1 S. 53 f.; <ref-ruling> E. 2.1-2.3 S. 210 f.; <ref-ruling> E. 1c S. 149; <ref-ruling> E. 1c S. 162).
2.5 Im Unterschied zum soeben genannten Entscheid ist der Anfechtungsgegenstand im vorliegenden Fall kein Gesetz, welches zu einer behaupteten unzulässigen Privilegierung der Beschwerdegegnerin führt. Materieller Anfechtungsgegenstand ist hier vielmehr eine Bewilligung zur Ausübung einer Versicherungstätigkeit, welche sich auf Art. 3 ff. des Bundesgesetzes vom 17. Dezember 2004 betreffend die Aufsicht über Versicherungsunternehmen (Versicherungsaufsichtsgesetz, VAG; SR 961.01) stützt. Die Vorinstanz erwog, diese Bewilligung bzw. die Versicherungsaufsicht gemäss VAG schaffe keine wirtschaftspolitische Ordnung im Sinne der dargelegten Rechtsprechung, welche eine besondere Beziehungsnähe zwischen den Beschwerdeführern und der Beschwerdegegnerin zur Folge hätte. Sodann hielt das Bundesverwaltungsgericht fest, dass die von den Beschwerdeführern behauptete Privilegierung der Beschwerdegegnerin ohnehin nicht auf den Verantwortungsbereich der FINMA zurückzuführen wäre, sondern vielmehr auf die Gesetzgebung des Kantons Bern bzw. die Monopolstellung der GVB hinsichtlich der Grundversicherung. Soweit die Beschwerdeführer geltend machten, die FINMA sei verpflichtet, die daraus resultierende Marktverzerrung durch geeignete Auflagen zu beseitigen, legten sie nicht dar, dass sich die FINMA gegenüber anderen Versicherungsunternehmen rechtsungleich verhalte.
2.6 Die Beschwerdeführer machen geltend, das Vorliegen einer wirtschaftsrechtlichen Sonderordnung könne nicht nur aufgrund des Versicherungsaufsichtsgesetzes alleine beurteilt werden, sondern sei im Zusammenspiel mit dem bernischen Gebäudeversicherungsgesetz zu sehen. Die beiden Gesetzgebungen seien verflochten und begründeten gemeinsam eine Sonderordnung, welche es der Aufsichtsbehörde gebiete, eine klare Grenzziehung vorzunehmen, um eine rechtsgleiche Behandlung der Konkurrenten zu gewährleisten. In Bezug auf die Rüge der Ungleichbehandlung bringen die Beschwerdeführer vor, dass sie nur deshalb nicht in der Lage seien, eine ungleiche Behandlung konkret aufzuzeigen, weil es bisher gar keine ähnlich gelagerten Fälle gegeben habe. Die Ungleichbehandlung ergebe sich aber aus der teilweisen Fehlerhaftigkeit der Bewilligung, wodurch die Beschwerdegegnerin in die Lage versetzt werde, sowohl im Monopolbereich als auch im Privatversicherungsmarkt tätig zu sein.
2.7 Die Versicherungsaufsicht bezweckt insbesondere den Schutz der Versicherten vor den Insolvenzrisiken der Versicherungsunternehmen und vor Missbräuchen (Art. 1 Abs. 2 VAG), und generell das ordnungsgemässe Funktionieren des Versicherungswesens (Botschaft zum VAG, BBl 2003 3789 ff., 3793, 3800 f., 3807 f.; WEBER/UMBACH, Versicherungsaufsichtsrecht, 2006, S. 43 ff.; vgl. zum aufgehobenen Bundesgesetz vom 23. Juni 1978 betreffend die Aufsicht über die privaten Versicherungseinrichtungen [aVAG; AS 1978 1836; in Kraft gewesen bis zum 31. Dezember 2005]: Urteil 2A.393/2005 vom 2. Februar 2006 E. 2.1). Die versicherungsaufsichtsrechtliche Bewilligung wird erteilt, wenn die gesetzlichen Anforderungen erfüllt sind (Art. 6 Abs. 1 VAG). Es handelt sich dabei um eine reine Polizeibewilligung (MORITZ KUHN, in: Müller-Studer/Eckert [Hrsg.], Privatversicherungsrecht, 3. Aufl. 2010, Rz. 194; WEBER/UMBACH, a.a.O., S. 89 f.; ARTER/FEDERLE, Bank- und Versicherungsaufsicht: Gleichklang und Unterschiede, in: Peter Nobel [Hrsg.], St. Galler Bankrechtstag 2009, S. 49 ff., 78). Das Versicherungsaufsichtsgesetz schützt somit nicht unmittelbar die Interessen konkurrierender Versicherer und schafft folglich keine besondere Beziehungsnähe im Sinne der dargelegten Rechtsprechung. Zwar muss die FINMA das Gesetz auf eine Weise handhaben, welche Wettbewerbsverzerrungen vermeidet. Dies gilt aber für jede polizeiliche Regelung und begründet keine wirtschaftspolitische Sonderordnung.
2.8 Eine solche Sonderbeziehung entsteht auch nicht im Zusammenspiel mit der bernischen Gebäudeversicherungsgesetzgebung: Diese sieht zwar eine gewisse Verbindung zwischen Monopolversicherung (bei einer öffentlich-rechtlichen Anstalt) und Zusatzversicherung (bei einer privatrechtlich organisierten Tochtergesellschaft dieser Anstalt) vor, welche potenziell geeignet ist, die wirtschaftsverfassungsrechtliche Ordnung zum Nachteil der privaten Versicherungsgesellschaften zu beeinträchtigen; aus diesem Grunde wurde in einem analog gelagerten Fall die Legitimation der Konkurrentinnen zur Anfechtung eines solchen Gesetzes zuerkannt (vgl. E. 2.4 hiervor). Vorliegend steht aber nicht das bernische Gebäudeversicherungsgesetz zur Diskussion, sondern einzig die Bewilligung gemäss dem Versicherungsaufsichtsgesetz, welches seinerseits keine solche Sonderordnung schafft; die FINMA wendet nicht das bernische Gebäudeversicherungsgesetz an, sondern sie hat nur zu prüfen, ob die Beschwerdegegnerin die Bewilligungsvoraussetzungen gemäss dem Versicherungsaufsichtsgesetz erfüllt.
2.9 Es mag zutreffen, dass es bisher keine identische Konstellation gab, in der eine privatrechtliche Tochtergesellschaft einer kantonalen Monopolversicherungsanstalt (die nicht dem Versicherungsaufsichtsgesetz und der Aufsicht der FINMA untersteht) eine dem Versicherungsaufsichtsgesetz unterstellte Tätigkeit ausüben will. Insofern ist es nachvollziehbar, dass die Beschwerdeführer nicht in der Lage sind, einen genau gleich gelagerten Fall zu benennen, der von der FINMA unterschiedlich behandelt worden wäre. Die hier im Raum stehende Konstellation unterscheidet sich aber nicht grundlegend von anderen Fällen, in denen eine Versicherungsgesellschaft die Tochtergesellschaft einer anderen Unternehmung ist, welche eine nicht dem Versicherungsaufsichtsgesetz unterstellte Tätigkeit ausübt. Auch hier können sich Abgrenzungsprobleme zwischen Versicherungsgeschäft und versicherungsfremdem Geschäft ergeben. Abgrenzungsfragen zwischen zulässigen und unzulässigen Geschäften können sich sodann im Zusammenhang mit der Spartentrennung stellen (Art. 12 VAG). Ferner kann es im Rahmen der Gruppen- oder Konglomeratsaufsicht (Art. 2 Abs. 1 lit. d und Art. 64 ff. VAG) Koordinationsprobleme mit anderen Aufsichtsbehörden geben (Art. 6 Abs. 2, Art. 65 Abs. 2, Art. 73 Abs. 2 VAG). All dies wirft zwar die Frage nach der korrekten Anwendung des Versicherungsaufsichtsgesetzes auf, vermag aber keine Parteistellung konkurrierender Versicherungsunternehmen zu begründen. Die Legitimation der Beschwerdeführer kann sich auch nicht daraus ergeben, dass die Bewilligungserteilung angeblich fehlerhaft ist; vielmehr ist die Beschwerdelegitimation Voraussetzung dafür, dass die (behauptete) Rechtsverletzung durch die Beschwerdeinstanz geprüft werden kann.
2.10 Die von den Beschwerdeführern behauptete Ungleichbehandlung besteht mithin nicht in einer angeblich rechtsungleichen Handhabung des Versicherungsaufsichtsgesetzes durch die FINMA, sondern darin, dass die Beschwerdegegnerin - anders als andere Versicherungsunternehmen - wirtschaftlich mit einer Monopolversicherungsanstalt verflochten ist. Das Versicherungsaufsichtsgesetz enthält aber keine Bestimmung, wonach dies unzulässig wäre. Die Beschwerdeführer befürchten offenbar eine Wettbewerbsverzerrung infolge einer ungenügenden Trennung des Monopolbereichs der Gebäudeversicherung Bern vom privatrechtlichen Versicherungsbereich der Beschwerdegegnerin. Dies ist aber nicht eine versicherungsaufsichtsrechtliche, sondern allenfalls eine wettbewerbsrechtliche Frage: Die Beschwerdegegnerin untersteht als privatrechtlich tätige Unternehmung vollumfänglich dem Wettbewerbsrecht, ebenso die GVB, soweit sie Tätigkeiten ausübt, die nicht dem gesetzlichen Monopol unterliegen (Art. 3 Abs. 1 e contrario des Bundesgesetzes vom 6. Oktober 1995 über Kartelle und andere Wettbewerbsbeschränkungen [Kartellgesetz, KG; SR 251]; Urteil 2C_485/2010 vom 3. Juli 2012, E. 9.4). Die FINMA ist indessen nicht Wettbewerbsbehörde. Wettbewerbsrechtlich problematische Verhaltensweisen, die sich aus dem Zusammenspiel von GVB und Beschwerdegegnerin allenfalls ergeben könnten, sind auf dem kartellrechtlichen Weg zu ahnden, wobei den Beschwerdeführern die dort vorgesehenen Mitwirkungsmöglichkeiten zustehen (Art. 12 ff. und Art. 43 KG). Aktenkundig führte das Sekretariat der Wettbewerbskommission denn auch eine Vorabklärung (Art. 26 KG) durch und verzichtete darauf, eine Untersuchung zu eröffnen, nachdem die Gebäudeversicherung Bern gewisse Verpflichtungen eingegangen war (Schlussbericht vom 30. November 2011). Eine wettbewerbsrechtlich unzulässige Verhaltensweise liegt demzufolge offenbar nicht vor. Im Übrigen ist es auch sonst denkbar, dass eine Versicherungsunternehmung, die in eine Konzernstruktur eingebunden ist, dadurch gewisse faktische Wettbewerbsvorteile geniesst, welche ihre Konkurrenten nicht haben. Dies vermag indessen keine Parteistellung der Konkurrenten im versicherungsaufsichtsrechtlichen Bewilligungsverfahren zu begründen.
3. Nach dem Ausgeführten ist die Beschwerde unbegründet und somit abzuweisen.
Bei diesem Ausgang des Verfahrens tragen die Beschwerdeführer die Kosten des bundesgerichtlichen Verfahrens unter solidarischer Haftbarkeit (Art. 66 Abs. 1 und Abs. 5 BGG). Die nicht anwaltlich vertretene Beschwerdegegnerin hat keinen Anspruch auf Parteientschädigung (Art. 68 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 10'000.-- werden den Beschwerdeführern unter solidarischer Haftbarkeit auferlegt.
3. Dieses Urteil wird den Parteien, der Eidgenössischen Finanzmarktaufsicht sowie dem Bundesverwaltungsgericht, Abteilung II, schriftlich mitgeteilt.
Lausanne, 3. Juli 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Zähndler