Sachverhalt: A. Die Sunrise Communications AG (im Folgenden: Sunrise) beabsichtigt, auf dem Dach der Liegenschaft KTN 870 an der Bächerstrasse 57 in Bäch (Gemeinde Wollerau) eine Mobilfunkanlage zu errichten. Diese besteht aus zwei Dualbandantennen GSM900/UMTS und zwei Richtfunkantennen und soll mit einer 2 m hohen Verkleidung versehen werden. Gegen das Baugesuch für die Mobilfunkanlage wurden mehrere Einsprachen erhoben. Das Amt für Raumentwicklung des Kantons Schwyz fällte am 17. Februar 2010 den kantonalen Gesamtentscheid. Es erteilte die kantonale Baubewilligung mit Nebenbestimmungen. Der Gemeinderat dagegen verweigerte mit Beschluss vom 29. März 2010 die Baubewilligung. Sunrise, G._ und H._ erhoben gegen den Beschluss des Gemeinderats Beschwerde an den Regierungsrat des Kantons Schwyz. Die beiden letztgenannten richteten ihr Rechtsmittel zudem gegen den kantonalen Gesamtentscheid. Am 26. Oktober 2010 hiess der Regierungsrat die Beschwerde von Sunrise gut und wies jene von G._ und H._ ab, soweit er darauf eintrat. Der Gemeinderat wurde angewiesen, die Baubewilligung zu erteilen. Gegen den Beschwerdeentscheid des Regierungsrats erhoben unter anderem die im Rubrum genannten Personen Beschwerde an das Verwaltungsgericht des Kantons Schwyz. Dieses wies die Beschwerde mit Entscheid vom 20. Januar 2011 ab. B. Mit Eingabe vom 28. Februar 2011 erheben die im Rubrum genannten Personen Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiäre Verfassungsbeschwerde an das Bundesgericht. Sie beantragen die Aufhebung des Entscheids des Verwaltungsgerichts und des Regierungsrats des Kantons Schwyz. Die Angelegenheit sei zur neuen Beurteilung an die Vorinstanzen zurückzuweisen. Eventualiter solle das Bundesgericht direkt neu entscheiden. Das Amt für Raumentwicklung des Kantons Schwyz und der Gemeinderat Wollerau haben auf eine Vernehmlassung verzichtet. Das Verwaltungsgericht schliesst auf Abweisung der Beschwerde. Der Regierungsrat und die Beschwerdegegnerin beantragen, das Rechtsmittel sei abzuweisen, soweit darauf einzutreten sei. Die ebenfalls zur Vernehmlassung eingeladenen Bundesämter für Umwelt (BAFU) und für Kommunikation (BAKOM) haben auf eine Stellungnahme verzichtet. Die Beschwerdeführer haben sich in der Folge nicht erneut inhaltlich geäussert. Mit Präsidialverfügung vom 29. März 2011 hat das Bundesgericht der Beschwerde die aufschiebende Wirkung zuerkannt.