Sachverhalt:
A. Am 4. Dezember 2000 stellte die Orange Communications SA (im Folgenden: Orange) ein Baugesuch für die Errichtung einer Mobilfunkanlage mit drei GSM- und drei UMTS-Antennen auf dem Dach des Wohn- und Gewerbegebäudes Worblentalstrasse 161 in Bolligen. Gegen das Bauvorhaben gingen zahlreiche Einsprachen ein.
Am 3. Oktober 2001 reichte die Orange ein Projektänderungsgesuch ein. Danach sollen neu drei Dualband-Antennen (statt bisher sechs Antennen) auf dem Mast montiert werden.
Am 11. November 2002 erteilte die Einwohnergemeinde Bolligen die Gesamtbaubewilligung.
B. Gegen die Baubewilligung erhoben A.X._ und B.X._, C.Y._, D.Y._, E.Y._ und F.Y._ sowie G.Z._ und H.Z._ Beschwerde an die Bau-, Verkehrs- und Energiedirektion des Kantons Bern (BVE). Am 13. Juni 2003 wies die BVE die Beschwerden ab und bestätigte den angefochtenen Entscheid der Gemeinde Bolligen.
C. Gegen den Beschwerdeentscheid der BVE erhoben A.X._ und B.X._, C.Y._, D.Y._, E.Y._ und F.Y._ sowie G.Z._ und H.Z._ Beschwerde beim Verwaltungsgericht des Kantons Bern. Dieses hiess die Beschwerde am 21. Mai 2004 im Kostenpunkt teilweise gut und wies sie im Übrigen ab, soweit darauf einzutreten war.
D. Am 10. März 2005 hiess das Bundesgericht die dagegen gerichtete Verwaltungsgerichtsbeschwerde von A.X._ und B.X._ sowie C.Y._, D.Y._, E.Y._ und F.Y._ gut, soweit darauf einzutreten war, hob den verwaltungsgerichtlichen Entscheid auf und wies die Sache zu neuer Beurteilung an das Verwaltungsgericht zurück (Urteil 1A.160/2004).
Das Bundesgericht bestätigte seine Rechtsprechung, wonach für die NIS-Prognose im Standortdatenblatt grundsätzlich die maximale Sendeleistung der Anlage massgeblich sei und nicht ein tieferer, durch Fernsteuerung einstellbarer Wert. Die kantonalen Behörden müssten daher kontrollieren, ob die im Standortdatenblatt deklarierte äquivalente Strahlungsleistung (ERP) die maximale Sendeleistung der Anlage darstelle.
Geprüft werden müsse überdies, ob der Anlagegrenzwert auf den unüberbauten Grundstücken an den höchstbelasteten Punkten innerhalb des baurechtlich zulässigen Volumens eingehalten werde. Schliesslich müsse das Verwaltungsgericht, im Falle einer erneuten Bestätigung der Baubewilligung, im Dispositiv des neuen Entscheids festhalten, welche Baupläne für die Errichtung der Anlage massgeblich seien, da die in der Baubewilligung erwähnten Pläne nicht mehr dem aktuellen Projektstand entsprächen.
E. Das Verfahren vor dem Verwaltungsgericht Bern wurde sistiert und am 2. Februar 2006 wieder aufgenommen, nachdem das Bundesamt für Umwelt (BAFU) am 16. Januar 2006 ein Rundschreiben betreffend "Qualitätssicherung zur Einhaltung der Grenzwerte der NISV bei Basisstationen für Mobilfunk und drahtlose Teilnehmeranschlüsse" herausgegeben hatte. Die Orange reichte ein neues Standortdatenblatt und überarbeitete Projektpläne ein. Mit Amtsbericht vom 23. Mai 2006 stellte das BECO (Berner Wirtschaft) fest, dass das neue Standortdatenblatt den Vorgaben der NISV entspreche.
Am 15. Mai 2007 hiess das Verwaltungsgericht die Beschwerde teilweise gut. Es hielt fest, dass für die Ausführung des Bauvorhabens das Standortdatenblatt vom 1. Mai 2006 und die Projektpläne vom 26. Juni/17. Juli 2005 massgebend seien, und ergänzte die Baubewilligung um zusätzliche Auflagen; insbesondere verlangte es, dass die Anlage mit einem System der Qualitätssicherung gemäss dem Rundschreiben des BAFU vom 16. Januar 2006 betrieben werde. Überdies änderte es den Kostenentscheid der BVE ab. Im Übrigen wies das Verwaltungsgericht die Beschwerde ab, soweit darauf einzutreten war.
F. Gegen diesen Entscheid haben A.X._ und B.X._ sowie C.Y._, D.Y._, E.Y._ und F.Y._ am 18. Juni 2007 Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiäre Verfassungsbeschwerde an das Bundesgericht erhoben. Sie beantragen, die Bewilligung der Anlage sei vollumfänglich zu verweigern. Es sei festzustellen, dass das Qualitätssicherungssystem eine kompetenzwidrig erlassene Norm darstelle, die auf Dauer nicht rechtsgenüglich Gewähr für den rechtmässigen Betrieb der Anlage und die Einhaltung der rechtlichen Vorschriften biete. Überdies sei der Kostenentscheid der Vorinstanz aufzuheben und die Kostenverteilung durch das Bundesgericht zu berichtigen.
G. Die Orange, das Verwaltungsgericht und die BVE beantragen Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Die Beschwerdegegnerin bietet an, auf Anforderung des Bundesgerichts Beweismittel zum Funktionieren ihres Qualitätssicherungssystems einzureichen.
In seiner Vernehmlassung äusserte sich das Bundesamt für Umwelt (BAFU) zu den umweltrechtlichen Rügen der Beschwerdeführer. Den Beteiligten wurde Gelegenheit gegeben, dazu Stellung zu nehmen.
Die Orange offeriert mit Schreiben vom 4. Oktober 2007 die Einreichung des Zertifikats CH 07/0943 der SGS betreffend ISO 9001:2000. In ihrer Replik vom 22. Oktober 2007 halten die Beschwerdeführer an ihren Anträgen fest.
H. Mit Verfügung vom 13. Juli 2007 wurde der Beschwerde aufschiebende Wirkung zuerkannt.
Erwägungen:
1. Der angefochtene Entscheid des Verwaltungsgerichts unterliegt der Beschwerde in öffentlich-rechtlichen Angelegenheiten gemäss Art. 82 ff. BGG.
1.1 Zur Beschwerde in öffentlich-rechtlichen Angelegenheiten ist berechtigt, wer vor der Vorinstanz am Verfahren teilgenommen oder keine Möglichkeit zur Teilnahme erhalten hat, durch den angefochtenen Entscheid besonders berührt ist und ein schutzwürdiges Interesse an dessen Aufhebung oder Änderung besitzt (Art. 89 Abs. 1 BGG). Verlangt ist somit neben der formellen Beschwer, dass der Beschwerdeführer über eine spezifische Beziehungsnähe zur Streitsache verfügt und einen praktischen Nutzen aus der Aufhebung oder Änderung des angefochtenen Entscheids zieht. Die Nähe der Beziehung zum Streitgegenstand muss bei Bauprojekten insbesondere in räumlicher Hinsicht gegeben sein.
Diese Voraussetzung ist bei den Beschwerdeführern 3-6 unstreitig erfüllt, weshalb zumindest auf deren Beschwerde vollumfänglich einzutreten ist. Es kann daher offen bleiben, inwiefern die Beschwerdeführer 1 und 2, die im Laufe des verwaltungsgerichtlichen Verfahrens in rund 1 km Entfernung vom Antennenstandort entfernt umgezogen sind, noch zur Beschwerdeführung befugt sind.
1.2 Zu beachten ist die Bindungswirkung des Rückweisungsentscheids des Bundesgerichts vom 10. März 2005. Die diesem Entscheid zugrundeliegende rechtliche Begründung bindet nicht nur das Verwaltungsgericht, sondern auch das Bundesgericht und die Parteien im vorliegenden Verfahren (BGE 133 III 201 E. 4.2 S. 208 mit Hinweisen). Wie weit diese Bindung reicht, ist bei den einzelnen Rügen zu prüfen.
1.3 Da die ordentliche Beschwerde gegeben ist, besteht kein Raum für die von den Beschwerdeführern ebenfalls erhobene subsidiäre Verfassungsbeschwerde. Auf diese ist daher nicht einzutreten.
2. Die Beschwerdeführer bestreiten vor Bundesgericht nicht mehr grundsätzlich die Tauglichkeit einer Emissionskontrolle durch Qualitätssicherungssysteme. Sie machen aber geltend, der Systemwechsel von einer baulichen Anlagekontrolle zu einer auf Selbstkontrolle beruhenden Software- oder Datenbankkontrolle bedürfe einer gesetzlichen Grundlage, jedenfalls nach Ablauf der Übergangszeit am 31. Dezember 2006. Eine Institutionalisierung dieses Systems mittels blossem Rundschreiben des BAFU widerspreche dem Gewaltenteilungsprinzip und Art. 164 BV.
Mit diesem System werde in mehreren Punkten von der NISV abgewichen: Den Mobilfunkbetreibern werde der Bau überdimensionierter Anlagen gestattet, mit dem Potenzial zur Überschreitung der vom Bundesrat in der NISV festgelegten Grenzwerte. Zudem werde Art. 11 NISV verletzt, weil nicht mehr sämtliche Änderungen der Sendeleistung und -richtung gemeldet werden müssten.
Die Beschwerdeführer verweisen auf die Selbstkontrolle im Bereich des Umgangs mit umweltgefährdenden Stoffen (Art. 26 USG), die eine formell gesetzliche Grundlage habe und die Kontrolle gesetzlich dem Bund zugewiesen worden sei (Art. 41 USG). In schwer kontrollierbaren Bereichen wie dem Umgang mit Organismen seien flankierend im formellen Gesetz verschärfte Haftungsbestimmungen und ein Rechtsanspruch auf Aktenzugang jeder Person (Art. 29h USG) geregelt worden. Einer vergleichbaren Regelung bedürfe es auch im Bereich des Mobilfunks. Insbesondere müsse die gesetzliche Zuständigkeitsordnung angepasst werden, um sicherzustellen, dass die Vollzugsbehörden eines Kantons die Möglichkeit haben, die Steuerungszentralen der Mobilfunkbetreiber zu kontrollieren, die sich ausserhalb des Kantons oder sogar im Ausland befinden können.
2.1 Das Bundesgericht hat bereits mit Urteil vom 15. Januar 2008 (1C_148/2007; E. 3.2) entschieden, dass die Qualitätssicherungssysteme nicht in einem Gesetz oder einer Verordnung verankert werden müssen. Das Rundschreiben des BAFU vom 16. Januar 2005 enthalte nicht Rechtsvorschriften, die vom Bundesrat erlassen werden müssten, sondern Empfehlungen zum Vollzug der NISV. Diese könne das BAFU im Rahmen seiner Aufsichts- und Koordinationspflicht betreffend die den Kantonen im Umweltrecht obliegenden Vollzugsaufgaben abgeben (Art. 36 und 38 in Verbindung mit Art. 41 Abs. 1 USG).
An dieser Auffassung ist trotz der Einwände der Beschwerdeführer festzuhalten:
2.2 Die Qualitätssicherungssysteme dienen der Kontrolle, dass die bewilligten Parameter (äquivalente Strahlungsleistung ERP, Senderichtung) der Mobilfunkantennen im Betrieb effektiv eingehalten und die Grenzwerte der NISV nicht überschritten werden. Diese Kontrolle ist in Art. 12 NISV vorgesehen; dagegen schreibt die Verordnung nicht vor, auf welche Weise sie zu erfolgen hat.
Das BAFU und die meisten kantonalen Bewilligungsbehörden gingen davon aus, die Mobilfunkbetreiber seien für die Einhaltung der im Standortdatenblatt festgelegten Strahlungsleistungen und Senderichtungen der Antennen verantwortlich; dies könne von den Vollzugsbehörden indirekt über Immissionsmessungen kontrolliert werden. Dementsprechend wurden in der ganzen Schweiz Mobilfunkbasisstationen auf der Grundlage der von den Mobilfunkbetreibern in den Standortdatenblättern deklarierten ERP bewilligt, ohne zu prüfen, ob diese der maximalen Leistung der Anlage entsprach.
Das Bundesgericht hielt diese Kontrolle in zwei Entscheiden für ungenügend (BGE 128 II 378 E. 4 S. 379 ff.; Urteil 1A.160/2004 vom 10. März 2005 E. 3.3, publ. in URP 2005 S. 576; RDAF 2006 I S. 684); es entschied, die Anwohner von Mobilfunkanlagen hätten ein schutzwürdiges Interesse daran, dass die Einhaltung der NIS-Grenzwerte durch objektive und überprüfbare bauliche Vorkehrungen gewährleistet werde. Es verlangte deshalb grundsätzlich eine Kontrolle aufgrund der baulichen Elemente (Hardwareelemente), schloss aber andere Kontrollmöglichkeiten nicht aus: Werde der Betrieb der Anlagen mit einer niedrigeren als der maximalen ERP der Anlage bewilligt, müsse dies im Bewilligungsentscheid begründet und dargelegt werden, wie die Einhaltung der bewilligten ERP gewährleistet werden könne.
Das vom BAFU empfohlene Qualitätssicherungssystem stellt eine solche alternative Kontrollmöglichkeit dar, die vom Bundesgericht in mehreren Entscheiden grundsätzlich als zulässig anerkannt worden ist (vgl. Urteile 1A.116/2005 vom 31. Mai 2006 E. 5; 1A.57/2006 vom 6. September 2006 E. 5, publ. in URP 2006 S. 821 und ZBl 108/2007 S. 453; in BGE 133 II 64 nicht veröffentlichte E. 3; 1C_148/2007 vom 15. Januar 2008 E. 3).
2.3 Die Einführung dieses Kontrollsystems bedeutet - entgegen der Auffassung der Beschwerdeführer - keinen grundsätzlichen Systemwechsel. Die Regelungen im USG und in der NISV werden nicht abgeändert, sondern bleiben anwendbar. Insbesondere trifft es nicht zu, dass die Mobilfunkbetreiber die in den Standortdatenblättern enthaltenen Angaben jederzeit beliebig verändern könnten; vielmehr wird die Einhaltung der bewilligten Parameter mit den effektiv eingestellten Werten von den Qualitätssicherungssystemen täglich überprüft. Der Anlageinhaber kann daher die Sendeleistung nur bis zur bewilligten Sendeleistung und die Senderichtung nur innerhalb des bewilligten Winkelbereichs frei wählen. Jede Erhöhung der bewilligten ERP bzw. jede Vergrösserung des bewilligten Winkelbereichs gilt dagegen als Änderung der Mobilfunkanlage gemäss Anh. 1 Ziff. 62 Abs. 2 NISV und muss mit einem neuen Standortdatenblatt dokumentiert und bewilligt werden (Art. 11 NISV). Daran hat sich durch die Einführung des Qualitätssicherungssystems nichts geändert. Unbegründet ist auch der Vorwurf, das Qualitätssicherungssystem legitimiere Grenzwertüberschreitungen (vgl. dazu Bundesgerichtsurteil 1A.57/2006 vom 6. September 2006 E. 5.2, publ. in URP 2006 S. 821 und ZBl 108/2007 S. 453; Entscheid 1A.60/2006 vom 2. Oktober 2006 E. 3.3).
2.4 Eine gesetzliche Regelung erscheint auch nicht erforderlich, um den kantonalen Vollzugsbehörden die notwendigen Kontrollbefugnisse einzuräumen. Der Inhaber einer Anlage ist verpflichtet, der Behörde auf Verlangen die für den Vollzug erforderlichen Auskünfte zu erteilen und nötigenfalls Messungen oder andere Abklärungen durchzuführen oder zu dulden (Art. 10 NISV). Die Mobilfunkbetreiber müssen den Vollzugsbehörden daher die Einsichtnahme in ihre Datenbank, Fehlerprotokolle, usw. ermöglichen, ansonsten riskieren sie, keine Baubewilligungen mehr zu erhalten. Falls Kontrollen am Ort der jeweiligen Steuerungszentralen ausserhalb des Kantons erforderlich sein sollten, können diese - wie die Praxis zeigt - in Zusammenarbeit mit den Vollzugsbehörden des betroffenen Kantons, koordiniert durch den Ausschuss NIS des Cercl'Air oder das BAFU, vorgenommen werden.
Betroffene Personen können schon heute, gestützt auf den Anspruch auf rechtliches Gehör (Art. 29 Abs. 2 BV), Einsicht in Mess- und Kontrollergebnisse verlangen (vgl. Urteil 1A.148/2002 vom 12. August 2003 E. 4.5). Auch hierfür erscheint eine Regelung auf Gesetzes- oder Verordnungsstufe vielleicht wünschbar, aber nicht zwingend erforderlich.
3. Die Beschwerdeführer sind weiter der Auffassung, das Qualitätssicherungssystem der Beschwerdegegnerin entspreche nicht den Vorgaben gemäss Rundschreiben des BAFU vom 16. Januar 2005. Während die Systeme der übrigen Mobilfunkbetreiber von akkreditierten Gesellschaften mittels ISO-Zertifizierung überprüft worden seien, sei das System der Orange von der I._ GmbH, einer nicht akkreditierten Kleinstfirma, auditiert worden, deren Kompetenz zur Überprüfung eines derart komplexen Systems äusserst fraglich erscheine. Das Verwaltungsgericht habe es nicht für nötig befunden, die Sache zu prüfen und die von den Beschwerdeführern beantragten Beweismittel einzuholen.
3.1 Die Beschwerdegegnerin wendet dagegen ein, Gegenstand der Beschwerde sei die konkrete Mobilfunkanlage in Bolligen und nicht die Gesamtheit ihrer Anlagen gewesen. Gemäss der vom Verwaltungsgericht verfügten Auflage dürfe die Anlage nur mit einem System der Qualitätssicherung gemäss Rundschreiben des BAFU vom 16. Januar 2006 betrieben werden. Diese Auflage müsse erst im Zeitpunkt des Betriebes erfüllt sein. Es sei eine baupolizeiliche Aufgabe, die Umsetzung der Auflagen zu kontrollieren.
Im Übrigen entspreche ihr Qualitätssicherungssystem den Anforderungen des BAFU. Sie bietet die Einholung eines Amtsberichts des BECO zur Prüfung des Systems bei Anlagen in Biel und in Bussigny durch NIS-Verantwortliche der Kantone und des Bundes an; dabei sei es zu keinen Beanstandungen gekommen.
3.2 Das BAFU weist in seiner Vernehmlassung darauf hin, dass die Orange ihr Qualitätssicherungssystem im August 2007 auf den Standard ISO 9001-2000 zertifizieren lassen werde. Eine Zertifizierung könne allerdings nur belegen, dass die erforderlichen Ablaufprozesse, Datenbanken, Software, interne Kontrollen etc. vorhanden seien und korrekt funktionierten. Entscheidend sei jedoch, dass die Mobilfunkbetreiber das Qualitätssicherungssystem in der Praxis umfassend anwenden. Dies werde zur Zeit auf Empfehlung der Arbeitsgruppe NIS des Cercl'Air vom 28. Juni 2007 durch die kantonalen NIS-Fachstellen mit Stichproben überprüft. Die von der Orange erwähnten Überprüfungen in Bussigny und Biel hätten dazu gedient, dieses Stichprobenkonzept auf seine Tauglichkeit zu prüfen. Die Ergebnisse der Stichproben würden anschliessend ausgewertet; bei Bedarf würden Empfehlungen zur Anpassung der Systeme ausgesprochen. Es sei angemessen, erst nach dieser Evaluation und weiteren Erfahrungen mit einem allenfalls angepassten System darüber zu urteilen, ob dieses allen Anforderungen entspreche oder nicht.
3.3 Die angeblich mangelhafte Auditierung des Qualitätssicherungssystems der Beschwerdegegnerin ist ein Novum, das die Beschwerdeführer erstmals vor Bundesgericht vorbringen.
3.3.1 Gemäss Art. 99 Abs. 1 BGG dürfen neue Tatsachen und Beweismittel nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt. Im vorliegenden Fall beziehen sich die Beschwerdeführer auf einen Satz des Verwaltungsgerichts, wonach das Qualitätssicherungssystem der Beschwerdegegnerin zwischenzeitlich zertifiziert worden sei (E. 4.1 S. 10 des angefochtenen Entscheids). Zu dieser Frage hatten sich die Beschwerdeführer im kantonalen Verfahren nicht äussern können: Ihre letzte Eingabe datiert vom 12. September 2006, der Auditierungsbericht vom 14. Dezember 2006. Dies spricht für eine Berücksichtigung des Novums.
3.3.2 Zwischenzeitlich, am 30. August 2007, hat jedoch die Orange ihr Qualitätssicherungssystem von der akkreditierten Firma SGS Société Générale de Surveillance SA auf den Standard ISO 9001:2000 zertifizieren lassen. Diese Zertifizierung entspricht derjenigen der anderen Mobilfunkbetreiber; aus ihr lassen sich keinerlei Anhaltspunkte dafür ableiten, dass das Qualitätssicherungssystem der Beschwerdegegnerin den bundesrechtlichen Anforderungen nicht genügen könnte. Die Effektivität dieses Systems und seiner Anwendung durch die Beschwerdegegnerin wird vielmehr von den kantonalen Vollzugsbehörden durch Stichproben kontrolliert, die u.U. zu einer Anpassung und Verbesserung des Systems führen können. Unter diesen Umständen besteht kein aktuelles Interesse daran, die Qualität des ersten, heute überholten, Auditierungsberichts nachträglich zu überprüfen.
3.3.3 Es erscheint auch ungewiss, inwiefern dieser Punkt geeignet gewesen wäre, den Ausgang des kantonalen Beschwerdeverfahrens im Mai 2007 zu beeinflussen: Zwar hat das Verwaltungsgericht Zürich am 20. Juni 2007 eine Baubewilligung der Orange aufgehoben, weil diese nicht genügend dargelegt hatte, nach welchen Grundsätzen sie ihr Qualitätssicherungssystem aufgebaut habe und welche Garantien die von ihr veranlasste externe Auditierung biete. Diesen Entscheid schützte das Bundesgericht in seinem Urteil vom 26. Februar 2008 (1C_258/2007). Grund für die Abweisung der Beschwerde vor Bundesgericht war jedoch nicht das Ungenügen des Qualitätssicherungssystems der Orange, sondern deren Verletzung der Mitwirkungspflicht im kantonalen Verfahren. Es kann nicht ohne Weiteres davon ausgegangen werden, dass die Orange auch im Verfahren vor dem Verwaltungsgericht Bern die Mitwirkung an der Sachverhaltsabklärung unterlassen hätte, falls das Verwaltungsgericht von Amtes wegen die Qualität des Auditierungsberichts vom 14. Dezember 2006 hätte überprüfen wollen.
3.4 Zu prüfen ist daher nur, ob das Verwaltungsgericht die von den Beschwerdeführern beantragten Berichte der Orange an das BECO von März und Juni 2006 über die Fortschritte beim Aufbau des Qualitätssicherungssystems hätte einholen müssen.
Das Verwaltungsgericht konnte sich bereits auf den ausführlichen Amtsbericht des BECO als kantonale Fachinstanz vom 23. Mai 2006 stützen. Diesem lag ein Schreiben der Beschwerdegegnerin an das BECO vom 12. Dezember 2005 bei, in dem diese die Einführung eines dem Rundschreiben des BAFU entsprechendes Qualitätssicherungssystem bis 31. Dezember 2006 für alle Sendeanlagen zusicherte und ihr Konzept hierfür vorlegte.
Das Verwaltungsgericht ergänzte die Baubewilligung um die Auflage, dass die Anlage nur mit einem System der Qualitätssicherung gemäss dem Rundschreiben des BAFU vom 16. Januar 2006 betrieben werden dürfe (Disp.-Ziff. 2b). Damit machte es die Inbetriebnahme der Anlage davon abhängig, dass spätestens in diesem Zeitpunkt ein funktionierendes Qualitätssicherungssystem der Beschwerdegegnerin vorhanden sei. Dies ist von der Baupolizeibehörde zu prüfen, die hierfür eine Beurteilung der kantonalen Fachbehörde (BECO) einholen kann. Dieses Vorgehen erscheint zulässig, weshalb das Verwaltungsgericht darauf verzichten durfte, Abklärungen zu den bereits im Jahr 2006 erzielten Fortschritten der Orange beim Aufbau ihres Qualitätssicherungssystems einzuholen.
4. Die Beschwerdeführer rügen, das Baugesuch und die Baupläne seien nur von der Baurechtnehmerin und nicht vom Grundstückseigentümer unterschrieben worden.
4.1 Auf die das Baugesuch betreffende Rüge war das Bundesgericht im Entscheid vom 10. März 2005 mangels Legitimation der Beschwerdeführer nicht eingetreten (E. 1.3.2). Der Einwand der Beschwerdeführer, das Bundesgericht habe damals übersehen, dass der Beschwerdeführer 6 (F.Y._) als Eigentümer des Grundstücks Worblentalstrasse 161 zur Rüge der Verletzung des Willkürverbots und der Eigentumsgarantie befugt gewesen wäre, wurde nicht innerhalb der Revisionsfrist von Art. 141 Abs. 1 lit. a OG geltend gemacht und kann daher heute nicht mehr erhoben werden. Daran ändert auch der zwischenzeitlich erfolgte Eigentümerwechsel nichts.
4.2 Soweit die Beschwerdeführer rügen, die von der Beschwerdegegnerin neu eingereichten, erst im angefochtenen Entscheid für verbindlich erklärten Baupläne seien ebenfalls nicht vom Grundeigentümer unterschrieben worden, legen sie nicht dar, inwiefern Art. 10 des Dekrets über das Baubewilligungsverfahren vom 22. März 1994 (Baubewilligungsdekret, BewD) die Unterschrift des Grundeigentümers auf den Bauplänen überhaupt erfordert (Art. 10 Abs. 2 BewD bezieht sich auf das amtliche Baugesuchsformular). Es ist daher fraglich, ob diese Rüge genügend begründet ist (Art. 42 Abs. 2 i.V.m. Art. 106 Abs. 2 BGG). Die Frage kann jedoch offen bleiben, wenn die Auslegung von Art. 10 Abs. 2 BewD durch das Verwaltungsgericht (vgl. Urteil vom 21. Mai 2004 E. 5.3 S. 18 f.) verfassungsrechtlich nicht zu beanstanden ist.
4.3 Nach ständiger Praxis des Verwaltungsgerichts soll das Unterschriftserfordernis verhindern, dass sich die Baubewilligungsbehörden mit Baugesuchen befassen müssen, welche ohnehin nie verwirklicht werden können, weil ihnen der Grundeigentümer nicht zugestimmt hat. Dagegen bezwecke es nicht, umstrittene private Rechte, die dem Bauvorhaben entgegenstehen könnten, im Baubewilligungsverfahren statt im dafür vorgesehenen zivilrechtlichen Verfahren zu überprüfen. Es handle sich deshalb um eine Ordnungsvorschrift, die sicherstellen solle, dass die gesuchstellende Person eine ausreichende "Nähe" zum Grundeigentümer und damit ein schutzwürdiges Interesse an der Beurteilung ihres Gesuchs habe. Dies treffe praxisgemäss zu, wenn die gesuchstellende Person ein Bauvorhaben als Baurechtnehmerin ausführen wolle.
Im vorliegenden Fall wäre die J._ AG als Baurechtnehmerin und somit als Eigentümerin des Gebäudes, auf welchem die Mobilfunkantenne erstellt werden solle, befugt gewesen, selbst ein entsprechendes Baugesuch einzureichen. Demnach könne sie auch die Zustimmung für die Errichtung der Anlage auf ihrer Liegenschaft erteilen.
4.4 Entgegen der Auffassung der Beschwerdeführer verletzt diese Rechtsauffassung weder das Willkürverbot noch die Eigentumsgarantie.
Im Baubewilligungsverfahren wird lediglich geprüft, ob dem Bauvorhaben öffentlich-rechtliche Vorschriften entgegenstehen. Private Rechte sind dagegen grundsätzlich auf dem Zivilrechtsweg geltend zu machen und werden durch die Baubewilligung nicht berührt (Aldo Zaugg/Peter Ludwig, Baugesetz des Kantons Bern vom 9. Juni 1985, Kommentar Bd. I, 3. Aufl. Bern 2007, Art. 1 N. 6). Die nach Art. 32 BewD mögliche Rechtsverwahrung dient nur der Orientierung und soll es der Bauherrschaft ermöglichen, privaten Rechten durch Projektänderungen Rechnung zu tragen (Zaugg/Ludwig, a.a.O. Art. 35/35a N 3). Es ist daher Sache der Zivilgerichte, darüber zu befinden, ob die Erstellung einer Mobilfunkanlage vom Baurechtsvertrag erfasst ist oder nicht.
5. Das Verwaltungsgericht ging davon aus, dass die Beschwerdegegnerin überwiegend obsiegt habe. Sie habe indessen mit der Einreichung teilweise ungenügender oder unklarer Unterlagen erheblichen Gerichtsaufwand verursacht, weshalb sie die Hälfte der Verfahrenskosten zu tragen und gegenüber den Beschwerdeführern Anspruch auf nur hälftigen Ersatz ihrer Parteikosten habe. Bei den vorinstanzlichen Kosten rechtfertige es sich aufgrund der von der BVE vorgenommenen Heilung von Verfahrensmängeln, die Beschwerdeführer zwei Drittel der ihnen von der Vorinstanz auferlegten Verfahrens- und Parteikosten tragen zu lassen.
5.1 Die Beschwerdeführer halten diesen Kostenentscheid für willkürlich. Sie machen geltend, die Verfahrensdauer von nunmehr rund 7 Jahren sei dazu benutzt worden, eine absolut untaugliche Baueingabe in fast allen Punkten nachzubessern und ein System zu entwickeln, mit dem die Einhaltung der bewilligten Strahlung kontrolliert werden könne. Trotz der mehrfach falschen Berechnungen der Beschwerdegegnerin, den auch vom Bundesgericht bestätigten Verfahrensfehlern der Baubehörde und der bundesgerichtlichen Gutheissung der Beschwerde seien die Kosten der Beschwerdeführer für das Verfahren vor der BVE nur um 1/36 gesenkt worden. Ebenso seien den Beschwerdeführern die Kosten von Fr. 770.-- für die Gutachten der BECO auferlegt worden, obwohl darin Berechnungsfehler der Beschwerdegegnerin übersehen worden seien. Zudem habe das Verwaltungsgericht die ganzen Kosten auf die Parteien überwälzt, obwohl es selbst durch den Fehlentscheid vom 24. Mai 2004 massgeblicher Kostenverursacher gewesen sei. Schliesslich halten die Beschwerdeführer die Honorarforderungen der Beschwerdegegnerin für überrissen. Für Private seien Verfahren der vorliegenden Art, welche über Jahre verschleppt würden, kaum mehr finanzierbar.
5.2 Gemäss Art. 108 des Berner Gesetzes über die Verwaltungsrechtspflege vom 23. Mai 1989 (VRPG) werden im Beschwerdeverfahren die Verfahrenskosten der unterliegenden Partei auferlegt, es sei denn, das prozessuale Verhalten einer Partei gebiete eine andere Verlegung oder die besonderen Umstände rechtfertigen es, keine Verfahrenskosten zu erheben (Abs. 1). Behörden werden keine Verfahrenskosten auferlegt; anderen Vorinstanzen oder beschwerdeführenden und unterliegenden Behörden nur, wenn sie in ihren Vermögensinteressen betroffen sind (Abs. 2). Die unterliegende Partei hat der Gegenpartei die Parteikosten zu ersetzen, sofern nicht deren prozessuales Verhalten oder die besonderen Umstände eine andere Teilung oder die Wettschlagung gebieten oder die Auflage der Parteikosten an das Gemeinwesen als gerechtfertigt erscheinen (Abs. 3).
Bei der Frage, inwieweit vom Unterliegerprinzip abzuweichen ist und welche Quoten festzulegen sind, steht dem Verwaltungsgericht ein grosser Ermessensspielraum zu. Das Bundesgericht kann die Anwendung des kantonalen Verfahrensrechts nur unter dem Blickwinkel des Willkürverbots überprüfen.
5.3 Zwar war das ursprüngliche Bauvorhaben nicht bewilligungsfähig, weshalb die Beschwerdeführer Anlass zur Beschwerdeerhebung hatten. Sie hielten aber, auch nachdem die Mängel geheilt und ein Qualitätssicherungssystem zur Kontrolle der Emissionsbegrenzung eingeführt worden war, an ihren Begehren fest und verlangten weiterhin die Erteilung des Bauabschlags. Dieser Antrag wurde vom Verwaltungsgericht abgewiesen, das die Baubewilligung - wenn auch mit neuen Auflagen - bestätigte. Insofern durfte das Verwaltungsgericht ohne Willkür davon ausgehen, dass die Beschwerdegegnerin überwiegend obsiegt habe.
5.4 Das Verwaltungsgericht trug dem Umstand, dass ein grosser Teil der Kosten durch ungenügende Unterlagen der Beschwerdegegnerin verursacht worden war, dadurch Rechnung, dass es den Beschwerdeführern nur die Hälfte der Verfahrens- und Parteikosten des verwaltungsgerichtlichen Verfahrens auferlegte. Diese Quote kann nicht als offensichtlich unangemessen und damit als willkürlich erachtet werden.
5.5 Auch in absoluten Zahlen erscheint die Kostenbelastung der sechs Beschwerdeführer für das gesamte kantonale Verfahren nicht völlig unzumutbar oder gar prohibitiv: So tragen die Beschwerdeführer 1 und 2 zusammen insgesamt ca. Fr. 695.-- Verfahrenskosten (Fr. 333.35 für das verwaltungsgerichtliche Verfahren und Fr. 361.10 für das Verfahren vor der BVE) und müssen eine Parteientschädigung von insgesamt ca. Fr. 1'460.-- zahlen (Fr. 732.60 für das verwaltungsgerichtliche Verfahren und Fr. 727.15 für das Verfahren vor der BVE). Entsprechende Kosten entfallen auf die Beschwerdeführer 3 und 4 und die Beschwerdeführer 5 und 6.
5.6 Das Verwaltungsgericht hat den Beschwerdeführern für das Verfahren vor der BVE eine höhere Kostenquote (zwei Drittel) auferlegt als vor Verwaltungsgericht. Die Beschwerdeführer zeigen jedoch nicht auf, inwiefern diese Kostenverlegung im Ergebnis willkürlich sein soll (Art. 106 Abs. 2 BGG).
6. Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf einzutreten ist; auf die subsidiäre Verfassungsbeschwerde ist nicht einzutreten. Bei diesem Ausgang des Verfahrens werden die Beschwerdeführer kosten- und entschädigungspflichtig (Art. 66 und 68 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Auf die Verfassungsbeschwerde wird nicht eingetreten.
3. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdeführern auferlegt.
4. Die Beschwerdeführer haben die Orange Communications SA für das bundesgerichtliche Verfahren mit insgesamt Fr. 2'000.-- zu entschädigen. Sie haften solidarisch zu gleichen Teilen.
5. Dieses Urteil wird den Parteien, der Einwohnergemeinde Bolligen, der Bau-, Verkehrs- und Energiedirektion, dem Verwaltungsgericht des Kantons Bern, Verwaltungsrechtliche Abteilung, und dem Bundesamt für Umwelt schriftlich mitgeteilt.
Lausanne, 17. März 2008
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Féraud Gerber