Sachverhalt:
A. Die Bausektion der Stadt Zürich erteilte am 21. Juni 2011 der Orange Communications SA die Bewilligung zum Bau einer Mobilfunkantennenanlage auf dem Grundstück Kat.-Nr. OB2989 an der Frohburgstrasse 174 in Zürich. Dagegen erhob Rechtsanwalt U._ im Namen der X._ GmbH, der Stockwerkeigentümergemeinschaft Y._ sowie Z._, T._, W._ und V._ Rekurs ans Baurekursgericht des Kantons Zürich. Dieses trat mit Entscheid vom 25. November 2011 auf das Rechtsmittel nicht ein. Zur Begründung führte es aus, der Rechtsvertreter habe seine Befugnis zur Vertretung der Stockwerkeigentümergemeinschaft Y._ nicht nachgewiesen und bezüglich der übrigen Rekurrenten sei die Legitimation nicht hinreichend dargelegt worden. Die Verfahrenskosten auferlegte das Baurekursgericht den Rekurrenten und Rechtsanwalt U._, wobei es die Stockwerkeigentümergemeinschaft davon ausnahm.
In der Folge gelangten die X._ GmbH, die Stockwerkeigentümergemeinschaft Y._, Z._, T._, W._, V._ und U._ ans Verwaltungsgericht des Kantons Zürich. Dieses schrieb mit Urteil vom 25. April 2012 die Beschwerde von T._ wegen Rückzugs des Rechtsmittels ab, trat auf die Beschwerde der Stockwerkeigentümergemeinschaft Y._ nicht ein und wies jene der übrigen Beschwerdeführer ab.
B. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiärer Verfassungsbeschwerde ans Bundesgericht beantragen die X._ GmbH, die Stockwerkeigentümergemeinschaft Y._, Z._, W._, V._ und U._ im Wesentlichen, das Urteil des Verwaltungsgerichts sei - abgesehen von der Abschreibung der Beschwerde von T._ - aufzuheben. Ebenfalls aufzuheben sei der Entscheid des Baurekursgerichts und dieses sei anzuweisen, die Sache materiell zu behandeln.
Das Verwaltungsgericht beantragt in seiner Vernehmlassung, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Das Baurekursgericht und die Beschwerdegegnerin schliessen auf Abweisung der Beschwerde. Die Bausektion der Stadt Zürich hat auf eine Vernehmlassung verzichtet, ebenso die Beschwerdeführer auf eine Replik.
Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten nach Art. 82 lit. a BGG steht auf dem Gebiet des Raumplanungs- und Baurechts zur Verfügung. Die Beschwerdeführer haben am vorinstanzlichen Verfahren teilgenommen und machen geltend, das Verwaltungsgericht habe Bundesrecht verletzt, indem es den Nichteintretensentscheid des Baurekursgerichts bestätigte bzw. selbst nicht auf ihre Beschwerde eintrat. Zu dieser Rüge sind sie im bundesgerichtlichen Verfahren ungeachtet ihrer Legitimation in der Sache berechtigt (Art. 89 Abs. 1 BGG, vgl. BGE 136 IV 41 E. 1.4 S. 44 mit Hinweisen).
1.2 Ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegeben, so erweist sich die gleichzeitig erhobene subsidiäre Verfassungsbeschwerde als unzulässig (Art. 113 BGG).
1.3 Nicht einzutreten ist auf den Antrag auf Aufhebung des Entscheids des Baurekursgerichts. Dieser Entscheid ist durch das Urteil des Verwaltungsgerichts ersetzt worden (Devolutiveffekt) und gilt als inhaltlich mitangefochten (BGE 134 II 142 E. 1.4 S. 144 mit Hinweis). Nicht einzutreten ist somit auf die Rügen, welche sich ausschliesslich auf den Entscheid des Baurekursgerichts beziehen. Das gilt für das sich auf Beschwerdeführerin 2 beziehende Vorbringen, das Baurekursgericht hätte nicht nur dem Vertreter, sondern auch den Vertretenen eine Frist zum Nachweis der Vertretungsbefugnis einräumen und zudem dem Vertreter eine Fristverlängerung gewähren müssen. Dies war nur für den Nichteintretensentscheid des Baurekursgerichts, nicht aber für jenen des Verwaltungsgerichts von Bedeutung.
1.3 Nicht einzutreten ist auf den Antrag auf Aufhebung des Entscheids des Baurekursgerichts. Dieser Entscheid ist durch das Urteil des Verwaltungsgerichts ersetzt worden (Devolutiveffekt) und gilt als inhaltlich mitangefochten (BGE 134 II 142 E. 1.4 S. 144 mit Hinweis). Nicht einzutreten ist somit auf die Rügen, welche sich ausschliesslich auf den Entscheid des Baurekursgerichts beziehen. Das gilt für das sich auf Beschwerdeführerin 2 beziehende Vorbringen, das Baurekursgericht hätte nicht nur dem Vertreter, sondern auch den Vertretenen eine Frist zum Nachweis der Vertretungsbefugnis einräumen und zudem dem Vertreter eine Fristverlängerung gewähren müssen. Dies war nur für den Nichteintretensentscheid des Baurekursgerichts, nicht aber für jenen des Verwaltungsgerichts von Bedeutung.
1.4 1.4.1 Umstritten ist zunächst die Frage der Befugnis von Beschwerdeführer 6 zur Vertretung von Beschwerdeführerin 2. Die Frage ist vorab zu prüfen, denn die Vertretungsbefugnis ist auch im bundesgerichtlichen Verfahren Sachurteilsvoraussetzung. Erweist sich, dass sie fehlt, ist auf die Beschwerde insofern nicht einzutreten.
Das Verwaltungsgericht führt diesbezüglich aus, der Rechtsvertreter habe seine Vertretungsbefugnis nicht nachgewiesen. Es sei ihm deshalb mit Präsidialverfügung vom 21. Februar 2012 unter Hinweis auf die entsprechenden Erwägungen im Entscheid des Baurekursgerichts eine Frist von zehn Tagen angesetzt worden, um den Mangel zu beheben. Mit Eingabe vom 26. März 2012 habe der Rechtsvertreter eine undatierte Vollmacht eingereicht, gemäss welcher die Stockwerkeigentümergemeinschaft ihn beauftrage und ermächtige, ihre Interessen zu wahren. Die Vollmacht sei von S._, R._, Q._ und P._ unterzeichnet und enthalte folgenden Hinweis: "Von der StWEG Y._ (Auftraggeberin) mit Mehrheitsbeschluss beschlossen am 26.3.2012". Der Rechtsvertreter habe jedoch innert der angesetzten Frist weder das Protokoll der betreffenden Stockwerkeigentümerversammlung noch das Reglement der Stockwerkeigentümergemeinschaft eingereicht. Diese Unterlagen seien indessen erforderlich, um beurteilen zu können, ob die Versammlung gültig einberufen und gemäss Art. 712p Abs. 1 ZGB beschlussfähig war, und ob eine einfache Mehrheit überhaupt genügte, um eine Prozessvollmacht gemäss Art. 712t Abs. 2 ZGB zu erteilen. Überdies sei noch immer nicht bekannt, wer Stockwerkeigentümer sei. Die im Verfahren vor Baurekursgericht eingereichte Vollmacht sei von S._, P._ und T._ unterzeichnet. Es sei damit klar, dass weder diese Vollmacht noch jene, welche im verwaltungsgerichtlichen Verfahren eingereicht worden sei, die Unterschrift von allen Stockwerkeigentümern enthalte.
1.4.2 Die Beschwerdeführer rügen, das Verwaltungsgericht hätte sie nach Eingang ihrer Eingabe vom 26. März 2012 unter Ansetzung einer hinreichend langen Frist auffordern müssen, das Reglement, das Protokoll und einen Nachweis über die Stockwerkeigentümer einzureichen. Sie beanstanden auch, dass das Verwaltungsgericht diesbezüglich auf eine Erwägung im Entscheid des Baurekursgerichts verwies. Zumindest die Mehrheit der Stockwerkeigentümer habe Beschwerde führen wollen. Im Übrigen hätten sie mit der Prozessführung eine dringliche Verwaltungshandlung im Sinne von Art. 647 Abs. 2 Ziff. 2 ZGB vorgenommen, was keinen Beschluss der Stockwerkeigentümergemeinschaft erfordere. Der Nichteintretensentscheid verletze Art. 9, Art. 29 Abs. 1 und 2, Art. 29a BV, Art. 6 Ziff. 1 EMRK und die gesetzliche Pflicht, den Sachverhalt von Amtes wegen abzuklären.
1.4.3 Entgegen der Ansicht der Beschwerdeführer können sich die prozessführenden Mitglieder der Stockwerkeigentümergemeinschaft nicht auf Art. 647 Abs. 2 Ziff. 2 ZGB stützen. Diese Bestimmung verleiht jedem Miteigentümer die Befugnis, von sich auf Kosten aller Miteigentümer die Massnahmen zu ergreifen, die sofort getroffen werden müssen, um die Sache vor drohendem oder wachsendem Schaden zu bewahren (HEINZ REY/LUKAS MAETZKE, Schweizerisches Stockwerkeigentum, 3. Aufl. 2009, Rz. 418 f.). Zwar ist nicht auszuschliessen, dass im Einzelfall auch die Prozessführung, ähnlich der Reparatur einer zerplatzten Wasserleitung oder eines Schadens am Dach, als dringliche Massnahme zu qualifizieren ist (ARTHUR MEIER-HAYOZ, Berner Kommentar, 5. Aufl. 1981, N. 77 zu Art. 647 ZGB). Vorliegend bestand jedoch von der Erteilung der Baubewilligung bis zur Beschwerde ans Verwaltungsgericht hinreichend Zeit, eine Stockwerkeigentümerversammlung einzuberufen. Auch wenn zu Beginn des Verfahrens Dringlichkeit bestanden haben mag, was hier nicht zu beurteilen ist, fiel sie in dessen Verlauf jedenfalls dahin.
Das Baurekursgericht hielt in Erwägung 1.1 seines Entscheids fest, die von mehreren Personen "im Auftrag" unterzeichnete Vollmachtserklärung sei unzureichend. Der Rechtsvertreter sei deshalb mit Präsidialverfügung aufgefordert worden, entweder nachzuweisen, dass die Vollmacht sämtliche Stockwerkeigentümer umfasse, oder aber, dass ein nach Verwaltungsreglement und nach Art. 712m ff. ZGB gültiger Beschluss der Stockwerkeigentümerversammlung vorliege. Hierzu sei ein Protokoll der Beschlussfassung oder ein gleichwertiges Dokument sowie das Verwaltungsreglement der Stockwerkeigentümergemeinschaft und ein Verzeichnis sämtlicher Stockwerkeigentümer einzureichen. Das Verwaltungsgericht selbst wies in seiner Präsidialverfügung vom 21. Februar 2012 eigens nochmals auf diese Erwägung hin, als es den Rechtsvertreter der Beschwerdeführer aufforderte, eine hinreichende Bevollmächtigung nachzuweisen. Nachdem dieser die gewünschten Unterlagen auch mit seiner Eingabe vom 26. März 2012 nicht eingereicht hatte, war das Verwaltungsgericht nicht gehalten, ihm eine weitere Frist anzusetzen. Es hatte bereits in der Präsidialverfügung angedroht, im Säumnisfall auf die Beschwerde der Beschwerdeführerin 2 nicht einzutreten. Dass die betreffenden Unterlagen nicht erforderlich gewesen wären, machen die Beschwerdeführer zu Recht nicht geltend. Dem Verwaltungsgericht ist darin zuzustimmen, dass ohne diese Unterlagen nicht beurteilt werden kann, ob die Versammlung gültig einberufen wurde, ob sie beschlussfähig war und ob reglementarisch von der gesetzlichen Ordnung abweichende Quorumsvorschriften vereinbart wurden (vgl. REY/MAETZKE, a.a.O., Rz. 308 ff.). Schliesslich haben die Beschwerdeführer auch im bundesgerichtlichen Verfahren nicht dargelegt, aus welchen Personen die Stockwerkeigentümergemeinschaft überhaupt besteht. Ihre Behauptung, die Vollmacht sei zumindest von der Mehrheit der Miteigentümer, "wenn nicht sogar von sämtlichen" unterzeichnet worden, erweckt Zweifel, ob sie sich selbst über deren Zusammensetzung im Klaren sind.
1.4.4 Aus dem Gesagten ergibt sich zum einen, dass dem Verwaltungsgericht keine Bundesrechtsverletzung vorzuwerfen ist, wenn es auf die Beschwerde in Bezug auf die Beschwerdeführerin 2 nicht eintrat. Zum andern folgt daraus, dass auch im bundesgerichtlichen Verfahren auf die Beschwerde der Beschwerdeführerin 2 nicht einzutreten ist.
2. Dass das Verwaltungsgericht vor diesem Hintergrund dem Beschwerdeführer 6 als Rechtsvertreter nach dem Verursacherprinzip einen Teil der Gerichtskosten auferlegte, wird in der Beschwerdeschrift nicht beanstandet. Darauf ist deshalb nicht weiter einzugehen. In Bezug auf Beschwerdeführer 6 erweist sich die Beschwerde damit als unbegründet, soweit darauf einzutreten ist.
3. 3.1 Hinsichtlich der Beschwerdeführer 1, 3, 4 und 5 kam das Verwaltungsgericht zum Schluss, das Baurekursgericht sei zu Recht nicht auf den Rekurs eingetreten. Beschwerdeführer 1 und 4 seien mehr als fünf Kilometer vom streitbetroffenen Bauvorhaben entfernt. Die Adressen von Beschwerdeführer 3 und 5 würden sich zwar gemäss Standortdatenblatt im rechtsmittelberechtigten Umkreis befinden. Doch müssten auch sie nachweisen, dass sie entweder Grundeigentümer seien oder Mieter in einem unbefristeten oder zumindest auf lange Dauer angelegten und nicht gekündigten Mietverhältnis. Das Baurekursgericht habe die Beschwerdeführer mit Präsidialverfügung vom 3. August 2011 aufgefordert, diesen Nachweis bis am 23. August 2011 zu erbringen. Mit Eingabe vom 23. August 2011 habe der Rechtsvertreter der Beschwerdeführer um eine angemessene Fristerstreckung ersucht. Mit Verfügung vom 24. August 2011 habe das Baurekursgericht die Frist einmalig bis zum 7. September 2011 erstreckt. Die Verfügung sei mit A-Post versandt worden, jedoch beim Rechtsvertreter der Beschwerdeführer nach dessen eigenen Angaben nicht eingetroffen. Der Rechtsvertreter habe in der Folge zwei Monate verstreichen lassen. Am 24. Oktober 2011 habe er um die Durchführung eines zweiten Schriftenwechsels ersucht, ohne sich dabei jedoch um die Behandlung seines Fristerstreckungsgesuchs zu erkundigen. Mit diesem prozessualen Vorgehen habe er den Grundsatz von Treu und Glauben verletzt (Art. 5 Abs. 3 BV). Einem Rechtsanwalt seien die für die Fristerstreckung massgeblichen Grundsätze bekannt; entscheide ein Gericht nicht umgehend über ein Gesuch, so müsse er sich nach dessen Verbleib erkundigen. Die angesetzte Frist gelte infolge dieses treuwidrigen Verhaltens als versäumt. Das Baurekursgericht sei deshalb mangels hinreichend nachgewiesener Legitimation auf den Rekurs der Beschwerdeführer 1, 3, 4 und 5 zu Recht nicht eingetreten.
3.2 Die Beschwerdeführer sind der Ansicht, das Baurekursgericht hätte sie ein zweites Mal, jedoch mit eingeschriebener Post, zur Einreichung weiterer Unterlagen auffordern müssen. Sie selbst hätten in guten Treuen zuwarten dürfen. Dies umso mehr, als ihre Legitimation ohnehin aus den in den Akten befindlichen Adressen ersichtlich gewesen sei. Zudem treffe es nicht zu, dass die Legitimation bereits in der Rekursschrift dargelegt werden müsse. Auf das Rechtsmittel einfach nicht einzutreten und ihnen auch keine Replikmöglichkeit zu gewähren, verletze unter diesen Umständen Art. 9 und 29 BV sowie Art. 6 Ziff. 1 EMRK. Schliesslich dürften die kantonalen Behörden die Rechtsmittellegitimation nicht enger fassen, als sie es für die Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht sei. Somit komme es nicht darauf an, ob jemand langjähriger Mieter sei oder nicht.
3.3 In einem ersten Schritt ist zu prüfen, ob das Baurekursgericht von den Rekurrenten zu Unrecht verlangte, ihre Legitimation genauer darzulegen. Konkret wollte das Baurekursgericht wissen, wer von den Rekurrenten über Grundeigentum im Bereich des Bauvorhabens verfüge und um welche Liegenschaften es sich handle. Soweit bloss ein Mietverhältnis vorliege, sei nachzuweisen, dass die Betreffenden an der angegebenen Adresse in einem auf Dauer angelegten Mietverhältnis wohnten (z.B. durch Vorlage des Mietvertrags oder Bestätigung des Vermieters). Im Unterlassungsfalle werde auf den Rekurs nicht eingetreten, soweit der räumliche Bezug zum Bauvorhaben nicht substanziiert werde.
Gemäss der bundesgerichtlichen Praxis zur Errichtung von Mobilfunkanlagen ist zur Bestimmung der Beschwerdelegitimation der Radius massgebend, innerhalb dessen die Strahlung der Anlage noch 10 % des Anlagegrenzwerts betragen kann. Zur Beschwerde ist befugt, wer innerhalb dieses Radius wohnt oder arbeitet, sowie, wer Eigentümer von im Perimeter gelegenen Wohnungen ist, ohne dort selbst zu wohnen (BGE 128 II 168 E. 2.3 f. S. 171 f. mit Hinweisen; Urteil 1A.86/2003 vom 15. Dezember 2003 E. 1.4). Gemäss dem Standortdatenblatt beträgt der massgebliche Radius 499 m.
Entgegen der Behauptung der Beschwerdeführer hat das Baurekursgericht nicht den Nachweis eines "langjährigen" Mietverhältnisses verlangt. Zwar ist die Wahl der Worte "auf Dauer angelegt" ungeschickt, zumal jedes Mietverhältnis auf (befristete oder unbefristete) Dauer angelegt ist. Indessen ist nicht zu beanstanden, wenn die Behörden den Nachweis fordern, dass das Mietverhältnis zumindest bis zur möglichen Inbetriebnahme der Mobilfunkantenne anhält. Zudem ist nicht zu übersehen, dass das Baurekursgericht es auch erlaubte, den räumlichen Bezug zum Bauvorhaben in anderer Weise nachzuweisen. Dies ermöglichte es beispielsweise auch vorzubringen, im Einspracheperimeter seinen Arbeitsplatz zu haben. Angesprochen waren damit wohl insbesondere die Beschwerdeführer 1 und 4, deren Adresse nach den unbestrittenen Feststellungen der Vorinstanz mehr als fünf Kilometer vom Bauvorhaben entfernt liegen. Insgesamt kann deshalb nicht gesagt werden, das Baurekursgericht habe den Nachweis rechtlich nicht massgebender Tatsachen verlangt (vgl. Art. 111 Abs. 1 i.V.m. Art. 89 Abs. 1 BGG). Indem es nicht nur in Bezug auf die Beschwerdeführer 1 und 4, sondern auch in Bezug auf die anderen Beschwerdeführer weitere Nachweise verlangte, war es zwar streng, doch entbehrte die Strenge nicht der sachlichen Rechtfertigung. Das Verbot des überspitzten Formalismus wurde damit nicht verletzt (Art. 29 Abs. 1 BV; BGE 135 I 6 E. 2.1 S. 9 mit Hinweisen).
3.4 Weiter ist zu untersuchen, ob der Grundsatz von Treu und Glauben von den Beschwerdeführern verlangte, sich beim Baurekursgericht nach der Behandlung ihres Fristerstreckungsgesuchs zu erkundigen. Nach der Rechtsprechung darf dem rechtssuchenden Adressaten durch eine fehlerhafte behördliche Zustellung kein Nachteil entstehen; doch ist bei einem bestehenden Prozessverhältnis auch der Adressat zum Handeln nach Treu und Glauben verpflichtet (BGE 111 V 149 E. 4c S. 150; Urteil 1P.485/1999 vom 18. Oktober 1999 E. 4, in: Pra 2000 Nr. 2 S. 6; je mit Hinweisen).
Gemäss § 12 Abs. 1 Satz 2 des Verwaltungsrechtspflegegesetzes des Kantons Zürich vom 24. Mai 1959 (VRG; LS 175.2) dürfen richterlich festgesetzte Fristen auf ein vor Fristablauf gestelltes Gesuch hin erstreckt werden, wenn ausreichende Gründe hiefür dargetan und soweit möglich belegt werden. Das Baurekursgericht erstreckte die ursprüngliche Frist von 20 Tagen am 24. August 2011 bis zum 7. September 2011. Dabei lehnte es sich an die in § 26b Abs. 2 VRG für den Schriftenwechsel aufgestellte Regel an, wonach die Vernehmlassungsfrist in der Regel nicht länger als die Rechtsmittelfrist sein und nur einmal höchstens um die gleiche Dauer erstreckt werden soll. Unbesehen dieser Vorschrift und der entsprechenden Praxis im Kanton Zürich durfte der Rechtsvertreter, nachdem er nicht umgehend eine Antwort auf sein Fristerstreckungsgesuch erhalten hatte, nicht einfach längere Zeit zuwarten, ohne nach dessen Verbleib zu fragen. Dies tat er jedoch, auch in seinem Schreiben vom 24. Oktober 2011 erkundigte er sich nicht danach. Unter diesen Umständen verletzte das Baurekursgericht kein Bundesrecht, als es am 25. November 2011 androhungsgemäss auf das Rechtsmittel nicht eintrat, nachdem die Beschwerdeführer ihre Rechtsmittellegitimation noch immer nicht konkreter dargelegt hatten. Die Kritik am verwaltungsgerichtlichen Urteil, welches das Vorgehen des Baurekursgerichts schützte, geht fehl.
4. Es ergibt sich, dass auf die Beschwerde hinsichtlich der Beschwerdeführerin 2 nicht einzutreten ist; im Übrigen ist sie abzuweisen, soweit darauf einzutreten ist.
Diesem Ausgang des Verfahrens entsprechend sind die Gerichtskosten den Beschwerdeführern 1, 3, 4, 5 und 6 aufzuerlegen (Art. 66 Abs. 1 und 3 BGG). Die obsiegende Beschwerdegegnerin wird nicht durch einen externen Anwalt, sondern durch ihre eigene Rechtsabteilung vertreten. Nach der bundesgerichtlichen Rechtsprechung zu Art. 68 Abs. 2 BGG ist ihr deshalb keine Parteientschädigung zuzusprechen (Urteil 1C_200/2008 vom 28. November 2008 E. 2 mit Hinweis).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde wird hinsichtlich der Beschwerdeführerin 2 nicht eingetreten. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdeführern 1, 3, 4, 5 und 6 auferlegt.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird den Parteien, der Bausektion der Stadt Zürich, dem Baurekursgericht und dem Verwaltungsgericht des Kantons Zürich, 1. Abteilung, 1. Kammer, schriftlich mitgeteilt.
Lausanne, 15. November 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Der Gerichtsschreiber: Dold