Sachverhalt:
A. Am 3. März 2011 schrieb der Kanton Basel-Landschaft für den Neubau des Strafjustizzentrums in Muttenz die Arbeitsgattung "Sicherheitstüren" (Zellentüren) aus. Innert der Ausschreibungsfrist gingen zwei Angebote ein. Die Arbeitsgemeinschaft X._ AG - Y._ AG (im Folgenden: ARGE X._ - Y._) offerierte zum Preis von Fr. 1'191'295.60, die Z._ AG (im Folgenden: Z._) zum Preis von Fr. 647'546.25.
B. Mit Beschluss vom 25. Oktober 2011 erteilte der Regierungsrat des Kantons Basel-Landschaft den Zuschlag der Z._. Die gegen diesen Vergabeentscheid von der ARGE X._ - Y._ erhobene Beschwerde wies das Kantonsgericht Basel-Landschaft, Abteilung Verfassungs- und Verwaltungsrecht, mit Urteil vom 16. Mai 2012 ab.
C. Die beiden Mitglieder der ARGE X._ - Y._ erheben am 19. Juli 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten bzw. subsidiäre Verfassungsbeschwerde an das Bundesgericht. Die Beschwerdeführerinnen beantragen, das Urteil des Kantonsgerichts Basel-Landschaft vom 16. Mai 2012 sei aufzuheben (Ziff. 1) und der Zuschlag für den Bauauftrag Sicherheitstüren im Neubau Strafjustizzentrum Muttenz sei ihnen zu erteilen (Ziff. 2). Eventualiter sei die Angelegenheit an den Regierungsrat des Kantons Basel-Landschaft zur Wiederholung des Submissionsverfahrens zurückzuweisen (Ziff. 3), subeventualiter sei die Rechtswidrigkeit des angefochtenen Urteils festzustellen (Ziff. 4). Weiter stellen die Beschwerdeführerinnen das Gesuch, der Beschwerde sei superprovisorisch und ohne Verzug die aufschiebende Wirkung zu erteilen (Ziff. 5).
Die Z._ und der Regierungsrat des Kantons Basel-Landschaft, vertreten durch die Bau- und Umweltschutzdirektion, beantragen, die Beschwerde sei abzuweisen, soweit darauf eingetreten werde. Das Kantonsgericht Basel-Landschaft verzichtet auf eine Vernehmlassung. Mit Eingaben vom 22. Oktober, 9. November bzw. 12. November 2012 äussern sich die Verfahrensbeteiligten zu den eingegangenen Stellungnahmen.
D. Mit Verfügung vom 1. November 2012 hat der Präsident der II. öffentlich-rechtlichen Abteilung das Gesuch um aufschiebende Wirkung bzw. vorsorgliche Massnahmen abgewiesen, nachdem inzwischen der Vertrag über die Beschaffung der streitgegenständlichen Türen abgeschlossen worden war.
Erwägungen:
1. Zunächst ist zu prüfen, ob gegen das vorliegend angefochtene kantonal letztinstanzliche Urteil das ordentliche Rechtsmittel der Beschwerde in öffentlich-rechtlichen Angelegenheiten gemäss Art. 82 ff. BGG offen steht, da die subsidiäre Verfassungsbeschwerde nur dann in Frage kommen kann, wenn das genannte ordentliche Rechtsmittel unzulässig ist (vgl. Art. 113 BGG).
1.1 Gemäss Art. 83 lit. f BGG ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten gegen Entscheide auf dem Gebiet der öffentlichen Beschaffungen ausgeschlossen, wenn der geschätzte Wert des zu vergebenden Auftrags den massgebenden Schwellenwert des Bundesgesetzes vom 16. Dezember 1994 über das öffentliche Beschaffungswesen (BöB; SR 172.056.1) oder des Abkommens vom 21. Juni 1999 zwischen der Schweizerischen Eidgenossenschaft und der Europäischen Gemeinschaft über bestimmte Aspekte des öffentlichen Beschaffungswesens (GPA; SR 0.172.052.68) nicht erreicht (Ziff. 1) und wenn sich keine Rechtsfrage von grundsätzlicher Bedeutung stellt (Ziff. 2). Die beiden genannten Bedingungen müssen kumulativ erfüllt sein, damit die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen steht (BGE 138 I 143 E. 1.1 S. 146; 133 II 396 E. 2 S. 398).
1.2 Ob im vorliegenden Fall die Auftragssumme den massgebenden Schwellenwert erreicht hat, bedarf keiner näheren Prüfung, da bereits das Erfordernis der Rechtsfrage von grundsätzlicher Bedeutung nicht erfüllt ist.
1.2.1 Die Voraussetzung des Vorliegens einer "Rechtsfrage von grundsätzlicher Bedeutung" ("question juridique de principe", "questione di diritto d'importanza fondamentale") ist restriktiv zu handhaben (vgl. BGE 133 III 493 E.1.1 mit Hinweisen), zumal bei Unzulässigkeit des ordentlichen Rechtsmittels der Beschwerde in öffentlich-rechtlichen Angelegenheiten bei kantonalen Submissionen immer noch die subsidiäre Verfassungsbeschwerde zur Verfügung steht und bei Vergebungen durch Bundesorgane, soweit sie aufgrund ihres Auftragswertes überhaupt den Vorschriften des Beschaffungsrechts unterstehen (Art. 6 BöB), das Bundesverwaltungsgericht als Rechtsmittelinstanz angerufen werden kann (Art. 27 Abs. 1 BöB). Der blosse Umstand, dass die aufgeworfene Rechtsfrage noch nie entschieden wurde, genügt nicht. Es muss sich um eine Rechtsfrage handeln, deren Entscheidung für die Praxis wegleitend sein kann und von ihrem Gewicht her nach einer höchstrichterlichen Klärung ruft. Gemäss Art. 42 Abs. 2 BGG ist in der Beschwerdeschrift darzutun, dass und inwiefern die Voraussetzung des Vorliegens einer Rechtsfrage von grundsätzlicher Bedeutung erfüllt ist, widrigenfalls auf das Rechtsmittel nicht eingetreten wird (BGE 138 I 143 E. 1.1.2 S. 147; 137 II 313 E. 1.1.1 S. 316; 133 II 396 E. 2.2 S. 399).
1.2.2 Die Beschwerdeführerinnen unterbreiten dem Bundesgericht als Rechtsfrage von grundsätzlicher Bedeutung was folgt: "Darf die Vergabe an ein den gesetzlichen Vorschriften widersprechendes Produkt erfolgen bzw. ist ein Angebot, mit welchem ein Produkt angeboten wird, welches nicht den gesetzlichen Vorschriften entspricht, vollständig?". Diese Fragestellung vermag die hohen Anforderungen der Praxis (vgl. E. 1.2.1) nicht zu erfüllen: Grundsätzlich liegt es auf der Hand und bedarf keiner weiteren Ausführungen, dass nur gesetzmässige Produkte angeboten werden dürfen. Im vorliegenden Fall geht es aber einzig darum, ob das offerierte Produkt der Zuschlagsempfängerin den gesetzlichen Vorschriften entspricht oder nicht; dabei handelt es sich um eine typische Einzelfallbeurteilung. Bei den von den Beschwerdeführerinnen zum Gegenstand der Beschwerde gemachten Streitpunkten geht es somit, wie auch die nachfolgenden Erwägungen zeigen werden (vgl. insb. E. 3.4 hiernach), nicht um Rechtsfragen von grundsätzlicher Bedeutung, welche die Zulässigkeit des ordentlichen Rechtsmittels - der Beschwerde in öffentlich-rechtlichen Angelegenheiten - zu begründen vermöchte.
1.3 Offen steht damit in casu einzig der Weg der subsidiären Verfassungsbeschwerde, als welche das vorliegende Rechtsmittel entgegenzunehmen und zu behandeln ist.
2. 2.1 Mit der subsidiären Verfassungsbeschwerde kann einzig die Verletzung verfassungsmässiger Rechte gerügt werden (Art. 116 BGG). Voraussetzung hierzu ist namentlich ein rechtlich geschütztes Interesse (Art. 115 lit. b BGG). Die Beschwerdeführerinnen erheben im Wesentlichen die Rüge der willkürlichen Rechtsanwendung (Art. 9 BV). Praxisgemäss verschafft Art. 9 BV für sich allein kein hinreichendes rechtlich geschütztes Interesse im Sinne von Art. 115 BGG (BGE 136 I 229 E. 3.2 S. 235; 133 I 185 E. 5 und 6 S. 193 ff.). Legitimiert zu dieser Rüge ist bloss, wer sich auf eine gesetzliche Norm berufen kann, die ihm im Bereich der betroffenen und angeblich verletzten Interessen einen Rechtsanspruch einräumt oder zumindest den Schutz seiner Interessen bezweckt (BGE 137 II 305 E. 2 S. 308; 134 I 153 E. 4 S. 156; 133 I 185 E. 6.1 S. 197 f.). Im Submissionsrecht besteht ein Rechtsanspruch auf die Erteilung des Auftrags an denjenigen Anbieter, der die wirtschaftlich günstigste Offerte eingereicht hat (HANSJÖRG SEILER, in: Seiler/von Werdt/Güngerich, Kommentar BGG, 2007, N. 16 zu Art. 115 BGG). Dies ergibt sich aus dem Bundesgesetz vom 6. Oktober 1995 über den Binnenmarkt (BGBM; SR 943.02) und der Interkantonalen Vereinbarung vom 15. März 2001 über das öffentliche Beschaffungswesen (IVöB; AS 2003 196; BGE 125 II 86 E. 4 S. 95 f.; Urteile 2D_49/2011 vom 25. September 2012 E. 1.3.1; 2C_634/2008 vom 11. März 2009 E. 2.1).
2.2 Unerlässlich ist weiter, dass die beschwerdeführende, im Submissionsverfahren erfolglose Partei eine reelle Chance gehabt hätte, im Fall der Gutheissung des Rechtsmittels den Zuschlag zu erhalten (Urteile 2D_49/2011 vom 25. September 2012 E. 1.3.2; 2D_74/2010 vom 31. Mai 2011 E. 1.2; je mit Hinweisen). Andernfalls kann die behauptete Rechtswidrigkeit des Entscheids nicht kausal für den möglicherweise eingetretenen Schaden gewesen sein. Ist der Vertrag bereits abgeschlossen worden, wie dies vorliegend zutrifft, bleibt das Rechtsschutzinteresse bestehen. In einem solchen Fall hat das Bundesgericht bei erfüllten Voraussetzungen die Bundesrechtswidrigkeit des angefochtenen Entscheids festzustellen (Art. 9 Abs. 3 BGBM). Dies erlaubt den Betroffenen gegebenenfalls die Geltendmachung von Schadenersatz (BGE 137 II 313 E. 1.2.2 S. 317; 131 I 153 E. 1.2 S. 157; 130 I 258 E. 1.2 S. 261; 125 II 86 E. 5b S. 97 f.).
Vorliegend ist ein hinreichendes rechtlich geschütztes Interesse gegeben. Das Angebot der Beschwerdeführerinnen erreichte den 2. Rang und bei einem Ausschluss der Zuschlagsempfängerin hätten die Beschwerdeführerinnen den 1. Rang erreicht. Damit hätten sie - falls der Vertrag noch nicht abschlossen worden wäre - im Sinne der dargelegten Praxis eine reelle Chance gehabt, im Falle der Gutheissung ihres Rechtsmittels den Zuschlag zu erhalten. Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Verfassungsbeschwerde einzutreten ist.
Vorliegend ist ein hinreichendes rechtlich geschütztes Interesse gegeben. Das Angebot der Beschwerdeführerinnen erreichte den 2. Rang und bei einem Ausschluss der Zuschlagsempfängerin hätten die Beschwerdeführerinnen den 1. Rang erreicht. Damit hätten sie - falls der Vertrag noch nicht abschlossen worden wäre - im Sinne der dargelegten Praxis eine reelle Chance gehabt, im Falle der Gutheissung ihres Rechtsmittels den Zuschlag zu erhalten. Die übrigen Sachurteilsvoraussetzungen geben zu keinen Bemerkungen Anlass, sodass auf die Verfassungsbeschwerde einzutreten ist.
2.3 2.3.1 Das Bundesgericht prüft die Verletzung von Grundrechten nur unter Rüge- und Begründungsvorbehalt (Art. 42 Abs. 2, Art. 117 i.V.m. 106 Abs. 2 BGG; BGE 134 I 83 E. 3.2 S. 88 mit Hinweisen). Der Grundsatz der Rechtsanwendung von Amtes wegen gilt insofern nicht. Die bundesgerichtliche Praxis verlangt, dass die angebliche Verfassungsverletzung klar und detailliert anhand der Erwägungen des angefochtenen Entscheids dargelegt wird. Auf rein appellatorische Kritik am angefochtenen Entscheid tritt das Bundesgericht nicht ein (BGE 136 II 489 E. 2.8 S. 494 mit Hinweisen).
2.3.2 Die Anträge der Beschwerdeführerinnen, die einen "Direktzuschlag" durch das Bundesgericht (Ziff. 2) bzw. eine Wiederholung des Submissionsverfahrens bezwecken (Ziff. 3), sind sodann durch den inzwischen erfolgten Vertragsabschluss hinfällig geworden (Art. 9 Abs. 3 BGBM). Es bleibt damit die Prüfung des Subeventualantrags (Ziff. 4).
2.3.3 Soweit es schliesslich im Vergaberecht um Fragen der Bewertung der eingelangten Angebote geht, auferlegt sich das Bundesgericht in seiner Prüfung eine gewisse Zurückhaltung, zumal schon die Vorinstanz über einen erheblichen Beurteilungsspielraum verfügt. Vor Bundesgericht geht es um die Würdigung eines Bewertungsvorgangs in einem Bereich, der nicht selten besondere fachtechnische Kenntnisse erfordert (Urteil 2P.14/2007 vom 3. September 2007 E. 2.4). Zudem gilt es regelmässig die örtlichen Verhältnisse zu berücksichtigen, die das kantonale Gericht besser zu überblicken vermag (BGE 135 I 302 E. 1.2 S. 305; 127 I 164 E. 3c S. 172; 125 II 86 E. 6 S. 98 f.; Urteile 2D_49/2011 vom 25. September 2012 E. 1.4.3; 2C_660/2011 vom 9. Februar 2012 E. 1.5).
3. 3.1 Die Beschwerdeführerinnen rügen einzig eine willkürliche Anwendung von § 8 lit. c und i bzw. § 23 Abs. 2 des Gesetzes [des Kantons Basel-Landschaft] vom 3. Juni 1999 über öffentliche Beschaffungen (BeG/BL; SGS 420) sowie von Art. 11 lit. a und b IVöB. Gemäss diesen Bestimmungen wird vom Verfahren in der Regel ausgeschlossen, wer die Eignungskriterien nicht oder nur teilweise erfüllt oder keinen entsprechenden Eignungsnachweis erbringt (§ 8 lit. c BeG/BL) bzw. ein Angebot einreicht, das ungenügende Sachkenntnis oder Merkmale unlauteren Wettbewerbs erkennen lässt (§ 8 lit. i BeG/BL). Zudem werden unvollständige oder verspätet eingetroffene Angebote ausgeschlossen (§ 23 Abs. 2 BeG/BL). Gemäss Art. 11 IVöB sind bei der Vergabe von Aufträgen sodann u.a. die Grundsätze der Nichtdiskriminierung und Gleichbehandlung (lit. a) und des wirksamen Wettbewerbs (lit. b) einzuhalten.
Die Beschwerdeführerinnen bringen zur Begründung im Wesentlichen vor, die offerierten Türen der Zuschlagsempfängerin seien weder nach europäischen Normen geprüft noch verfügten sie über eine Zulassung der VKF (Vereinigung kantonaler Feuerversicherungen); sie würden auch nie eine VKF-Zulassung erhalten. Deshalb widerspreche das Angebot den gesetzlichen Grundlagen und sei somit "materiell unvollständig".
3.2 Die Vorinstanz hat dazu ausgeführt, es sei unbestritten, dass das Produkt der Zuschlagsempfängerin im Zeitpunkt der Angebotseinreichung weder die Brandschutz-Klassifizierungsnorm El 30 erfüllte noch über eine VKF-Zulassung verfügte (vgl. angefochtener Entscheid E. 4.5.1). In den Ausschreibungsunterlagen finde sich kein Hinweis darauf, dass die Submittenten bereits im Zeitpunkt der Offerteinreichung einen Nachweis betr. VKF-Zulassung hätten einreichen müssen. In technischer Hinsicht werde lediglich das vollständig ausgefüllte Leistungsverzeichnis verlangt. Daraus folge, dass die Offerte der Zuschlagsempfängerin vollständig sei und den Eignungskriterien entspreche (vgl. angefochtener Entscheid E. 4.5.3).
3.3 Gemäss ständiger bundesgerichtlicher Praxis liegt Willkür in der Rechtsanwendung vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen angefochtenen Entscheid aber nur auf, soweit nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (statt vieler: BGE 137 I 1 E. 2.4 S. 5 mit Hinweisen).
Rufen die Beschwerdeführerinnen im Rahmen der subsidiären Verfassungsbeschwerde das Willkürverbot an, müssen sie dartun, dass und inwiefern der angefochtene Entscheid willkürlich ist (BGE 133 III 393 E. 6 und 7.1 S. 397 f.). Soweit die vorliegende Beschwerde diesen Anforderungen nicht genügt und sich in appellatorischer Kritik erschöpft, ist auf sie nicht einzutreten (vgl. auch E. 2.3.1 hiervor).
3.4 Im Rahmen der Willkürprüfung ist der angefochtene Entscheid nicht zu beanstanden: So trifft die Feststellung der Vorinstanz, wonach gemäss den Ausschreibungsunterlagen der formelle Nachweis der VKF-Zulassung noch nicht im Zeitpunkt der Offerteinreichung vorliegen musste, zu. Die Beschwerdeführerinnen stellen diese für das Bundesgericht verbindliche (vgl. Art. 118 Abs. 1 BGG) Sachverhaltsfeststellung nicht in Frage. Offenbar verfügten denn auch die von den Beschwerdeführerinnen offerierten Türen zum Zeitpunkt der Offerteinreichung noch nicht über die VKF-Zulassung (vgl. angefochtener Entscheid E. 4.5.3), was von diesen nicht in Abrede gestellt wird. Inwiefern die offerierten Türen der Zuschlagsempfängerin die erwähnten Normen und Zulassungen überhaupt nie werden erfüllen können, ist sodann nicht klar ersichtlich: Was die Beschwerdeführerinnen dazu ausführen, basiert primär auf spekulativen Überlegungen; sie legen damit nicht rechtsgenüglich dar, dass bzw. inwiefern sich die Rechtsauffassung der Vorinstanz als willkürlich erweist. Insbesondere kann den Darlegungen der Beschwerdeführerinnen nicht schlüssig entnommen werden, inwiefern das Bundesgesetz vom 8. Oktober 1999 über Bauprodukte (BauPG; SR 933.0) oder das Bundesgesetz vom 12. Juni 2009 über die Produktesicherheit (PrSG; SR 930.11) verletzt sein soll. Vielmehr ist dem Regierungsrat zuzustimmen, wenn er ausführt, es sei grundsätzlich Sache der Zuschlagsempfängerin die - gemäss dem Leistungsverzeichnis unbestrittenermassen einzuhaltenden - Brandschutzanforderungen der von ihr offerierten Zellentüren zu gewährleisten; diese Fragen betreffen aber in erster Linie die Umsetzung des seither abgeschlossenen Werkvertrags zwischen dem Kanton und der Zuschlagsempfängerin.
Dazu kommt, dass die Brandschutznormen der VKF bloss Regelungen einer privatrechtlichen Vereinigung darstellen und damit nicht als kantonales Recht gelten; sie können nur durch ein kantonales Gesetz für verbindlich erklärt werden, was im Kanton Basel-Landschaft offenbar der Fall ist (vgl. Stellungnahme des Regierungsrats des Kantons Basel-Landschaft vom 26. September 2012 S. 12). Inwiefern schliesslich im vorliegenden Fall europäische Normen anwendbar und verletzt sein sollen, legen die Beschwerdeführerinnen nicht substantiiert dar.
Der Schluss der Vorinstanz, die Zuschlagsempfängerin habe das hier strittige Eignungskriterium Nr. 1 (vgl. angefochtener Entscheid E. 4.5.2) erfüllt, ist unter dem Gesichtswinkel der Willkür somit nicht zu beanstanden. Die Vorinstanz hat damit weder § 8 lit. c noch § 23 Abs. 2 BeG/BL willkürlich angewendet. In Bezug auf § 8 lit. i BeG/BL und Art. 11 IVöB vermag die Beschwerdeschrift den Begründungsanforderungen (vgl. E. 2.3.1. und 3.3 hiervor) nicht zu genügen, weshalb nicht näher darauf einzugehen ist.
4. Nach dem Gesagten kann auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht eingetreten werden. Die subsidiäre Verfassungsbeschwerde ist abzuweisen, soweit darauf eingetreten werden kann.
Bei diesem Verfahrensausgang sind die Gerichtskosten den Beschwerdeführerinnen aufzuerlegen (Art. 66 BGG). Die nicht anwaltlich vertretene Beschwerdegegnerin hat keinen Anspruch auf Parteientschädigung (Art. 68 BGG).
Demnach erkennt das Bundesgericht:
1. Auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird nicht eingetreten.
2. Die subsidiäre Verfassungsbeschwerde wird abgewiesen, soweit darauf einzutreten ist.
3. Die Gerichtskosten von Fr. 3'500.-- werden den Beschwerdeführerinnen auferlegt.
4. Dieses Urteil wird den Verfahrensbeteiligten, dem Regierungsrat des Kantons Basel-Landschaft und dem Kantonsgericht Basel-Landschaft, Abteilung Verfassungs- und Verwaltungsrecht, schriftlich mitgeteilt.
Lausanne, 1. Februar 2013
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Der Gerichtsschreiber: Winiger