Sachverhalt:
A. Am 22. November 2005 beschloss die Gemeindeversammlung der Gemeinde Muttenz die Mutation zum Zonenplan "Siedlung" in der Gewerbezone sowie das Zonenreglement "Siedlung".
Die X._ AG und die Y._ AG reichten innert der Planauflagefrist beim Gemeinderat von Muttenz Einsprache ein. Sie beantragten unter anderem, Ziffer 25.5 des Zonenreglements, wonach in den im Zonenplan bezeichneten Zonen nur aufgrund eines Quartierplans gebaut werden dürfe, sei nicht zu genehmigen. Nachdem im Verständigungsverfahren keine Einigung erzielt werden konnte, unterbreitete die Gemeinde Muttenz am 27. Juli 2007 den Zonenplan und das Zonenreglement dem Regierungsrat des Kantons Basel-Landschaft zur Genehmigung und beantragte die Abweisung der Einsprachen der X._ AG und der Y._ AG.
B. Mit Entscheid vom 18. März 2008 wies der Regierungsrat die Einsprachen der X._ AG und der Y._ AG ab, soweit es darauf eintrat, und genehmigte den Zonenplan und das Zonenreglement. Er erwog, die Festlegung einer Zone mit Quartierplanpflicht sei zulässig, da angesichts der speziellen städtebaulichen Situation ein öffentliches Interesse daran bestehe.
C. Gegen den Entscheid des Regierungsrats reichten die X._ AG und die Y._ AG am 28. März 2008 Beschwerde beim Kantonsgericht Basel-Landschaft ein. Dieses wies die Beschwerde mit Urteil vom 28. Oktober 2009 ab.
D. Die X._ AG und die Y._ AG führen Beschwerde in öffentlich-rechtlichen Angelegenheiten insbesondere mit den Anträgen, die Entscheide des Kantonsgerichts und des Regierungsrats seien aufzuheben und Ziff. 25.5 des Zonenreglements sei nicht zu genehmigen. Eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
E. Das Kantonsgericht reicht eine Vernehmlassung zur Beschwerde ein, ohne ausdrücklich Anträge zu stellen. Der Regierungsrat beantragt, die Beschwerde sei abzuweisen, soweit darauf eingetreten werden könne. Den gleichen Antrag stellt die Gemeinde Muttenz. Die Beschwerdeführerinnen halten in ihrer Stellungnahme an ihren Ausführungen und Anträgen fest. In einer Noveneingabe vom 9. September 2010 machen die Beschwerdeführerinnen Ausführungen zu einem im Areal geplanten Grossprojekt.
Erwägungen:
1. 1.1 Angefochten ist ein kantonal letztinstanzlicher Entscheid, mit dem eine Beschwerde gegen einen (Sonder-)Nutzungsplan im Sinne von Art. 14 ff. RPG (SR 700) abgewiesen wurde. Dagegen steht grundsätzlich die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (Art. 82 ff. BGG; vgl. BGE 135 II 22 E. 1.1 S. 24). Der umstrittene Zonenplan und das Zonenreglement wurden vom Regierungsrat am 18. März 2008 gestützt auf Art. 26 RPG genehmigt und vom Kantonsgericht auf Beschwerde hin beurteilt. Damit liegt ein Endentscheid im Sinne von Art. 90 BGG vor.
Die Beschwerdeführerinnen haben am kantonalen Verfahren teilgenommen. Sie sind als Eigentümerin bzw. Baurechtsnehmerin von Parzellen, welche von der Quartierplanpflicht erfasst werden, in schutzwürdigen Interessen besonders berührt und damit zur Beschwerde berechtigt (Art. 89 Abs. 1 BGG).
1.2 Nicht einzutreten ist auf die Beschwerde, soweit die Beschwerdeführerinnen die Aufhebung des Entscheids des Regierungsrats verlangen. Unterinstanzliche Entscheide sind mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten nicht selbstständig anfechtbar. Sie werden mit Blick auf den Devolutiveffekt durch den Entscheid der letzten kantonalen Instanz ersetzt und gelten mit der dagegen gerichteten Beschwerde als mitangefochten (BGE 134 II 142 E. 1.4 S. 144).
1.3 Rechtsschriften haben nach Art. 42 Abs. 1 BGG unter anderem die Begehren und deren Begründung mit Angabe der Beweismittel zu enthalten. In der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (Art. 42 Abs. 2 Satz 1 BGG). Damit obliegt es den Beschwerdeführerinnen, die behaupteten Rechtsverletzungen zu nennen und diese Rügen zu begründen (allgemeine Rüge- und Begründungspflicht).
Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten sowie von kantonalem und interkantonalem Recht. Solche Rügen sind präzise vorzubringen und zu begründen (Art. 106 Abs. 2 BGG). Führen die Beschwerdeführerinnen nicht zumindest in erkennbarer Weise an, welches Grundrecht ihrer Meinung nach verletzt ist, und legen sie nicht kurz dar, worin die behauptete Verletzung besteht, unterbleibt die Prüfung durch das Bundesgericht (vgl. Botschaft zur Totalrevision der Bundesrechtspflege vom 28. Februar 2001, BBl 2001 4344 f.; vgl. auch BGE 133 II 249 E. 1.4.2 S. 254; 133 III 638 E. 2 S. 639).
1.4 Die übrigen Sachurteilsvoraussetzungen sind erfüllt. Auf die Beschwerde gegen den Entscheid des Kantonsgerichts ist unter dem Vorbehalt gehörig begründeter Rügen (Art. 42 und 106 BGG) einzutreten.
2. 2.1 Gemäss Art. 1 Abs. 1 RPG (SR 700) sorgen Bund, Kantone und Gemeinden dafür, dass der Boden haushälterisch genutzt wird. Sie stimmen ihre raumwirksamen Tätigkeiten aufeinander ab und verwirklichen eine auf die erwünschte Entwicklung des Landes ausgerichtete Ordnung der Besiedlung. Sie achten dabei auf die natürlichen Gegebenheiten sowie auf die Bedürfnisse von Bevölkerung und Wirtschaft. Gestützt auf Art. 2 RPG erarbeiten Bund, Kantone und Gemeinden die für ihre raumwirksamen Aufgaben nötigen Planungen und stimmen sie aufeinander ab. In den Kantonen müssen die lediglich behördenverbindlichen Richtpläne im Sinne von Art 6 ff. RPG sowie die grundeigentümerverbindlichen kantonalen oder kommunalen Nutzungspläne im Sinne von Art. 14 ff. RPG erarbeitet werden. Nutzungspläne ordnen die zulässige Nutzung des Bodens (Art. 14 Abs. 1 RPG). Unterschieden werden Bau-, Landwirtschafts- und Schutzzonen (Art. 14 Abs. 2 RPG), wobei das kantonale Recht weitere Nutzungszonen vorsehen kann (Art. 18 Abs. 1 RPG). Differenziert wird zwischen Rahmennutzungsplänen, welche in der Regel in Form des Zonenplans die baurechtliche Grundordnung festlegen, und Sondernutzungsplänen in Form von Baulinienplänen, Quartierplänen oder Erschliessungsplänen (vgl. Peter Hänni, Planungs-, Bau- und besonderes Umweltschutzrecht, 5. Aufl. 2008, S. 141 ff.). Quartierpläne sollen die Nutzung im Hinblick auf besondere öffentliche Anliegen konkretisieren und dabei ein qualitativ besseres Ergebnis ermöglichen, als es mit der Rahmennutzungsplanung und der damit verbundenen parzellenweisen Regelbauweise möglich wäre (vgl. Hänni, a.a.O., S. 241).
2.2 Nach § 18 Abs. 1 des Raumplanungs- und Baugesetzes des Kantons Basel-Landschaft vom 8. Januar 1998 (RBG/BL; SGS 400) erlassen die Gemeinden für das ganze Gemeindegebiet Zonenvorschriften, bestehend aus Zonenplänen und Zonenreglementen. Die Zonenpläne unterteilen das Gemeindegebiet in verschiedene Nutzungszonen (§ 18 Abs. 2 RBG/BL). Es können unter anderem auch Zonen mit Quartierplanpflicht festgelegt werden (§ 20 Abs. 1 lit. h RBG/BL). Solche Zonen umfassen Gebiete, in denen nur aufgrund eines Quartierplans gebaut werden darf (§ 25 Abs. 1 RBG/BL). Die Zonenvorschriften können Bestimmungen über die quartierplanmässige Nutzung und Gestaltung enthalten (§ 25 Abs. 2 RBG/BL). Quartierpläne bezwecken eine haushälterische Nutzung sowie eine architektonisch und erschliessungsmässig gute, der Umgebung angepasste und auf die Wohnbedürfnisse der Bevölkerung ausgerichtete Überbauung eines zusammenhängenden Teilgebiets der Bauzonenfläche (§ 37 Abs. 1 RBG/BL).
3. 3.1 Die Beschwerdeführerinnen rügen vorab eine Verletzung von Verfahrensgarantien (formelle Rechtsverweigerung, rechtliches Gehör). Der Regierungsrat habe erwogen, das öffentliche Interesse an der Einführung einer Quartierplanpflicht liege in der speziellen städtebaulichen Situation begründet. Die Vorinstanz sei demgegenüber zum Schluss gekommen, es fehle an einer solchen speziellen städtebaulichen Situation, hingegen sei das Areal für eine verkehrsintensive Nutzung geeignet. Die Beschwerdeführerinnen betonen, die Gemeinde Muttenz habe in ihrer Vernehmlassung vor der Vorinstanz erstmals auf den Aspekt der Verkehrsintensität hingewiesen, um das öffentliche Interesse an einer Quartierplanpflicht zu begründen. Gemäss § 6 Abs. 2 des Gesetzes über die Verfassungs- und Verwaltungsprozessordnung (VPO/BL; SGS 271) sei dieses neue Vorbringen verspätet und damit unzulässig. Indem die Vorinstanz dieses neue Argument zugelassen und in ihrer Urteilsbegründung explizit hierauf abgestellt habe, habe sie den Anspruch auf gleiche und gerechte Behandlung (Art. 29 Abs. 1 BV) und den Grundsatz der Rechtsgleichheit (Art. 8 Abs. 1 BV) missachtet. Zudem sei ihr Anspruch auf rechtliches Gehör (Art. 29 Abs. 2 BV) verletzt worden, da sie sich nicht zu diesem neuen Vorbringen hätten äussern können.
Die Beschwerdeführerinnen machen weiter geltend, die Vorinstanz habe sich in ihrer Urteilsbegründung auf einen noch nicht rechtskräftigen Kantonalen Richtplan gestützt, was eine unzulässige positive Vorwirkung noch nicht geltenden Rechts bedeute. Im Ergebnis verstosse die Vorinstanz hierdurch gegen das Legalitätsprinzip (Art. 5 Abs. 1 BV), die Grundsätze der Rechtssicherheit und der Rechtsgleichheit (Art. 5 und Art. 8 Abs. 1 BV) sowie gegen das Willkürverbot (Art. 9 BV).
3.2 Die Berufung auf § 6 Abs. 2 VPO/BL geht an der Sache vorbei. Nach dieser Bestimmung können die Parteien neue tatsächliche Behauptungen und Beweismittel bis zur gerichtlichen Beurteilung vorbringen, sofern ihnen dies unverschuldet nicht früher möglich war. Verspätete Vorbringen werden aus dem Recht gewiesen. Indem die Gemeinde Muttenz in ihrer Vernehmlassung an die Vorinstanz das öffentliche Interesses an einer Quartierplanpflicht (auch) mit der verkehrsintensiven Nutzung des fraglichen Gebiets begründete, brachte sie weder eine neue Tatsachenbehauptung noch ein neues Beweismittel ins Verfahren ein, sondern ergänzte einzig ihre ursprüngliche rechtliche Begründung. Ob ein öffentliches Interesse an einer Quartierplanpflicht besteht, ist eine Rechtsfrage, und die Gerichte wenden das Recht von Amtes wegen an (§ 16 Abs. 2 VPO/BL). Die Vorinstanz war daher gehalten, bei ihrer Beurteilung sämtliche rechtlich relevanten Aspekte zu berücksichtigen. Die Bezugnahme in der Urteilsbegründung auf die verkehrsintensive Nutzung des Areals ist folglich zulässig.
Des Weiteren räumte die Vorinstanz den Beschwerdeführerinnen explizit die Möglichkeit ein, sich zur Vernehmlassung der Gemeinde zu äussern, weshalb von einer Verletzung des Anspruchs auf rechtliches Gehör gemäss Art. 29 Abs. 2 BV keine Rede sein kann.
Im Übrigen lässt sich aus der Urteilsbegründung in keiner Weise der Schluss ziehen, die Vorinstanz habe im Gegensatz zum Regierungsrat das Vorliegen einer speziellen städtebaulichen Situation verneint. Die Vorinstanz begründet das öffentliche Interesse an einer Quartierplanpflicht namentlich mit dem raumplanerischen Interesse, im betroffenen Gebiet eine bauliche Verdichtung herbeizuführen und hierdurch dem Gebot der haushälterischen Bodennutzung Rechnung zu tragen. In diesem Zusammenhang weist sie darauf hin, dass das fragliche Areal sehr gut erschlossen sei und sich daher für eine Nutzungskonzentration besonders eigne. Die (potenziell) verkehrsintensive Nutzung des Gebiets kann dabei als ein Aspekt der speziellen städtebaulichen Situation verstanden werden. Eine eigentliche "Pflicht der Grundeigentümer zur verkehrsintensiven Nutzung" statuiert die Vorinstanz hingegen - entgegen den Ausführungen in der Beschwerde - zu Recht nicht.
Schliesslich nimmt die Vorinstanz in ihrer Urteilsbegründung zwar ergänzend auf den vom Landrat des Kantons Basel-Landschaft am 26. März 2009 beschlossenen Kantonalen Richtplan Bezug, welcher das fragliche Areal als Standort für verkehrsintensive Einrichtungen vorsieht. Eine unzulässige Vorwirkung des vom Bundesrat noch nicht genehmigten Richtplans liegt darin jedoch nicht begründet, ergibt sich doch das öffentliche Interesse an einer Quartierplanpflicht unabhängig von den im Richtplan getroffenen Feststellungen aus den tatsächlichen Gegebenheiten.
Auch die weiteren Rügen, welche nur teilweise den Begründungsanforderungen entsprechen, führen zu keinem anderen Ergebnis.
4. Die Beschwerdeführerinnen rügen eine Verletzung der Eigentumsgarantie (Art. 26 BV; nachfolgend E. 4.1) und der Wirtschaftsfreiheit (Art. 27 BV; nachfolgend E. 4.2). Es fehle an einem öffentlichen Interesse an der Quartierplanpflicht und diese erweise sich als unverhältnismässig. Zugleich missachte die Vorinstanz das Willkürverbot (Art. 9 BV; nachfolgend E. 4.3).
4.1 Gemäss Art. 26 Abs. 1 BV ist das Eigentum gewährleistet. In ihrer Funktion als Bestandesgarantie schützt die Eigentumsgarantie die konkreten, individuellen Eigentumsrechte vor staatlichen Eingriffen. Raumplanerische Massnahmen stellen einen öffentlichrechtlichen Eingriff in das Privateigentum dar. Entsprechend bewirkt die Festsetzung einer Zone mit Quartierplanpflicht eine öffentlich-rechtliche Eigentumsbeschränkung. Damit diese mit der Eigentumsgarantie vereinbar ist, muss sie nach Art. 36 BV auf einer gesetzlichen Grundlage beruhen, ein zulässiges öffentliches Interesse verfolgen und verhältnismässig sein. Wie in Erwägung 2 hiervor dargelegt stützt sich die angefochtene Planungsmassnahme auf eine hinreichende gesetzliche Grundlage. Entscheidend ist demnach, ob ein öffentliches Interesse gegeben ist und der Grundsatz der Verhältnismässigkeit gewahrt ist. Letzteres ist nach der Rechtsprechung des Bundesgerichts der Fall, wenn die Eigentumsbeschränkung zur Erreichung des angestrebten Ziels geeignet und erforderlich ist und das verfolgte Ziel in einem vernünftigen Verhältnis zu den eingesetzten Mitteln steht (vgl. BGE 136 I 87 E. 3.2 S. 91).
Das betroffene Gebiet ist für den privaten und öffentlichen Verkehr hervorragend erschlossen (Autobahn A2/A3, Kantonsstrasse, Tram Nr. 14) und in Gehdistanz zum Areal befinden sich mehrere publikumsintensive Einrichtungen (Stadion St. Jakob inkl. Einkaufszentrum, St. Jakob Halle, Gartenbad, Park Grün 80 etc.). Diese spezielle städtebauliche Situation verbunden mit der potenziell verkehrsintensiven Nutzung begründet - wie die Vorinstanz zutreffend darlegt - ein gewichtiges öffentliches Interesse daran, mittels Festsetzung einer Zone mit Quartierplanpflicht eine Konzentration möglicher zukünftiger Nutzungen bzw. eine bauliche Verdichtung zu erzielen und damit eine haushälterische Bodennutzung zu gewährleisten. Der Quartierplan ermöglicht, die Erschliessung auf diese künftigen Nutzungen abzustimmen. Zusammenfassend liegt die Eigentumsbeschränkung folglich im öffentlichen Interesse.
Gewahrt ist auch die Verhältnismässigkeit. Der Erlass einer Zone mit Quartierplanpflicht ist ohne Weiteres geeignet, aber auch erforderlich, um im fraglichen Areal eine umfassende Gesamtplanung zu erreichen und so eine unerwünschte Zerstückelung des Baulands zu verhindern. Das private Interesse der Beschwerdeführerinnen, ohne vorgängige Sondernutzungsplanung eine Neuüberbauung vornehmen zu können, vermag dieses gewichtige öffentliche Interesse nicht aufzuwiegen. Dies gilt umso mehr, als dass den Beschwerdeführerinnen ein Bauen nicht gänzlich verunmöglicht wird. So kann der Gemeinderat gemäss Ziffer 25.5 Abs. 8 des Zonenreglements bauliche Veränderungen, angemessene Erweiterungen bestehender Bauten sowie ausnahmsweise Neubauten von der Quartierplanpflicht befreien, wenn die Veränderungen von untergeordneter Bedeutung sind und kein Präjudiz für allfällige spätere Quartierpläne geschaffen wird.
Die Ausführungen der Beschwerdeführerinnen in ihrer Noveneingabe vom 9. September 2010 sind nicht geeignet, diese Beurteilung in Frage zu stellen.
4.2 Im Zusammenhang mit der von den Beschwerdeführerinnen als verletzt gerügten Wirtschaftsfreiheit gemäss Art. 27 BV wird unterschieden zwischen grundsatzkonformen und grundsatzwidrigen Massnahmen (vgl. Ulrich Häfelin/Walter Haller/Helen Keller, Schweizerisches Bundesstaatsrecht, 7. Aufl. 2008, S. 193). Zu den grundsatzkonformen Massnahmen zählen insbesondere Massnahmen, welche raumplanerisch bedingte Interessen verfolgen. Nach der Rechtsprechung des Bundesgerichts stehen solche Massnahmen nicht im Widerspruch zur Wirtschaftsfreiheit, es sei denn, es würde unter dem Deckmantel der Raumplanung ein Eingriff in den wirtschaftlichen Wettbewerb bezweckt oder die Wirtschaftsfreiheit würde durch die in Frage stehende Massnahme ihres Gehalts entleert (vgl. Urteil 1C_145/2008 vom 3. Juli 2008 E. 4; BGE 119 la 378 E. 4b S. 381).
Dass die vorliegend erlassene Zone mit Quartierplanpflicht einen unzulässigen wirtschaftspolitischen Zweck verfolgt, ist nicht ersichtlich und wird von den Beschwerdeführerinnen auch nicht geltend gemacht. Die angefochtene (Sonder-)Nutzungsplanung stützt sich vielmehr auf zulässige raumplanerische Interessen und ist somit als grundsatzkonform anzusehen. Eine Verletzung der Wirtschaftsfreiheit nach Art. 27 BV fällt daher ausser Betracht.
4.3 Die Festsetzung einer Quartierplanpflicht basiert, wie dargelegt, auf sachlichen Gründen. Eine Verletzung des Willkürverbots gemäss Art. 9 BV liegt nicht vor.
5. Zusammenfassend ist die Beschwerde damit abzuweisen, soweit darauf einzutreten ist. Die Gerichtskosten sind den unterliegenden Beschwerdeführerinnen aufzuerlegen (Art. 66 Abs. 1 BGG). Der obsiegenden Gemeinde wird keine Parteientschädigung zugesprochen (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2. Die Gerichtskosten von Fr. 3'000.-- werden den Beschwerdeführerinnen auferlegt.
3. Es wird keine Parteientschädigung zugesprochen.
4. Dieses Urteil wird den Beschwerdeführerinnen, der Einwohnergemeinde Muttenz, dem Regierungsrat des Kantons Basel-Landschaft und dem Kantonsgericht Basel-Landschaft, Abteilung Verfassungs und Verwaltungsrecht, schriftlich mitgeteilt.
Lausanne, 16. September 2010
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Féraud Stohner