Sachverhalt:
A. Seit den 1940er Jahren wird im Gebiet Zeller Allmend Kies abgebaut, und zwar seit 1973 durch die Y._ AG Zell. Dieser wurde 1994 ein Abbauvolumen von ca. 4.36 Mio. m3 und ein Auffüllvolumen von ca. 2.97 Mio. m3 bewilligt.
Am 14. Februar 2007 reichte die Y._ AG Zell ein Gesuch um Bewilligung einer Projektoptimierung betreffend Rekultivierung/Aufforstung Zeller Allmend und Luthernwald ein. Das Gesuch sah eine Reduktion des Abbauvolumens auf 3.97 Mio. m3 und eine Erhöhung des Auffüllvolumens um ca. 50'000 m3 auf neu 3.02 Mio. m3 vor, um vermehrt unverschmutztes Aushubmaterial verwerten zu können.
Gegen das Gesuch wurden verschiedene Einsprachen von Anwohnern erhoben, die vermehrte Lärm- und Luftimmissionen befürchteten. Die X._ AG Zell, Eigentümerin des rund 25 m von der Zufahrtsstrasse zur Kiesgrube entfernt liegenden Grundstücks Nr. 517 GB Zell, verlangte in ihrer Einsprache u.a., es seien Nachtfahrten zwischen 18 Uhr abends und 6 Uhr morgens ausdrücklich zu untersagen.
B. Am 20. Oktober 2009 erteilte der Gemeinderat Zell die Bewilligung zur Anpassung der Endgestaltung der Kiesgrube Zeller Allmend unter Bedingungen und Auflagen. Gleichzeitig wies er die Einsprachen ab, soweit er darauf eintrat.
Die dagegen erhobene Beschwerde der X._ AG Zell wies das Verwaltungsgericht Luzern am 23. November 2010 ab.
In Gutheissung der Beschwerde der X._ AG Zell hob das Bundesgericht am 28. September 2011 (Urteil 1C_10/2011) den verwaltungsgerichtlichen Entscheid auf und wies die Sache zu neuer Beurteilung an das Verwaltungsgericht zurück.
C. Am 28. November 2011 hiess das Verwaltungsgericht die Beschwerde teilweise gut und ergänzte die Baubewilligung des Gemeinderats Zell vom 20. Oktober 2009 mit einer neuen Ziff. 3.14 wie folgt:
"Ergänzend zur Auflage Ziff. 2 lit. f der Baubewilligung vom 5. Dezember 1994 wird bezüglich der Zu- und Wegfahrten zur Kiesgrube mit Lastwagen Folgendes verfügt:
Der Arbeitsbetrieb in der Kiesgrube endet normalerweise an den Werktagen um 19.00 Uhr. In Ausnahmefällen (insbesondere Materialtransporte von und zu Baustellen, die nachts betrieben werden), sind einzelne Lastwagenfahrten nach 19.00 Uhr zulässig."
D. Gegen dieses Urteil hat die X._ AG Zell am 16. Januar 2012 erneut Beschwerde in öffentlich-rechtlichen Angelegenheiten ans Bundesgericht erhoben. Sie beantragt, der angefochtene Entscheid sei aufzuheben und die Sache zu neuem Entscheid an die Vorinstanz zurückzuweisen. Eventuell habe das Bundesgericht selbst zu urteilen und zu bestimmen:
a) Ergänzend zur Auflage Ziff. 2 lit. f der Baubewilligung vom 5. Dezember 1994 wird bezüglich der Zu- und Wegfahrten zur Kiesgrube mit Lastwagen Folgendes verfügt:
"Der Arbeitsbetrieb in der Kiesgrube endet normalerweise an den Werktagen um 18.00 Uhr."
b) Subeventuell sei zur Ergänzung gemäss lit. a zusätzlich zu bestimmen:
"Ausnahmen sind erlaubt, sofern Baustellen nachts betrieben werden und die entsprechenden Bauarbeiten erschwert würden, wenn nur tagsüber Transportbewegungen der Y._ AG stattfinden dürften."
E. Die Y._ AG Zell und das Verwaltungsgericht schliessen auf Abweisung der Beschwerde. Das Bau-, Umwelt- und Wirtschaftsdepartement des Kantons Luzern hat auf eine Vernehmlassung verzichtet.
Der Gemeinderat Zell bittet darum, den Vorsorgegrundsatz nicht zu überdehnen, weil es kaum praktikabel wäre, wenn künftig neben den zonengemässen Vorschriften zusätzlich für jedes Bauvorhaben einzelfallweise zusätzliche Lärmbeschränkungen festgelegt werden müssten. Vor allem in Arbeitszonen könnten pro Betrieb vorgeschriebene Schliessungszeiten zu Einschränkungen (beispielsweise hinsichtlich flexibler Arbeitszeiten, mehrschichtigem Betrieb) führen, die man mit der Schaffung dieser Zonen gerade habe vermeiden wollen. Solche Einschränkungen wären für kleinere und mittlere Gemeinden, die zudem nicht in bevorzugten Regionen liegen, besonders nachteilig.
Das Bundesamt für Umwelt (BAFU) kommt in seiner Vernehmlassung zum Ergebnis, dass das angefochtene Urteil mit der Umweltschutzgesetzgebung des Bundes konform sei.
F. Im weiteren Schriftenwechsel halten die Parteien an ihren Anträgen fest.
Erwägungen:
1. Da alle Sachurteilsvoraussetzungen vorliegen, ist auf die Beschwerde in öffentlich-rechtlichen Angelegenheiten einzutreten (Art. 82 ff. BGG).
2. Die Beschwerdeführerin rügt zunächst, das Verwaltungsgericht habe entschieden, ohne den Sachverhalt weiter abzuklären und ohne eine erneute Stellungnahme der Parteien einzuholen. Dies widerspreche dem Rückweisungsentscheid des Bundesgerichts, wonach es Sache des Verwaltungsgerichts sei, den Sachverhalt abzuklären und die gebotene Interessenabwägung vorzunehmen.
Das Verwaltungsgericht habe statt dessen auf die Vernehmlassung der Beschwerdegegnerin an das Bundesgericht vom 1. Juli 2011 abgestellt mit der Begründung, diese sei von der Beschwerdeführerin "nicht ernstlich in Zweifel gezogen worden". Diese Vernehmlassung sei der Beschwerdeführerin jedoch vom Bundesgericht erst mit Schreiben vom 22. August 2011 zur Kenntnisnahme zugestellt worden, nachdem sie bereits ihre zweite Stellungnahme vom 16. August 2011 eingereicht hatte. Die Beschwerdeführerin habe damals auf eine dritte Stellungnahme verzichtet, weil sie davon ausgegangen sei, das Bundesgericht werde die vom BAFU als notwendig erachteten Abklärungen nicht selbst vornehmen, sondern die Sache hierzu an das Verwaltungsgericht zurückweisen. Dieses habe das rechtliche Gehör verletzt, indem es für die Parteien überraschend sofort entschieden habe, ohne diese nochmals anzuhören.
2.1 Das Bundesgericht hat die Sache an das Verwaltungsgericht zurückgewiesen, um über die von der Beschwerdeführerin beantragten vorsorglichen Massnahmen zur Begrenzung der Lärmemissionen auf der Zufahrtsstrasse zu entscheiden, gestützt auf die vom Verwaltungsgericht als notwendig erachteten Sachverhaltsabklärungen. Insofern stand es dem Verwaltungsgericht frei, auf weitere Instruktionsmassnahmen zu verzichten, wenn es der Auffassung war, der Sachverhalt sei genügend geklärt.
2.2 Fraglich ist dagegen, ob es auf die Vernehmlassung der Beschwerdegegnerin vom 1. Juli 2011 abstellen durfte, ohne der Beschwerdeführerin hierzu nochmals das rechtliche Gehör zu gewähren. Zwar bestreitet diese nicht, dass sie vor Bundesgericht die Möglichkeit gehabt hätte, dazu Stellung zu nehmen; allerdings durfte sie vernünftigerweise damit rechnen, im Fall der (von ihr beantragten) Rückweisung an das Verwaltungsgericht vor diesem nochmals Gelegenheit zur Stellungnahme zu erhalten.
2.3 Wie es sich damit verhält, kann offen bleiben, weil eine allfällige Verletzung des rechtlichen Gehörs im bundesgerichtlichen Verfahren geheilt werden könnte.
Gemäss Art. 105 Abs. 2 BGG kann das Bundesgericht die Sachverhaltsfeststellung der Vorinstanz berichtigen oder ergänzen, wenn sie auf einer Verletzung des rechtlichen Gehörs beruht. In diesem Fall überprüft das Bundesgericht den Sachverhalt des angefochtenen Entscheids frei und nicht nur auf offensichtliche Unrichtigkeit hin.
Da die Anwendung von Bundesumweltrecht (insbesondere Art. 11 Abs. 2 USG) streitig ist, kann das Bundesgericht auch die streitigen Rechtsfragen mit voller Kognition überprüfen.
3. Das Verwaltungsgericht ging davon aus, dass die Transportbewegungen in der Stunde nach 18 Uhr hauptsächlich noch heimkehrende Fahrzeuge betreffen, die in Zell und Umgebung stationiert seien. Auch wenn die Mehrheit der Gewerbebetriebe in Zell nach 18 Uhr geschlossen hätten, könne nicht erwartet werden, dass die Lastwagen um 18 Uhr bereits wieder in der Kiesgrube eingetroffen seien (extern vorgegebene Baustellentermine, überlastete Strassenverhältnisse, etc.). Der Beschwerdeführerin könnten daher zumindest die Rückfahrten zur Kiesgrube nach 18 Uhr nicht vollständig verwehrt werden.
Gewöhnlich sei der Betrieb der Kiesgrube um 19 Uhr beendet. Zwischen 19 Uhr und 7 Uhr würden nur in absoluten Ausnahmefällen Transporte durchgeführt, hauptsächlich für regionale Bahnbaustellen der BLS und der SBB, die aus bahnbetriebstechnischen Gründen nicht während des Tages vorgenommen werden könnten. Gegen diese im öffentlichen Interesse liegenden Gründe für vereinzelte Fahrten nach 19 Uhr bringe die Beschwerdeführerin keine stichhaltigen Argumente vor.
In diesem Zusammenhang wies das Verwaltungsgericht darauf hin, dass offenbar bis zum heutigen Zeitpunkt in der Gemeinde Zell keine entsprechenden Lärmklagen eingegangen seien. Es hob hervor, dass mit der Projektoptimierung die in der Baubewilligung von 1994 genehmigten Erdbewegungen nicht erweitert, sondern um 4.7 % verringert würden. Selbst unter Berücksichtigung des zusätzlichen Auffüllvolumens von 50'000 m3 sei insgesamt nicht mit einer Zunahme der Lastwagenfahrten gegenüber der Bewilligung von 1994 zu rechnen.
Schliesslich würden die Nachbarn auch gestützt auf das Nachtfahrverbot für Lastwagen gemäss Art. 2 Abs. 2 des Strassenverkehrsgesetzes vom 19. Dezember 1958 (SVG; SR 741.01) vor übermässigem Lärm während der Nachtzeit geschützt.
Unter diesen Umständen erachtete das Verwaltungsgericht ein Verbot für Fahrten nach 18 Uhr als weder wirtschaftlich zumutbar noch verhältnismässig. Ein vollständiges Verbot von Fahrten nach 19 Uhr läge nicht im öffentlichen Interesse, müsse doch sichergestellt werden, dass Baustellen, die aus verkehrs- und sicherheitstechnischen Gründen während der Nacht betrieben werden, mit dem entsprechenden Baumaterial versorgt resp. Aushubmaterial weggefahren werden könne. Hingegen sei mittels einer ergänzenden Auflage sicherzustellen, dass solche Fahrten nach 19 Uhr Ausnahmecharakter behielten.
4. Die Beschwerdeführerin wirft dem Verwaltungsgericht in zweierlei Hinsicht eine falsche Sachverhaltsfeststellung vor:
Zum einen sei das Verwaltungsgericht offenbar davon ausgegangen, dass die Normalbetriebszeiten der Beschwerdegegnerin bis 18 Uhr dauern würden. Dies sei nicht der Fall: Vielmehr endeten die Betriebszeiten der Kiesgrube im Sommer um 17 Uhr und im Winter sogar schon um 16.45 Uhr. Auch der Aushub werde gemäss den im Internet publizierten Betriebszeiten lediglich bis 17 bzw. 16.45 Uhr angenommen.
Zum anderen gebe es - entgegen der Annahme der Vorinstanz - auch keine "heimkehrenden Fahrzeuge", weil die Kies- und Deponietransporte nicht von der Beschwerdegegnerin durchgeführt würden, sondern von den Kunden oder von Transportunternehmen. Zwar würden viele Transporte mit Lastwagen von einer ebenfalls in Zell domizilierten Gesellschaft durchgeführt, die der gleichen Holdinggesellschaft angegliedert sei wie die Beschwerdegegnerin; der Standort dieses Transportbetriebs befinde sich jedoch nicht auf dem Areal der Kiesgrube.
Die Beschwerdeführerin ist deshalb der Auffassung, dass eine Beschränkung der Zu- und Wegfahrten bis 18 Uhr für die Beschwerdegegnerin wirtschaftlich zumutbar sei.
Zudem habe die Vorinstanz den Ausnahmekatalog für einen Betrieb nach 19 Uhr nicht abschliessend geregelt, was der Willkür der Beschwerdegegnerin Tür und Tor öffne. Zu verlangen sei vielmehr, dass vorgängig vom Gemeinderat eine Bewilligung eingeholt werde.
Schliesslich rügt sie, dass für die Erweiterung der Betriebszeiten nach 19 Uhr kein Lärmschutzgutachten eingeholt worden sei. Die Ausnahmebestimmungen verstiessen deshalb auch gegen die Lärmschutz-Verordnung vom 15. Dezember 1986 (LSV; SR 814.41).
5. Die Beschwerdegegnerin wendet dagegen ein, dass der Normalbetrieb der Abbaustelle wenn nötig bis 19 Uhr fortgeführt werde. Gerade deshalb habe sie sich stets gegen eine Betriebs- oder Fahrtenbeschränkungen auf weniger als 19 Uhr gewehrt. Aus diesem Grund sei auch im Lärmgutachten vom 19. Juli 2007 der Lärm des Grubenbetriebs bis 19 Uhr begutachtet worden. Bei den publizierten Öffnungszeiten handle es sich lediglich um Richtwerte, insbesondere für unangemeldete Kunden. Wie lange Material geliefert bzw. angenommen werde, hänge von den vorhandenen Baustellen, dem Termindruck der Baumeister sowie den Abbau- und Transportkapazitäten ab, die wiederum stark witterungsabhängig und daher starken Schwankungen ausgesetzt seien. Die Bewilligung müsse solche Schwankungen abdecken, um jeweils schnell und flexibel reagieren zu können.
Die Beschwerdegegnerin weist darauf hin, dass es zur Verminderung von Immissionen geboten sei, Kiesfuhren mit Fahrten für Auffüllmaterial zu koppeln. Insofern müssten die Fahrzeuge wieder in die Grube zurück, um das unverschmutzte Auffüllmaterial abzuladen. Zudem nutzten die in Zell und Umgebung ansässigen Fuhrunternehmen die relativ günstigen Preise der Deponie, indem sie bei der Heimkehr von ihren Einsätzen in den Agglomerationen ein letztes Fuder Auffüllmaterial in die Grube Zell transportierten. Solche - ökologisch und ökonomisch sinnvollen - Rückfahrten erfolgten noch zwischen 18 und 19 Uhr. Dabei spielten die Eigentumsverhältnisse an den Lastwagen keine Rolle: Auch die Fahrzeuge von regionalen Bau- und Fuhrunternehmen müssten zuerst in der Grube entleert werden, bevor die Lastwagen gereinigt und in Zell und den umliegenden Gemeinden in den jeweiligen Garageneinstellplätzen abgestellt werden könnten.
Dem Einwand der Beschwerdeführerin, wonach die Fahrzeuge am Morgen entladen werden könnten, hält die Beschwerdegegnerin entgegen, dass die Lastwagen am nächsten Tag wieder einsatzbereit sein und deshalb noch am Abend entladen werden müssten.
6. Es ist unbestritten, dass der Zufahrtsverkehr zur Kiesgrube die Planungswerte in der Umgebung und auch auf dem Grundstück der Beschwerdeführerin einhält. Da die Strasse nur dem Betriebsverkehr von und zur Kiesgrube dient, sind damit auch die Anforderungen von Art. 9 lit. a LSV erfüllt. Streitig ist nur noch, ob vorsorgliche Massnahmen zur Emissionsbegrenzung gemäss Art. 11 Abs. 2 USG anzuordnen sind. Nach dieser Bestimmung sind Emissionen im Rahmen der Vorsorge unabhängig von der bestehenden Umweltbelastung so weit zu begrenzen, als dies technisch und betrieblich möglich und wirtschaftlich tragbar ist. Ist der Planungswert eingehalten, so gelten nach der bundesgerichtlichen Rechtsprechung weitergehende Emissionsbegrenzungen nur dann als verhältnismässig, wenn mit relativ geringem Aufwand eine wesentliche zusätzliche Reduktion der Emissionen erreicht werden kann (BGE 127 II 306 E. 8 S. 318; 124 II 517 E. 5a S. 523 mit Hinweisen).
6.1 Vorliegend ist mit der Beschwerdegegnerin und dem Verwaltungsgericht davon auszugehen, dass es unverhältnismässig und für die Beschwerdeführerin nicht zumutbar wäre, Zu- und Wegfahrten zum Grubenareal nur bis 18 Uhr zuzulassen; die dagegen erhobenen Einwände der Beschwerdeführerin überzeugen nicht: Diese hatte in ihren Einsprachen und Beschwerden selbst vorgebracht, dass es in den letzten Jahren immer wieder vorgekommen sei, dass Lastwagen auch ausserhalb der ordentlichen Betriebszeiten in die Grube gefahren und wieder weggefahren seien. Dies bestätigt die Angaben der Beschwerdegegnerin, wonach es sich bei den im Internet angegebenen Betriebszeiten lediglich um Richtwerte handelt. Es ist sowohl aus ökologischen wie aus ökonomischen Gründen sinnvoll, wenn nach Zell und Umgebung zurückkehrende Lastwagen die Rückfahrt zur Ablieferung von Auffüllmaterial in die Kiesgrube nutzen können. Dies setzt voraus, dass sie noch am Abend entladen werden, um am nächsten Tag wieder einsatzfähig zu sein.
6.2 Es wird von der Beschwerdeführerin nicht substanziiert bestritten, dass Fahrten nach 19 Uhr nur ausnahmsweise vorkommen. Da die Einhaltung der Planungswerte unstreitig ist, bestand auch keine Notwendigkeit, hierfür ein Lärmgutachten anzufordern (Art. 36 Abs. 1 LSV). Für Fahrten nach 22 Uhr muss bereits nach SVG eine vorgängige Bewilligung eingeholt werden. Müssten auch alle Fahrten nach 19 Uhr vorgängig vom Gemeinderat bewilligt werden, wäre dies mit administrativem und zeitlichem Aufwand verbunden, der eine flexible Reaktion der Beschwerdeführerin auf aussergewöhnliche, insbesondere witterungsbedingte Umstände verunmöglichen würde.
Unter diesen Umständen ist mit dem Verwaltungsgericht davon auszugehen, dass es genügt, in einer Auflage den Ausnahmecharakter von Fahrten nach 19 Uhr festzuhalten. Dies hat immerhin zur Folge, dass die Anwohner und Eigentümer von Wohnbauten an der Zufahrtsstrasse ein Einschreiten des Gemeinderats verlangen können, wenn die Fahrten nach 19 Uhr beträchtlich zunehmen oder gar zur Regel werden sollten.
7. Nach dem Gesagten ist die Beschwerde abzuweisen. Bei diesem Ausgang des Verfahrens wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 und 68 BGG). Der Heilung eines allfälligen Gehörsmangels im bundesgerichtlichen Verfahren kann durch eine Reduktion der Gerichtskosten Rechnung getragen werden.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 4'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Gemeinderat Zell, dem Bau-, Umwelt- und Wirtschaftsdepartement, dem Verwaltungsgericht des Kantons Luzern, Verwaltungsrechtliche Abteilung, und dem Bundesamt für Umwelt schriftlich mitgeteilt.
Lausanne, 20. September 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Fonjallaz
Die Gerichtsschreiberin: Gerber