Sachverhalt:
A. Die Y._ AG (Beschwerdegegnerin) und die X._ AG (Beschwerdeführerin) handeln mit Computer-Hardware. Die Beschwerdeführerin ist Distributorin von Hardware der Marke F._ und darf nur bestimmte Computerhändler mit F._-Produkten beliefern, zu denen die Beschwerdegegnerin gehört. Beide Parteien beteiligten sich an sogenannten Graumarktgeschäften, bei denen Verkäufe mit Rabatt an die nicht bezugsberechtigte Firma Z._ AG getätigt wurden. Diese bezahlte an die Beschwerdegegnerin, die das Geld an die Beschwerdeführerin weiterleitete und für ihre Dienste eine Vergütung einkassierte. Die Beschwerdeführerin liess sich die Rabatte von der F._ Schweiz vergüten.
B. Am 24. März 2005 beantragte die Beschwerdegegnerin dem Amtsgericht Luzern-Land, die Beschwerdeführerin habe ihr für die Lieferung von Computer-Hardware Fr. 527'269.65 nebst Zins zu 8 % seit 7. Januar 2005 und für vorprozessualen Aufwand Fr. 8'848.40 nebst Zins zu 8 % seit 16. Februar 2005 zu bezahlen. Entsprechend sei in der Betreibung Nr. 000 Littau die definitive Rechtsöffnung zu erteilen. Die Beschwerdeführerin anerkannte die Forderung von Fr. 527'269.65, stellte aber eine weit darüber hinausgehende Gegenforderung aus den Graumarktgeschäften zur Verrechnung. Mit Urteil vom 12. September 2006 verpflichtete das Amtsgericht die Beschwerdeführerin, der Beschwerdegegnerin Fr. 527'269.65 nebst 5 % Zins seit 7. Januar 2005 zu bezahlen. In diesem Umfang hob es den Rechtsvorschlag in der Betreibung Nr. 000 Littau auf.
Dagegen appellierte die Beschwerdeführerin an das Obergericht des Kantons Luzern und beantragte die Abweisung der Klage. Das Obergericht bestätigte am 11. Juli 2007 das erstinstanzliche Urteil.
C. Die Beschwerdeführerin beantragt mit Beschwerde in Zivilsachen, das Urteil des Obergerichts vom 11. Juli 2007 aufzuheben und die Klage vollumfänglich abzuweisen. Eventualiter sei die Sache zur Neubeurteilung im Sinne der Erwägungen an die Vorinstanz zurückzuweisen.
Die Beschwerdegegnerin und die Vorinstanz beantragen, die Beschwerde abzuweisen, soweit darauf einzutreten sei.
Am 28. November 2007 reichte die Beschwerdeführerin unaufgefordert je eine Stellungnahme zur Beschwerdeantwort der Beschwerdegegnerin und zur Vernehmlassung der Vorinstanz ein.
D. Mit Präsidialverfügung vom 4. Oktober 2007 wurde das Gesuch der Beschwerdeführerin um Erteilung der aufschiebenden Wirkung abgewiesen.
Erwägungen:
1. 1.1 Mit Beschwerde in Zivilsachen können Rechtsverletzungen nach Art. 95 und 96 BGG gerügt werden. Die Beschwerde ist hinreichend zu begründen, andernfalls wird darauf nicht eingetreten. In der Beschwerdeschrift ist in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 BGG; vgl. BGE 133 II 249 E. 1.4.1/2). Die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht kann das Bundesgericht nur insofern prüfen, als eine solche Rüge in der Beschwerde präzise vorgebracht und begründet worden ist (Art. 106 Abs. 2 BGG; BGE 133 III 439 E. 3.2, 589 E. 2 S. 591).
1.2 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). "Offensichtlich unrichtig" bedeutet dabei "willkürlich" (BGE 133 II 249 E. 1.2.2). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG).
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden. Der Beschwerdeführer kann sich dabei nicht damit begnügen, den bestrittenen Feststellungen eigene tatsächliche Behauptungen gegenüberzustellen oder darzulegen, wie die Beweise seiner Ansicht nach zu würdigen gewesen wären. Vielmehr hat er klar und substantiiert aufzuzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (BGE 133 II 249 E. 1.4.3; 133 III 350 E. 1.3, 393 E. 7.1, 462 E. 2.4).
2. Die Beschwerdeführerin rügt in verschiedener Hinsicht eine unrichtige Feststellung des Sachverhalts, verfehlt dabei aber weitgehend die Begründungsanforderungen an eine Sachverhaltsrüge, weshalb darauf nicht eingetreten werden kann. Zum Teil richtet sie sich gar nicht gegen eine tatsächliche Feststellung der Vorinstanz, sondern gegen eine rechtliche Beurteilung, ohne aber eine Rechtsverletzung hinlänglich aufzuzeigen. Weitere Rügen beruhen auf einem unzutreffenden Verständnis des angefochtenen Urteils. Im Einzelnen ist was folgt anzumerken:
2.1 Die Beschwerdeführerin meint, die Vorinstanz habe eine unrichtige Feststellung des Sachverhalts getroffen, indem sie weitere Beweiserhebungen für entbehrlich hielt. Darin liegt indessen keine Sachverhaltsfeststellung, sondern allenfalls eine antizipierte Beweiswürdigung, die aber von der Beschwerdeführerin nicht als willkürlich angefochten wird.
2.2 Was die Beschwerdeführerin im Zusammenhang mit ihrem vorinstanzlich gestellten Eventualantrag auf Rückweisung der Sache zur Neubeurteilung vorbringt, zielt ins Leere, da die Vorinstanz die Zulässigkeit dieses Antrags nicht verneinte, sondern angesichts des Verfahrensausgangs offen liess.
2.3 Die Vorinstanz trat insoweit auf die Appellation nicht ein, als die Beschwerdeführerin sich mit dem erstinstanzlichen Urteil nicht geordnet auseinandergesetzt, sondern dieses bestätigt, lediglich ihre Sicht der Dinge darlegt oder aber einfach gesagt habe, es sei falsch, ohne darzutun weshalb. Die Beschwerdeführerin wirft der Vorinstanz in diesem Zusammenhang aktenwidrige falsche Sachverhaltsfeststellungen vor.
Zu Unrecht. Die Vorinstanz traf mit der kritisierten Erwägung nicht eine "aktenwidrige falsche Sachverhaltsfeststellung", sondern beurteilte, ob die Appellationsschrift den kantonalrechtlichen Begründungsanforderungen entsprach oder nicht. Dieser Anwendung der betreffenden kantonalen Verfahrensvorschriften könnte die Beschwerdeführerin zunächst nur mit einer gehörig begründeten Willkürrüge entgegentreten (vgl. BGE 121 I 54 E. 2a; 120 Ia 220 E. 3a). Dies tut sie aber nicht, indem sie lediglich darlegt, was sie in ihrer Appellationsschrift ausgeführt habe, und dann behauptet, damit habe sie sich hinlänglich mit dem erstinstanzlichen Urteil auseinandergesetzt und die Vorinstanz habe die Anforderungen an das Rügeprinzip überspannt (Erwägung 1.1 vorne). Indem die Beschwerdeführerin fortfährt, damit habe die Vorinstanz Art. 29 Abs. 1 BV verletzt, macht sie ebensowenig rechtsgenüglich begründet geltend, dass das Vorgehen der Vorinstanz mit den aus der betreffenden Verfassungsbestimmung fliessenden, unabhängig von den kantonalen Verfahrensvorschriften greifenden Verfahrensregeln zur Sicherung des Anspruchs auf ein faires Verfahren bzw. auf rechtliches Gehör unvereinbar wäre (vgl. BGE 124 I 241 E. 2 S. 242 f.; 121 I 54 E. 2a; 120 Ia 220 E. 3a).
2.4 Die Beschwerdeführerin rügt die Feststellung, wonach die Beschwerdegegnerin für ihre Dienste eine Vergütung einkassierte, als offensichtlich falsch und verweist dabei auf eine Aussage von A._. Die Beschwerdeführerin betont dabei, dass die Beschwerdegegnerin die von der Z._ AG erhaltenen Geldzahlungen, ohne eine Vergütung einkassieren zu dürfen, an sie abzuliefern verpflichtet gewesen sei. Dabei übersieht sie, dass das angefochtene Urteil nichts darüber aussagt, von wem die Beschwerdegegnerin eine Vergütung einkassierte.
Weiter trifft es nicht zu, dass die Vorinstanz die Verrechnungsforderung nur auf ca. 1 Mio. Franken bezogen hätte. Sie prüfte vielmehr eine geltend gemachte Verrechnungsforderung von rund 4 Mio. Franken (Urteil E. 3).
2.5 Die Vorinstanz liess offen, bei wem die Z._ AG die Produkte bestellt habe - bei der Beschwerdeführerin direkt oder bei der Beschwerdegegnerin -, da dieser Punkt für das zu beurteilende Rechtsproblem nicht relevant sei. Aus dem gleichen Grund liess sie auch die rechtliche Qualifikation der Vertragsbeziehung zwischen den Parteien im Rahmen der Graumarktgeschäfte offen. Sie tat dies im Hinblick auf die Beurteilung der Streitfrage nach der Kompetenz von A._, Geld aus den Graumarktgeschäften auf sein Privatkonto überweisen zu lassen. In Bezug auf diese Streitfrage ist in der Tat nicht ersichtlich und wird von der Beschwerdeführerin nicht dargetan, inwiefern die beiden offen gelassenen Punkte entscheidrelevant sein sollen. Auch insoweit ist keine Rechtsverletzung im Zusammenhang mit der Feststellung des Sachverhalts erkennbar.
3. Die Klageforderung der Beschwerdegegnerin wurde von der Beschwerdeführerin anerkannt und demzufolge zugesprochen. Im Streit steht die von der Beschwerdeführerin zur Verrechnung gestellte Forderung von rund 4 Mio. Franken aus den Graumarktgeschäften. Diese liefen wie folgt ab: A._, Angestellter der Beschwerdeführerin, tätigte für die Beschwerdeführerin Verkäufe an die Firma Z._ AG, eine Firma, an welche die Beschwerdeführerin nicht zur Lieferung von F._-Produkten berechtigt war. Zur Umgehung des Verbots, F._-Produkte an die Z._ AG zu liefern, wurde die bezugsberechtigte Beschwerdegegnerin dazwischen geschalten. Die Z._ AG bezahlte an die Beschwerdegegnerin, die das Geld an die Beschwerdeführerin weiterzuleiten hatte und für ihre Dienste eine Vergütung einkassierte. Die Geschäfte wurden zu sogenannten Nettopreisen abgewickelt. Für die F._-Produkte wurden Rabatte gewährt. Die Beschwerdeführerin machte die Differenz zwischen den Brutto- und Nettopreisen beim Hardware-Lieferanten, der F._ Schweiz, geltend, indem sie fälschlicherweise vorgab, sie habe die Geräte an Grosskunden verkauft, denen die F._ Schweiz Spezialrabatte zugesichert hatte.
3.1 Die Verrechnungsforderung beruht nach der Behauptung der Beschwerdeführerin auf Graumarktwarenlieferungen im Gesamtwert von fast 7 Mio. Franken, wovon die Beschwerdegegnerin erst rund 3 Mio. Franken bezahlt haben soll. Die Beschwerdegegnerin bestritt die behauptete Warenlieferung. Die Vorinstanz hielt den Beweis für die Warenlieferungen für nicht erbracht und wies dementsprechend die geltend gemachte Verrechnungsforderung zurück.
3.2 Die Beschwerdeführerin tritt dem im Wesentlichen mit dem Argument entgegen, die Rechtsbeziehung zwischen den Parteien im Rahmen der Graumarktgeschäfte sei als Auftrag zu qualifizieren, was die Vorinstanz in Verletzung von Art. 400 OR übersehen habe. Die Beschwerdeführerin besitze gegenüber der Beschwerdegegnerin gestützt auf Art. 400 OR einen Rechenschaftsablegungs- und Ablieferungsanspruch. Diesen Anspruch habe die Beschwerdeführerin in der Klageantwort sowie mit der eingereichten Excel-Liste und dem Editionsantrag substantiiert umschrieben. Mehr müsse sie nach Art. 400 OR nicht darlegen, insbesondere müsse sie die Warenlieferungen nicht beweisen.
3.3 Zunächst ist die Beschwerdeführerin nicht zuzulassen, soweit sie ihre im kantonalen Verfahren zur Verrechnung gestellte Forderung vor Bundesgericht in eine "untypische Stufenklage" umkleiden will, da sie nach den vorinstanzlichen Feststellungen im kantonalen Verfahren kein entsprechendes Rechtsbegehren gestellt hat (Art. 99 Abs. 2 BGG; vgl. dazu BGE 116 II 215 E. 4a S. 219 f.; Vogel/Spühler, Grundriss des Zivilprozessrechts, 8. Aufl., Bern 2006, S. 189; Guldener, Schweizerisches Zivilprozessrecht, Zürich 1979, S. 167). Sodann kann sie mit der Berufung auf die Rechenschaftsablegungs- und Ablieferungspflicht nach Art. 400 OR - mag eine solche der Beschwerdegegnerin grundsätzlich obliegen oder nicht - nichts daran ändern, dass die Beschwerdegegnerin der Beschwerdeführerin die verrechnungsweise geltend gemachte Zahlung von vornherein nur schuldet, wenn entsprechende Graumarktgeschäfte überhaupt getätigt, mithin in entsprechendem Umfang Waren geliefert wurden. Diese Anspruchsgrundlage, auf welcher die Verrechnungsforderung beruht, hat die Beschwerdeführerin erst zu beweisen. Dass die Vorinstanz dies verlangte, ist nicht zu beanstanden.
3.4 Die Beschwerdeführerin rügt die Erwägung der Vorinstanz, der Editionsantrag der Beschwerdeführerin habe eine allfällige Korrektur der 4 Mio. Forderung infolge gewährter Rabatte zum Ziel, als aktenwidrig falsche bzw. unvollständige Sachverhaltsfeststellung und Art. 400 OR verletzend. Ihre Rüge kann indessen nicht nachvollzogen werden. Wenn es darum geht, erst einmal die Graumarktwarenlieferungen zu beweisen, hilft es in der Tat nicht weiter, zur Frage der gewährten Rabatte Beweise zu erheben. Dies war auch für die Streitwertberechnung im Rahmen der Kostenfestlegung nicht nötig, da diese aufgrund der geltend gemachten Angaben der Beschwerdeführerin willkürfrei vorgenommen werden konnte (vgl. dazu Erwägung 5.2 hinten).
Ebenso wenig kann eine aktenwidrige falsche Sachverhaltsfeststellung oder eine Gehörsverweigerung darin erblickt werden, dass die Vorinstanz auf die Anhörung der Herren B._, C._ und D._ (Angestellte der Beschwerdeführerin) verzichtete, da das ihnen zugedachte Beweisthema im Dunkeln geblieben sei. Diese Annahme der Vorinstanz erscheint jedenfalls nicht willkürlich, zeigt doch ein Blick in die Appellationsbegründung der Beschwerdeführerin, dass sie im Zusammenhang mit der Anrufung dieser Zeugen lediglich pauschal von "dieser Forderung" sprach (Rz. 15). Es trifft zwar zu, dass sie die genannten Zeugen zudem für die Behauptung anrief, die Z._ AG habe diesen Herren gegenüber Informationen über die Zahlungen an die Beschwerdegegnerin verweigert (Appellationsbegründung Rz. 14), jedoch ist die Entscheidrelevanz eines solchen Beweisthemas nicht ersichtlich. Der Umstand, dass die Z._ AG gegenüber der Beschwerdeführerin Informationen verweigerte, trägt jedenfalls nichts zum erforderlichen Beweis erfolgter Warenlieferungen im Rahmen der Graumarktgeschäfte bei.
3.5 Auch was die von der Vorinstanz als nicht erforderlich erachtete genaue Bezifferung der Verrechnungsforderung ("4-Mio.-Forderung") anbelangt, zeigt die Beschwerdeführerin keine Bundesrechtsverletzung oder einen entscheidrelevanten Fehler bei der Sachverhaltsfeststellung auf. Da der Forderung mangels Beweises der Warenlieferungen die Basis bereits dem Grundsatz nach entzogen war, musste die Vorinstanz deren genaue Höhe nicht feststellen. Sie hat der Beschwerdeführerin denn auch nicht vorgeworfen, die Forderung nicht exakt substantiiert zu haben, insbesondere betreffend die Korrektur um die der Z._ AG gewährten Rabatte.
4. Ein Teil von rund 1 Mio. Franken der gesamten Verrechnungsforderung von rund 4 Mio. Franken betrifft die Zahlungen der Beschwerdegegnerin auf das Privatkonto von A._. Diesbezüglich hielt die Vorinstanz fest, dass die Beschwerdegegnerin mit der geleisteten Zahlung grundsätzlich eine Schuld im besagten Umfang anerkannt habe. Streitpunkt in diesem Zusammenhang bildet die Frage, ob die Beschwerdegegnerin durch die Zahlungen auf das Privatkonto von A._ befreiend geleistet hat.
4.1 Das Amtsgericht prüfte, ob eine Anscheins- oder Duldungsvollmacht vorliege. Es nahm mit Blick auf die Stellung und Funktion von A._ als "Director Sales and Value added Distribution" an, er sei zum Abschluss von Kaufverträgen bevollmächtigt gewesen, was nach aussen hin, insbesondere auch gegenüber der Beschwerdegegnerin kundgetan worden sei. Betreffend den Umfang der Bevollmächtigung schloss es aufgrund der Umstände, dass die Beschwerdegegnerin zweifelsohne habe annehmen dürfen, dass A._ bevollmächtigt gewesen sei, alle mit den Verkaufsgeschäften in unmittelbarem Zusammenhang stehenden Vertragspunkte zu regeln, also namentlich auch die Zahlungsmodalitäten festzulegen und dabei das Bankkonto zu bezeichnen, auf das die Überweisung der Geldschuld zu erfolgen hatte.
Die Vorinstanz schützte diese Auffassung des Amtsgerichts. Die Bezeichnung eines Privatkontos als Zahlstelle sei zwar ungewöhnlich. Die Beschwerdegegnerin habe aber nicht ohne weitere Abklärungen geleistet, sondern sich bei A._ nach dem Grund erkundigt. Die zur Antwort bekommene 80/20 % Regelung sei nicht abwegig, zumal es sich um Graumarktgeschäfte gehandelt habe, die ausserhalb des üblichen Rahmens abliefen. Es sei daher nicht unglaubwürdig, dass die auf das Privatkonto von A._ geflossenen Gelder (20 %) für Bonuszahlungen an verschiedene Händler, Mitarbeiter der Beschwerdeführerin und F._-Mitarbeiter wie auch für verschiedene Marketingaktivitäten vorgesehen gewesen seien. Solche Leistungen wären über ein offizielles Konto der Beschwerdeführerin schwer erklärbar gewesen. Aufgrund des Vollmachtsumfangs habe die Beschwerdegegnerin ihre Sorgfaltspflicht nicht verletzt, wenn sie nicht auch noch beim obersten Leitungsgremium der Beschwerdeführerin nachgefragt habe.
4.2 Mit dem, was die Beschwerdeführerin dagegen vorbringt, zeigt sie keine Bundesrechtsverletzung auf. Zunächst kann der Beschwerdeführerin nicht gefolgt werden, wenn sie der Vorinstanz vorwirft, sie habe aktenwidrig festgestellt, dass die Bevollmächtigung von A._, die Zahlungsmodalitäten festzulegen, zweitinstanzlich unbestritten geblieben sei. Die Beschwerdeführerin bestritt in ihrer Appellationsbegründung, Rz. 39, auf die sie sich bezieht, nicht, dass die Bevollmächtigung von A._ grundsätzlich die Befugnis miteinschloss, die Zahlungsmodalitäten festzulegen. Sie stellte nur in Abrede, dass er ein eigenes Konto als Zahlstelle habe angeben dürfen. Auf diese Bestreitung ist die Vorinstanz denn auch eingegangen. Sie hat dabei überzeugend dargelegt, weshalb die Beschwerdegegnerin aufgrund der gegebenen Umstände im Rahmen der getätigten Graumarktgeschäfte gutgläubig auf das angegebene Privatkonto zahlen konnte. Die Beschwerdeführerin vermag dies nicht umzustossen, indem sie ihre gegenteilige Auffassung bekräftigt, ohne sich mit den entsprechenden Argumenten der Vorinstanz auseinanderzusetzen. Nicht nachvollziehbar ist schliesslich ihr Vorwurf, die Vorinstanz rede der Bestechung (Privatkorruption) das Wort. Die Vorinstanz hat nirgends eine Billigung solcher Praktiken zum Ausdruck gebracht.
4.3 Die Vorinstanz verzichtete im Zusammenhang mit dem Thema der Überweisung auf das Privatkonto von A._ und der angeblichen teilweisen Weitervergütung auf ein Konto von E._ (Verwaltungsratspräsident der Beschwerdegegnerin) auf eine Parteibefragung von E._, da kein von der Appellationsantwort abweichendes Aussageverhalten zu erwarten sei. Die Beschwerdeführerin erblickt darin eine "unzulässige antizipierte Beweiswürdigung" und eine Verletzung des Anspruchs auf rechtliches Gehör.
Der aus dem Anspruch auf rechtliches Gehör fliessende Anspruch auf Abnahme und Würdigung der angebotenen Beweise schliesst eine antizipierte Beweiswürdigung nicht aus (BGE 131 I 153 E. 3 S. 157; 122 II 464 E. 4a). Das Bundesgericht greift in eine antizipierte Beweiswürdigung nur ein, wenn sie willkürlich und damit offensichtlich unhaltbar ist, namentlich wenn sie eine prozessuale Vorschrift oder einen unumstrittenen Grundsatz des Beweisrechts krass verletzt oder sonst wie in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (BGE 132 III 209 E. 2.1; 131 I 153 E. 3 S. 157, 217 E. 2.1; 129 I 8 E. 2.1; 124 I 208 E. 4a). Inwiefern dies vorliegend zutreffen soll, legt die Beschwerdeführerin nicht dar. Wenn sie sodann vorbringt, die Vorinstanz führe das Institut der Parteibefragung nach § 156 Abs. 2 ZPO-LU "ad absurdum" und verletze Bundesrecht, so kann auf diese Rüge nicht eingetreten werden. Darzulegen und rechtsgenüglich zu begründen wäre eine willkürliche Anwendung kantonalen Prozessrechts im vorliegenden Fall, was die Beschwerdeführerin indessen nicht tut, indem sie einfach pauschal behauptet, wegen der Strafandrohung bei falscher Parteiaussage wäre ein gegenüber den von der Partei eingereichten Rechtsschriften "korrigiertes" Aussageverhalten zu erwarten.
5. Schliesslich macht die Beschwerdeführerin geltend, die Vorinstanz verstosse mit ihrer falschen Streitwertangabe sowie ihrer darauf basierenden Festlegung der Gerichtskosten und der Parteientschädigung gegen das Willkürverbot.
5.1 Die Vorinstanz ging gestützt auf § 2 Abs. 1 der Verordnung des Obergerichts über die Kosten in Zivil- und Strafverfahren sowie in weiteren Verfahren des Kantons Luzern vom 6. November 2003 (KoV; SRL 265) von einem Streitwert von rund 4.5 Mio. Franken aus (Fr. 527'269.65 Klageforderung + ca. 4 Mio. Franken Verrechnungsforderung). Die Beschwerdeführerin ist der Meinung, sie hätte nach § 18 Abs. 1 ZPO-LU nur die eingeklagte Forderung, nicht aber die Verrechnungsforderung berücksichtigen dürfen.
Nach § 1 KoV entspricht der für die Berechnung von Gebühren massgebende Streitwert dem nach den §§ 18-22 der ZPO-LU ermittelten Streitwert. Vorbehalten bleiben die §§ 2 und 3 dieser Verordnung. Nach § 2 Abs. 1 KoV werden die Verrechnungsansprüche mit der Klageforderung zusammengerechnet, wenn und soweit sie Gegenstand der richterlichen Prüfung bilden. Das Obergericht hat die Kostenverordnung gestützt auf § 2 des Gesetzes über die Kosten im Verfahren vor Gerichtsbehörden vom 8. März 1966 (KoG, SRL Nr. 264) erlassen, der eine genügende gesetzliche Grundlage bildet (Urteil 4P.315/2006 vom 22. Mai 2007 E. 2.2.1), was die Beschwerdeführerin denn auch nicht in Frage stellt.
Aus den zitierten Verordnungsbestimmungen erhellt, dass für die Berechnung des Streitwertes, soweit dieser für die Kostenfestlegung Grundlage bildet, zwar grundsätzlich die entsprechenden Bestimmungen der ZPO (§§ 18-22 ZPO-LU) massgebend sind, aber betreffend die Berücksichtigung von Verrechnungsansprüchen die vorbehaltene Sondervorschrift von § 2 Abs. 1 KoV greift. Die Vorinstanz hat den Streitwert mithin regelkonform berechnet. Dass § 2 Abs. 1 KoV bundesrechtswidrig sein soll, wie die Beschwerdeführerin behauptet, trifft nicht zu. Es gibt keinen bundesrechtlichen Grundsatz, der den Kantonen verbieten würde, bei der Streitwertberechnung im Rahmen der Kostenfestlegung die Verrechnungsansprüche mitzuberücksichtigen. Die Bundesgerichtsentscheide, welche die Beschwerdeführerin anruft, betreffen die Streitwertberechnung für die Berufungsfähigkeit an das Bundesgericht nach Art. 46 und 47 OG (BGE 102 II 397; 95 II 281) bzw. für die Berufungsfähigkeit an das Bündner Kantonsgericht nach der Bündner Zivilprozessordnung (BGE 96 I 697). Daraus lässt sich für den vorliegenden Fall nichts ableiten.
5.2 Die Beschwerdeführerin bringt vor, sie habe die Verrechnungsforderung nicht mit rund 4 Mio. Franken beziffert, sondern mit rund 4 Mio. Franken abzüglich "Z._ AG gewährte Rabatte". Die Streitwertberechnung sei daher auch aus diesem Grund falsch.
Auch darin kann der Beschwerdeführerin nicht gefolgt werden. Gleich wie das Gericht den Streitwert der Klageforderung nach dem Rechtsbegehren des Klägers bestimmt (§ 18 ZPO-LU), ergibt sich der Streitwert der Verrechnungsforderung aufgrund der Angaben des Beklagten. Indem die Vorinstanz von der geltend gemachten Verrechnungsforderung von rund 4 Mio. Franken ausging, aber die allfällige noch nicht bezifferte Korrektur betreffend die Rabatte unberücksichtigt liess, sprengte sie den Ermessensrahmen (vgl. § 21 Abs. 2 ZPO-LU) nicht, zumal die Beschwerdeführerin nicht geltend macht, im vorinstanzlichen Verfahren behauptet zu haben, dass jene Korrektur einem gewichtigen Betrag entsprochen hätte. Von Willkür kann insoweit keine Rede sein. Auch die in diesem Zusammenhang erhobene Rüge, die Vorinstanz habe den Gehörsanspruch der Beschwerdeführerin verletzt, weil sie die zur Bezifferung der Verrechnungsforderung gestellten Beweisanträge abgewiesen habe, erweist sich damit ohne weiteres als unbegründet.
6. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 8'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 9'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Luzern, I. Kammer als Appellationsinstanz, schriftlich mitgeteilt.
Lausanne, 6. Dezember 2007
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Corboz Widmer