Sachverhalt:
A. Die X._ AG (vormals Y._ AG; Beschwerdegegnerin) betreibt u.a. Handel mit Eisenerz. Die W._ AG (Beschwerdeführerin) betätigt sich u.a. im Rohstoffhandel. Nach Darstellung der Beschwerdegegnerin unterzeichnete B._ am 22. Juli 1998 in Moskau namens der Beschwerdeführerin eine Garantieerklärung. Danach habe sich die Beschwerdeführerin verpflichtet, den der Beschwerdegegnerin zustehenden Kaufpreis aus einem an eine Firma mit Domizil in Nikosia/Zypern erfolgten Verkauf von Eisenerz nach vorherigem schriftlichen Ersuchen und unter Verzicht auf Einreden und Einwendungen bis zum Maximalbetrag von USD 854'437.50 zu bezahlen. Nach Inanspruchnahme aus dieser Garantie verweigerte die Beschwerdeführerin jegliche Zahlung.
B. Am 20. Oktober 2000 gelangte die Beschwerdegegnerin an das Kantonsgericht Zug und forderte von der Beschwerdeführerin gestützt auf die Garantie vom 22. Juli 1998 den Betrag von USD 825'212.25 zuzüglich Zins. Die Beschwerdeführerin beantragte Abweisung dieser Klage und verlangte von der Beschwerdegegnerin widerklageweise ca. 3 Mio. USD.
Die Widerklage blieb insofern erfolglos, als das Bundesgericht mit Urteil vom 24. Januar 2003 in Gutheissung einer entsprechenden Berufung der Beschwerdegegnerin die örtliche Zuständigkeit der zugerischen Gerichte verneinte.
Die Klage wies das Kantonsgericht am 25. April 2005 ab, weil es die Echtheit der Garantieerklärung bezweifelte. Dieses Urteil hob das Obergericht des Kantons Zug am 22. Mai 2007 in Gutheissung einer Berufung der Beschwerdegegnerin auf und wies die Sache zur weiteren Entscheidung an das Kantonsgericht zurück, nachdem es aufgrund einer im Berufungsverfahren durchgeführten Zeugenbefragung die Echtheit der Garantieerklärung vom 22. Juli 1998 festgestellt hatte. Auf eine von der Beschwerdeführerin gegen diesen Zwischenentscheid erhobene Beschwerde trat das Bundesgericht mit Urteil vom 10. September 2007 (Verfahren 4A_234/2007) nicht ein.
In der Folge hiess das Kantonsgericht die Klage mit Urteil vom 28. Januar 2008 mit einer geringfügigen Differenz hinsichtlich der Zinsforderung gut.
Eine von der Beschwerdeführerin dagegen erhobene Berufung wies das Obergericht am 30. September 2008 unter Bestätigung des angefochtenen Urteils ab.
C. Die Beschwerdeführerin beantragt mit Beschwerde in Zivilsachen, das Urteil des Obergerichts vom 30. September 2008 aufzuheben und die Klage abzuweisen. Eventuell sei die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen.
Die Beschwerdegegnerin beantragt, die Beschwerde abzuweisen, soweit darauf einzutreten sei. Die Vorinstanz schliesst auf Abweisung der Beschwerde.
Das Präsidium der ersten zivilrechtlichen Abteilung wies am 4. Dezember 2008 ein Gesuch der Beschwerdeführerin, es sei der Beschwerde die aufschiebende Wirkung zu erteilen, ab.
Erwägungen:
1. Das Bundesgericht verneinte im Urteil vom 10. September 2007 die Zulässigkeit der selbständigen Anfechtbarkeit des vorinstanzlichen Zwischenentscheids vom 22. Mai 2007 und trat auf die damalige Beschwerde der Beschwerdeführerin nicht ein. Die vorliegende Beschwerde richtet sich ausser gegen das Endurteil vom 30. September 2008 erneut gegen den genannten Zwischenentscheid. Dies ist grundsätzlich zulässig, da sich der Zwischenentscheid auf den Inhalt des angefochtenen Endentscheids auswirkt (Art. 93 Abs. 3 BGG).
Allerdings stellt die Beschwerdeführerin betreffend den Zwischenentscheid keine formellen Anträge, sondern begnügt sich damit, Anträge gegen den Endentscheid zu stellen, weshalb es als fraglich erscheint, ob die Beschwerde zulässig ist, soweit sie sich gegen den ersteren richtet (Art. 42 Abs. 1 BGG; vgl. dazu das Urteil 1C_100/2008 vom 18. Juni 2008 E. 1; ferner BGE 133 III 489 E. 3.3). Wie es sich damit verhält kann vorliegend allerdings offen bleiben, da sich die gegen den Zwischenentscheid erhobenen Rügen, soweit auf sie überhaupt eingetreten werden kann, ohne weiteres als unbegründet erweisen, wie sich aus den nachfolgenden Erwägungen ergibt.
Im Übrigen sind die Sachurteilsvoraussetzungen erfüllt und ist auf die Beschwerde - unter dem Vorbehalt ihrer rechtsgenüglichen Begründung (Art. 42 BGG) - einzutreten.
2. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Überdies muss die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein (Art. 97 Abs. 1 BGG). Neue Tatsachen und Beweismittel dürfen nur soweit vorgebracht werden, als der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
Der Beschwerdeführer, der die Sachverhaltsfeststellungen der Vorinstanz anfechten will, muss substantiiert darlegen, inwiefern die Voraussetzungen einer Ausnahme gemäss Art. 105 Abs. 2 BGG gegeben sind und das Verfahren bei rechtskonformer Ermittlung des Sachverhalts anders ausgegangen wäre; andernfalls kann ein Sachverhalt, der vom im angefochtenen Entscheid festgestellten abweicht, nicht berücksichtigt werden. Der Beschwerdeführer kann sich dabei nicht damit begnügen, den bestrittenen Feststellungen eigene tatsächliche Behauptungen gegenüberzustellen oder darzulegen, wie die Beweise seiner Ansicht nach zu würdigen gewesen wären. Vielmehr hat er klar und substantiiert aufzuzeigen, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen. Auf eine Kritik an den tatsächlichen Feststellungen der Vorinstanz, die diesen Anforderungen nicht genügt, ist nicht einzutreten (vgl. BGE 133 II 249 E. 1.4.3; 133 III 350 E. 1.3, 393 E. 7.1, 462 E. 2.4; 133 IV 286 E. 6.2).
Soweit in einer Beschwerde in Zivilsachen Willkür in der Ermittlung des Sachverhalts geltend gemacht wird, ist zu beachten, dass dem Sachrichter in der Beweiswürdigung ein breiter Ermessensspielraum zusteht; der Beschwerdeführer hat daher darzulegen, inwiefern das kantonale Gericht sein Ermessen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse gezogen, erhebliche Beweise übersehen oder willkürlich ausser Acht gelassen habe (vgl. BGE 132 III 209 E. 2.1; 129 I 8 E. 2.1; 120 Ia 31 E. 4b S. 40; 118 Ia 28 E. 1b S. 30).
3. Die Beschwerdeführerin rügt, die Vorinstanz habe aufgrund einer willkürlichen Beweiswürdigung festgestellt, dass die Garantieurkunde echt sei. Das angefochtene Urteil stütze sich auf die Aussage einer einzigen, von der Beschwerdegegnerin abhängigen Zeugin, deren Aussage weder glaubwürdig noch mit den eingeholten Gutachten noch mit den Aussagen der im Strafverfahren des Untersuchungsrichteramts Zug befragten Zeugen C._ und D._ in Einklang zu bringen seien.
Die Vorinstanz kam aufgrund einer Würdigung von zwei wissenschaftlichen Gutachten zum Schluss, es bestünden keine Anhaltspunkte für eine Fälschung der Urkunde. Andererseits hätten die Experten auch die Echtheit der Urkunde nicht schlüssig beurteilen können. Aufgrund der Expertisen könne die Garantieerklärung sowohl echt als auch unecht sein. Indessen könne aufgrund der glaubhaften und überzeugenden Aussage der Zeugin E._ als erstellt gelten, dass die Garantieerklärung vom 22. Juli 1998 echt sei. Auf die entsprechenden Erwägungen der Vorinstanz, auf die verwiesen werden kann, ist, soweit erforderlich, in den nachfolgenden Ausführungen näher einzugehen.
3.1 Die Beschwerdeführerin versucht zunächst die Glaubwürdigkeit der Zeugin in Zweifel zu ziehen, indem sie vorbringt, diese sei im Zeitpunkt ihrer Aussage bei einer Tochtergesellschaft der Beschwerdegegnerin beschäftigt gewesen und die Reise der Zeugin von Moskau zur Einvernahme in Zug sei von der Beschwerdegegnerin bezahlt worden. Insoweit stützt sie sich auf tatsächliche Elemente, die in den vorinstanzlichen Sachverhaltsfeststellungen keine Stütze finden. Da sie dazu keine Sachverhaltsrüge im Sinne von Art. 105 Abs. 2 BGG vorbringt, die dem Bundesgericht allenfalls erlauben könnte, den Sachverhalt zu ergänzen, kann sie damit nicht gehört werden (Erwägung 2 vorne).
Die Vorinstanz legte einlässlich und nachvollziehbar dar, weshalb die Zeugin ihrer Auffassung nach von der Beschwerdegegnerin nicht beeinflusst worden sei und insoweit an der Glaubwürdigkeit der Zeugin keine Zweifel bestünden. Die Beschwerdeführerin bringt dazu bloss vor, die Zeugin habe den Prozessgegenstand gekannt und mit dem damals geschäftsführenden Verwaltungsrat der Beschwerdegegnerin über den Prozess gesprochen. Damit wiederholt sie indessen lediglich ihre bereits im kantonalen Verfahren erhobenen Einwände, ohne sich mit den Erwägungen, welche die Vorinstanz zu diesen angestellt hat, auseinander zu setzten und aufzuzeigen, weshalb die Vorinstanz damit in Willkür verfallen sein soll. Damit vermag sie von vornherein keine Willkür darzutun und genügt sie den Anforderungen an die Begründung einer Willkürrüge nicht, weshalb darauf nicht einzutreten ist (Erwägung 2 vorne).
3.2 Die Beschwerdeführerin macht sodann geltend, die Aussagen der Zeugin seien schon in sich widersprüchlich und nicht nachvollziehbar. Insoweit beruft sie sich indes grösstenteils auf Umstände und angebliche Aussagen der Zeugin gemäss Protokoll, zu denen die Vorinstanz aber keine Feststellungen getroffen hat, sowie auf das Aussageverhalten der Zeugin, zu dem im angefochtenen Entscheid nichts festgehalten wurde. Da sie auch dazu keine Sachverhaltsrügen nach Art. 105 Abs. 2 BGG substanziiert, kann sie auch insoweit nicht gehört werden. Unabhängig davon genügen ihre Vorbringen den Anforderungen an die Begründung einer Willkürrüge auch insoweit in keiner Weise. So übt sie rein appellatorische Kritik an der vorinstanzlichen Würdigung, mit der sie von dieser abweichend verschiedene Widersprüchlichkeiten behauptet und das Erinnerungsvermögen der Zeugin anzweifelt, ohne auf die Erwägungen der Vorinstanz einzugehen und aufzuzeigen, inwiefern diese damit das Willkürverbot verletzt haben soll. Ihre Vorbringen entsprechen denn auch mehr oder weniger wortwörtlich ihren Ausführungen anlässlich der Berufungsverhandlung vor der Vorinstanz vom 20. März 2007. Darauf ist nicht einzutreten.
3.3 Die Vorinstanz erachtete die Aussage der Zeugin als glaubwürdig, wonach sie das - ihren weiten Angaben zufolge B._ vorgelegte und von diesem unterzeichnete - Garantiedokument getippt habe und zwar beide Seiten zur gleichen Zeit. Die Beschwerdeführerin rügt, damit sei die Vorinstanz in willkürlicher Weise von den Feststellungen der Gutachter abgewichen, die das Gegenteil bewiesen. Nach diesen stehe fest, dass Seite 1 und Seite 2 der Garantieerklärung auf unterschiedlichen Papieren in unterschiedlichen Druckverfahren hergestellt worden seien und dass Seite 2 mit hoher Wahrscheinlichkeit vor und nach Leistung der Unterschrift durch eine Toner verarbeitende Printereinheit geführt worden sei.
Nach den Feststellungen der Vorinstanz haben die Gutachter vermutet, dass das auf der zweiten Seite angeführte Datum in einem zweiten Druckvorgang nach der Unterschriftsproduktion eingefügt worden sein könnte. Die Zeugin habe nicht mit Bestimmtheit zu sagen vermocht, ob sie auch das Datum auf der zweiten Seite gleichzeitig (mit dem Rest des Dokuments) getippt habe. Die Zeugin habe ihren Aussagen nach Briefpapier mit dem Aufdruck "W._ AG" erhalten und es sei unbestritten, dass die Beschwerdeführerin über Briefpapier verfügt habe, das nur den Firmenaufdruck ohne Adressangabe enthalten habe.
Hat die Zeugin angegeben, sie könne nicht mehr mit Bestimmtheit sagen, ob sie auch das Datum gleichzeitig mit dem Rest des Dokuments getippt habe, so ist insoweit kein Widerspruch zur Feststellung der Gutachter ersichtlich, wonach die Seite 2 vor und nach Leistung der Unterschrift durch eine Toner verarbeitende Printereinheit geführt worden sei. Auch der Umstand, dass die zwei Seiten des Dokuments auf unterschiedlichen Papieren und in unterschiedlichen Druckverfahren hergestellt worden seien, steht der Richtigkeit der Aussage nicht entgegen, dass der Text auf beiden Seiten des Dokuments von der Zeugin gleichzeitig geschrieben wurde. Vielmehr lässt sich dies zwanglos dadurch erklären, dass für die Seite 1 des Dokuments Papier mit dem vorbestehenden Aufdruck "W._ AG" und für die Seite 2 beliebiges unbedrucktes Papier verwendet wurde.
Auch soweit die Beschwerdeführerin geltend macht, die Vorinstanz sei willkürlich vom Befund der Gutachter abgewichen, indem sie aufgrund der Zeugenaussage die Echtheit der Urkunde bejaht habe, dringt sie nicht durch. Nach den Feststellungen der Vorinstanz und entgegen der blossen Behauptung der Beschwerdeführerin haben die Gutachter die Urkunde nicht als unecht erklärt. Vielmehr lässt sich ihren Ausführungen nach die Echtheit der Urkunde lediglich aufgrund der von ihnen angestellten kriminaltechnischen Untersuchungen nicht schlüssig beurteilen.
3.4 Zusammenfassend ist die Rüge der willkürlichen Beweiswürdigung bei der Beurteilung der Echtheit der Urkunde unbegründet, soweit darauf überhaupt eingetreten werden kann.
4. Die Beschwerdeführerin bestreitet sodann, dass B._ für sie vertretungsberechtigt gewesen sei und sie mit der Unterzeichnung der Garantieerklärung habe verpflichten können. Die Vorinstanz verwarf diesen Standpunkt mit eingehender Begründung. Sie hielt dafür, B._ sei zwar im Zeitpunkt der Unterzeichnung der Garantieerklärung nicht als vertretungsberechtigtes Organ der Beschwerdeführerin im Handelsregister eingetragen gewesen. Er sei indessen aufgrund einer Duldungs- oder Anscheinsvollmacht zur Unterzeichnung der Garantieerklärung berechtigt gewesen und die Beschwerdegegnerin habe aufgrund des Verhaltens der Beschwerdeführerin in guten Treuen auf eine Bevollmächtigung schliessen dürfen. Die Beschwerdeführerin sei daher an ihr Sicherstellungsversprechen gebunden.
Die Beschwerdeführerin macht zunächst geltend, B._ sei nie als ihr Vertreter aufgetreten, insbesondere nicht gegenüber der Beschwerdegegnerin. Im Gegenteil sei er gegenüber dieser ausdrücklich nicht als Bevollmächtigter in Erscheinung getreten, ansonsten er für die Unterzeichnung des Kaufvertrags betreffend Aktien der Y.A._ AG nicht in Begleitung zweier Verwaltungsräte gewesen wäre, welche die Unterschriften geleistet hätten. Zu diesen Behauptungen im Zusammenhang mit einer Unterzeichnung eines Aktienkaufvertrages hat die Vorinstanz indessen keine tatsächlichen Feststellungen getroffen. Da die Beschwerdeführerin dazu keine Sachverhaltsrüge substanziiert, ist sie mit diesem Einwand nicht zu hören. Dasselbe gilt soweit sie pauschal bestreitet, dass B._ je als ihr Vertreter aufgetreten sei, ohne gegenüber den anderslautenden Feststellungen der Vorinstanz eine Sachverhaltsrüge zu erheben (Erwägung 2 vorne).
Die Vorinstanz hat einlässlich begründet, weshalb die Beschwerdeführerin durch das Handeln von B._ verpflichtet wurde, obwohl dieser nicht als vertretungsberechtigte Person derselben im Handelsregister eingetragen war. Sie hielt dafür, die Beschwerdegegnerin habe aus dem Dulden des Handelns von B._ seitens der Beschwerdeführerin nach Treu und Glauben unabhängig vom fehlenden Handelsregistereintrag auf die Vertretungsbefugnis von B._ schliessen dürfen. Die Beschwerdeführerin stellt dem, ohne auf die entsprechenden Erwägungen der Vorinstanz einzugehen, ihre eigene Auffassung gegenüber und macht geltend, von der Beschwerdegegnerin hätte erwartet werden müssen, dass sie das Handelsregister konsultiert, was die fehlende Zeichnungsberechtigung von B._ aufgezeigt hätte. Damit vermag sie von vornherein keine Bundesrechtsverletzung der Vorinstanz aufzuzeigen und genügt sie den Begründungsanforderungen an eine Beschwerde in Zivilsachen nicht. Auch auf diese Vorbringen ist daher nicht einzutreten (vgl. dazu BGE 133 II 249 E. 1.4.1/2; Urteil 4A_22/2008 vom 10. April 2008 E. 1).
5. Die Beschwerdeführerin macht geltend, die Vorinstanz habe die strittige Garantieerklärung zu Unrecht als Garantievertrag im Sinne von Art. 111 OR und nicht als Bürgschaft qualifiziert und dementsprechend zu Unrecht angenommen, sie sei mit Einreden und Einwendungen gegen das Hauptschuldverhältnis ausgeschlossen.
5.1 Mit der Bürgschaft übernimmt der Interzedent gegenüber dem Gläubiger die Pflicht, für die Erfüllung der Schuld eines Dritten, des Hauptschuldners, einzustehen (Art. 492 Abs. 1 OR). Die Bürgschaftsverpflichtung setzt den Bestand einer anderen (der sicherzustellenden) Verpflichtung voraus. Sie ist dieser beigeordnet und hängt in Bestand und Inhalt notwendigerweise von ihr ab; die Bürgschaft ist akzessorisch. Sie sichert die Zahlungsfähigkeit des Schuldners oder die Erfüllung eines Vertrages (BGE 129 III 702 E. 2.1; 125 III 305 E. 2b S. 307; 113 II 334 E. 2a; 111 II 279 E. 2b).
Der gemeinhin unter Art. 111 OR subsumierte Garantievertrag weist verschiedene Erscheinungsformen auf. Bei der reinen Garantie steht der Garant für einen von jedwelchem konkreten Schuldverhältnis unabhängigen Erfolg ein. Daneben umfasst der Begriff der Garantie auch diejenigen Verpflichtungen, die sich - wie diejenige im vorliegenden Fall - in irgendeiner Weise auf ein Schuldverhältnis beziehen, das dem Begünstigten einen Anspruch auf Leistung eines Dritten gibt (sogenannte bürgschaftsähnliche Garantie oder Garantie im engeren Sinn). Mit ihnen soll diese Leistung gesichert werden, gleichgültig, ob sie tatsächlich geschuldet ist; die Verpflichtung gilt damit auch für den Fall, dass die Schuldpflicht nie entstanden ist, wegfällt oder nicht erzwingbar ist. Der Promittent verspricht dem Promissar mit ihnen Schadenersatz für den Fall, dass der Dritte sich nicht erwartungsgemäss verhält (BGE 125 III 305 E. 2b S. 307; 113 II 334 E. 2a; vgl. dazu auch BGE 131 III 511 E. 4.2).
Als Abgrenzungskriterium zwischen der bürgschaftsähnlichen Garantie und der Bürgschaft steht die Akzessorietät im Vordergrund. Diese bedeutet, dass die Sicherheit das Schicksal der Hauptschuld teilt, indem die akzessorische Verpflichtung von der Hauptschuld abhängig ist und dieser als Nebenrecht folgt (BGE 125 III 305 E. 2b S. 308; 113 II 434 E. 2b; 111 II 276 E. 2b S. 279).
Ob eine Bürgschaft oder ein selbständiges Garantieversprechen vorliegt, ist durch Auslegung des Sicherungsvertrags zu ermitteln (BGE 125 III 305 E. 2b S. 308; 111 II 279 E. 2b, 287). Die Vorinstanz hat im vorliegenden Fall keinen übereinstimmenden wirklichen Parteiwillen festgestellt, wie er für die Auslegung des streitbetroffenen Vertrages in erster Linie massgebend wäre (Art. 18 OR), und die Beschwerdeführerin macht auch nicht geltend, ein solcher sei von der Vorinstanz zu Unrecht nicht berücksichtigt worden (vgl. BGE 121 III 118 E. 4b/aa S. 123). Für die Auslegung des Vertrages ist somit das Vertrauensprinzip massgebend. Danach sind zur Ermittlung des mutmasslichen Parteiwillens die Willenserklärungen der Parteien so auszulegen, wie sie nach ihrem Wortlaut und Zusammenhang sowie den gesamten Umständen verstanden werden durften und mussten (BGE 132 III 24 E. 4 S. 27 f.; 131 III 606 E. 4.1. S. 611; 130 III 66 E. 3.2).
5.1.1 Für die Beurteilung, ob eine Verpflichtung selbständiger oder akzessorischer Natur vorliegt, sind verschiedene Anhaltspunkte bzw. Indizien zu berücksichtigten, die nach der Rechtsprechung für das eine oder das andere sprechen können.
So spricht es namentlich für eine Bürgschaft, wenn der Promittent erklärt, einzig für die Verbindlichkeiten des Hauptschuldners einstehen zu wollen, sein Leistungsversprechen mithin identisch mit der Leistungspflicht des Hauptschuldners ist, die er sicherstellt (BGE 113 II 434 E. 3b S. 439; 125 III 305 E. 2b S. 309). Demgegenüber ist es ein Indiz für eine Garantie, wenn die Summe, die der Promittent zu zahlen verspricht, nicht mit derjenigen übereinstimmt, die der Hauptschuldner schuldet (BGE 128 III 295 E. 2d/bb).
Vermutungsweise liegt eine Bürgschaft vor, wenn zur Feststellung der Garantenleistung vollumfänglich auf das Grundverhältnis zurückgegriffen werden muss, während es auf eine Garantie hin deutet, wenn im Sicherungsvertrag selber ein detaillierter, selbständiger Leistungsbeschrieb enthalten ist (BGE 113 II 434 E. 3c S. 439; 125 III 305 E. 2b S. 309).
Verzichtet der Promittent auf die Erhebung der dem Hauptschuldner zustehenden Einreden und Einwendungen, spricht dies dafür, es sei eine Garantie gewollt gewesen, wenn es auch für sich allein kaum die Annahme eines Garantievertrags zu begründen vermag, da es sich dabei auch um eine nach Massgabe des Bürgschaftsrechts (Art. 492 Abs. 4 in Verbindung mit Art. 502 OR) nichtige Verpflichtung handeln könnte (BGE 113 II 434 E. 3d S. 440; vgl. auch BGE 131 III 511 E. 4.2 S. 526; 125 III 305 E. 2b S. 309).
Verspricht der Promittent zudem, auf erstes Verlangen zu bezahlen, spricht dies eher für einen Garantievertrag (BGE 131 III 511 E. 4.3 S. 525 unten).
5.1.2 Wenn die Auslegung nach Wortlaut, Sinn und Zweck des Vertrages, nach dem Sachzusammenhang und der inhaltlichen Ausgestaltung der einzelnen Erklärungen nicht zu einem eindeutigen Ergebnis führt, greifen nach Lehre und Rechtsprechung verschiedene Vermutungen Platz. So gilt die Vermutung, dass zur Verwirklichung des vom Bürgschaftsrecht angestrebten Schutzes des Verpflichteten im Zweifelsfall eher auf Bürgschaft zu schliessen ist. Weiter sollen Garantieerklärungen geschäftsgewandter Banken und Sicherungsgeschäfte über Auslandverträge vermutungsweise als Garantien, Garantieerklärungen von Privatpersonen demgegenüber eher als Bürgschaften gewertet werden (BGE 131 III 511 E. 4.3 S. 525; 113 II 434 E. 2c; 111 II 279 E. 2b mit Hinweis).
5.2 Die Vorinstanz hat die dargelegten Grundsätze nicht verletzt, indem sie schloss, die strittige Erklärung sei als nicht akzessorisches Schuldversprechen und damit als Garantie im Sinne von Art. 111 OR zu qualifizieren.
5.2.1 Es ist zunächst unbestritten und zutreffend, dass die Bezeichnung des Vertrages vorliegend nicht entscheidend ist, zumal die im streitbetroffenen, englisch abgefassten Vertrag verwendete Bezeichnung "guarantee" als Sammelbegriff für beide hier in Betracht fallenden Sicherungsverträge verstanden werden kann (BGE 113 II 434 E. 3a; vgl. auch BGE 129 III 702 E. 2.4.1; 125 III 305 E. 2b S. 308 f.).
5.2.2 Die Beschwerdeführerin hält dafür, die strittige Erklärung nehme auf das zu sichernde Grundverhältnis Bezug und sei daher sicherlich nicht abstrakt. Die Beschwerdeführerin verkennt damit, dass, wie die Vorinstanz zutreffend erwogen hat, für die hier in Frage stehende Abgrenzung der alleinige Umstand nicht entscheidend ist, dass dem Sicherungsversprechen ein vertragliches Drittschuldverhältnis zugrunde liegt, auf das Bezug genommen wird. Denn dies ist regelmässig sowohl bei der Bürgschaft wie auch beim bürgschaftsähnlichen Garantievertrag der Fall (BGE 113 II 434 E. 3b S. 438 und E. 2a S. 436; vgl. auch BGE 131 III 511 E. 4.3 S. 525).
Die Beschwerdeführerin führt hingegen zu Recht den Umstand als für eine akzessorische Sicherheit sprechend an, dass die "Garantieerklärung" ihrem Wortlaut nach die Bezahlung aller "additional amounts due under the Contract [Kaufvertrag über Eisenerz]" sicherstellen sollte. Daraus könnte in der Tat geschlossen werden, dass die Beschwerdeführerin nur die Bezahlung der nach dem Kaufvertrag wirklich geschuldeten Forderung sicherstellen wollte. Auf der anderen Seite hat die Beschwerdeführerin im gleichen Satz ihrer Erklärung auf sämtliche Einreden und Einwendungen aus dem Hauptschuldvertrag verzichtet ("waiving all rights of objection and defence"), was eher zum Schluss beiträgt, es sei eine selbständige Verpflichtung gewollt gewesen. Für einen solchen Schluss spricht auch die an gleicher Stelle abgegebene Erklärung, auf erstes Verlangen ("upon first ... request of the Seller") zu bezahlen, wenn von der Beschwerdegegnerin bestätigt werde, dass der verlangte Betrag nach dem Vertrag geschuldet bzw. fällig geworden, aber vom Käufer nicht bezahlt worden sei ("confirming that the amount requested has become due under the Contract and has not been paid by the Buyer") [Garantiefall]. Dass diese blosse Erklärung ohne jegliche weitere Nachweise für die Auslösung der Zahlungspflicht der Beschwerdeführerin ausreichen soll, spricht für eine selbständige Garantieverpflichtung.
5.2.3 Sodann macht die Beschwerdeführerin geltend, die "Garantieerklärung" sei ihrem Wortlaut nach abgegeben worden "to make the execution of the Contract possible". Deutlicher lasse sich das Haupt- und das Sicherungsgeschäft kaum voneinander abhängig machen.
Dem kann nicht gefolgt werden. Die Vorinstanz hat aus der angerufenen Wendung zu Recht nicht darauf geschlossen, dass die Garantieforderung das Schicksal der Hauptforderung teilen sollte. Allenfalls könnte daraus abgeleitet werden, dass die Beschwerdeführerin an der Abwicklung des genannten Vertrages ein eigenes Interesse hatte, entgegen ihren anderslautenden Behauptungen, mit denen sie nicht zu hören ist, da sie diese ohne Erhebung einer Sachverhaltsrüge auf Sachverhaltselemente stützt, zu denen die Vorinstanz keine Feststellungen getroffen hat (Erwägung 2 vorne). Ein eigenes Interesse am Hauptschuldvertrag wäre aber gerade eher ein Indiz für eine selbständige Verpflichtung, d.h. einen Garantievertrag, und nicht für eine Bürgschaft, hat allerdings nach der Rechtsprechung für sich allein keine ausschlaggebende Bedeutung (BGE 125 III 305 E. 2b S. 309; 113 II 434 E. 3f; 111 II 279 E. 2b/c; vgl. auch BGE 128 III 295 E. 2d/bb S. 303).
5.2.4 Die Vorinstanz berücksichtigte zutreffend als Indiz für einen Garantievertrag, dass der Geldbetrag, den die Beschwerdeführerin im Garantiefall zu leisten versprochen habe, den von der Z._ Ltd. zu bezahlenden Kaufpreis übersteige, und somit das Leistungsversprechen der Garantin nicht mit der Leistungspflicht der Hauptschuldnerin übereinstimme. Es müsse nicht auf das Grundverhältnis zurückgegriffen werden, um die geschuldete Garantieleistung feststellen zu können.
Die Beschwerdeführerin mag dagegen nicht aufzukommen, indem sie geltend macht, die Angabe eines zahlenmässigen Höchstbetrages spreche für eine Bürgschaft. Zwar trifft es zu, dass das Bürgschaftsrecht als Gültigkeitserfordernis der Verpflichtung verlangt, dass in der Urkunde der zahlenmässige Höchstbetrag der Bürgenhaftung angegeben wird (Art. 493 Abs. 1 OR). Indessen ist die Nennung des zahlenmässigen (Höchst)Betrages der Haftung durchaus auch in Garantieversprechen üblich und zur Bestimmung der selbständigen Verpflichtung des Garanten ohne Rückgriff auf das Hauptschuldverhältnis regelmässig auch erforderlich. Aus der Nennung des Höchstbetrages lässt sich damit kein Schluss auf das eine oder das andere Sicherungsgeschäft ziehen.
Hingegen spricht es für eine selbständige Verpflichtung, dass die Leistung des Promittenten in der strittigen Erklärung selber umschrieben wird, nämlich die Bezahlung eines jeden von der Beschwerdegegnerin verlangten Betrages bis zur Obergrenze von USD 854'437.50 auf blosse Erklärung hin, dass der verlangte Betrag nach dem Hauptschuldverhältnis fällig und von der Käuferin nicht bezahlt worden sei. Damit wird der Rückgriff auf das Hauptschuldverhältnis zur Bestimmung der Leistung des Promittenten entbehrlich. Das Leistungsversprechen der Beschwerdeführerin erscheint somit nicht als mit demjenigen der Käuferin nach dem Hauptschuldverhältnis identisch (BGE 113 II 434 E. 3b S. 439), wenn es auch zutreffen mag, dass es fraglich ist, ob im vorliegenden Fall mit den Vorinstanzen aus dem Umstand, dass der Höchstbetrag der Garantiehaftung nicht mit dem Kaufpreis im Kaufvertrag mit der Z._ Ltd. übereinstimmt, ohne weiteres auf einen Garantievertrag geschlossen werden kann, zumal auch der Bürgschaftsbetrag durchaus höher sein kann als der Forderungsbetrag im Hauptschuldverhältnis und Kosten sowie Zinsen mitabdecken kann (vgl. Art. 499 Abs. 2 OR; vgl. dazu immerhin BGE 128 III 295 E. 2d/bb mit Hinweis auf den vorstehend zitierten Entscheid BGE 113 II 434).
5.2.5 Die Beschwerdeführerin streicht weiter hervor, dass ihre Verpflichtung nach dem Wortlaut des Vertrages durch jede Zahlung der Promittentin oder der Käuferin für die Verbindlichkeiten der Käuferin aus dem Kaufvertrag reduziert werden soll ("The ... amount of the Guarantor's obligations ... shall be reduced automatically by the amount of repayments effected by the Buyer or the Guarantor, for the obligations of the Buyer under the Contract"). Sie hält dafür, dieser Konnex sei typisch für eine Bürgschaft.
Auch darin kann der Beschwerdeführerin nicht gefolgt werden. Die Vorinstanz erwog dazu überzeugend, die angerufene Vertragsbestimmung sei nicht mehr und nicht weniger als Ausdruck davon, dass mit einer Garantieleistung schliesslich auch nur der Ausfall aus der Nichterfüllung des Grundgeschäfts bzw. aus dem Nichteintritt des garantierten Erfolges ausgeglichen werden solle. Die Beschwerdeführerin geht auf diese Begründung nicht ein und zeigt nicht auf, weshalb diese bundesrechtswidrig sein soll, was auch nicht ersichtlich ist. Die angerufene Bestimmung korreliert im Übrigen mit derjenigen, dass es für die Auslösung der Zahlungspflicht erforderlich und ausreichend ist, wenn die Beschwerdegegnerin die Erklärung beibringt, sie sei für den nach dem Kaufvertrag geschuldeten bzw. fälligen Betrag nicht bezahlt worden (vgl. Erwägung 5.2.2 vorne).
5.2.6 Weiter beruft sich die Beschwerdeführerin darauf, dass die Gültigkeit der Garantie zeitlich bis zum Ablaufdatum des Hauptschuldvertrags begrenzt werde, womit die Garantieerklärung auch in zeitlicher Hinsicht vollkommen vom Hauptvertrag abhängig gemacht werde. Auch die zeitliche Begrenzung bis zum Ablaufdatum des Hauptschuldvertrages steht, wie die Vorinstanz zutreffend dargelegt hat, der Annahme eines Garantievertrages nicht entgegen, da mit Dahinfallen des Hauptschuldverhältnisses auch die Grundlage des Sicherstellungsgeschäfts hinfällig würde und der zu garantierende Erfolg ohnehin nicht mehr eintreten könnte. Dieser Argumentation kann ohne weiteres gefolgt werden und die Beschwerdeführerin hält ihr nichts entgegen.
5.2.7 Nach dem Dargelegten überwiegen vorliegend die Indizien, dass es sich beim strittigen Sicherstellungsversprechen um eine selbständige Verpflichtung, mithin um eine Garantie im Sinne von Art. 111 OR handelt.
Zu beachten ist schliesslich, dass die Promittentin vorliegend eine im internationalen Handel tätige Gesellschaft ist und nicht etwa die Privatperson B._, die die Garantieerklärung als Vertreter unterzeichnete. Es ist damit von vornherein unbehelflich, wenn die Beschwerdeführerin die Geschäftsgewandtheit von B._ bestreitet. Die Garantieerklärung wurde überdies im Zusammenhang mit einem internationalen Handelsgeschäft abgegeben. Auch wenn aufgrund der vorstehend vorgenommenen Vertragsauslegung Zweifel über die Natur der Verpflichtung bestehen bleiben würden, griffe unter diesen Umständen die Vermutung, dass ein selbständiges Garantieversprechen vorliegt (vorstehende Erwägung 5.1.2 in fine).
Die Vorinstanz verletzte damit kein Bundesrecht, indem sie die strittige Erklärung als Garantie im Sinne von Art. 111 OR qualifizierte.
6. Die Vorinstanz ist damit grundsätzlich zutreffend davon ausgegangen, dass die Beschwerdeführerin mit Einwendungen und Einreden aus dem Hauptschuldverhältnis gegen die hier strittige Forderung ausgeschlossen ist.
Immerhin ist anzumerken, dass die streitbetroffene Garantieerklärung vorsieht, dass die Garantieverpflichtung mit jeder Zahlung der Käuferin oder der Garantin für die Verbindlichkeiten aus dem Hauptschuldverhältnis reduziert wird. Die mit dem vorliegenden Garantievertrag eingegangene selbständige Verpflichtung wurde damit unter dem Vorbehalt des Nachweises einer bereits erfolgten Zahlung eingegangen, so dass der Beschwerdeführerin grundsätzlich der Nachweis der bereits erfolgten Zahlung offen steht. Davon sind auch die Erstinstanz in ihrer Hauptbegründung und die Vorinstanz in einer Alternativbegründung zutreffend ausgegangen.
Die Beschwerdeführerin kritisiert, dass die Vorinstanz Beweise nicht abgenommen habe, die sie zur bereits erfolgten Zahlung angeboten habe. Beweis ist indessen nur über Tatsachen abzunehmen, die prozessrechtskonform behauptet und hinreichend substanziiert worden sind (vgl. dazu BGE 127 III 248 E. 2c, 365 E. 2c S. 369; 124 I 241 E. 2; 112 Ia 1 E. 3c S. 2 f.; 108 II 337 E. 2c/d und 3 S. 341 f., je mit Hinweisen). Nach den vorinstanzlichen Feststellungen hat die Beschwerdeführerin in der Duplik lediglich ausgeführt, es sei "nicht einmal auszuschliessen, dass die Forderung seitens der Z._ Ltd. bezahlt worden ist". Sie habe damit im erstinstanzlichen Verfahren nicht behauptet, die Käuferin habe ihre Verpflichtungen aus dem Grundschuldverhältnis erfüllt. Die Beschwerdeführerin setzt sich damit nicht auseinander und legt nicht dar, inwiefern die Vorinstanz mit ihrer Würdigung gegen Bundesrecht verstossen haben soll, was auch nicht ersichtlich ist. Auf ihre Kritik an der Nichtabnahme der angebotenen Beweise ist daher nicht weiter einzugehen.
7. Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Verfahrensausgang wird die Beschwerdeführerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 10'000.-- werden der Beschwerdeführerin auferlegt.
3. Die Beschwerdeführerin hat die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 12'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Zug, Zivilrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 29. Januar 2009
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Widmer