Sachverhalt: A. A.a Die Y._ AG mit Sitz in Z._ (Beschwerdegegnerin) ist eine Vermögensverwaltungsgesellschaft. In der Zeit vom 2. Mai 1996 bis zum 12. Oktober 2006 war die Beschwerdegegnerin für die Pensionskasse X._ mit Sitz in Q._ (Beschwerdeführerin) als externe Vermögensverwalterin tätig. A.b Die Vermögensverwaltung basierte auf einer als "Asset-Management-Vereinbarung" bezeichneten Vereinbarung vom 2. Mai 1996. Ziffern 7 und 8 des Vermögensverwaltungsvertrags sehen Folgendes vor: "7. Der Auftraggeber ersetzt der [Beschwerdegegnerin] sämtliche Courtagen, Abgaben und übrigen Auslagen, die bei der Erfüllung dieses Vertrages anfallen. Allfällige Retrozessionen stehen vollumfänglich der [Beschwerdegegnerin] zu. 8. Der Auftraggeber zahlt der [Beschwerdegegnerin] eine allgemeine Administrativkommission von 0.5 % p.a. des Depotwertes. Die Administrativkommission wird vierteljährlich erhoben. Als Berechnungsgrundlage dient jeweils der Depotwert per Ende des Vorquartals. Die Berechnung der Administrativkommission erfolgt pro rata temporis." In Ziffer 17 wird ein als "Vereinbarung betreffend der Transaktionskosten sowie der zugelassenen Portfoliomanagement Aktivitäten" bezeichnetes Schreiben vom 2. Mai 1996 als integrierender Vertragsbestandteil erklärt. Nach diesem "betragen die Transaktionskosten (Courtage) jeweils 0.5 % pro Abrechnung". A.c Der Beschwerdegegnerin wurden von der Depotbank M._ keine Courtagen belastet, die ihr von der Auftraggeberin nach Ziffer 7 Satz 1 zurückzuerstatten gewesen wären. Die Bank M._ rechnete als Depotbank die Börsenaufträge jeweils netto ab, d.h. die Courtage von 0.5 % wurde in den Aktienkurs integriert. Sie vergütete der Beschwerdegegnerin aus vereinnahmten Transaktionsgebühren insgesamt Fr. 3'513'932.65 sowie Fr. 118'673.66 aus vereinnahmten Depotgebühren. B. B.a Mit Eingabe vom 13. April 2007 klagte die Beschwerdeführerin beim Kantonsgericht Zug gegen die Beschwerdegegnerin auf Rechnungslegung sowie Bezahlung von Fr. 118'673.66 zuzüglich Zins. Mit Replik vom 4. Oktober 2007 ergänzte die Beschwerdeführerin ihr Rechtsbegehren mit einer zusätzlichen Forderung über Fr. 3'513'932.65 zuzüglich Zins. Sie stellte sich auf den Standpunkt, die Beschwerdegegnerin habe ihr die Retrozessionen zu vergüten, die dieser von der Depotbank zugeflossen seien. Mit Urteil vom 19. Februar 2009 hiess das Kantonsgericht Zug die Klage im Umfang von Fr. 118'673.66 sowie Fr. 3'513'932.65, jeweils zuzüglich Zins, gut. Die Rechtsbegehren der Beschwerdeführerin betreffend Rechenschaftsablegung und Befreiung vom Bankgeheimnis wies es ab, soweit diese nicht gegenstandslos geworden seien. B.b Mit Urteil vom 23. März 2010 hiess das Obergericht des Kantons Zug eine von der Beschwerdegegnerin gegen das kantonsgerichtliche Urteil erhobene Berufung gut, es hob das angefochtene Urteil vom 19. Februar 2009 auf und wies die Klage ab. Das Obergericht erwog, die in der Zusatzvereinbarung erwähnten Transaktionskosten (Courtagen) von jeweils 0.5 % pro Abrechnung stellten keinen Honorarbestandteil dar, sondern seien als Entgelt der Depotbank für deren Transaktionsaufwand zu verstehen. Daraus sei zu schliessen, dass es sich bei den Vergütungen aus vereinnahmten Transaktionsgebühren in der Höhe von Fr. 3'513'932.65 um indirekte Vorteile der Beschwerdegegnerin gehandelt habe, die dieser im Rahmen ihrer Vermögensverwaltungstätigkeit von der Depotbank zugekommen seien. Dieser Betrag sei demzufolge wie auch die von der Bank M._ aus vereinnahmten Depotgebühren vergüteten Fr. 118'673.66 als Retrozession zu qualifizieren. Das Obergericht hielt zudem fest, aus Ziffer 7 des Vermögensverwaltungsvertrags vom 2. Mai 1996 gehe der Wille der Beschwerdeführerin, auf die Ablieferung von Retrozessionen zu verzichten, unmissverständlich hervor. Ein Verzicht auf den auftragsrechtlichen Herausgabeanspruch setze allerdings nicht nur einen klar geäusserten Willen zum Verzicht voraus, sondern auch eine vollständige vorgängige Information des Verzichtenden. Bei branchenkundigen Parteien könnten geringere Anforderungen an die Information gestellt werden. Ein bloss allgemeiner Hinweis, wonach der Vermögensverwalter möglicherweise Rückvergütungen erhalte, reiche jedoch nicht aus. Bei den Parteien handle es sich um Branchenkenner, deren involvierte Parteien als erfahrene und professionelle Vermögensverwalter zu bezeichnen seien. Die Beschwerdeführerin, so die Vorinstanz weiter, sei eine Pensionskasse und institutionelle Anlegerin mit entsprechend hohem Fachwissen. Aufgrund dieses Fachwissens sei davon auszugehen, dass die Beschwerdeführerin grundsätzlich gewusst habe, worauf sie verzichtete, wenn sie "allfällige Retrozessionen" der Beschwerdegegnerin "vollumfänglich" zugestand. Sie habe aufgrund von Ziffer 7 der Vermögensverwaltungsvereinbarung vom 2. Mai 1996 gewusst, dass die von der Depotbank in Rechnung gestellten Transaktionskosten pro Transaktion 0.5 % betrugen. Aufgrund dieser Vertragsklausel, aber auch dank ihrer Kenntnisse über das Pricing der Transaktionsausübung im institutionellen Anlagegeschäft habe die Beschwerdeführerin wissen müssen, dass Retrozessionen aus den Transaktionskosten fliessen würden und diese in ihrer Höhe rein mathematisch begrenzt gewesen seien durch die maximale Höhe der vereinbarten Transaktionskosten von 0.5 % des Gesamtvolumens aller Transaktionen. Im Wissen um die Bandbreite der möglichen Retrozessionen habe die Beschwerdeführerin als geschäftserfahrene Anlegerin über genügend Informationen für einen rechtsgültigen Verzicht verfügt. Zu beachten sei zudem, dass der Verband Schweizerischer Vermögensverwalter (VSV) von einer durchschnittlichen Bruttomarge von 0.8 % ausgehe. Daher könne nicht behauptet werden, die von der Depotbank M._ ausbezahlten Retrozessionen im Umfang von rund 80 % der gesamten Transaktionsgebühren von Fr. 4'433'875.57, was 0.4 % des Gesamtvolumens aller Transaktionen entspreche, seien "völlig jenseits des Erwartbaren". C. Mit Beschwerde in Zivilsachen beantragt die Beschwerdeführerin dem Bundesgericht im Wesentlichen, es sei das Urteil des Obergerichts des Kantons Zug vom 23. März 2010 aufzuheben und die Beschwerdegegnerin zur Zahlung von Fr. 118'673.66 sowie Fr. 3'513'932.65, jeweils zuzüglich Zins, zu verurteilen. Eventualiter sei das angefochtene Urteil aufzuheben und zur Neubeurteilung an die Vorinstanz zurückzuweisen. Im Weiteren seien die Kosten und Entschädigungen des kantonalen Verfahrens neu festzusetzen. Die Beschwerdegegnerin beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Vorinstanz schliesst auf Abweisung der Beschwerde. Die Beschwerdeführerin reichte dem Bundesgericht eine Replik, die Beschwerdegegnerin eine Duplik ein. D. Mit Verfügung vom 24. August 2010 wies das Bundesgericht das Gesuch der Beschwerdeführerin um Erteilung der aufschiebenden Wirkung ab.