Sachverhalt:
A. Die 1957 geborene B._ ist seit November 1997 als Direktionssekretärin bei der Firma X._ AG tätig. Am 26. Oktober 2009 erlitt sie eine Hirnblutung, was zu einer Beeinträchtigung der Arbeitsfähigkeit führte. B._ meldete sich deswegen im März/April 2010 zur Früherfassung und zum Leistungsbezug bei der Invalidenversicherung an. Die IV-Stelle Zug traf Abklärungen beim Arbeitgeber, holte Arztberichte ein und veranlasste eine neuropsychologische Untersuchung, über welche am 20. Juni 2011 Bericht erstattet wurde. Mit Verfügung vom 1. November 2011 sprach sie der Versicherten rückwirkend ab 1. Oktober 2010 bei einem Invaliditätsgrad von 51 % eine halbe Invalidenrente und ab 1. Juni 2011 bei einem Invaliditätsgrad von 45 % eine Viertelsrente zu.
B. Die von B._ hiegegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Zug gut und verpflichtete die Invalidenversicherung, ab 1. Oktober 2010 bei einem Invaliditätsgrad von 63 % eine Dreiviertelsrente sowie ab 1. Juni 2011 bei einem Invaliditätsgrad von 58 % eine halbe Rente auszurichten (Entscheid vom 15. März 2012).
C. Die IV-Stelle führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, es sei der vorinstanzliche Entscheid aufzuheben und die Verfügung vom 1. November 2011 zu bestätigen; eventuell sei die Sache zur weiteren Abklärung an das kantonale Gericht zurückzuweisen.
B._, unter Beilage einer Stellungnahme ihrer Arbeitgeberin vom 24. Mai 2012, und die Vorinstanz schliessen je auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG). Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden; es kann eine Beschwerde aus einem anderen als dem angerufenen Grund gutheissen und es kann eine Beschwerde mit einer von der Argumentation der Vorinstanz abweichenden Begründung abweisen. Das Bundesgericht prüft grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen werden (<ref-ruling> E. 2.2.1 S. 389 mit Hinweisen; Urteil 8C_934/2008 vom 17. März 2009 E. 1 mit Hinweisen, nicht publ. in: <ref-ruling>, aber in: SVR 2009 UV Nr. 35 S. 120).
2. Das kantonale Gericht hat die namentlich interessierenden Bestimmungen zu den Begriffen Invalidität (Art. 8 Abs. 1 ATSG) und Erwerbsunfähigkeit (Art. 7 ATSG), zum nach dem Grad der Invalidität abgestuften Anspruch auf eine Invalidenrente (Art. 28 Abs. 2 IVG), zur - bei der rückwirkenden Zusprechung einer abgestuften oder befristeten Rente sinngemäss anzuwendenden - Regelung der Rentenrevision (Art. 17 ATSG in Verbindung mit Art. 88a Abs. 1 IVV), sowie zur Ermittlung des Invaliditätsgrades bei Erwerbstätigen mittels Einkommensvergleich (Art. 16 ATSG; vgl. auch Art. 28a Abs. 1 IVG) resp. bei teils erwerblich und daneben im Aufgabenbereich tätigen Versicherten nach der sog. gemischten Methode (Art. 28a Abs. 3 in Verbindung mit Abs. 2 IVG sowie mit Art. 16 ATSG) mit der dazu ergangenen Rechtsprechung zutreffend dargelegt. Darauf wird verwiesen.
3. Die Parteien und die Vorinstanz sind sich darin einig, dass die Invalidität aufgrund der gegebenen Umstände trotz nur teilzeitlicher Erwerbstätigkeit nicht nach der gemischten Methode, sondern mittels Einkommensvergleich zu bestimmen ist und hiebei die Verhältnisse in den Jahren 2010 und 2011 massgeblich sind. Es steht sodann fest und ist nicht umstritten, dass die Versicherte ohne gesundheitliche Beeinträchtigung mutmasslich weiterhin zu 81.4 % bei der Firma X._ AG tätig wäre und ihr Einkommen hiebei Fr. 69'875.- (2010) resp. Fr. 70'370.30 (2011) betragen würde. Von diesem Valideneinkommen ist nachfolgend auszugehen.
4. Dem Valideneinkommen ist das Einkommen gegenüberzustellen, welches die Versicherte nach Eintritt der Invalidität trotz gesundheitlicher Beeinträchtigung durch eine ihr zumutbare Tätigkeit bei ausgeglichener Arbeitsmarktlage erzielen könnte (Invalideneinkommen; Art. 16 ATSG). Dabei gehen die Meinungen darüber auseinander, wie das Invalideneinkommen zu bestimmen ist.
Gemäss Verwaltungsverfügung vom 1. November 2011 ist der Lohn, welchen die Versicherte im Rahmen der weiterhin in einem Pensum von zunächst 40 % und dann von 45 % ausgeübten Tätigkeit bei der Firma X._ AG bezieht, als Invalideneinkommen dem Einkommensvergleich zugrunde zu legen.
Das kantonale Gericht hat erwogen, bei der Bestimmung des Invalideneinkommens sei nur ausnahmsweise auf den tatsächlichen Verdienst abzustellen. Nach Lage der Akten sei nicht erstellt, dass die Versicherte für die Präsenzzeit von 45 % eine volle Leistung erzielen könne. Ein Soziallohnanteil im Umfang von ca. 5 % oder etwas mehr lasse sich nicht ausschliessen, sodass sich das ausnahmsweise Abstellen auf den tatsächlich erzielten Verdienst klar verbiete und Tabellenlöhne heranzuziehen seien.
Die Beschwerde führende Verwaltung wendet ein, die Vorinstanz sei bei diesen Erwägungen von falschen rechtlichen Grundlagen ausgegangen.
4.1 Der Einwand ist begründet. Nach der Rechtsprechung ist für die Festsetzung des Invalideneinkommens primär von der beruflich-erwerblichen Situation auszugehen, in welcher die versicherte Person konkret steht. Übt sie nach Eintritt der Invalidität eine Erwerbstätigkeit aus, bei der - kumulativ - besonders stabile Arbeitsverhältnisse gegeben sind und anzunehmen ist, dass sie die ihr verbleibende Arbeitsfähigkeit in zumutbarer Weise voll ausschöpft, und erscheint zudem das Einkommen aus der Arbeitsleistung als angemessen und nicht als Soziallohn, gilt grundsätzlich der tatsächlich erzielte Verdienst als Invalidenlohn. Ist kein solches tatsächlich erzieltes Erwerbseinkommen gegeben, namentlich weil die versicherte Person nach Eintritt des Gesundheitsschadens keine oder jedenfalls keine ihr an sich zumutbare neue Erwerbstätigkeit aufgenommen hat, so können nach der Rechtsprechung entweder die LSE-Tabellenlöhne oder die sogenannten DAP-Zahlen (DAP = Dokumentation von Arbeitsplätzen seitens der SUVA) herangezogen werden (<ref-ruling> E. 5.2 S. 301; <ref-ruling> E. 4.2.1 S. 475).
Das Abstellen auf den tatsächlichen Verdienst ist mithin entgegen dem angefochtenen Entscheid nicht als Ausnahme, sondern als Regel zu betrachten. Von dieser Regel kann zwar unter anderem dann abgewichen werden, wenn - wie hier von der Vorinstanz postuliert - Soziallohn vorliegt. Denn nach Art. 25 Abs. 1 lit. b IVV gehören Lohnbestandteile, für die der Arbeitnehmer nachgewiesenermassen wegen beschränkter Arbeitsfähigkeit keine Gegenleistung erbringen kann, nicht zu dem für die Invaliditätsbemessung massgebenden Erwerbseinkommen. Praxisgemäss sind an den Nachweis von Soziallohn indessen strenge Anforderungen zu stellen, da vom Grundsatz ausgegangen werden muss, dass ausbezahlte Löhne normalerweise das Äquivalent einer entsprechenden Arbeitsleistung sind (<ref-ruling> E. 2c/aa S. 18; Urteil 9C_26/2008 vom 26. Mai 2008 E. 5.1). Als Indiz für eine freiwillige Sozialleistung fallen insbesondere verwandtschaftliche Beziehungen zur versicherten Person oder eine lange Dauer des Arbeitsverhältnisses in Betracht (ZAK 1980 S. 344, I 91/78 E. 2b; in RtiD 2009 I S. 257 f. auszugsweise wiedergegebenes Urteil 8C_290/2007 vom 7. Juli 2008 E. 5.2) Bei der richterlichen Würdigung von Arbeitgeberbescheinigungen ist auch zu bedenken, dass Arbeitgeberinnen und Arbeitgeber ein eigenes Interesse daran haben können, die Bezahlung von Soziallohn zu behaupten (<ref-ruling> E. 4c 277; <ref-ruling> E. 2 S. 93; ZAK 1980, a.a.O., E. 2b; erwähntes Urteil 8C_290/2007 E. 5.2).
4.2 Indem die Vorinstanz das Abstellen auf den tatsächlichen Verdienst als Ausnahmefall betrachtet hat, entschied sie nach dem Gesagten rechtsfehlerhaft. Rechtsfehlerhaft ist auch, dass das kantonale Gericht erwogen hat, ein Soziallohn müsse nicht nachgewiesen sein, sondern es genüge, wenn er nicht ausgeschlossen werden könne.
Für die vorliegende Beurteilung hat dies zur Folge, dass das Bundesgericht auch in tatbeständlicher Hinsicht nicht an die vorinstanzlichen Erwägungen gebunden ist.
4.3 Umstritten ist, ob der Verdienst, den die Versicherte im Rahmen des Anstellungsverhältnisses bei der Firma X._ AG bezieht, mit überwiegender Wahrscheinlichkeit teilweise Soziallohn darstellt. Andere Faktoren, welche der Verwendung des tatsächlichen Verdienstes zur Bestimmung des Invalideneinkommens entgegenstünden (vgl. E. 4.1 Abs. 1 hievor), liegen gemäss dem diesbezüglich unbestrittenen vorinstanzlichen Entscheid nicht vor.
4.4 Die Versicherte hat im kantonalen Verfahren zwei Stellungnahmen der Arbeitgeberin vom 24. November 2011 und 31. Januar 2012 und einen Bericht der behandelnden Ärztin vom 16. Dezember 2011 aufgelegt.
4.4.1 Die Arbeitgeberin führt aus, die Leistungsfähigkeit der Versicherten am Arbeitsplatz sei gesundheitsbedingt in verschiedenen Punkten eingeschränkt. Die Arbeitsfähigkeit entspreche daher nicht dem zeitlich ausgeübten und entlöhnten Pensum von 45 %, sondern liege lediglich zwischen 35 und 40 %.
Ein Aspekt, welcher für Soziallohn spricht, ist sicher die langjährige Dauer des Arbeitsverhältnisses. Zu beachten ist aber auch, dass die Arbeitgeberin im Verwaltungsverfahren nicht in Frage gestellt hatte, dass die Versicherte die ärztlich bestätigte Restarbeitsfähigkeit am Arbeitsplatz umsetzen könne. Vielmehr visierte sie wiederholt die Arbeitsunfähigkeitsatteste. Zuletzt erfolgte dies am 2. März 2011 und 27. Juni 2011 für eine bestätigte Arbeitsunfähigkeit von 55 %. Zudem stimmte die Arbeitgeberin jeweils den von der behandelnden Ärztin attestierten Steigerungen des Arbeitspensums zu, ohne dass erkennbar wäre, dass sie hiebei Vorbehalte angebracht hätte. Diese Gesichtspunkte lassen die Stellungnahmen der Arbeitgeberin nicht als verlässliche Grundlage für die Annahme von Soziallohn erscheinen.
4.4.2 Ärztliche Aussagen, welche die Angaben der Arbeitgeberin zuverlässig stützen könnten, liegen nicht vor. Auch der von der Versicherten angerufene Arztbericht vom 13. Dezember 2011 ändert hieran nichts. Die behandelnde Ärztin führt darin aus, ihre Einschätzung einer 55%igen Arbeitsunfähigkeit habe auf den medizinischen Vorakten, einschliesslich des neuropsychologischen Untersuchungsberichts vom 20. Juni 2011, sowie auf den Angaben der Beschwerdegegnerin beruht. Dass diese in der 45%igen Präsenzzeit am Arbeitsplatz nicht die volle Leistung erbringen könne, sei ihr nicht bewusst gewesen. Wahrscheinlich habe sich die Versicherte mit ihrem Wunsch, möglichst viel zu arbeiten und wenig IV-Leistungen zu beziehen, etwas selbst überfordert. Aufgrund der Angaben, welche die Arbeitgeberin jetzt mache, scheine die Leistungsfähigkeit während der 45%igen Präsenzzeit am Arbeitsplatz jedoch reduziert zu sein.
Soweit die Ärztin eine höhere Arbeitsunfähigkeit postuliert, erfolgt dies mithin nicht aufgrund ihrer eigenen medizinischen Erkenntnisse, sondern auf einer auf die Angaben der Arbeitgeberin gestützten Vermutungsbasis. Eine verlässliche Grundlage, um entgegen dem zuvor Gesagten von einem reduzierten Leistungsvermögen im 45 %-Pensum auszugehen, stellen diese ärztlichen Ausführungen nicht dar.
Nichts anderes ergibt sich aus dem erwähnten neuropsychologischen Untersuchungsbericht vom 20. Juli 2011, zumal darin nicht ausgeschlossen wurde, dass die Versicherte zumindest das derzeitige Arbeitspensum zu bewältigen vermöge.
4.4.3 Die Beschwerdegegnerin beruft sich sodann auf die im letztinstanzlichen Verfahren aufgelegte Stellungnahme der Arbeitgeberin vom 24. Mai 2012. Dabei handelt es sich indessen um ein nicht zulässiges neues Beweismittel (Art. 99 Abs. 1 BGG). Die Stellungnahme ist zudem erst nach dem angefochtenen Entscheid entstanden und daher auch unter diesem Gesichtswinkel, als sog. echtes Novum, vor Bundesgericht unzulässig (SVR 2011 IV Nr. 57 S. 171, 8C_958/2010 E. 4.3.1; Urteile 2C_532/2012 vom 12. Juni 2012 E. 2.3.2 und 8C_748/2011 vom 11. Juni 2012 E. 2.1, je mit Hinweis). Im Übrigen vermöchte die Stellungnahme inhaltlich ohnehin nicht, die Annahme von Soziallohn zu stützen.
4.5 Damit bleibt es dabei, dass mangels nachgewiesenen Soziallohnes bei der Bestimmung des Invalideneinkommens vom tatsächlich erzielten Lohn auszugehen ist. Weitere Abklärungen lassen keinen entscheidrelevanten neuen Aufschluss erwarten, zumal sie gerade auch aufgrund des geringen graduellen Unterschiedes zwischen der ärztlich bescheinigten Arbeitsunfähigkeit von 45 % und der von der Arbeitgeberin postulierten von bis zu 40 % keine verlässliche Differenzierung erwarten lassen. Die Beschwerde der IV-Stelle ist demnach begründet, was zur Aufhebung des kantonalen Entscheides führt.
5. Die Kosten des Verfahrens sind von der unterliegenden Beschwerdegegnerin zu tragen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der Entscheid des Verwaltungsgerichts des Kantons Zug, Sozialversicherungsrechtliche Kammer, vom 15. März 2012 aufgehoben.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Sache wird zur Neuverlegung der Kosten und der Parteientschädigung des vorangegangenen Verfahrens an das Verwaltungsgericht des Kantons Zug, Sozialversicherungsrechtliche Kammer, zurückgewiesen.
4. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Zug, Sozialversicherungsrechtliche Kammer, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 11. September 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Der Gerichtsschreiber: Lanz