Sachverhalt:
A. Die 1967 geborene D._ bezog seit 1. Januar 2001 eine halbe Invalidenrente, basierend auf einem Invaliditätsgrad von 50 %, errechnet anhand der gemischten Methode mit den Anteilen Erwerb 70 % und Haushalt 30 % (Wiedererwägungsverfügung der IV-Stelle St. Gallen vom 28. November 2002). Auf ihr Rentenerhöhungsgesuch vom 21. Februar 2005 hin stellte die IV-Stelle fest, es bestehe nach wie vor Anspruch auf eine halbe Rente (Verwaltungsakt vom 17. März 2005, bestätigt mit Einspracheentscheid vom 10. Juni 2005). In teilweiser Gutheissung der dagegen erhobenen Beschwerde wies das Versicherungsgericht des Kantons St. Gallen die Angelegenheit zur weiteren Sachverhaltsabklärung und neuer Entscheidung über den Anspruch auf eine höhere als eine halbe Rente für die Zeit ab 1. Oktober 2003 im Sinne der Erwägungen an die IV-Stelle zurück; bezüglich der Rentenberechtigung bis 30. September 2003 wies es die Beschwerde ab (Entscheid vom 25. April 2006). Die IV-Stelle holte in der Folge unter anderem ein Gutachten des Instituts U._ vom 29. Dezember 2006 ein. Nach Durchführung des Vorbescheidverfahrens hielt sie am Anspruch auf eine halbe Rente fest, nachdem sie in Anwendung der allgemeinen Methode der Invaliditätsbemessung einen Invaliditätsgrad von 53 % ermittelt hatte (Verfügung vom 21. April 2009).
B. Das Versicherungsgericht des Kantons St. Gallen hiess die dagegen erhobene Beschwerde in dem Sinne gut, als sie die IV-Stelle verpflichtete, D._ ab 1. Oktober 2003 eine Dreiviertelsrente auszurichten (Entscheid vom 4. August 2011).
C.a D._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, die Angelegenheit sei "zur Neubeurteilung im Sinne der Zusprache einer vollen Invalidenrente rückwirkend ab 1. Juli 2003, eventualiter ab 1. Oktober 2003, subeventualiter beschränkt auf den Zeitraum bis Ende Dezember 2006" an die Vorinstanz zurückzuweisen; "hilfsweise sei ihr rückwirkend ab 1. Juli 2003, eventualiter ab 1. Oktober 2003, subeventualiter beschränkt ab dem genannten Beginn und bis Ende Dezember 2006 eine volle Invalidenrente" zuzusprechen.
C.b Die IV-Stelle erhebt ebenfalls Beschwerde in öffentlich-rechtlichen Angelegenheiten und stellt das Rechtsbegehren, der Entscheid des kantonalen Gerichts vom 4. August 2011 sei aufzuheben.
Das Bundesgericht hat die vorinstanzlichen Akten beigezogen. Es ist kein Schriftenwechsel durchgeführt worden.
Erwägungen:
1. Die Beschwerden 8C_646/2011 und 8C_699/2011 richten sich gegen denselben letztinstanzlichen kantonalen Entscheid, betreffen die gleichen Parteien und hängen untrennbar zusammen. Es rechtfertigt sich daher, die Verfahren zu vereinigen und in einem gemeinsamen Urteil zu erledigen (vgl. BGE 128 V 124 E. 1 S. 126 und 192 E. 1 S. 194; je mit Hinweisen; vgl. auch Art. 24 BZP i.V.m. Art. 71 BGG und Urteil 9C_996/2010 vom 5. Mai 2011 E. 1.1).
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 ff. BGG) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 105 Abs. 2 BGG). Es wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Immerhin prüft es, unter Berücksichtigung der allgemeinen Begründungspflicht der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind. Es ist jedenfalls nicht gehalten, wie eine erstinstanzliche Behörde alle sich stellenden rechtlichen Fragen zu untersuchen, wenn diese vor Bundesgericht nicht mehr vorgetragen wurden (BGE 133 II 249 E. 1.4.1 S. 254).
3. Das kantonale Gericht hat die massgeblichen Rechtsgrundlagen, unter Berücksichtigung der intertemporalrechtlichen Fragen, die sich aufgrund der am 1. Januar 2008 im Rahmen der 5. IV-Revision erfolgten Rechtsänderungen stellen (vgl. Urteil 8C_829/2008 vom 23. Dezember 2008 E. 2.1 mit Hinweisen), zutreffend dargelegt. Es betrifft dies insbesondere die gesetzlichen Bestimmungen und von der Rechtsprechung entwickelten Grundsätze zum Begriff der Invalidität (Art. 8 Abs. 1 ATSG in Verbindung mit Art. 4 Abs. 1 IVG) und der Erwerbsunfähigkeit (Art. 7 ATSG), zu den Voraussetzungen und zum Umfang des Rentenanspruchs (Art. 28 Abs. 1 IVG [in der bis 31. Dezember 2007 gültig gewesenen Fassung] und Art. 28 Abs. 2 IVG [in der seit 1. Januar 2008 in Kraft stehenden Fassung]) sowie zur Bemessung des Invaliditätsgrades bei erwerbstätigen Versicherten nach der allgemeinen Methode des Einkommensvergleichs (Art. 28 Abs. 2 IVG [in der vom 1. Januar 2004 bis 31. Dezember 2007 geltenden Fassung] und Art. 16 ATSG; BGE 130 V 343 E. 3.4 S. 348, 128 V 29 E. 1 S. 30, 104 V 135 E. 2a und b S. 136). Darauf wird verwiesen.
4. 4.1 Ändert sich der Invaliditätsgrad eines Rentenbezügers erheblich, so wird gemäss Art. 17 ATSG (vgl. zudem Art. 31 IVG in der seit 1. Januar 2008 geltenden Fassung) die Rente von Amtes wegen oder auf Gesuch hin für die Zukunft entsprechend erhöht, herabgesetzt oder aufgehoben. Dies gilt auch für andere formell rechtskräftig zugesprochene Dauerleistungen, deren Sachverhaltsgrundlage sich nachträglich erheblich verändert hat. Die Frage der wesentlichen Änderung in den tatsächlichen Verhältnissen beurteilt sich durch Vergleich des Sachverhalts, wie er im Zeitpunkt der ursprünglichen Rentenverfügung bestanden hat, mit demjenigen zur Zeit der streitigen Revisionsverfügung. Eine rechtskräftige Revisionsverfügung gilt - im Hinblick auf eine weitere Revision - ihrerseits als (neue) Vergleichsbasis, wenn sie auf einer materiellen Prüfung des Rentenanspruchs mit rechtskonformer Sachverhaltsabklärung, Beweiswürdigung und Durchführung eines Einkommensvergleichs (bei Anhaltspunkten für eine Änderung in den erwerblichen Auswirkungen des Gesundheitszustands) beruht (BGE 133 V 108 E. 5.4 S. 114; 130 V 343 E. 3.5 S. 349 ff.).
4.2 Anlass zur Revision einer Invalidenrente im Sinne von Art. 17 ATSG gibt jede wesentliche Änderung in den tatsächlichen Verhältnissen, die geeignet ist, den Invaliditätsgrad und damit den Rentenanspruch zu beeinflussen. Ein Revisionsgrund ist unter Umständen auch dann gegeben, wenn eine andere Art der Bemessung der Invalidität zur Anwendung gelangt (BGE 130 V 343 E. 3.5 S. 349; Urteil 8C_882/2010 vom 15. April 2011 E. 4), wobei allerdings nicht ohne zwingende Notwendigkeit von den der ursprünglichen Invaliditätsschätzung zugrunde gelegten Bemessungskriterien abgewichen werden soll. So hat das Bundesgericht wiederholt entschieden, dass die in einem bestimmten Zeitpunkt massgebende Methode der Invaliditätsschätzung die künftige Rechtsstellung der Versicherten nicht präjudiziert, sondern dass die Kriterien der Erwerbsunfähigkeit einerseits und der Unmöglichkeit der Betätigung im nichterwerblichen Aufgabenbereich anderseits (Art. 16 ATSG und Art. 28 Abs. 2bis IVG) im Einzelfall einander ablösen können (BGE 113 V 273 E. 1a S. 275).
4.3 Steht das Vorliegen eines Revisionsgrundes für ein Sachverhaltselement fest, so können im Revisionsverfahren auch die anderen Elemente der Anspruchsberechtigung frei überprüft werden. So konnte im Revisionsverfahren eines Versicherten, dessen Gesundheitszustand sich verschlechtert hatte, auch die Höhe des Valideneinkommens ohne Bindung an die ursprüngliche Verfügung neu festgesetzt werden (AHI 2002 S. 164 E. 2a, I 652/00).
5. Die Parteien stimmen darin überein, dass die Versicherte nunmehr im Gesundheitsfall zu 100 % erwerbstätig wäre und demnach zur Bemessung des Invaliditätsgrades neu die allgemeine Methode des Einkommensvergleichs zur Anwendung gelangt. Diese Änderung in den tatsächlichen Verhältnissen bildet bereits für sich allein einen Revisionsgrund (E. 4.2 hiervor). Umstritten ist allerdings, ob zwischenzeitlich eine Verschlechterung des Gesundheitszustandes eingetreten ist, welche sich ihrerseits auf den Rentenanspruch auszuwirken vermag.
6. 6.1 Nach umfassender Auseinandersetzung mit den ärztlichen Stellungnahmen gelangte die Vorinstanz zum nachvollziehbar begründeten Ergebnis, aus gesundheitlichen Gründen sei die angestammte Tätigkeit im Service zwar bleibend nicht mehr möglich, hingegen bestehe nach wie vor für eine vorwiegend im Sitzen zu verrichtende Tätigkeit eine 50%ige Arbeitsfähigkeit, welche in einem halben Pensum mit normaler Leistung und entsprechender Freizeitkompensation umgesetzt werden könne. Diese Beurteilung stützt sich namentlich auf das im Rahmen der medizinischen Abklärungen von der IV-Stelle eingeholte Gutachten des Instituts U._ vom 29. Dezember 2006. Die Experten des Instituts U._ gehen davon aus, dass die Beschwerdeführerin 2 an einer Dysthymie (Differentialdiagnose: rezidivierende depressive Störung mittleren Grades mit somatischem Syndrom), einem chronischen zerviko-thorakovertebralen Schmerzsyndrom mit muskulären Schultergürtel- und Flankenschmerzen links, einem Raynaud-Syndrom seit 1999, an nicht zuzuordnenden brennenden Beschwerden an Handflächen und Fusssohlen beidseits (Differentialdiagnosen: beginnende periphere Polyneuropathie oder im Rahmen der Raynaud-Symptomatik), an statischen Fussbeschwerden beidseits, an einem Livedo reticularis, an einem Status nach Thrombangiitis obliterans 1999 mit Erstsymptomatik in Form eines Raynaud-Syndroms der Hände (aktuell Vollremission) und an chronischen Kopfschmerzen leide. Die Einschränkung der Arbeitsfähigkeit sei sowohl rheumatologisch als auch psychiatrisch bedingt, wobei die aus psychiatrischer Sicht attestierte Arbeitsunfähigkeit von 50 % nicht additiv wirke. Verglichen mit den Vorbegutachtungen durch die Abklärungsstelle E._ vom 15. Oktober 2001 und 2. August 2003 folgern die Experten, es sei keine eindeutige Verschlechterung des Gesundheitszustandes eingetreten.
6. 6.1 Nach umfassender Auseinandersetzung mit den ärztlichen Stellungnahmen gelangte die Vorinstanz zum nachvollziehbar begründeten Ergebnis, aus gesundheitlichen Gründen sei die angestammte Tätigkeit im Service zwar bleibend nicht mehr möglich, hingegen bestehe nach wie vor für eine vorwiegend im Sitzen zu verrichtende Tätigkeit eine 50%ige Arbeitsfähigkeit, welche in einem halben Pensum mit normaler Leistung und entsprechender Freizeitkompensation umgesetzt werden könne. Diese Beurteilung stützt sich namentlich auf das im Rahmen der medizinischen Abklärungen von der IV-Stelle eingeholte Gutachten des Instituts U._ vom 29. Dezember 2006. Die Experten des Instituts U._ gehen davon aus, dass die Beschwerdeführerin 2 an einer Dysthymie (Differentialdiagnose: rezidivierende depressive Störung mittleren Grades mit somatischem Syndrom), einem chronischen zerviko-thorakovertebralen Schmerzsyndrom mit muskulären Schultergürtel- und Flankenschmerzen links, einem Raynaud-Syndrom seit 1999, an nicht zuzuordnenden brennenden Beschwerden an Handflächen und Fusssohlen beidseits (Differentialdiagnosen: beginnende periphere Polyneuropathie oder im Rahmen der Raynaud-Symptomatik), an statischen Fussbeschwerden beidseits, an einem Livedo reticularis, an einem Status nach Thrombangiitis obliterans 1999 mit Erstsymptomatik in Form eines Raynaud-Syndroms der Hände (aktuell Vollremission) und an chronischen Kopfschmerzen leide. Die Einschränkung der Arbeitsfähigkeit sei sowohl rheumatologisch als auch psychiatrisch bedingt, wobei die aus psychiatrischer Sicht attestierte Arbeitsunfähigkeit von 50 % nicht additiv wirke. Verglichen mit den Vorbegutachtungen durch die Abklärungsstelle E._ vom 15. Oktober 2001 und 2. August 2003 folgern die Experten, es sei keine eindeutige Verschlechterung des Gesundheitszustandes eingetreten.
6.2 6.2.1 Die Tatsachenfeststellungen des kantonalen Gerichts, vorliegend namentlich die aus den medizinischen Akten gewonnene Erkenntnis, wonach unverändert eine 50%ige Arbeitsfähigkeit in einer leidensangepassten Beschäftigung bestehe, ist im letztinstanzlichen Prozess grundsätzlich verbindlich. Im Rahmen der eingeschränkten Sachverhaltskontrolle (Art. 97 Abs. 1 BGG) ist es nicht Aufgabe des Bundesgerichts, die schon im vorinstanzlichen Verfahren im Recht gelegenen medizinischen Berichte neu zu würdigen und die rechtsfehlerfreie Sachverhaltsfeststellung des kantonalen Gerichts hinsichtlich der medizinisch begründeten Einschränkung des Leistungsvermögens und des Ausmasses der trotz gesundheitlicher Einschränkungen verbleibenden Arbeitsfähigkeit zu korrigieren (E. 2 hiervor). Soweit die Versicherte mit der Rüge der "rechtsfehlerhaften Nichtanordnung eines neuen Gutachtens" eine Verletzung der Untersuchungsmaxime geltend macht, muss darauf hingewiesen werden, dass im Verzicht auf die Abnahme weiterer Beweise keine Verletzung des Anspruchs auf rechtliches Gehör liegt, wenn die im Rahmen des Untersuchungsgrundsatzes von Amtes wegen vorzunehmenden Abklärungen den Versicherungsträger oder das Gericht bei umfassender, sorgfältiger, objektiver und inhaltsbezogener Beweiswürdigung (BGE 132 V 393 E. 4.1 S. 400) zur Überzeugung führen, ein bestimmter Sachverhalt sei als überwiegend wahrscheinlich (BGE 126 V 353 E. 5b S. 360; 125 V 193 E. 2 S. 195, je mit Hinweisen) zu betrachten und es könnten weitere Beweismassnahmen an diesem feststehenden Ergebnis nichts mehr ändern (antizipierte Beweiswürdigung; BGE 136 I 229 E. 5.3 S. 236; 134 I 140 E. 5.3 S. 148; 124 V 90 E. 4b S. 94). Es lässt sich demgemäss nicht beanstanden, dass das kantonale Gericht nach umfassender Würdigung der ärztlichen Unterlagen davon ausgegangen ist, der rechtserhebliche Sachverhalt sei genügend abgeklärt worden. Die Ausführungen in den Beschwerdeschriften sind nicht geeignet, die Sachverhaltsfeststellung des kantonalen Gerichts als offensichtlich unrichtig oder unvollständig erscheinen zu lassen.
6.2.2 Soweit die Versicherte in diesem Zusammenhang einwendet, das Gutachten des Instituts U._ vom 29. Dezember 2006 sei nicht vollständig und demzufolge nicht überzeugend, da den Experten der wichtige Austrittsbericht der Psychiatrischen Klinik Y._ vom 8. Februar 2005 (betreffend Hospitalisation vom 24. Januar bis 4. Februar 2005) nicht vorgelegen habe, kann ihr nicht gefolgt werden. Es ist ihr zwar beizupflichten, dass der Austrittsbericht anlässlich der Begutachtung tatsächlich nicht verfügbar war. Allerdings hatten die Experten Kenntnis von einem Kurzbericht der Klinik Y._ vom 17. Februar 2005, in welchem die wesentlichen Informationen aus dem Austrittsbericht zusammengefasst sind. Entgegen der Auffassung der Beschwerdeführerin 2 spielt es dabei keine Rolle, dass dem Kurzbericht nur der psychopathologische Status bei Austritt zu entnehmen ist. Denn die Versicherte wurde gemäss Austrittsbericht mit "im wesentlichen unverändertem Zustandsbild" nach Hause entlassen. Die Beschwerdeführerin 2 weist zu Recht darauf hin, dass der Grund der Aufnahme in die Klinik, eine Zustandsverschlechterung, im Kurzbericht ebenfalls nicht erwähnt ist. Allerdings konnte der psychiatrische Gutachter des Instituts U._ aus den darin beschriebenen Diagnosen sowie den angegebenen Auswirkungen auf die Arbeitsfähigkeit, den Beobachtungen während des Klinikaufenthaltes, dem psychopathologischen Status und der Medikation bei Austritt auch ohne diesen Hinweis seine Schlüsse zur gesundheitlichen Entwicklung ziehen. Der fallverantwortliche Arzt des Instituts U._, Dr. med. R._, Innere Medizin FMH, welcher auf Anfrage der IV-Stelle neben dem Austrittsbericht auch die Stellungnahmen des behandelnden Dr. med. M._, Psychiatrie und Psychotherapie FMH, vom 21. April 2007 und des Dr. med. S._, vormaliger Oberarzt in der Psychiatrischen Klinik Y._, vom 17. März 2008 zu würdigen hatte (Antwortschreiben vom 30. April 2008), musste bei dieser klaren Ausgangslage entgegen der Auffassung der Versicherten für seine Erkenntnis, dass die Gutachter des Instituts U._ bei ihren Untersuchungen alle relevanten Akten zur Verfügung hatten, nicht noch die Meinung des psychiatrischen Experten einholen. Sowohl Dr. med. S._ als auch Dr. med. M._ berichteten nicht über Tatsachen, welche den Gutachtern des Instituts U._ nicht bekannt waren. Der behandelnde Psychiater fasste seine Wahrnehmungen anlässlich der Konsultationen seit Januar 2005 kurz zusammen. Dr. med. S._ wiederholte seine Erkenntnisse aus den Klinikaufenthalten und wies darauf hin, dass er die Versicherte seit mehr als drei Jahren nicht mehr gesehen habe. Mit Blick auf diese Angaben kann die Feststellung des kantonalen Gerichts, wonach auch mit Blick auf diese Unterlagen kein Grund bestehe, das Gutachten des Instituts U._ vom 29. Dezember 2006 in Zweifel zu ziehen, nicht als offensichtlich unhaltbar qualifiziert werden. Daran ändert auch der Einwand der Beschwerdeführerin 2 nichts, Dr. med. R._ habe in seinem Antwortschreiben vom 30. April 2008 angegeben, die "Feststellungen und Beurteilungen" der Psychiatrischen Klinik Y._ während des stationären Aufenthaltes im Januar/Februar 2005 seien "sicher zum damaligen Zeitpunkt richtig gestellt" worden. Soweit sie gestützt auf diese Argumentation im Eventualstandpunkt eine ganze Invalidenrente für die Zeit vom 1. Juli 2003 bis Ende Dezember 2006 verlangt, kann ihr nicht gefolgt werden. Dr. med. R._ äusserte nämlich lediglich die Ansicht, es sei "nachvollziehbar und logisch", dass Dr. med. S._ (in seiner Stellungnahme vom 17. März 2008) "an den Diagnosen der damaligen Hospitalisation retrospektiv festhält, da diese Diagnosen sicher zum damaligen Zeitpunkt richtig gestellt wurden". Im Gutachten des Instituts U._ wurde der von Dr. S._ damals festgestellte Befund einer rezidivierenden depressiven Störung mittleren Grades mit somatischem Syndrom (ICD-10 F33.11) als Differentialdiagnose zur Dysthymie in Betracht gezogen. Auch die im Austrittsbericht diagnostizierte posttraumatische Belastungsstörung wurde durch den Psychiater des Instituts U._ nicht ausgeschlossen, allerdings erachtete er eine Auswirkung dieses Befundes auf die Arbeitsfähigkeit als unwahrscheinlich. Auch wenn also bezüglich der Diagnosen in wesentlichen Punkten eine Übereinstimmung bestand, trifft dies für die Einschätzung der Auswirkungen auf die Arbeitsfähigkeit nicht zu. Die Beschwerdeführerin 2 übersieht, dass Dr. med. R._ diese Diskrepanz gar nicht thematisiert hat. Dazu bestand mit Blick darauf, dass keine neuen Gesichtspunkte aufgetaucht waren, auch gar kein Anlass. In seinem Antwortschreiben vom 30. April 2008 gab der fallverantwortliche Arzt des Instituts U._ abschliessend lediglich die Ergebnisse aus dem Gutachten vom 29. Dezember 2006 wieder. Die darin attestierte Arbeitsfähigkeit von 50 % in einer leidensangepassten Beschäftigung stellte er entgegen der Ansicht der Versicherten nicht in Frage. Er äusserte sich auch nicht zur zwischenzeitlichen Entwicklung. Darum zielt die Rüge, wonach Dr. med. R._ die Versicherte letztmals 17 Monate vor seinem Antwortschreiben gesehen habe, ins Leere.
6.3 Es lässt sich demgemäss nicht beanstanden, dass die IV-Stelle bei der revisionsweisen Neuberechnung des Invaliditätsgrades anhand der allgemeinen Methode des Einkommensvergleichs von einer 50%igen Arbeitsfähigkeit in einer vorwiegend im Sitzen zu verrichteten Erwerbstätigkeit ausgegangen ist. Die Beschwerde der Versicherten ist unbegründet.
7. Die IV-Stelle ist der Ansicht, dass das kantonale Gericht den Nebenverdienst, welchen die Beschwerdeführerin 2 früher mit der Hauswarttätigkeit erzielte, sowohl beim Validen- als auch beim Invalideneinkommen hätte berücksichtigen müssen. Ausserdem lasse sich ein leidensbedingter Abzug beim Invalideneinkommen nicht rechtfertigen. Die Versicherte habe bei korrekter Berechnung lediglich Anspruch auf eine halbe Rente, basierend auf einem Invaliditätsgrad von höchstens 56 %.
7.1 Die Invalidenversicherung gewährt nach der gesetzgeberischen Konzeption grundsätzlich nur Versicherungsschutz im Rahmen eines normalen Einsatzpensums von 100 % (Urteil 9C_45/2008 vom 3. Juli 2008 E. 4.2). Schon deswegen ist ein Nebeneinkommen nur dann als Validenlohn zu berücksichtigen, falls ein solches bereits im Gesundheitsfall erzielt wurde und weiterhin erzielt worden wäre, wenn die versicherte Person keine gesundheitliche Beeinträchtigung erlitten hätte (Urteil 8C_491/2011 vom 7. Oktober 2011 E. 4.1; vgl. auch SVR 2011 IV Nr. 55 S. 163 E. 4.5.2 f., 8C_671/2010).
Die Versicherte hatte gemäss Dienstvertrag vom 28. Juni 1999 zusammen mit ihrem Ehemann Hauswartarbeiten im Nebenerwerb ausgeübt. Dafür bezog das Ehepaar insgesamt eine monatliche Pauschalentschädigung von Fr. 350.-. Die Vorinstanz rechnete dieses Einkommen bei der Ermittlung des Valideneinkommens zur Hälfte an, liess es aber beim Invalideneinkommen unberücksichtigt. Sie ging davon aus, dass die Beschwerdeführerin 2 den Nebenerwerb bereits seit dem Jahr 2001 aus gesundheitlichen Gründen nicht mehr habe ausüben können, obwohl das Arbeitsverhältnis mit beiden Ehepartnern bis ins Jahr 2006 angedauert habe.
Es ist unbestritten, dass die Nebenerwerbstätigkeit im Gesundheitsfall weiterhin gemeinsam mit dem Ehemann ausgeübt worden wäre und deshalb der daraus erzielte hälftige Verdienst beim Valideneinkommen zu berücksichtigen ist. Die IV-Stelle nimmt jedoch an, dass die Ehepartner nach Eintritt des Gesundheitsschadens eine andere Arbeitsteilung hätten abmachen können, so dass der Nebenerwerb nach wie vor zumutbar gewesen wäre. Deshalb sei der daraus erzielbare Verdienst zur Hälfte auch beim Invalideneinkommen zu berücksichtigen. Diese Argumentation ist schon deshalb nicht stichhaltig, weil die Hauswarttätigkeit das Anforderungsprofil an eine leidensangepasste Beschäftigung im vorliegenden Fall (vorwiegend im Sitzen zu verrichtende Arbeiten) nicht erfüllt und fraglich ist, ob mit einer auf die Leiden der Versicherten zugeschnittenen Aufteilung der Arbeiten ein genügend grosser Einsatzbereich für sie übrig geblieben wäre, so dass die gemeinsame Ausübung des Nebenerwerbs nach wie vor Sinn gemacht hätte. Jedenfalls ist die Nichtberücksichtigung des Nebenerwerbs beim Invalideneinkommen durch die Vorinstanz nicht offensichtlich unrichtig und daher für das Bundesgericht verbindlich.
7.2 Ob ein (behinderungsbedingt oder anderweitig begründeter) Abzug vom Tabellenlohn vorzunehmen ist, stellt eine vom Bundesgericht frei überprüfbare Rechtsfrage dar (Urteil 8C_652/2008 vom 8. Mai 2009 E. 4, nicht publ. in: BGE 135 V 297). Dagegen ist die Höhe des Abzuges eine Ermessensfrage und daher letztinstanzlich nur bei Ermessensüberschreitung, -missbrauch oder -unterschreitung korrigierbar (BGE 132 V 393 E. 3.3 S. 399).
Mit dem Abzug von 10 % vom Invalideneinkommen hat das kantonale Gericht dem Umstand Rechnung getragen, dass die Versicherte neben der zeitlichen Einschränkung auf ein 50%iges Pensum auch in einer halbtägigen Beschäftigung leidensbedingt behindert ist, indem sie die Arbeiten vorwiegend im Sitzen zu verrichten hat, die Möglichkeit haben muss, wechselnde Positionen einzunehmen, nicht grössere Strecken zu gehen und keine bimanuell fordernden Tätigkeiten auszuüben hat. Die vorinstanzliche Annahme, dass eines der Merkmale, die nach der Rechtsprechung (BGE 126 V 75 E. 5b/aa-cc S. 79 f.) gegebenenfalls einen Abzug von dem als Invalideneinkommen herangezogenen Tabellenlohn zu begründen vermöchten, erfüllt sei, ist mit Blick auf dieses Anforderungsprofil zutreffend. Die Höhe des leidensbedingten Abzuges ist nicht willkürlich. Der im angefochtenen Gerichtsentscheid durchgeführte Einkommensvergleich, der einen Invaliditätsgrad von 60 % ergibt, lässt sich, soweit einer letztinstanzlichen Überprüfung zugänglich (vgl. dazu BGE 132 V 393 E. 3.3 S. 399), demnach nicht beanstanden.
8. Das Verfahren ist kostenpflichtig (Art. 65 BGG). Dem Prozessausgang entsprechend sind die Gerichtskosten den Beschwerdeführenden je zur Hälfte zu überbinden (Art. 65 Abs. 4 lit. a in Verbindung mit Art. 66 Abs. 1 BGG). Da kein Schriftenwechsel durchgeführt worden ist und daher der anwaltlich vertretenen Versicherten im von der IV-Stelle angehobenen Verfahren 8C_646/2011 keine Aufwendungen entstanden sind, besteht kein Anspruch auf Parteikostenersatz.
Demnach erkennt das Bundesgericht:
1. Die Verfahren 8C_646/2011 und 8C_699/2011 werden vereinigt.
2. Die Beschwerden werden abgewiesen.
3. Die Gerichtskosten von insgesamt Fr. 1'000.- werden der IV-Stelle und D._ je zur Hälfte auferlegt.
4. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 17. November 2011
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Berger Götz