Sachverhalt:
A. Die X._ GmbH ist Eigentümerin der Parzelle Nr. 398 in Oberkirch. Sie beabsichtigt eine Aufstockung des bestehenden Untergeschosses mit einem eingeschossigen Bürogeschoss, das eine Fläche von 135,22 m2 aufweisen soll. Hierfür reichte sie am 20. Mai 2010 bei der Gemeinde Oberkirch ihr Baugesuch ein.
Gegen das aufgelegte Projekt erhoben mehrere Personen, die Stockwerkeigentümer des benachbarten Grundstücks Nr. 857 sind, öffentlich-rechtliche Einsprache. Der Gemeinderat Oberkirch wies die Einsprachen am 10. März 2011 ab, soweit er sie nicht an den Zivilrichter verwies, und bewilligte das Bauvorhaben.
Die Einsprecher erhoben dagegen am 11. April 2011 Verwaltungsgerichtsbeschwerde beim Verwaltungsgericht des Kantons Luzern. Das Verwaltungsgericht wies die Beschwerde am 4. Januar 2012 ab, soweit darauf einzutreten war.
B. Gegen diesen Entscheid des Verwaltungsgerichts haben die im Rubrum genannten Personen beim Bundesgericht am 8. Februar 2012 Beschwerde in öffentlich-rechtlichen Angelegenheiten erhoben. Sie beantragen die Aufhebung des angefochtenen Urteils unter Neuverteilung der Verfahrens- und Parteikosten und der Baubewilligung des Gemeinderats Oberkirch vom 10. März 2011. Sie machen eine offensichtlich unrichtige Sachverhaltsfeststellung geltend und rügen Verletzungen von Ausstandsvorschriften, der Eigentumsgarantie und von kantonalem Recht.
Die X._ GmbH als Beschwerdegegnerin beantragt, auf die Beschwerde sei nicht einzutreten, eventualiter sei sie abzuweisen. Die Gemeinde Oberkirch stellt Antrag auf Abweisung, soweit auf die Beschwerde eingetreten werden könne. Das Verwaltungsgericht hat auf eine Vernehmlassung verzichtet. In ihrer Replik halten die Beschwerdeführer an ihren Anträgen fest.
Erwägungen:
1. Das angefochtene Urteil des Verwaltungsgerichts ist ein kantonal letztinstanzlicher Entscheid in einer Materie des öffentlichen Rechts, die unter keinen Ausschlussgrund fällt. Die Beschwerde ist rechtzeitig erhoben. Insoweit erweist sich die vorliegende Beschwerde in öffentlich-rechtlichen Angelegenheiten als zulässig (Art. 82 lit. a, Art. 83, Art. 86 Abs. 1 lit. d und Art. 100 Abs. 1 BGG).
Die Beschwerdegegnerin zieht die Legitimation der Beschwerdeführer in Zweifel, mit dem Hinweis darauf, dass diese als Stockwerkeigentümer sowohl in Bezug auf die Personenzahl wie auch wertmässig eine Minderheit der Stockwerkeigentümergemeinschaft bilden. Der Einwand betrifft nicht die Legitimation im Sinne von Art. 89 Abs. 1 BGG, sondern vielmehr die Parteifähigkeit, nämlich die Fähigkeit, die Stockwerkeigentümergemeinschaft zu vertreten (vgl. Waldmann, Basler BGG-Kommentar, 2. Auflage, 2011, Art. 89 N. 1; vgl. Urteil 1C_26/ 2009 vom 27. Februar 2009, in dem die Legitimation einer Stockwerkeigentümergemeinschaft aufgrund der vorausgesetzten Parteifähigkeit ohne Weiteres angenommen worden ist). Entgegen der Auffassung der Beschwerdegegnerin wenden sich die Beschwerdeführer in erster Linie dagegen, dass auf der Parzelle Nr. 398 in Überschreitung der zulässigen Ausnützung eine Baute erstellt wird. Eine solche Baute betrifft jeden der Stockwerkeigentümer persönlich im Sinne von Art. 89 Abs. 1 lit. b und c. Die Beschwerdeführer haben gemäss Art. 89 Abs. 1 lit. a BGG am vorinstanzlichen Verfahren teilgenommen. Damit sind sie individuell je zur Beschwerde legitimiert.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann laut Art. 95 lit. a BGG die Verletzung von Bundesrecht, einschliesslich von Bundesverfassungsrecht, geltend gemacht werden. Die Rüge der Verletzung von kantonalem Recht wird ausschliesslich anhand des Verfassungsrechts geprüft.
In der Beschwerdeschrift ist gemäss Art. 42 Abs. 2 BGG in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Die Verletzung von Grundrechten prüft das Bundesgericht nach Art. 106 Abs. 2 BGG nur, soweit solche Rügen präzis vorgebracht und begründet werden. Werden die Sachverhaltsfeststellungen der Vorinstanz angefochten, so muss im Rahmen von Art. 97 BGG klar und substantiiert aufgezeigt werden, inwiefern die gerügten Feststellungen bzw. die Unterlassung von Feststellungen offensichtlich unrichtig sind oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruhen (Art. 105 Abs. 2 BGG; vgl. BGE 133 II 249 E. 1.4.3; 133 III 350 E. 1.3; 133 III 393 E. 7.1; 133 III 462 E. 2.4). Ob diese Anforderungen erfüllt sind, wird im entsprechenden Sachzusammenhang zu prüfen sein.
2. Die Beschwerdeführer machen vorerst eine Verletzung von Art. 29 Abs. 1 BV geltend. Sie erblicken diese im Umstand, dass der Gemeinderat sich bereits vor Einreichung des Baugesuchs mit der Frage der Gewährung einer Ausnahmebewilligung befasst und überdies weitere Punkte des Bauvorhabens "geklärt" habe und sich daher im Hinblick auf den Baubewilligungsentscheid in verfassungswidriger Weise bereits festgelegt habe.
2.1 In diesem Sachzusammenhang rügen die Beschwerdeführer, das Verwaltungsgericht habe den Sachverhalt offensichtlich unrichtig festgestellt, soweit es im angefochtenen Entscheid festhalte, es bestünden in den Akten keine hinreichenden Anhaltspunkte dafür, dass der Gemeinderat der Beschwerdegegnerin vor Einreichung des Baugesuchs die Erteilung einer Ausnahmebewilligung in Aussicht gestellt hätte. Die Beschwerdegegnerin selber habe in ihrer Stellungnahme vom 27. Juli 2010 (zuhanden des Gemeinderats) ausdrücklich festgehalten, der Gemeinderat hätte ihr eröffnet, eine Ausnahmebewilligung für einen Unterabstand zu erteilen; zudem ergebe sich daraus, dass andere Randbedingungen mit der Gemeinde und externen Beratern bearbeitet worden seien.
Im angefochtenen Entscheid wies das Verwaltungsgericht auf verschiedene Aktenstücke hin, insb. auf die Schreiben des Gemeinderats vom 24. August 2010 an die Beschwerdeführer (act. 6) und an die Beschwerdegegnerin (act. 5) sowie auf ein Schreiben der Beschwerdegegnerin vom 9. September 2010 (act. 3) und ihre Stellungnahme vom 27. Juli 2010 (act. 7). Entgegen der Auffassung der Beschwerdeführer hat das Verwaltungsgericht aus diesen Akten nicht geschlossen, es sei keine Ausnahmebewilligung in Aussicht gestellt worden. Es hält selber fest, dass der Gemeinderat den Beschwerdeführern die Bewilligungsfähigkeit mitgeteilt habe, und zitiert gar aus der Stellungnahme der Beschwerdegegnerin, wonach eine Ausnahmebewilligung in Aussicht gestellt worden sei. Das Verwaltungsgericht stellt somit nicht in Abrede, dass eine entsprechende Bewilligung in Aussicht gestellt worden ist. Es relativiert indes die Bedeutung dieser Äusserungen und kommt zum Schluss, dass der Gemeinderat keine verbindliche Zusage für die Erteilung einer Ausnahmebewilligung erteilt habe.
Daraus ergibt sich ohne Weiteres, dass die Rüge der fehlerhaften Sachverhaltsfeststellung offensichtlich unbegründet ist. Welche Schlüsse indes aus den genannten Akten und Äusserungen in Bezug auf die Frage der Voreingenommenheit des Gemeinderats zu ziehen sind, ist nachfolgend zu beurteilen.
2.2 Die Beschwerdeführer nehmen nicht Bezug auf das kantonale Recht und dessen Bestimmungen über den Ausstand, sondern rügen ausschliesslich Bundesverfassungsrecht.
Aus der Garantie eines gerechten Verfahrens gemäss Art. 29 Abs. 1 BV wird ein Anspruch auf ein bestimmtes Mass an Unvoreingenommenheit von Verwaltungsbehörden abgeleitet. Nach der ständigen Rechtsprechung gilt für verwaltungsinterne Verfahren nicht der strenge, für unabhängige richterliche Behörden gültige Massstab von Art. 30 Abs. 1 BV. Die Gegebenheiten des verwaltungsinternen Entscheidverfahrens erfordern Differenzierungen aufgrund konkreter, verfahrensmässiger und gesetzlich vorgesehener Konstellationen. Amtliche Mehrbefassung kann systembedingt sein; gerade systembedingte Unzulänglichkeiten haben zur Schaffung unabhängiger richterlicher Instanzen geführt (vgl. BGE 137 II 431 E. 5.2 S. 452; Urteil 1C_150/ 2009 vom 8. September 2009 E. 3.5, in ZBl 112/2011 S. 478). Vor diesem Hintergrund ist konkret zu beurteilen, wie es sich mit der Voreingenommenheit des Gemeinderats verhält, der sich schon vor Einreichung des Baugesuchs mit dem Bauvorhaben im Allgemeinen und der Frage der Gewährung einer allfälligen Ausnahmebewilligung im Speziellen befasst hatte. Massgeblich ist dabei darauf abzustellen, ob der förmliche Entscheid des Gemeinderats als offen bezeichnet werden kann. Dies hängt namentlich von Art, Umfang und Bedeutung der aufgeworfenen baurechtlichen Fragen ab, vom Entscheidungsspielraum und Autonomiebereich der Behörde und vom Projektierungsstadium. Bei der Beantwortung abstrakter, weitgehend gesetzlich determinierter Rechtsfragen besteht geringe Gefahr einer Voreingenommenheit, während bei umfangreichen Verfahren mit sehr konkreten Vorfragen die Gefahr der Vorbestimmung steigt (vgl. Urteil 1C_150/2009 vom 8. September 2009 E. 3.5.4, in ZBl 112/2011 S. 478).
Es ist davon auszugehen, dass der Gemeinderat im Vorfeld keine förmliche Bewilligung erteilt hat. Weiter ist unbestritten, dass er eine Prüfung des Bauvorhabens vorgenommen hat. Diese Prüfung erfolgte gemäss der in der Baupraxis gepflegten und gängigen informellen Kooperation zwischen Bauherrschaften und Mitarbeitern der Baubewilligungsbehörden. Dass in diesem Rahmen eine verbindliche Zusicherung erfolgt wäre, kann nicht angenommen werden. Der Gemeinderat hat in seinem Schreiben an die Beschwerdeführer vom 24. August 2010 (act. 6) ausgeführt, er habe das Bauvorhaben geprüft und sei der Meinung, dass dieses grundsätzlich bewilligungsfähig sei. Mit dem Vorbehalt der "grundsätzlichen Bewilligungsfähigkeit" bringt er zum Ausdruck, dass noch kein definitiver Entscheid getroffen worden ist. Diese Vorsicht zeigt sich auch im Umstand, dass er in seinem Brief von demselben Tag an die Beschwerdegegnerin die Passage der grundsätzlichen Bewilligungsfähigkeit weggelassen hat. Daraus darf geschlossen werden, dass er sich in jenem Zeitpunkt noch nicht festgelegt und jeglichen Anschein der Präjudizierung vermieden hat. Daran ändert der Umstand nichts, dass die Beschwerdegegnerin in ihrem Schreiben vom 9. September 2010 (act. 3) und in ihrer Stellungnahme vom 27. Juli 2010 (act. 7) davon sprach, der Gemeinderat habe eine (Ausnahme-)Bewilligung in Aussicht gestellt. Ebenso wenig ist von Gewicht, dass ein konkretes Bauvorhaben mit teils sehr technischen Fragen (insb. hinsichtlich anrechenbarer Fläche und Ausnützungsziffer etc.) zur Prüfung anstand. Es kann auch nicht gesagt werden, dass baurechtliche Probleme zur Diskussion standen, die spezifisch den Autonomiebereich der Gemeinde betreffen und einer Überprüfung durch das Verwaltungsgericht entzogen wären. Schliesslich zeigt der Baubewilligungsentscheid vom 10. März 2011, dass sich der Gemeinderat mit den Einwendungen der Beschwerdeführer auseinandergesetzt und den Entscheid sorgfältig begründet hat.
Es ergibt sich gesamthaft, dass das Verwaltungsgericht zu Recht eine Verletzung von Art. 29 Abs. 1 BV verneint hat und die Beschwerde in diesem Punkte unbegründet ist.
3. Die Beschwerdeführer rügen ferner eine offensichtlich unrichtige Sachverhaltsfeststellung im Zusammenhang mit der Frage, ob Ausnutzungsübertragungen zwischen den Parzellen Nr. 857 und Nr. 398 stattgefunden haben und ob diese auf vertraglichen Vereinbarungen beruhen. Sie machen geltend, es gebe keinerlei Anhaltspunkte dafür, dass im Rahmen des Baugesuchs oder der Parzellierungen zwei vertragliche Ausnutzungsübertragungen stattgefunden hätten. Soweit solche Übertragungen je stattgefunden hätten, wären die Vereinbarungen aufgrund verschiedener Vorgänge wieder abgeändert worden. Die vom Verwaltungsgericht auf nichts als auf der Basis falscher Annahmen vorgenommene Sachverhaltsfeststellung sei offensichtlich falsch bzw. unvollständig und somit willkürlich.
Das Verwaltungsgericht ging davon aus, dass ursprünglich über die beiden Parzellen eine Gesamtüberbauung beabsichtigt gewesen und diese in Anbetracht der realisierten Nutzungsarten bei einer Gesamtbetrachtung nur unter Beanspruchung einer Ausnützungsübertragung bewilligungsfähig gewesen sei. Eine solche setze eine Vereinbarung zwischen den Grundeigentümern voraus. Eine vertragliche Regelung finde sich in den Akten nicht. Es sei indes von einer Einwilligung der betroffenen Grundeigentümer auszugehen, die sich die heutigen Beschwerdeführer anzurechnen hätten. Daraus ergebe sich eine öffentlich-rechtliche Eigentumsbeschränkung zulasten des "Spender-Grundstücks". Umgekehrt müssten sich die Beschwerdeführer den Transfer von Gewerbenutzung zugunsten der Parzelle der Beschwerdegegnerin entgegenhalten lassen.
Das Verwaltungsgericht hat festgestellt, dass sich in den Akten keine vertragliche Regelung finde. Aufgrund rechtlicher Erwägungen zur bisherigen Überbauung der beiden Parzellen Nr. 857 und Nr. 398 kam es zum Schluss, dass der Beurteilung des umstrittenen Bauvorhabens eine solche Regelung zugrunde zu legen und eine Gesamtbetrachtung vorzunehmen sei. Damit hat es nicht eine Sachverhaltsfeststellung getroffen, sondern eine rechtliche Würdigung vorgenommen. Eine solche rechtliche Würdigung unterliegt keiner Sachverhaltsüberprüfung nach Art. 97 BGG. Dass das Verwaltungsgericht den Sachverhalt offensichtlich falsch oder unvollständig und damit willkürlich festgestellt hätte, ist weder rechtsgenüglich gerügt noch ersichtlich. Die Beschwerde ist in diesem Punkt als unbegründet abzuweisen, soweit darauf überhaupt eingetreten werden kann.
4. Zur Hauptsache beanstanden die Beschwerdeführer, dass mit dem angefochtenen Entscheid der Parzelle Nr. 398 der Beschwerdegegnerin der gesamte Anteil an der Gewerbenutzung der beiden Parzellen Nr. 857 und Nr. 398 zukommen soll.
Sie bestreiten dies und folgern daraus, dass das umstrittene Bauprojekt die zulässige Ausnützung für Gewerbenutzung überschreite. Sie sind der Ansicht, dass vielmehr ihre eigene Parzelle Nr. 857 im Verhältnis der beiden Grundstücksflächen von der unbestrittenen Ausnützungsreserve müsse profitieren können. Mit dem angefochtenen Entscheid habe ihre Parzelle Nr. 857 allein die Übernutzung zu tragen. Sie erlitten einen unrechtmässigen Entzug der Nutzungsreserve für Gewerbenutzung und würden durch ein entsprechendes Bauverbot eigentumsrechtlich belastet. Es könne hierfür nicht von einer zugrunde liegenden Vereinbarung mit Nutzungstransfer ausgegangen werden. Ebenso fehle es an einer gesetzlichen Grundlage. Das Bau- und Zonenreglement der Gemeinde Oberkirch (BZR) sowie das kantonale Planungs- und Baugesetz (PBG, SRL Nr. 735) würden willkürlich angewendet. Dadurch würden ihre Eigentumsrechte gemäss Art. 26 BV verletzt.
4.1 Es stellt sich im Wesentlichen die Frage, ob eine Ausnützungsreserve für die gewerbliche Nutzung bejaht und diese allein der Parzelle Nr. 398 der Beschwerdegegnerin zugeordnet werden kann.
Das Verwaltungsgericht geht im angefochtenen Entscheid davon aus, dass seit der Parzellierung im Jahre 2000 die anrechenbaren Grundstücksflächen 2'159 m2 für die Parzelle Nr. 857 und 441 m2 für die Parzelle Nr. 398 betragen. Ferner, dass die anrechenbare Geschossfläche für das umstrittene Bauprojekt 135,22 m2 umfasse. Schliesslich, dass die Parzelle Nr. 857 eine realisierte Wohnnutzung von 1'575 m2 beansprucht. Die maximal zulässige Ausnützung (0,65) nach dem hier anwendbaren BZR ergebe für beide Parzellen gesamthaft 1'690 m2, die maximal zulässige Ausnützung (0,55) zu Wohnzwecken 1'430 m2 und die maximal zulässige Ausnützung (0,10) für Gewerbezwecke 260 m2.
Der Gemeinderat Oberkirch hatte im Jahre 1998 die Baubewilligung für den Neubau eines Wohn- und Gewerbegebäudes mit Einstellhalle auf den im Wesentlichen gleich grossen Parzellen Nr. 398 und Nr. 857 erteilt. Im Jahre 2000 erfolgte ein Abparzellierung. Diese führte zu den heutigen obgenannten Grundstücksflächen. Im Zeitpunkt der Baubewilligung wurde mit dem Faktor 0,8 gerechnet, im Zeitpunkt der Parzellierung war für das Wohnen eine maximale Ausnützung von 0,50 erlaubt. Daraus ergibt sich, dass für die Parzelle Nr. 857 allein zur Wohnnutzung lediglich eine Geschossfläche von 1'079,50 m2 gestattet war. Daraus wird ersichtlich, wie das Verwaltungsgericht darlegt, dass die realisierte Wohnnutzung auf der Parzelle Nr. 857 für sich allein betrachtet weit über das zulässige Mass hinausreicht, die Parzelle demnach hinsichtlich Wohnnutzung weit übernutzt war.
Die Beschwerdeführer ziehen diese Feststellungen nicht in Frage.
4.2 Die genannte Übernutzung auf der Parzelle Nr. 857 war klarerweise nicht bewilligungsfähig. Daraus schloss das Verwaltungsgericht, dass von einer gesamthaften Betrachtung der beiden Parzellen Nr. 398 und Nr. 857 auszugehen sei, dass entsprechend der tatsächlich realisierten Baute eine Gesamtüberbauung beabsichtigt war. Von dieser nahm die Parzelle Nr. 857 ausschliesslich die Wohnnutzung, die Parzelle Nr. 398 lediglich die Gewerbenutzung (einschliesslich einer 2 1⁄2-Zimmer Wohnung) in Anspruch. Diese Gesamtbetrachtung und nur eine solche erlaubt es, den damaligen Zustand als baurechtskonform zu bezeichnen. Die Beschwerdeführer vermögen dem nichts entgegen zu halten.
Diese baurechtskonforme Gesamtbetrachtung der beiden nunmehr unterschiedlichen Eigentümern gehörenden Parzellen setzt nun aber einen Nutzungstransfer voraus. Anders kann der tatsächliche Zustand nicht als baurechtskonform eingestuft werden, mit der Folge, dass die auf Parzelle Nr. 857 realisierte Wohnnutzung und Übernutzung als materiell rechtswidrig einzustufen wäre. Der baurechtskonformen Gesamtbetrachtung ist daher ein Nutzungstransfer zugrunde zu legen. Dieser erlaubt es, die tatsächlich realisierten Bauten in einer Weise zu qualifizieren, die den verfassungsmässigen Garantien von Art. 26 BV wie auch von Art. 9 BV gerecht wird. Würde die Übernutzung als materiell baurechtswidrig bezeichnet, hätte dies weit tiefgreifendere Auswirkungen auf das Eigentum. Es ist daher nicht ausschlaggebend, dass eine entsprechende Vereinbarung über einen Nutzungstransfer nicht existiert. Unbestritten ist auch, dass die Ausnützungsübertragung in § 14 der Planungs- und Bauverordnung (PBV, SRL Nr. 736) allgemein vorgesehen ist und mit § 13 PBV auch der Fall von Abparzellierungen geordnet ist. Es ist nicht ersichtlich und wird nicht geltend gemacht, dass die Voraussetzungen von § 14 Abs. 1 PBV nicht vorliegen würden.
Daraus ergibt sich, dass das Verwaltungsgericht der Betrachtung der umstrittenen Bausache ohne Verfassungsverletzung einen Ausnutzungstransfer zugrunde legen durfte. Entgegen der Auffassung der Beschwerdeführer ist dabei nicht massgeblich, ob eine einzige Ausnützungsübertragung oder deren zwei stattgefunden haben und in welchem Stadium dies erfolgt ist. Entscheidend ist vielmehr, dass der rechtlichen Qualifizierung der tatsächlichen Situation der genannte Ausnutzungstransfer zugrunde gelegt wird und gelegt werden darf. Das führt zur weitern Frage, wie diese Ausnutzungsübertragung konkret umzusetzen ist und zu welchen ziffernmässigen Berechnungen sie führt.
4.3 Wie oben dargelegt (E. 4.1), ist auf der Parzelle Nr. 857 der Beschwerdeführer bei einer maximal zulässigen Ausnützung für Wohnen von 1'430 m2 tatsächlich eine Wohnnutzung von 1'575 m2 realisiert. Sie sind der Ansicht, dass die Übernutzung im Ausmass von 145 m2 die Parzelle Nr. 398 der Beschwerdegegnerin belaste, deren Überbauung entsprechend einschränke und die Gewerbenutzung in diesem Ausmass herabsetze. Dies führe umgekehrt dazu, dass ihre Parzelle Nr. 857 an der Gewerbenutzung der Parzelle Nr. 398 teilhabe. Demgegenüber befand das Verwaltungsgericht im angefochtenen Urteil, die Übernutzung auf der Parzelle Nr. 857 wirke sich nicht zulasten der Parzelle Nr. 398 aus.
Das Verwaltungsgericht verwies auf ein Urteil des Bundesgerichts (Urteil 1C_277/2008 vom 8. Dezember 2008). In diesem Urteil stellte sich die Frage, wie ein zulässigerweise voll ausgenütztes Baugrundstück zu behandeln sei, das infolge einer Reduktion der Ausnützungsziffer eine zu hohe Ausnützung aufwies. Das Bundesgericht kam - entgegen der Auffassung der damaligen Vorinstanz - zum Schluss, dass mit diesem Vorgang keine unzulässige Übernutzung entstand sei, die vorhandene Nutzung bestehen bleiben könne und die Parzelle wegen eines Nutzungstransports von einer Drittparzelle in diesem Umfang überbaubar sei. Daraus durfte das Verwaltungsgericht ohne Verfassungsverletzung schliessen, dass die Übernutzung auf der Parzelle Nr. 858 nicht als baurechtswidrig zu betrachten sei, auf dieser belassen werden könne und daher nicht auf die Parzelle Nr. 398 übertragen werden müsse. Dieser Schluss ist entgegen der Auffassung der Beschwerdeführer mit der genannten Gesamtbetrachtung und der damit verbundenen Konzentration der Wohnnutzung auf der Parzelle Nr. 857 vereinbar. Gleichermassen ist die Gewerbenutzung auf der Parzelle Nr. 398 zu belassen.
Die Beschwerdeführer rügen in diesem Zusammenhang zudem Verletzungen von Art. 7 Abs. 3 BZR und von § 13 PBV. Sie machen geltend, dass im heutigen Zustand ihre Parzelle Nr. 857 hinsichtlich der maximal zulässigen Ausnutzung nicht übernutzt sei und dass die Ausnützung der beiden Parzellen insgesamt den zulässigen Maximalwert von 0,65 übersteigt. Sie übersehen dabei, dass ihre Parzelle Nr. 857 - unter Beachtung der trotz der Übernutzung massgeblichen Wohnfläche von 1'430 m2 - zwar innerhalb der maximal zulässigen Ausnützung von 0,65 liegen mag, indes die für das Wohnen zulässige Ausnützung von 0,55 bereits übersteigt. Umgekehrt wird - bezogen auf beide Parzellen - die maximal zulässige Ausnützung von 0,65 eingehalten, wenn wiederum die für die Parzelle Nr. 857 massgebliche Wohnfläche von 1'430 m2 zugrunde gelegt wird. Bei dieser Sachlage ist nicht ersichtlich, dass das Verwaltungsgericht Art. 7 Abs. 3 BZR oder § 13 Abs. 1 und 2 PBV willkürlich angewendet hätte.
4.4 Überdies rügen die Beschwerdeführer in diesem Sachzusammenhang Verletzungen von § 201 und § 226 PBG.
Nach § 201 Abs. 1 lit. a PBG erlischt eine Baubewilligung, wenn die Baute oder Anlage nicht innerhalb Jahresfrist begonnen wird. Das Verwaltungsgericht hat auf diese Bestimmung Bezug genommen und festgehalten, der Gemeinderat habe für die Vollendung der vorgesehenen Bauten damals einen letzten Termin für die Bauvollendung bis zum 31. August 2002 festgesetzt. Dessen ungeachtet, wurden auf der Parzelle Nr. 398 das Erdgeschoss, das 1. Obergeschoss und das Attikageschoss nicht erstellt (vgl. angefochtenes Urteil, Sachverhalt B.). Der Umstand, dass damit die entsprechende Baubewilligung erloschen ist, zeitigt für die Beurteilung der vorliegenden Baurechtssache keine Folgen. Entgegen der Auffassung der Beschwerdeführer kann nicht gesagt werden, mit dem angefochtenen Entscheid lebe die damalige Baubewilligung unter Verletzung von § 201 Abs. 1 lit. a PBG wieder auf. Diese übersehen, dass das Verwaltungsgericht nicht an die damalige Baubewilligung anknüpft, sondern auf den zugrunde gelegten Nutzungstransfer abstellt. Dass dies vor der Verfassung standhält, ist in den vorstehenden Erwägungen dargelegt worden. Diese Grundlage hat weiterhin Bestand. Bei dieser Sachlage ist nicht ersichtlich, dass § 201 PBG willkürlich angewendet worden wäre.
Entgegen der Auffassung der Beschwerdeführer kann dem Verwaltungsgericht auch in Bezug auf die Änderungen der Ausnutzungsbestimmungen keine Willkür vorgehalten werden. Es hat die Veränderungen der massgeblichen Faktoren im Einzelnen nachgezeichnet und dabei insbesondere zwischen den tatsächlichen Nutzungen und ihren Überschreitungen einerseits und den unter Berücksichtigung der Besitzstandsgarantie (vgl. Art. 26 BV, § 178 PBG) massgeblichen Nutzungen andererseits unterschieden. Bei dieser Sichtweise kann nicht gesagt werden, das Verwaltungsgericht habe Art. 7 Abs. 3 BZR oder § 226 PBG willkürlich angewandt oder unterlaufen.
4.5 Vor diesem Hintergrund kann die angeordnete Anmerkung einer öffentlich-rechtlichen Eigentumsbeschränkung im Grundbuch eben so wenig als willkürlich bezeichnet werden. Aufgrund des eingehend dargestellten Nutzungstransfers und der zugrunde gelegten Gesamtsicht einerseits und der rechtlich zulässigen und der tatsächlichen Ausnutzungen andererseits ist nicht ersichtlich, dass die Anordnung materiell gesehen gegen Art. 9 BV verstossen sollte. Die Anmerkung beruht auf dieser Grundlage und steht somit im Einklang mit § 211 PBG. Zur Rüge, dass sich die Beschwerdeführer im Vorfeld der entsprechenden Anordnung in Verletzung von Art. 29 Abs. 2 BV nicht hätten äussern können, hat das Verwaltungsgericht im angefochtenen Urteil mit dem Hinweis Stellung genommen, der Anmerkung komme keine rechtsbegründende, sondern lediglich eine deklaratorische Wirkung zu. Damit setzen sich die Beschwerdeführer im vorliegenden Verfahren nicht näher auseinander.
4.6 Gesamthaft ergibt sich, dass die Beschwerde unbegründet ist, soweit das Verwaltungsgericht die Baubewilligung unter dem Gesichtswinkel der Ausnützungsbestimmungen für rechtmässig erklärte.
5. Schliesslich machen die Beschwerdeführer geltend, es sei in Verletzung von § 133 PBG in willkürlicher Weise eine Ausnahmebewilligung für die Unterschreitung des Grenzabstandes erteilt worden.
§ 133 PBG sieht Ausnahmen bei Grenz- und Gebäudeabständen vor. Solche können nach lit. k namentlich in ausserordentlichen Fällen gewährt werden. Das Verwaltungsgericht führt aus, eine Ausnahmebewilligung setze allgemein voraus, dass weder die öffentlichen Interessen noch die schutzwürdigen privaten Interessen beeinträchtigt würden. Für das Vorliegen eines ausserordentlichen Falles im Sinne von § 133 lit. k PBG sei nicht ein eigentlicher Härtefall erforderlich. Es dürften sämtliche Interessen der Bauherrschaft berücksichtigt werden, die sich auf Zweck, Umfang oder Gestaltung des Bauvorhabens auswirken. Erforderlich sei somit eine umfassende Interessenprüfung. Vorliegend bejaht das Verwaltungsgericht einen ausserordentlichen Fall. Hierfür weist es darauf hin, dass die Parzelle der Beschwerdeführer mangels Ausnützungsreserve nicht weiter überbaut werden könne, die sicherheits-, gesundheits- und feuerpolizeilichen Interessen sowie der Zutritt von Luft, Licht und Sonne in Anbetracht der konkreten Lage und des umstrittenen Projekts nicht bzw. nicht wesentlich beeinträchtigt würden und die Anwendung der ästhetischen Generalklausel für das angefochtene Projekt spreche.
Entgegen der Auffassung der Beschwerdeführer durfte das Verwaltungsgericht angesichts der vorangehenden Erwägungen ohne Willkür davon ausgehen, dass auf der Parzelle Nr. 857 keine Nutzungsreserve bestehe und das umstrittene Bauprojekt deren Überbaubarkeit nicht beeinträchtige. Die Beschwerdeführer weisen auf die massive Unterschreitung des Grenzabstandes hin. Wie das Verwaltungsgericht festhält, wird der gesetzliche Grenzabstand vom 4 m im Süden tatsächlich auf 2,63 m reduziert. Es darf indes berücksichtigt werden, dass der Grenzabstand auf einer Länge von 4 m mindestens 10 m und an den übrigen Stellen gar zwischen 14 und 16 m beträgt. Die umstrittene Baute liegt auf der Nord- und Ostseite der Parzelle der Beschwerdeführer. Sie soll nur eingeschossig erstellt werden. Bei dieser Sachlage kann ohne Willkür angenommen werden, dass die sicherheits-, gesundheits- und feuerpolizeilichen Zwecke nicht ernstlich beeinträchtigt werden. Für das im vorliegenden Fall umstrittene Projekt ist nicht ausschlaggebend, ob sich die Beschwerdegegnerin das Verhalten ihres Rechtsvorgängers anzurechnen habe. Die Beschwerdeführer stellen nicht in Frage, dass die vollständige Einhaltung der Grenzabstände die Überbauung durch die Beschwerdegegnerin erschweren würde.
Die Beschwerdeführer vermögen nicht darzulegen, dass sie in wesentlichen eigenen Interessen verletzt würden. Aufgrund der dargelegten Gründe durfte das Verwaltungsgericht ohne Verletzung von Art. 9 BV einen ausserordentlichen Fall im Sinne von § 133 lit. k PBG und die Zulässigkeit einer Ausnahmebewilligung bejahen. Bei dieser Sachlage ist nicht von Bedeutung, dass das Verwaltungsgericht zusätzlich auf die von der Gemeinde Oberkirch angerufene allgemeine Ästhetikklausel abstellte. Wenn auch nicht im Einzelnen begründet, so ist doch nachvollziehbar, dass die Einhaltung der gesetzlichen Grenzabstände die Ästhetik beeinträchtigen könnte.
Die Beschwerde erweist sich auch in diesem Punkte als unbegründet.
6. Demnach ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens sind die bundesgerichtlichen Kosten den Beschwerdeführern aufzuerlegen (Art. 66 Abs. 1 BGG). Diese haben die Beschwerdegegnerin für das bundesgerichtliche Verfahren zu entschädigen (Art. 68 Abs. 2 BGG). Der Gemeine Oberkirch steht keine Parteientschädigung zu (Art. 68 Abs. 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 4'000.-- werden den Beschwerdeführern auferlegt.
3. Die Beschwerdeführer haben die Beschwerdegegnerin für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Gemeinderat Oberkirch und dem Verwaltungsgericht des Kantons Luzern, Verwaltungsrechtliche Abteilung, schriftlich mitgeteilt.
Lausanne, 16. Oktober 2012
Im Namen der I. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Aemisegger
Der Gerichtsschreiber: Steinmann