Sachverhalt:
A. Am 22. Juli 1991 setzte A._ (geb. 1924) seine Ehefrau X._ testamentarisch als Alleinerbin seines gesamten Nachlasses ein. Gleichzeitig hielt er fest, dass die beiden Adoptivkinder B._ und Y._ nicht pflichtteilsgeschützt seien.
Kurz nach einem Spitalaufenthalt errichtete A._ am 11. Juni 2007 ein zweites Testament. Darin enterbte er seine Ehefrau sowie seine Adoptivtochter B._ wegen schwerer Drohung, mehrfachem Unterlassen der Nothilfe und massiver Vernachlässigung der ehelichen bzw. familienrechtlichen Unterstützungspflichten. Für den Fall, dass die Enterbung erfolgreich angefochten werden sollte, verwies er seine Ehefrau sowie die Adoptivtochter auf den Pflichtteil. Als Alleinerbe setzte er seinen Adoptivsohn Y._ ein.
Am 27. Juni 2007 leitete A._ das Scheidungsverfahren ein. Mit Urteil vom 27. Februar 2008 des Amtsgerichts Luzern-Land wurde die Ehe geschieden und eine dem Gericht vorgelegte Ehescheidungskonvention genehmigt.
A._ verstarb am 28. Februar 2008. Da dieses Ereignis vor Ablauf der Rechtsmittelfrist eintrat, erwuchs das Ehescheidungsurteil nicht in Rechtskraft.
Am 3. November 2008 reichten X._ und B._ am Amtsgericht Luzern-Land Klage gegen Y._ ein. Diese zielte - nebst der güterrechtlichen Auseinandersetzung - namentlich auf Ungültigerklärung des Testaments vom 11. Juni 2007 sowie auf Zusprache der Pflichtteile.
B. Mit Urteil vom 7. Juli 2010 ermittelte das Amtsgericht Luzern-Land einen Anspruch der Witwe aus Güterrecht von Fr. 763'253.30 und regelte dessen Erfüllung (Zuweisung mehrerer Bankkonti, eines Wertschriftendepots, eines Fahrzeuges, Schmuck und andere Wertgegenstände zu Eigentum sowie eine Ausgleichszahlung des Adoptivsohnes). Sodann wies es das Begehren auf Ungültigerklärung des Testaments ab und hielt namentlich fest, dass Y._ Alleinerbe des Erblassers sei.
Dieses Urteil fochten X._ sowie B._ mit Appellation vom 12. August 2010 beim Obergericht des Kantons Luzern an.
Mit Urteil vom 20. April 2011 wies das Obergericht die Appellation vollumfänglich ab und regelte die Kosten neu.
C. Mit Beschwerde in Zivilsachen und Verfassungsbeschwerde vom 30. Mai 2011 gelangt X._ (nachfolgend: Beschwerdeführerin) an das Bundesgericht. Sie beantragt die teilweise Aufhebung des vorinstanzlichen Urteils und stellt entsprechende materielle Anträge, eventualiter verlangt sie eine Rückweisung an die Vorinstanz zu neuer Beurteilung.
Erwägungen:
1. 1.1 Angefochten ist ein kantonal letztinstanzlicher Endentscheid in einer vermögensrechtlichen Zivilsache. Der Streitwert übersteigt Fr. 30'000.--. Auf die Beschwerde in Zivilsachen ist somit grundsätzlich einzutreten (Art. 72 Abs. 1, Art. 74 Abs. 1 lit. b, Art. 75 Abs. 1 und Art. 90 BGG). Formelle Einzelfragen sind im Sachzusammenhang zu erörtern.
1.2 Die Anwendung des kantonalen Zivilprozessrechts kann nicht direkt bzw. mit voller Kognition, sondern einzig auf Willkür, d.h. auf eine Verletzung von Art. 9 BV hin geprüft werden (BGE 134 II 349 E. 3 S. 351), was - wie im Übrigen generell bei der Geltendmachung von Verfassungsverletzungen - entsprechend substanziierte Rügen voraussetzt (Art. 106 Abs. 2 BGG). Danach ist im Einzelnen darzulegen, inwiefern das kantonale Gericht willkürlich entschieden haben soll und der angefochtene Entscheid deshalb an einem qualifizierten und offensichtlichen Mangel leidet (BGE 134 II 244 E. 2.2 S. 246). Nach der bundesgerichtlichen Praxis liegt Willkür nicht schon vor, wenn eine andere Lösung ebenfalls vertretbar erscheint oder sogar vorzuziehen wäre (BGE 132 I 175 E. 1.2 S. 177; BGE 131 I 467 E. 3.1 S. 473 f.; je mit Hinweisen), sondern nur, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Schliesslich hebt das Bundesgericht einen Entscheid nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist (BGE 134 I 140 E. 5.4 S. 148 mit Hinweisen).
2. Die Vorinstanz erwog, die Appellation sei unter der Herrschaft des alten Zivilprozessrechts ergriffen worden, weshalb sich das Appellationsverfahren nach den Vorschriften der Luzerner Zivilprozessordnung richte. Diese zutreffende Erwägung (Art. 404 Abs. 1 ZPO) wird zu Recht nicht beanstandet.
3. 3.1 Die Vorinstanz hat die Appellation in weiten Teilen mit der Begründung abgewiesen, die Beschwerdeführerin habe sich in ihrer Appellationsschrift nicht ausreichend mit den erstinstanzlichen Tatsachenfeststellungen auseinandergesetzt.
3.2 Nach der einschlägig publizierten Gerichtspraxis bestehen im luzernischen Appellationsverfahren strenge Begründungsanforderungen; was nicht substanziiert kritisiert wird, gilt als akzeptiert (Luzerner Gerichts- und Verwaltungsentscheide [LGVE] 2003 I Nr. 45 und 46 S. 85 f; LUCREZIA GLANZMANN-TARNUTZER, Das Rügeprinzip im Zivil-, Straf- und Verwaltungsprozess am Beispiel des Kantons Luzern, AJP 2007, S. 841 mit Hinweisen).
Die Beschwerdeführerin hält diese kantonale Praxis für verfassungswidrig. Es bestehe ein prozessualer Grundsatz, wonach die Rechtsmittelinstanz bei einem vollkommenen Rechtsmittel von allen (d.h. sowohl erst- wie auch zweitinstanzlich vorgetragenen) Parteierklärungen Kenntnis nehmen müsse. Dieser Grundsatz besage auch, dass erstinstanzlich aufgestellte Tatsachenbehauptungen und Beweisanträge vor zweiter Instanz nicht im Einzelnen wiederholt zu werden brauchen. Dies gehe namentlich aus dem Bundesgerichtsurteil 5A_75/2007 vom 25. Mai 2007 E. 4.1 hervor. Die Beschwerdeführerin verweist darauf, dass sie die einschlägigen Bestreitungen in Tat und Wahrheit schon vor erster Instanz vorgebracht habe und sie diese daher - mit Blick darauf, dass es sich bei der luzernischen Appellation um ein vollkommenes Rechtsmittel handle - vor der zweiten Instanz nicht im Einzelnen habe wiederholen müssen. Indem die Vorinstanz dies verkannte, habe sie willkürlich gehandelt (Art. 9 BV) und das rechtliche Gehör der Beschwerdeführerin (Art. 29 Abs. 2 BV) verletzt.
3.3 Der von der Beschwerdeführerin behauptete prozessuale Grundsatz lässt sich aus dem angeführten Bundesgerichtsurteil nicht ableiten. Dort erwog das Bundesgericht, es erscheine "nicht als willkürlich, in erster Instanz aufgestellte Tatsachenbehauptungen zu berücksichtigen, obwohl die Beschwerdegegnerin diese in ihrer Rekursvernehmlassung nicht eigens wiederholt hat". Zu beurteilen galt es in jenem Fall somit das Gegenteil dessen, was vorliegend zur Diskussion steht, denn hier geht es um die Nichtberücksichtigung von erstinstanzlich aufgestellten, aber vor zweiter Instanz nicht wiederholten tatsächlichen Ausführungen. Betrachtet das Bundesgericht eine bestimmte Praxis als nicht willkürlich, lässt sich daraus nicht notwendigerweise durch Umkehrschluss ableiten, die gegenteilige Praxis sei willkürlich. Dies folgt aus dem Begriff der Willkür, der nicht einfach gleichbedeutend mit Unrichtigkeit ist, sondern in einer qualifizierten Unrichtigkeit besteht (vgl. dazu auch LORENZ DROESE, Anmerkung zu 5A_353/2010, in: SZZP 1/2011, S. 53).
Andere Argumente trägt die Beschwerdeführerin nicht vor, so dass die fragliche Praxis - jedenfalls unter dem hier anzuwendenden Willkürmassstab - nicht zu beanstanden ist (s. dazu auch BGE 135 III 513 E. 4.3 S. 522). Die Rüge erweist sich als unbegründet.
3.4 Soweit die Beschwerdeführerin ihre im kantonalen Verfahren unbeachtlich gebliebenen Sachverhaltsrügen vor Bundesgericht vorträgt, kann darauf nicht eingetreten werden. Letztinstanzlichkeit im Sinne von Art. 75 Abs. 1 BGG bedeutet, dass der kantonale Instanzenzug für Rügen, die dem Bundesgericht vorgetragen werden, ausgeschöpft sein muss, was hier nicht geschehen ist (vgl. BGE 135 III 513 E. 4.3 S. 522, mit Hinweisen).
4. Im Zusammenhang mit der güterrechtlichen Auseinandersetzung verlangt die Beschwerdeführerin die Hinzurechnung von Fr. 460'000.-- zu den Errungenschaftsaktiven bzw. zum Nachlass. Der Erblasser habe sich dieses Betrages in Schmälerungsabsicht entäussert.
Gemäss Art. 208 Abs. 1 Ziff. 2 ZGB sind Vermögensentäusserungen zur Errungenschaft hinzuzurechnen, die ein Ehegatte während der Dauer des Güterstandes vorgenommen hat, um den Beteiligungsanspruch des anderen zu schmälern.
Es ist unbestritten, dass die Beschwerdeführerin dem Erblasser am 18. Dezember 2007 aus einem den Steuerbehörden nicht deklarierten Konto bei der Bank C._ in Luzern den Betrag von Fr. 460'000.-- auf das von ihm neu eröffnete Seniorensparkonto Nr. 22694.93 überwies. Dieses saldierte der Erblasser am 20. Dezember 2007 und bezog die Summe von Fr. 459'944.15 in Begleitung des Beschwerdegegners bar am Bankschalter. Trotz umfangreichen Abklärungen des Erbschaftsverwalters konnte der Verwendungszweck dieser Barschaft nicht eruiert werden.
Die Vorinstanz hielt es für erwiesen, dass sich die Eheleute mit der Überweisung des Betrages von Fr. 460'000.-- an den Erblasser am 18. Dezember 2007 in Bezug auf das nicht deklarierte Vermögen (ausserhalb des Scheidungsverfahrens) güterrechtlich auseinandersetzen wollten; die Beschwerdeführerin habe dies im erstinstanzlichen Verfahren nicht bestritten. Von Bedeutung sei in diesem Zusammenhang auch die Tatsache, dass die Eheleute am 12. Dezember 2007 eine Vereinbarung über die Scheidungsfolgen samt güterrechtlicher Auseinandersetzung abschlossen, die vom Amtsgericht genehmigt wurde (aber infolge des Todes des Ehemannes vor Abschluss des Scheidungsverfahrens nicht in Rechtskraft erwuchs).
Soweit es, wie vorliegend, eine Schmälerungsabsicht zu beurteilen gilt, überprüft das Bundesgericht den Schluss, den die Vorinstanz aus diesbezüglichen Indizien gezogen hat, als Rechtsfrage (ebenso betreffend die Schädigungsabsicht im Sinne von Art. 288 SchKG: BGE 134 III 452 E. 4.1 S. 456 mit Hinweisen). Indem die Vorinstanz gestützt auf die vorstehend wiedergegebene Indizienlage eine Schmälerungsabsicht verneinte, verletzte sie kein Bundesrecht. Allein aus der Tatsache der Enterbung sowie aus dem unbekannten Verwendungszweck des abgehobenen Geldes kann - entgegen der Meinung der Beschwerdeführerin - nicht auf eine Schmälerungsabsicht geschlossen werden.
5. Ferner verlangt die Beschwerdeführerin die Zuweisung der zum Nachlass gehörigen Liegenschaft zu Eigentum. Sie stützt ihren Anspruch auf Art. 219 Abs. 3 ZGB. Dieser Bestimmung zufolge kann dem überlebenden Ehegatten auf sein Verlangen das Eigentum am Haus eingeräumt werden, worin die Ehegatten gelebt haben, sofern die Umstände es rechtfertigen (vgl. Art. 4 ZGB).
Die erste Instanz hatte hierzu ausgeführt, die Beschwerdeführerin "habe nichts zu den besonderen Umständen, die eine Übertragung des Eigentums an sie gemäss Art. 219 Abs. 3 ZGB rechtfertigen würden, vorgetragen"; im Übrigen spreche gegen eine Übernahme zu Eigentum, dass sie - auch unter Berücksichtigung ihres Eigengutes - kaum in der Lage sei, eine entsprechende Ausgleichszahlung zu leisten.
Die Vorinstanz befand, die Beschwerdeführerin habe auch im Appellationsverfahren lediglich pauschal auf Art. 219 Abs. 3 ZGB verwiesen und geltend gemacht, es sei evident, dass sie im Haus ihre bisherige Lebensweise beibehalten wolle; sie habe sich aber ansonsten nicht mit den erstinstanzlichen Ausführungen auseinandergesetzt.
Die Beschwerdeführerin behauptet nicht, dass ihre Appellationsbegründung eine substanziierte Auseinandersetzung mit den tatsächlichen Feststellungen des Amtsgerichts enthalten hat, wie dies die kantonale Praxis verlangt (s. E. 3.2). Folglich bleibt es bei der erstinstanzlichen Feststellung, wonach keine besonderen Umstände vorgetragen wurden, die eine Übertragung des Hauses rechtfertigen. Fehlt es mithin an den tatsächlichen Voraussetzungen, kann Art. 219 ZGB nicht bundesrechtswidrig angewendet worden sein. Soweit die Beschwerdeführerin vor Bundesgericht erstmals neue Umstände ins Feld führt, welche die Anwendung von Art. 219 Abs. 3 ZGB nahe legen sollen, handelt es sich um unzulässige Noven (Art. 99 Abs. 1 BGG).
6. 6.1 Umstritten ist sodann die Rechtmässigkeit der Enterbung. Das erstinstanzliche Gericht hielt es - nach Durchführung eines Beweisverfahrens - für erwiesen, dass der Erblasser seine Ehefrau sowie seine Adoptivtochter B._ rechtmässig (im Sinne von Art. 477 Ziff. 2 ZGB) enterbte, da diese ihm gegenüber die ihnen obliegenden familienrechtlichen Pflichten schwer verletzt hatten.
6.2 Die Vorinstanz hat ihrem Entscheid - hauptsächlich durch Verweis auf die Erwägungen der ersten Instanz - folgende Tatsachen zu Grunde gelegt:
Der Erblasser wurde Ende 1990 wegen einer Krebsgeschwulst im Mundrachenraum (Oropharynxkarzinom) operiert und war seither auf eine sog. Trachealkanüle angewiesen, die regelmässig und sorgfältig gewechselt werden musste. Am 16. April 2007 wurde der Erblasser notfallmässig in das Kantonsspital Luzern eingeliefert, da er grösste Schwierigkeiten bei der Nahrungs- und Flüssigkeitsaufnahme gehabt habe. Es sei der Beschwerdeführerin bewusst gewesen, dass sich der Erblasser über drei Wochen vor der Spitaleinlieferung in einem schlechten, sich kontinuierlich verschlimmernden Zustand befunden habe. Die Beschwerdeführerin habe die nötigen Hilfeleistungen nicht an die Hand genommen, nichts gegen die Verwahrlosung unternommen und es zugelassen, dass der Erblasser in eine lebensbedrohliche Situation geraten sei. Es sei im Übrigen sehr wahrscheinlich, dass der Erblasser tagsüber zu Hause nicht mehr geduldet worden sei, weshalb er sich im Winter 2006/2007 jeweils draussen auf einer Parkbank aufgehalten habe. Er habe einige Jahre sein Essen in einem Mikrowellenherd, den ihm die Beschwerdeführerin in sein Schlafzimmer gestellt habe, wärmen und dort einnehmen müssen. Sie habe ihm auch eine WC-Schüssel neben dem Bett einbauen lassen. Es sei schwer vorstellbar, dass der Erblasser freiwillig im gleichen Raum, in dem sich das WC befand, gegessen und geschlafen habe. Nach seiner Entlassung aus dem Spital habe sich herausgestellt, dass die Beschwerdeführerin die Ersparnisse des Erblassers auf ihre Konti habe überweisen lassen. Sie habe dem Erblasser, nachdem er zu seinem Sohn gezogen sei, zumindest bis zum Erlass einer dringlichen Massnahme die finanzielle Unterstützung versagt, obwohl sie dazu in der Lage gewesen wäre. Die AHV-Einkünfte des Erblassers, auf die dieser keinen Zugriff mehr gehabt habe, sowie die Mietzinseinnahmen aus seinem Haus seien auf ihre Konti geflossen und von ihr verwaltet worden. Auch seine Ersparnisse von rund einer Million Franken seien auf einem ihrer Konti gelegen; diese habe sie offensichtlich für sich behalten wollen. Mit diesem Verhalten habe die Beschwerdeführerin ihre ehelichen Beistandspflichten schwer verletzt.
Die Vorinstanz kam zum Schluss, dass sich die Beschwerdeführerin mit den vorstehend dargelegten erstinstanzlichen tatsächlichen Feststellungen, auf Grundlage derer die erste Instanz das Vorliegen der Voraussetzungen von Art. 477 Ziff. 2 ZGB bejaht hatte, nicht substanziiert auseinandergesetzt hatte.
6.3 Nach einer ausführlichen Wiederholung ihrer einschlägigen erstinstanzlichen Ausführungen verweist die Beschwerdeführerin vor Bundesgericht lapidar darauf, dass sie sich - entgegen dem vorinstanzlichen Vorwurf - "in der Appellationsschrift (S. 7-11, Ziff. 5) [...] nochmals mit den Vorwürfen substantiiert auseinandergesetzt, diese bestritten und schliesslich festgehalten hat: 'Die Enterbung der Erstklägerin ist daher ungültig zu erklären' (S. 10 lit. i Abs. 3)."
Will ein Beschwerdeführer vor Bundesgericht als willkürlich beanstanden, dass die Vorinstanz seine Darlegung zu Unrecht als unsubstanziiert behandelte, muss er im Einzelnen aufzeigen, inwiefern er sich vor der Vorinstanz substanziiert mit sämtlichen erstinstanzlichen Sachverhaltsfeststellungen auseinandergesetzt hat, so dass diese die Begründungsobliegenheit im Appellationsverfahren willkürlich angewendet hat. Der pauschale Hinweis auf die Seiten 7-11 der Appellationsschrift genügt nicht. Ebenso wenig hilft der Beschwerdeführerin, wenn sie ausführlich die vor erster Instanz aufgestellten Parteibehauptungen wiederholt. Auf ihre Rüge ist nicht einzutreten.
Demzufolge steht der vorinstanzlich festgestellte Sachverhalt für das Bundesgericht verbindlich fest (vgl. Art. 105 Abs. 1 und 2 bzw. Art. 97 Abs. 1 BGG). Zu beantworten bleibt die (Rechts-)Frage, ob der festgestellte Sachverhalt die Schlussfolgerung erlaubt, die Beschwerdeführerin habe die ihr obliegenden familienrechtlichen Pflichten schwer verletzt (Art. 477 Ziff. 2 ZGB). Dass dies nicht der Fall sein soll, macht sie nicht geltend; ihre wohl unter diesem Titel getätigten Äusserungen erschöpfen sich in rein appellatorischer Kritik an den vorinstanzlichen Sachverhaltsfeststellungen. Abgesehen davon ist eine bundesrechtswidrige Anwendung von Art. 477 Ziff. 2 ZGB auch nicht auszumachen. Auf der Grundlage des festgestellten Sachverhalts (s. oben E. 6.2) durfte ohne weiteres auf eine schwere Verletzung der familienrechtlichen Pflichten der Beschwerdeführerin geschlossen werden. Die Rüge erweist sich als unbegründet.
7. Soweit die Beschwerdeführerin die Hinzurechnung der streitigen Fr. 460'000.-- (s. oben E. 4) zusätzlich unter Berufung auf Art. 527 Ziff. 4 ZGB verlangt, fällt dieses Argument mit dem Feststehen der Enterbung dahin. Gleiches gilt für ihr Argument, wonach ihr das eheliche Haus unter dem Titel von Art. 612a ZGB zuzuteilen sei.
8. Ausserdem verpflichtete die Vorinstanz die Beschwerdeführerin, für die zum Nachlass gehörige Wohnung (mit Garage), die diese nach dem Erbfall weiterhin bewohnte, einen monatlichen Mietzins von Fr. 2'080.-- zu zahlen, und zwar ab 1. März 2008 bis zu ihrem Auszug (jeweils vorauszahlbar auf den Monatsersten, nebst 5% Zins seit 21. Dezember 2008 auf dem jeweiligen monatlichen Mietzins für die bis zum Urteilszeitpunkt aufgelaufenen Zinsen).
Die erste Instanz hat in Würdigung der konkreten Umstände eine Bösgläubigkeit der Beschwerdeführerin gestützt auf Art. 940 Abs. 1 i.V.m. Art. 599 ZGB bejaht, da sie nach Einreichung der vorliegenden Klage durch den Beschwerdegegner zumindest in Kauf nehmen musste, dass ihr die Erbenstellung abgesprochen würde. Die Vorinstanz bestätigte diesen Befund im Ergebnis; sie begründete dies einerseits damit, dass die Beschwerdeführerin ihre Appellation nicht substanziiert begründet habe, andererseits aber auch unter Hinweis auf Art. 602 Abs. 1 und 2 ZGB.
Muss gestützt auf Art. 602 ZGB ein in einer zum Nachlass gehörigen Wohnung wohnender Miterbe nach dem Erbfall Mietzins bezahlen, sofern ihm die Wohnung nicht im Rahmen der Erbteilung zugesprochen wird (BGE 101 II 36 E. 3; Urteil 5A_338/2010 vom 4. Oktober 2010 E. 6 mit zahlreichen Hinweisen), so gilt dies erst Recht für eine Person, deren Erbberechtigung, wie vorliegend, gänzlich entfällt. Die Rüge erweist sich als unbegründet. Soweit die Beschwerdeführerin vor Bundesgericht kritisiert, die Vorinstanz sei zu Unrecht von ihrer Bösgläubigkeit ausgegangen, ist ihr Vorbringen nicht relevant, denn auf den bösen Glauben kommt es vorliegend nicht an.
9. Die Vorinstanz verpflichtete die Beschwerdeführerin schliesslich, dem Beschwerdegegner die ihr von Mieter D._ nach dem Tode des Erblassers bezahlten Mietzinse von Fr. 7'140.-- zu bezahlen.
Die Beschwerdeführerin bezeichnet diese Zahlungsverpflichtung unter Berufung auf die von ihr behauptete Erbenstellung als rechtswidrig. Da ihre Erbenstellung allerdings, wie dargelegt, gerade nicht besteht, zielt ihr Vorbringen ins Leere. Soweit sie die Höhe des Betrages bestreitet, belässt sie es bei pauschalen Ausführungen und kommt insofern ihrer Begründungspflicht nicht nach.
10. Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Die Beschwerdeführerin unterliegt und wird kostenpflichtig (Art. 66 Abs. 1 BGG). Dem Beschwerdegegner ist kein entschädigungspflichtiger Aufwand entstanden (Art. 68 Abs. 1 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf eingetreten werden kann.
2. Die Gerichtskosten von Fr. 15'000.-- werden der Beschwerdeführerin auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Luzern, 1. Abteilung als Appellationsinstanz, schriftlich mitgeteilt.
Lausanne, 5. September 2011
Im Namen der II. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Hohl
Der Gerichtsschreiber: Schwander