Sachverhalt:
A. Am Nachmittag des 16. Mai 2005 kam es am Wohnort von X._ zwischen ihm, einem seiner Söhne und Z._ zu einer heftigen Auseinandersetzung. Letzterer wurde dabei lebensgefährlich verletzt.
B. Das Strafgericht Basel-Landschaft sprach X._ und Y._ am 23. Januar 2008 der versuchten vorsätzlichen Tötung und der schweren Körperverletzung schuldig. Es bestrafte X._ mit fünf und seinen Sohn mit vier Jahren Zuchthaus. Ausserdem verpflichtete es die beiden im Grundsatz zur solidarischen Zahlung von Schadenersatz und Genugtuung an Z._, bei einer Haftungsquote von 80 %.
Sowohl Z._ als auch X._ und Y._ fochten dieses Urteil an. Ersterer setzte sich gegen die Reduktion der Haftungsquote zur Wehr, Letztere beantragten, freigesprochen zu werden.
Am 24. März 2009 wies das Kantonsgericht Basel-Landschaft die Appellation von Z._ ab und hiess die Appellationen von X._ sowie Y._ teilweise gut. Es sprach beide der versuchten vorsätzlichen Tötung und der schweren Körperverletzung im Putativnotwehrexzess schuldig. Es verurteilte Ersteren zu vier, Letzteren zu zwei Jahren Freiheitsstrafe.
C. Das Bundesgericht hob das Urteil des Kantonsgerichts Basel-Landschaft auf Beschwerde von X._ am 27. November 2009 auf (Urteil 6B_583/2009). Es erwog, das Kantonsgericht habe ihm das rechtliche Gehör und ein faires Verfahren verweigert, indem jenes seinen Antrag, ihn mit den Belastungszeugen zu konfrontieren, abgewiesen habe. Es wies die Sache ohne Prüfung der weiteren Rügen zur neuen Beurteilung an das Kantonsgericht zurück. In Anwendung von Art. 129 Abs. 1 BGG wurde am 8. Januar 2010 die Dispo.-Ziff. 3 des bundesgerichtlichen Urteils berichtigt (Entschädigungsfolgen).
D. Das Kantonsgericht Basel-Landschaft verurteilte X._ am 28. März 2011 erneut wegen versuchter vorsätzlicher Tötung und schwerer Körperverletzung im Putativnotwehrexzess zu einer Freiheitsstrafe von vier Jahren.
E. X._ führt Beschwerde in Strafsachen und beantragt, das Urteil des Kantonsgerichts Basel-Landschaft vom 28. März 2011 sei aufzuheben. Die Sache sei zur neuen Beurteilung an die Vorinstanz zurückzuweisen. Eventualiter sei er freizusprechen. Subeventualiter sei er zu einer bedingt vollziehbaren Freiheitsstrafe unter einem Jahr zu verurteilen. Der Beschwerde sei in Bezug auf den Zivilpunkt des angefochtenen Entscheids die aufschiebende Wirkung zu erteilen. Zudem ersucht er um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung.
F. Das Kantonsgericht Basel-Landschaft beantragt die Abweisung der Beschwerde unter Verweis auf das angefochtene Urteil. Z._ verzichtet auf eine Vernehmlassung. Die Staatsanwaltschaft Basel-Landschaft stellt den Antrag, die Beschwerde sei unter Kostenfolgen abzuweisen, soweit darauf einzutreten sei. X._ nahm zu dieser Vernehmlassung mit Eingabe vom 16. Dezember 2011 Stellung.
Erwägungen:
1. 1.1 Die Schweizerische Strafprozessordnung vom 5. Oktober 2007 (StPO; SR 312.0) ist am 1. Januar 2011 in Kraft getreten. Ist ein Entscheid vor Inkrafttreten dieses Gesetzes gefällt worden, werden Rechtsmittel dagegen nach bisherigem Recht, von den bisher zuständigen Behörden, beurteilt (Art. 453 Abs. 1 StPO). Wird ein Verfahren vom Bundesgericht zur neuen Beurteilung zurückgewiesen, ist grundsätzlich neues Recht anwendbar (Art. 453 Abs. 2 Satz 1 StPO; Urteil 1B_293/2011 vom 14. September 2011 E. 1.2; jedoch Urteil 1B_275/2011 vom 2. September 2011 E. 1.2 zur "unechten Nachwirkung"; je mit Hinweisen).
Das angefochtene Urteil erging nach dem 1. Januar 2011. Allerdings erfolgte der bundesgerichtliche Rückweisungsentscheid bereits am 27. November 2009, mithin lange vor Inkrafttreten der StPO. Damit diese keine unzulässige Vorwirkung entfaltet, sind vorliegend die gegen das kantonale Verfahren gerichteten Rügen entgegen der Auffassung im Urteil 1B_293/2011 vom 14. September 2011 (E. 1.2), wonach das Datum des Rückweisungsentscheids für die Frage des anwendbaren Prozessrechts nicht relevant ist, nach bisherigem kantonalem Strafprozessrecht zu beurteilen (vgl. NIKLAUS SCHMID, Handbuch des schweizerischen Strafprozessrechts, 2009, N. 1867; VIKTOR LIEBER, in: Kommentar zur Schweizerischen Strafprozessordnung, Donatsch/ Hansjakob/Lieber [Hrsg.], 2010, N. 6 zu Art. 453 StPO). Soweit der Beschwerdeführer eine Verletzung der StPO rügt, ist auf die Beschwerde nicht einzutreten (Beschwerde S. 3 Art. 1 und S. 10 Art. 11).
1.2 Die Beschwerde ist zu begründen (Art. 42 Abs. 1 BGG), wobei in gedrängter Form darzulegen ist, inwiefern der angefochtene Akt Recht verletzt (Art. 42 Abs. 2 Satz 1 BGG). Eine qualifizierte Rügepflicht gilt hinsichtlich der Verletzung von Grundrechten und von kantonalem Recht. Solche Rügen prüft das Bundesgericht nur, wenn sie in der Beschwerde vorgebracht und substanziiert begründet worden sind. Das bedeutet, dass klar und detailliert anhand der Erwägungen des angefochtenen Entscheids darzulegen ist, inwiefern verfassungsmässige Rechte verletzt worden sein sollen (Art. 106 Abs. 2 BGG; BGE 136 I 65 E. 1.3.1 mit Hinweisen).
Auf die Rüge der angeblichen Verletzung zahlreicher Verfahrensvorschriften ist nicht einzutreten (Beschwerde S. 10 Art. 10). Der Beschwerdeführer legt nicht dar, ob und inwiefern die von der Bundesverfassung bzw. EMRK garantierten Verfahrensrechte verletzt oder welche Bestimmungen des kantonalen Prozessrechts verletzt bzw. willkürlich angewendet worden sein sollen. Die Beschwerde genügt den Begründungsanforderungen nicht. Gleiches gilt, soweit der Beschwerdeführer die Verletzung der Instruktionsmaxime bzw. des Untersuchungsgrundsatzes geltend macht (Beschwerde S. 8 f. Art. 8).
2. 2.1 Der Beschwerdeführer rügt eine Verletzung seines Anspruchs auf rechtliches Gehör. Er macht geltend, die Vorinstanz halte die Einvernahmen der Belastungszeugen B._ und C._ vom 10. August 2010 und 28. März 2011 in einem schwer lesbaren, handschriftlichen Protokoll fest. Dessen Seiten seien weder chronologisch akturiert noch nummeriert. Zudem seien die Aussagen lückenhaft und teilweise bloss stichwortartig aufgezeichnet. Der Inhalt der Einvernahmen gehe ungenau und unvollständig aus den Akten hervor, weshalb er dazu nur eingeschränkt habe Stellung beziehen können (Beschwerde S. 9 Art. 9).
2.2 Es entspricht einem aus dem Anspruch auf rechtliches Gehör (Art. 29 Abs. 2 BV) abgeleiteten Verfahrensgrundsatz, dass entscheidrelevante Tatsachen und Ergebnisse schriftlich festzuhalten sind. Dazu gehört die Pflicht zur Protokollführung über entscheidwesentliche Abklärungen, die Einvernahme von Zeugen und Verhandlungen. Die Protokollierungspflicht hängt von den konkreten Umständen des Einzelfalls ab (BGE 130 II 473 E. 4.2 S. 478 mit Hinweis), wobei in einem Strafverfahren mindestens die wesentlichen Zeugenaussagen im Protokoll festzuhalten sind (a.a.O. E. 4.3 S. 479 mit Hinweis). Ob diese Regel verletzt ist, prüft das Bundesgericht mit freier Kognition. Eine entsprechende Rüge ist aber nur begründet, wenn dargetan wird, welche Aussagen nicht aufgezeichnet wurden und inwiefern sie entscheidrelevant gewesen wären (HAUSER/SCHWERI/HARTMANN, Schweizerisches Strafprozessrecht, 6. Aufl., Basel 2005, S. 197 N. 24a).
2.3 Die Vorbringen des Beschwerdeführers sind unbegründet, soweit darauf einzutreten ist. Weder legt er dar noch ist ersichtlich, gestützt auf welche Bestimmung die Vorinstanz verpflichtet gewesen wäre, ein maschinengeschriebenes, wörtliches Protokoll anzufertigen. Entgegen seiner Darstellung sind die Verhandlungsprotokolle gut lesbar. Die Chronologie geht aus dem Zusammenhang hervor und lässt sich mit den auf einigen Seiten notierten Bezeichnungen (1a, 2a, 3a, 3c, 4a etc.) nachvollziehen.
Soweit der Beschwerdeführer eine Verletzung des rechtlichen Gehörs darin sieht, dass Aussagen scheinbar unvollständig protokolliert wurden, ist auf seine Ausführungen nicht einzutreten. Er zeigt nicht auf, welche Aussagen an diesen Einvernahmen, an welchen er in Begleitung seines Verteidigers teilgenommen hat [vorinstanzliche Akten, Protokoll S. 1 (1a) und S. 9 (3c)], nicht aufgezeichnet wurden und inwiefern diese entscheidrelevant gewesen wären.
3. 3.1 Der Beschwerdeführer rügt, die Vorinstanz stelle den Sachverhalt unvollständig und offensichtlich unrichtig fest, insbesondere betreffend die Notwehrlage. Sie würdige die Beweise willkürlich und verletze den Grundsatz "in dubio pro reo". Er stellt nicht in Abrede, den Beschwerdegegner 2 geschlagen zu haben. Er macht jedoch geltend, in Notwehr gehandelt zu haben, da er von ihm mit einer Pistole bedroht worden sei und er grosse Angst vor ihm gehabt habe, weil der Beschwerdegegner 2 mehrmals andere Personen schwer verletzt habe (Beschwerde S. 7-16).
Der Beschwerdeführer wendet weiter ein, der rechtserhebliche Sachverhalt sei nicht genügend untersucht worden. Die Vorinstanz lasse Elemente davon offen, statt in Anwendung der Unschuldsvermutung von der für ihn günstigeren Variante auszugehen. So sei ungeklärt, wie die Tatwaffe an den Ort des Geschehens gelangt und wie die Situation eskaliert sei. Nicht abgeklärt worden sei, ob sein gebrochener Finger von einer Abwehrhandlung stamme, wie viele Waffen involviert gewesen und bis zu welchem Zeitpunkt die Drohungen des Opfers weitergegangen seien bzw. wie oft und wie heftig er auf dieses eingeschlagen habe (Beschwerde S. 7 Art. 7).
3.2 Die Vorinstanz hält fest, der Beschwerdegegner 2 habe nicht akzeptieren können, dass der Vater seiner Freundin ihm nicht erlaubt habe, sie zu heiraten. Deshalb habe er am 16. Mai 2005 in Begleitung eines Kollegen den Onkel seiner Freundin, den Beschwerdeführer, an dessen Wohnort aufgesucht (angefochtenes Urteil S. 8 E. 3.1 f.). Die Vorinstanz erwägt, es sei unklar, was sich genau vor dem Hauseingang ereignet habe (sog. erste Phase, angefochtenes Urteil S. 8 E. 3.3). Diesbezüglich würden die Aussagen der Beteiligten in fast allen Punkten voneinander abweichen, wobei die Angaben der Hauptbeteiligten zudem in sich widersprüchlich seien (S. 10 E. 3.4). Fest stehe, dass zunächst der Beschwerdeführer auf das Klingeln des Beschwerdegegners 2 vor dem Eingang des Wohnblocks erschienen sei. Nach etwa fünf Minuten seien sodann seine beiden Söhne aufgetaucht. Als der Kollege des Opfers gesehen habe, dass einer eine Axt bei sich gehabt habe, sei er geflüchtet (S. 13 E. 3.4.3). Die Vorinstanz geht davon aus, der Beschwerdegegner 2 habe dem Beschwerdeführer gesagt, er habe eine Pistole eingesteckt. Sie hält es hingegen nicht für erwiesen, dass er sie ihm auch gezeigt hat (S. 14 E. 3.4.4). Weiter erwägt sie, aufgrund der widersprüchlichen Aussagen der Hauptbeteiligten könne auf keine der Schilderungen abgestellt werden. Da für diese Phase auch keine Zeugenaussagen vorlägen, müsse weitgehend offen bleiben, was sich vor der Tür ereignet, insbesondere, wer mit der handgreiflichen Auseinandersetzung begonnen habe. Indes stehe gemäss Angaben des Beschwerdeführers fest, dass er den unangemeldeten Besucher bereits vor dem Eingang geschlagen habe (S. 15 E. 3.4.6 und S. 16 E. 3.4.8).
Weiter erwägt die Vorinstanz, die zweite Phase, in welcher das Opfer vom Eingang auf die Wiese gelangt sei, lasse sich ebenfalls weitgehend nicht erstellen. Es sei davon auszugehen, der Beschwerdegegner 2 habe es aus eigener Kraft geschafft. Ob er weiterhin vom Beschwerdeführer oder dessen Sohn geschlagen worden sei, müsse offen bleiben (angefochtenes Urteil S. 17 E. 3.5 und S. 20 E. 3.6.3).
Indessen hält es die Vorinstanz aufgrund der übereinstimmenden und glaubhaften Aussagen der Zeugen B._ sowie C._ für erwiesen, dass der Beschwerdeführer mit einer Eisenstange und sein Sohn Y._ mit einem Holzknüppel wiederholt, massiv und brutal auf das am Boden liegende Opfer eingeschlagen habe (dritte Phase, angefochtenes Urteil S. 24 E. 3.7 2. Abs. und S. 25 E. 3.8 2. Abs.).
3.3 Die vorinstanzliche Sachverhaltsfeststellung kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 BGG). Offensichtlich unrichtig bedeutet dabei willkürlich (BGE 136 II 304 E. 2.4 S. 314 mit Hinweis; zum Begriff der Willkür BGE 137 I 1 E. 2.4 mit Hinweisen).
Dem Grundsatz "in dubio pro reo" kommt in der vom Beschwerdeführer angerufenen Funktion als Beweiswürdigungsregel im Verfahren vor dem Bundesgericht keine über das Willkürverbot von Art. 9 BV hinausgehende selbstständige Bedeutung zu (Beschwerde S. 10 f. Art. 11; BGE 127 I 38 E. 2a S. 41; 124 IV 86 E. 2a; je mit Hinweisen).
3.4 Soweit der Beschwerdeführer die tatsächlichen Feststellungen der Vorinstanz zur Notwehrlage beanstandet, namentlich die angeblich willkürliche Sachverhaltserstellung bzw. Beweiswürdigung der ersten Phase, gehen seine Ausführungen an der Sache vorbei. Selbst ausgehend von seiner Darstellung, wonach das Opfer ihm die Pistole gezeigt und nicht nur davon gesprochen (Beschwerde S. 12 Art. 13) oder wonach er dem Opfer die Eisenstange entrissen habe, nachdem es ihn damit habe schlagen wollen und er sich dabei einen Finger gebrochen habe (Auslöser der Eskalation, Beschwerde S. 11 Art. 12 und S. 13 Art. 15), ändert sich nichts am Ergebnis. Zum einen betreffen seine Vorbringen nicht unmittelbar das Kerngeschehen, zum anderen billigt ihm die Vorinstanz zu, in Putativnotwehr gehandelt zu haben. Nach ihren willkürfreien Feststellungen hat er jedoch die Grenzen der vermeintlichen Notwehrlage bei weitem überschritten, weil er und sein Sohn gemäss Aussagen der unbeteiligten Zeugen auf das wehrlose Opfer eingeschlagen und damit auch nicht aufgehört hätten, als es nur noch leblos dagelegen habe (angefochtenes Urteil S. 30 E. 4.3.5 f.). Insofern verletzt die Vorinstanz weder Verfassungs- noch Konventionsrecht, wenn sie Elemente der ersten Phase offen lässt und keine zusätzlichen Erhebungen dazu tätigt (Beschwerde S. 7 Art. 7 und S. 11 Art. 12).
3.5 Die weiteren Vorbringen des Beschwerdeführers gegen die vorinstanzliche Beweiswürdigung sind ebenfalls nicht geeignet, Willkür darzutun. Er beschränkt sich grösstenteils darauf, den tatsächlichen Feststellungen und der Beweiswürdigung der Vorinstanz seine eigene Sicht der Dinge gegenüberzustellen oder Behauptungen entgegenzuhalten, ohne näher zu erörtern, inwiefern der angefochtene Entscheid (auch) im Ergebnis schlechterdings unhaltbar sein soll. Dies ist der Fall, wenn er geltend macht, das Opfer habe in der dritten Phase auch noch Drohungen gegen ihn ausgesprochen (Beschwerde S. 13 Art. 14 und S. 19 Art. 22), oder wenn er ausführt, es habe erst ab dem Zeitpunkt seiner Bewusstlosigkeit nicht mehr nach der Pistole greifen können (Beschwerde S. 13 Art. 14; E. 5.4 nachstehend). Darauf ist nicht einzutreten. Insgesamt zeigt der Beschwerdeführer nicht auf, dass und inwiefern das vorinstanzliche Beweisergebnis schlechterdings nicht mehr vertretbar sein sollte.
4. 4.1 Der Beschwerdeführer bringt vor, die Vorinstanz unterstelle ihm beim versuchten Tötungsdelikt eventualvorsätzliches Handeln. Es sei nicht rechtsgenügend erstellt, wie er das Opfer geschlagen habe. Deshalb schliesse die Vorinstanz zu Unrecht einzig aufgrund der Art der Verletzungen auf Eventualvorsatz. Er habe indessen lediglich seine Familie schützen wollen, wozu er das Opfer allenfalls willentlich bewusstlos geschlagen habe, ohne jedoch dessen Tod in Kauf genommen zu haben (Beschwerde S. 16 f. Art. 20).
4.2 Nach Art. 111 Abs. 1 StGB macht sich strafbar, wer vorsätzlich einen Menschen tötet.
Führt der Täter, nachdem er mit der Ausführung eines Verbrechens oder Vergehens begonnen hat, die strafbare Tätigkeit nicht zu Ende oder tritt der zur Vollendung der Tat gehörende Erfolg nicht ein oder kann dieser nicht eintreten, so kann das Gericht die Strafe mildern (Art. 22 Abs. 1 StGB). Vorsätzlich begeht ein Verbrechen oder Vergehen, wer die Tat mit Wissen und Willen ausführt. Vorsätzlich handelt bereits, wer die Verwirklichung der Tat für möglich hält und in Kauf nimmt (Art. 12 Abs. 2). Das Bundesgericht hat wiederholt dargelegt, wann Eventualvorsatz gegeben ist. Darauf kann verwiesen werden (BGE 134 IV 26 E. 3.2.2 S. 28 f. mit Hinweisen).
Was der Täter wusste, wollte und in Kauf nahm, betrifft sog. innere Tatsachen und ist damit Tatfrage. Rechtsfrage ist hingegen, ob gestützt auf die festgestellten Tatsachen Eventualvorsatz vorliegt (BGE 137 IV 1 E. 4.2.3 S. 4 mit Hinweis).
4.3 Nach den tatsächlichen Feststellungen der Vorinstanz schlugen der Beschwerdeführer mit einer Eisenstange und sein Sohn mit einem Holzknüppel mit voller Wucht und sehr brutal auf das Opfer ein. Die massiven Schläge auf den wehrlosen Mann, namentlich auf dessen Kopf und Oberkörper, verletzten diesen lebensgefährlich (angefochtenes Urteil S. 26 E. 4.1.1). Die Vorinstanz hält somit entgegen der Behauptung des Beschwerdeführers fest (Beschwerde S. 7 Art. 7), wie die Tat begangen wurde. Sie verletzt kein Bundesrecht, wenn sie angesichts der Art der Tatausführung annimmt, tödliche Verletzungen hätten sich dem Beschwerdeführer als so wahrscheinlich aufgedrängt, dass sein Verhalten vernünftigerweise nur als Billigung des Todes gewertet werden könne, falls dieser eingetreten wäre (siehe Urteil 6B_488/2009 vom 24. September 2009 E. 1.5.2). Gestützt auf seine Handlungsweise kann nicht ernsthaft in Betracht gezogen werden, der Vorsatz des Beschwerdeführers sei "nur" darauf gerichtet gewesen, das Opfer bewusstlos zu schlagen.
5. 5.1 Der Beschwerdeführer macht geltend, die Vorinstanz gehe zu Unrecht von einem strafmildernden Putativnotwehrexzess statt von einer gerechtfertigten Notwehrhandlung im Sinne von Art. 15 bzw. aArt. 33 Abs. 1 StGB aus. Die Notwehrlage habe nicht nur bis zum Zeitpunkt bestanden, ab welchem das Opfer wehrlos am Boden gelegen habe (Beginn der dritten Phase). Sie habe vielmehr bis zu dessen Bewusstlosigkeit gedauert, da es zuvor noch die Pistole hätte behändigen können. Eine Schusswaffe könne mit geringem Kraftaufwand sowie verletzt ergriffen und sitzend oder liegend eingesetzt werden. Insofern habe die Notwehrsituation erst im Verlauf der dritten Phase (ab Bewusstlosigkeit) geendet (Beschwerde S. 17 f. Art. 21).
Der Beschwerdeführer bringt weiter vor, weil das Behändigen und das Schiessen mit einer Pistole nur mit grosser Gewalt verhindert werden könne, sei ihm zu seiner Verteidigung nichts anderes übrig geblieben, als den Beschwerdegegner 2 bewusstlos zu schlagen. Insoweit sei seine Abwehr verhältnismässig gewesen, weshalb (auch) in sachlicher Hinsicht kein Notwehrexzess vorliege (Beschwerde S. 19 Art. 22).
Eventualiter stellt sich der Beschwerdeführer auf den Standpunkt, der Notwehrexzess sei in entschuldbarem Affekt im Sinne von Art. 16 Abs. 2 bzw. aArt. 33 Abs. 2 Satz 2 StGB erfolgt (Beschwerde S. 19 f. Art. 23 f.).
5.2 Die Vorinstanz führt aus, der Beschwerdeführer habe vom Konflikt zwischen dem Opfer und der Familie seiner Nichte gewusst. Zudem sei ihm bekannt gewesen, dass der Beschwerdegegner 2 auch weiteren Personen gegenüber gewalttätig gewesen sei. Deshalb sei die Angst des Beschwerdeführers vor ihm zumindest zu Beginn des Vorfalls nachvollziehbar, als dieser unerwartet und in Begleitung eines Kollegen vor seinem Hauseingang erschienen sei und auch noch erwähnt habe, er trage eine Pistole auf sich. Daher sei verständlich, dass sich der Beschwerdeführer vor einem möglichen und von ihm offensichtlich erwarteten Angriff habe schützen bzw. wehren wollen. In der dritten Phase der Auseinandersetzung habe für ihn aber keine Bedrohungssituation mehr bestanden. Gemäss den Aussagen der beiden Zeugen sei das Opfer zu diesem Zeitpunkt bereits am Boden gelegen und habe - selbst wenn es sich zu wehren versucht hätte - ohne weiteres in Schach gehalten werden können. Von einer tatsächlichen Notwehrlage könne daher keine Rede sein. Indessen sei der Beschwerdeführer der Meinung gewesen, auch in diesem Zeitpunkt noch in einer solchen Lage zu sein. Zu seinen Gunsten sei ihm deshalb zuzubilligen, in Putativnotwehr gehandelt zu haben (angefochtenes Urteil S. 29 f. E. 4.3.3-4.3.5).
Sodann erwägt die Vorinstanz, der Beschwerdeführer habe die Grenzen der vermeintlichen Notwehrlage bei weitem überschritten (Putativnotwehrexzess). Gemäss Zeugenaussagen hätten er und sein Sohn auf das am Boden liegende, wehrlose und schreiende Opfer eingeschlagen. Sie hätten damit selbst dann nicht aufgehört, als es verstummt sei und nur noch leblos dagelegen habe. In Anbetracht dieser Umstände sei davon auszugehen, der Beschwerdeführer habe gewusst oder hätte zumindest wissen müssen, dass seine Reaktion auf die vermeintliche Notwehrlage rechtswidrig sei (angefochtenes Urteil S. 30 E. 4.3.5 f.).
5.3 Wird jemand ohne Recht angegriffen oder unmittelbar mit einem Angriff bedroht, so ist der Angegriffene und jeder andere berechtigt, den Angriff in einer den Umständen angemessenen Weise abzuwehren (Art. 15 bzw. aArt. 33 Abs. 1 StGB). Ein Fall von Putativnotwehr ist gegeben, wenn der Täter einem Sachverhaltsirrtum (Art. 13 bzw. aArt. 19 Abs. 1 StGB) unterliegt, indem er irrtümlich annimmt, es sei ein rechtswidriger Angriff im Sinne von Art. 15 bzw. aArt. 33 Abs. 1 StGB (noch) gegenwärtig oder unmittelbar bevorstehend (BGE 129 IV 6 E. 3.2 in fine mit Hinweisen). Überschreitet der Abwehrende die Grenzen der Notwehr, so mildert das Gericht die Strafe (Art. 16 Abs. 1 bzw. aArt. 33 Abs. 2 Satz 1 StGB). Erfolgt dies in entschuldbarer Aufregung oder Bestürzung über den Angriff, so handelt er nicht schuldhaft (Art. 16 Abs. 2 bzw. aArt. 33 Abs. 2 Satz 2 StGB). Bei der Beurteilung der Entschuldbarkeit des Notwehrexzesses wird ein umso höherer Grad entschuldbarer Aufregung oder Bestürzung verlangt, je mehr die Reaktion des Täters den Angreifer verletzt oder gefährdet (BGE 102 IV 1 E. 3b S. 7).
5.4 Nach den tatsächlichen Feststellungen der Vorinstanz lag das Opfer ab der dritten Phase wehrlos am Boden und konnte problemlos in Schach gehalten werden. Damit fehlte es ab diesem Zeitpunkt objektiv an einer Notwehrlage. Entgegen der Auffassung des Beschwerdeführers beendete nicht erst die Bewusstlosigkeit des Opfers seine (allfällige) Notwehrlage. Von einer wehrlosen Person, selbst wenn sie eine Pistole mit sich führt, geht kein Angriff aus und ein solcher droht auch nicht unmittelbar. Die Schläge des Beschwerdeführers auf den am Boden liegenden, wehrlosen Kontrahenten sind als zeitlicher, sog. extensiver, Notwehrexzess zu qualifizieren. Vorliegend lag ausserdem keine Situation eines lediglich minimalen zeitlichen Notwehrexzesses vor (siehe Urteil 6P.76/2005 vom 15. November 2005 E. 5.1 mit Hinweisen), da der Beschwerdeführer in der dritten Phase während mehrerer Minuten auf das Opfer einschlug (angefochtenes Urteil S. 14 E. 3.4.3 und S. 19 f. E. 3.6.3 2. Abs.). Unter diesen Umständen kann dahingestellt bleiben, ob der Notwehrexzess ebenso in sachlicher Hinsicht zu bejahen wäre (sog. intensiver Exzess; zur angemessenen Abwehr in einer Notwehrlage BGE 136 IV 49 E. 3.2 S. 51 f. mit Hinweisen und E. 4.2 f.). Weil der Beschwerdeführer die zeitlichen Grenzen der Notwehr offensichtlich überschritten hat, findet mangels tatsächlicher Notwehrsituation Art. 16 Abs. 2 bzw. aArt. 33 Abs. 2 Satz 2 StGB keine Anwendung (Urteil 6P.76/2005 vom 15. November 2005 E. 5.2), selbst wenn ihm die Vorinstanz zubilligt, in Putativnotwehr gehandelt zu haben (vgl. KURT SEELMANN, in: Basler Kommentar, Strafrecht I, 2. Aufl. 2007, Art. 16 StGB N. 4 f.; TRECHSEL/JEAN-RICHARD, Schweizerisches Strafgesetzbuch, Praxiskommentar, 2008, Art. 16 StGB N. 1).
Die Vorinstanz verletzt kein Bundesrecht, wenn sie den Beschwerdeführer wegen versuchter (eventual-)vorsätzlicher Tötung verurteilt und den Putativnotwehrexzess lediglich strafmildernd berücksichtigt.
6. 6.1 Der Beschwerdeführer wendet sich schliesslich gegen die Strafzumessung. Die Vorinstanz gehe zu Unrecht von echter Konkurrenz zwischen der versuchten vorsätzlichen Tötung und der schweren Körperverletzung aus. Sodann lege sie verschiedene Strafzumessungsfaktoren zu seinen Ungunsten aus, berücksichtige diese nicht (angemessen) oder beziehe Umstände zu seinen Lasten mit ein, welche für die Strafzumessung nicht relevant seien. Dies wirke sich auf das Strafmass aus, weshalb die ausgefällte Freiheitsstrafe von viereinhalb Jahren zu hoch sei. Schuldangemessen sei eine bedingt vollziehbare Freiheitsstrafe von unter einem Jahr (Beschwerde S. 2 und S. 20 f. Art. 25 f.).
6.2 Die Vorinstanz erwägt, die Verletzungen, welche der Beschwerdeführer dem Opfer zugefügt habe, seien als schwer einzustufen. Deshalb habe er neben dem Tatbestand der versuchten vorsätzlichen Tötung auch denjenigen der schweren Körperverletzung erfüllt (angefochtenes Urteil S. 27 E. 4.2).
6.3 Das Bundesgericht bestätigte in BGE 137 IV 113 die mit BGE 77 IV 57 begründete Rechtsprechung zur Konkurrenz zwischen versuchter Tötung und einfacher und/oder schwerer Körperverletzung. Danach besteht zwischen der versuchten Tötung und der einfachen oder schweren Körperverletzung grundsätzlich unechte Konkurrenz, wobei die Körperverletzung durch die versuchte Tötung konsumiert wird. Dies gilt, wenn der Körperverletzung wie hier neben der versuchten Tötung keine selbstständige Bedeutung zukommt (BGE 137 IV 113 E. 1.5). Somit verletzt der vorinstanzliche Schuldspruch wegen schwerer Körperverletzung Bundesrecht. In diesem Punkt ist die Beschwerde gutzuheissen und das angefochtene Urteil aufzuheben.
Angesichts des Wegfalls des Schuldspruchs wegen schwerer Körperverletzung wird die Vorinstanz die Strafe neu zu bemessen haben. Daher erübrigt es sich, auf die Rügen des Beschwerdeführers gegen die vorinstanzliche Strafzumessung im angefochtenen Urteil einzugehen. Es ist lediglich darauf hinzuweisen, dass die neue Strafe nicht zwingend milder als die ausgesprochene auszufallen hat. Zwar fällt die strafschärfende Deliktskonkurrenz weg, die Vorinstanz wird bei der versuchten Tötung aber die damit einhergegangene schwere Körperverletzung, d.h. die bereits eingetretene Rechtsgutverletzung, einbeziehen müssen (vgl. BGE 137 IV 113 E. 1.4.2 mit Hinweisen).
7. Die Beschwerde ist teilweise gutzuheissen, das angefochtene Urteil aufzuheben und die Sache zu neuer Entscheidung an die Vorinstanz zurückzuweisen. Im Übrigen ist die Beschwerde abzuweisen, soweit darauf einzutreten ist.
Mit dem Entscheid in der Sache wird das Gesuch um aufschiebende Wirkung betreffend den Zivilpunkt gegenstandslos.
Der Beschwerdeführer wird im Umfang seines Unterliegens kostenpflichtig (Art. 66 Abs. 1 BGG). Er ersucht um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung. Das Gesuch ist abzuweisen, da die Beschwerde - mit Ausnahme der Konkurrenzfrage - aussichtslos war (Art. 64 Abs. 1 BGG), soweit es nicht gegenstandslos geworden ist. Seinen finanziellen Verhältnissen ist mit einer reduzierten Gerichtsgebühr Rechnung zu tragen (Art. 65 Abs. 2 BGG).
Dem Rechtsvertreter des Beschwerdeführers ist im Umfange des Obsiegens eine Entschädigung durch den Kanton Basel-Landschaft auszurichten.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird teilweise gutgeheissen, das Urteil des Kantonsgerichts Basel-Landschaft vom 28. März 2011 aufgehoben und die Sache zu neuer Entscheidung an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen, soweit es nicht gegenstandslos geworden ist.
3. Die Gerichtskosten von Fr. 1'000.-- werden dem Beschwerdeführer auferlegt.
4. Der Kanton Basel-Landschaft hat den Rechtsvertreter des Beschwerdeführers, Rechtsanwalt Gabriel Püntener, für das Verfahren vor Bundesgericht mit Fr. 1'000.-- zu entschädigen.
5. Dieses Urteil wird den Parteien und dem Kantonsgericht Basel-Landschaft, Abteilung Zivil- und Strafrecht, schriftlich mitgeteilt.
Lausanne, 20. Januar 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Pasquini