Sachverhalt:
A. A.a Das Appellationsgericht des Kantons Basel-Stadt sprach X._ am 20. Januar 2011 zweitinstanzlich des Mordes, des mehrfachen versuchten Mordes, der mehrfachen einfachen Körperverletzung mit einem gefährlichen Gegenstand, der qualifizierten Sachbeschädigung, der mehrfachen Beschimpfung, der Gewalt und Drohung gegen Behörden und Beamte, der mehrfachen Widerhandlung gegen das Waffengesetz und der qualifizierten Diensterschwerung (Anklageschrift vom 6. November 2007) sowie in Bezug auf die ergänzende Anklageschrift vom 12. Februar 2008 des versuchten Mordes, der Gefährdung des Lebens, der einfachen Körperverletzung mit einer Waffe und der versuchten räuberischen Erpressung schuldig. Es verurteilte ihn, teilweise als Zusatzstrafe zu den Urteilen des Strafbefehlsrichters Basel-Stadt vom 14. Juli 2004 und 3. November 2004 sowie der Strafgerichtspräsidentin Basel-Stadt vom 12. Juli 2005, zu einer Freiheitsstrafe von 19 Jahren sowie zu einer Busse von Fr. 500.-- und ordnete eine ambulante psychiatrische Behandlung während des Strafvollzugs an. Es verpflichtete ihn, in solidarischer Haftung mit A._, an diverse Personen Genugtuungs- sowie Schadenersatzzahlungen zu leisten und erklärte ihn für weitere Schadensposten dem Grundsatz nach ersatzpflichtig.
A.b Dem Urteil liegen unter anderem folgende Sachverhalte zugrunde:
X._ fuhr im "Zürcher Fall" am 16. Oktober 2001 mit B._ und C._ zum Flughafen Zürich Kloten. Dort zeigte Letztere ihren beiden Begleitern aus einem Versteck heraus die ankommende Reisegruppe um den türkischen Geschäftsmann D._. Die Reisegruppe wurde von E._ mit dem Auto abgeholt und begab sich zum Café "F._" von D._ in Zürich, wo sie an den auf dem Trottoir aufgestellten Tischen Platz nahm. X._, B._ und C._ folgten ihnen. D._ entfernte sich etwas vom Café, um zu telefonieren. X._ trat an ihn heran und verlangte Geld, wobei er ihn mit einer Pistole bedrohte. D._ wies ihn ab. Als auch H._ hinzukam, der X._ ebenfalls abwies und sich von ihm abwandte, schoss X._ gezielt von hinten auf diesen. In der Folge trat zudem E._ hinzu. X._ schoss auch auf ihn. H._ traf er im rechten Knie, während E._ einen Einschuss in den linken Unterbauch und einen Durchschuss des rechten Unterschenkels erlitt. X._ flüchtete anschliessend. Einige Zeit später fuhr er mit B._ und C._ zurück nach Basel, wobei er sich selber als Schütze bezeichnete. Am nächsten Tag rief er H._ im Spital an und entschuldigte sich. D._ telefonierte er in der Folge noch, um Geld von ihm zu erhalten. X._ wollte von D._ eine Geldsumme in der Grössenordnung von fünf Mio. Dollar oder Franken fordern, ohne dass er unter irgendeinem Titel Anspruch auf dieses Geld gehabt hätte. Die beiden Männer kannten sich nicht.
Im Fall "I._Bar" schoss X._ am 26. Oktober 2005 viermal gezielt auf Körper- und Kopfhöhe gegen die vor der "I._Bar" in Basel stehende Menschengruppe rund um die Angehörigen der Familie J._, wobei er sich bei der Schussabgabe gehend auf diese zubewegte. Einen fünften Schuss gab er aus kurzer Distanz (wenigen Metern) auf den bereits angeschossenen und am Boden liegenden J.A._ ab. Der zeitlich letzte Schuss war für diesen tödlich. Während des ganzen Vorfalls wurde er von A._ begleitet, der mit einer Stahlrute herumhantierte und die Funktion eines "Bodyguards" ausübte. Die vor der "I._Bar" stehenden Personen griffen X._ und A._ weder an noch provozierten sie diese tätlich, und es stand auch kein Angriff bevor.
X._ handelte aus Rache an J.B._. Er wollte sich Vergeltung verschaffen für Ereignisse am Morgen, die er ungerechtfertigterweise als Demütigung empfand, da er diese selber initiiert hatte. Der Konflikt war auf eine Frauengeschichte K._s zurückzuführen, die X._ nicht direkt betraf. Die gewalttätige Auseinandersetzung vor der "I._Bar" suchte er zielstrebig. Vor dem Vorfall fuhr er zu sich nach Hause, um die Waffe und Munition zu holen. Anschliessend begab er sich zur "I._Bar", dem Stammlokal der verfeindeten Familie J._, und ging vor dieser zusammen mit dem provozierend die Stahlrute schwingenden A._ auf und ab. Das Vermittlungsangebot von L._ schlug er aus.
B. X._ führt Beschwerde in Strafsachen mit den Anträgen, ihn im "Zürcher Fall" von der Gefährdung des Lebens, des versuchten Mordes sowie der schweren Körperverletzung freizusprechen. Im Fall "I._Bar" sei er vom Vorwurf des Mordes und des mehrfachen versuchten Mordes freizusprechen und wegen Tötung und mehrfach versuchter Tötung zu verurteilen. Die übrigen Schuldsprüche gemäss Urteil vom 20. Januar 2011 ficht er nicht an. Er beantragt eine angemessene Bestrafung. Eventualiter sei das angefochtene Urteil aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen. X._ ersucht um unentgeltliche Rechtspflege und Verbeiständung.
Erwägungen:
1. 1.1 Der Beschwerdeführer rügt im "Zürcher Fall" eine willkürliche Beweiswürdigung. Er macht unter anderem geltend, B._ habe ihn wahrheitswidrig der Tat beschuldigt. Dieser sei aus Rache wegen einer gescheiterten Liebesbeziehung bereits zu einem früheren Zeitpunkt nicht davor zurückgeschreckt, eine Person einer strafbaren Handlung zu bezichtigen und dabei seine Mitschuld zu verschweigen. B._ habe ihn verdächtigt, mit C._ eine Liebesbeziehung unterhalten zu haben und habe ihn für die Zerstörung seiner 14-jährigen Beziehung mit dieser verantwortlich gemacht. Er habe C._ zudem vorgeworfen, seine Pensionskassengelder veruntreut und Fr. 20'000.-- ihm (dem Beschwerdeführer) übergeben zu haben. Entgegen der Auffassung der Vorinstanz habe B._ ein Motiv gehabt, ihn tatsachenwidrig zu belasten. Die Aussagen von B._ seien keineswegs konstant. Nicht ersichtlich sei, weshalb er die Hintergründe der Schiesserei nicht bereits anlässlich des ersten Telefongesprächs mit der Polizei bekannt gegeben habe. Insbesondere mache er geltend, im Restaurant "M._" ein belastendes Gespräch zwischen ihm und C._ mitverfolgt zu haben, zu einem Zeitpunkt, als er (der Beschwerdeführer) dieses noch gar nicht besessen und nicht dort gearbeitet habe. Das unstete Aussageverhalten von C._ erkläre die Vorinstanz willkürlich damit, dass diese Angst vor ihm gehabt habe. Naheliegend sei jedoch, dass sie mehr mit der Schiesserei zu tun gehabt habe, als sie zugegeben habe. Aus den Täterbeschreibungen durch die Zeugen könne nicht auf seine Täterschaft geschlossen werden. Diese seien teilweise derart vage, dass sie eine Individualisierung nicht zulassen würden. Teilweise würden sie auf ihn nachweislich nicht zutreffen.
1.2 Die Sachverhaltsfeststellung der Vorinstanz kann nur gerügt werden, wenn sie willkürlich (Art. 9 BV) ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG; BGE 134 IV 36 E. 1.4.1).
Willkür bei der Beweiswürdigung liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist oder mit der tatsächlichen Situation in klarem Widerspruch steht. Dass eine andere Lösung oder Würdigung ebenfalls vertretbar oder gar zutreffender erscheint, genügt für die Annahme von Willkür nicht (BGE 137 I 1 E. 2.4; 134 I 140 E. 5.4; je mit Hinweisen). Die Rüge der Willkür muss präzise vorgebracht und begründet werden (Art. 106 Abs. 2 BGG). In der Beschwerde muss im Einzelnen dargelegt werden, inwiefern der angefochtene Entscheid an einem qualifizierten und offensichtlichen Mangel leidet. Auf eine rein appellatorische Kritik am angefochtenen Urteil tritt das Bundesgericht nicht ein (BGE 137 IV 1 E. 4.2.3; 136 II 489 E. 2.8; je mit Hinweisen).
1.3 Die Vorinstanz setzt sich ausführlich mit den Aussagen von B._ und C._ auseinander (Urteil S. 18-36). Sie gelangt willkürfrei zum Schluss, B._ habe kein persönliches Interesse daran gehabt, den Beschwerdeführer zu Unrecht der Tat zu belasten. Sie legt dar, dass B._ anlässlich des ersten Telefonats mit den schweizerischen Behörden vom 24. April 2006 in erster Linie seine ehemalige Lebensgefährtin C._ verschiedener Straftaten bezichtigte. Die Schiesserei in Zürich habe er nur beiläufig erwähnt (Urteil S. 15 und E. 2.3.1.1 S. 19). Auch später habe er nur seinen Groll gegenüber C._ kundgetan (Urteil S. 20). Er habe die Geschehnisse über sämtliche Befragungen hinweg gleich geschildert, dies nicht nur im Kerngeschehen, sondern auch hinsichtlich der Nebenumstände. Seine Angaben enthielten eine Fülle von Realkriterien und seien nicht denkbar, ohne dass er das Berichtete tatsächlich selber erlebt habe (Urteil E. 2.3.3.1 S. 24 und E. 2.3.3.7 S. 29). Ungenauigkeiten namentlich bezüglich diverser Zeitangaben vermöchten - angesichts des langen Zeitablaufs zwischen der Tat und den Aussagen - deren Glaubhaftigkeit nicht zu schmälern (Urteil S. 26 f.). C._ habe bei ihren ersten Aussagen jegliche Beteiligung von sich gewiesen. In der Folge habe sie die Geschehnisse in Zürich, wie sie B._ geschildert habe, jedoch vollumfänglich bestätigt. Die Schilderung des Kerngeschehens stimme mit jener von B._ überein. Es sei nicht davon auszugehen, dass C._ das Geschehene - anhand der ihr im Ermittlungsverfahren zuvor gestellten Fragen und Vorhalte - derart treffend, detailreich und präzis hätte darstellen können, wenn sie es nicht selber erlebt hätte (Urteil S. 30 f.).
1.4 Die Vorbringen des Beschwerdeführers gegen die vorinstanzliche Beweiswürdigung erschöpfen sich in einer unzulässigen appellatorischen Kritik. Er setzt sich mit den Ausführungen der Vorinstanz nur sehr rudimentär auseinander und beschränkt sich darauf, gewisse Ungereimtheiten in den Aussagen von B._ und C._ hervorzuheben, welche jedoch Nebensächlichkeiten betreffen und - wie die Vorinstanz ohne Willkür festhält - nicht geeignet sind, deren Glaubhaftigkeit in ihrem Kerngeschehen infrage zu stellen. Darauf ist nicht einzutreten. Unbeachtlich ist auch, dass B._ seine ehemalige Lebensgefährtin gegenüber der Polizei Straftaten bezichtigte, ohne dabei seinen eigenen Tatbeitrag zu erläutern.
Was das angebliche Motiv von B._ für Falschaussagen anbelangt, so machte der Beschwerdeführer im kantonalen Verfahren einerseits geltend, Grund dafür sei ein von ihm verhängtes Hausverbot für sein Restaurant gewesen. Andererseits brachte er vor, B._ habe die vorübergehende Suspendierung der Einreisesperre für allfällige Drogengeschäfte nutzen bzw. sich selber aus dem Fokus des Tatverdachts ziehen wollen. Die Vorinstanz durfte diese Einwände ohne Willkür als Schutzbehauptungen verwerfen (Urteil S. 20 f.). Dass der Beschwerdeführer nach Auffassung von B._ mit C._ eine Liebesbeziehung unterhalten haben soll, stand demgegenüber nicht zur Diskussion und ergibt sich auch nicht aus der vom Beschwerdeführer zitierten Aktenstelle (kant. Akten, Urk. 746). Im Übrigen weist die Vorinstanz daraufhin, dass B._ klarerweise C._ als Schuldnerin der angeblich veruntreuten Pensionskassengelder betrachtete (Urteil S. 20). Ihr kann auch insofern keine willkürliche Beweiswürdigung vorgeworfen werden.
Schliesslich lassen auch die Ausführungen der Vorinstanz zur Täterbeschreibung durch die Zeugen keine Willkür erkennen (Urteil E. 2.3.6 S. 36-38). Dem Beschwerdeführer ist zwar beizupflichten, dass die Beschreibung (Grösse, Alter, Statur) auf weitere Personen zutreffen kann. Dies schliesst seine Täterschaft jedoch nicht aus und vermag das vorinstanzliche Beweisergebnis nicht umzustossen, da die Identifikation des Täters durch die Augenzeugen, nebst den Aussagen von B._ und C._, nur ein weiteres Indiz für die Täterschaft des Beschwerdeführers ist. Gleiches gilt für die angeblich nicht zutreffenden Signalemente (keine Brille, keine herausstehenden Backenknochen, kein gekraustes Haar), zumal die Zeugen den Täter nur für einen kurzen Moment wahrnahmen. Weshalb die Zeugen ein falsches Signalement des Täters abgeben sollten und die Vorinstanz deren Aussagen vorgängig einer eingehenden und expliziten Glaubhaftigkeitsprüfung hätte unterziehen sollen, ist nicht ersichtlich und wird vom Beschwerdeführer auch nicht aufgezeigt. Nicht weiter einzugehen ist auf seinen Einwand, die Vorinstanz reihe willkürlich belastende Aussagen von Drittpersonen aneinander (wie z.B. betreffend des Signalements), ohne deren Glaubwürdigkeit zu überprüfen (Beschwerde S. 26 in fine).
2. 2.1 Der Beschwerdeführer bemängelt, die Einvernahme von C._ vom 24. Februar 2007 sei durch ein längeres unprotokolliertes Gespräch unterbrochen worden. Das nicht protokollierte Gespräch habe dazu geführt, dass C._ ihr Aussageverhalten völlig geändert habe. Die Strafuntersuchung gegen sie sei eingestellt worden, weshalb naheliegend sei, dass damals auch die Voraussetzungen für eine solche Verfahrenserledigung besprochen worden seien. Die Verletzung der Protokollierungspflicht führe nicht nur zur Unverwertbarkeit der Einvernahme vom 24. Februar 2007, sondern auch der später erfolgten belastenden Aussagen von C._, da diese offensichtlich bemüht gewesen sei, ihr Aussageverhalten nicht mehr zu ändern. Am 9. Februar 2007 habe zudem ein unprotokolliertes Gespräch zwischen C._ und dem Polizeibeamten N._ stattgefunden. Letzterer habe C._, welche sich wegen versuchter Tötungsdelikte in Untersuchungshaft befunden habe, unter Druck gesetzt, da er ihr "deutlich erklärt" habe, er schenke der Version von B._ Glauben. Unverwertbar seien auch die Aussagen von C._ vom 2. April 2007, da die Konfrontationseinvernahme vom Polizeibeamten O._ mit ihr vorbesprochen worden sei, wie der Aktennotiz vom 30. März 2007 zu entnehmen sei. Die Vorbesprechung erwecke den Verdacht, dass C._ hinsichtlich eines bestimmten Aussageverhaltens instruiert worden sei.
2.2 Die Einwände des Beschwerdeführers gehen fehl. Die Vorinstanz durfte den belastenden Aussagen von C._ Glauben schenken (oben E. 1.3 und 1.4). Die kantonalen Instanzen gingen der Frage nach, ob sich diese unter dem Druck der Untersuchungshaft möglicherweise zu unwahren, den Beschwerdeführer belastenden Aussagen hinleiten liess. Darauf angesprochen gab C._ anlässlich der Hauptverhandlung als Zeugin zu Protokoll, als sie in Untersuchungshaft gewesen sei, habe sie sich überlegt, wie sie am schnellsten aus dem Gefängnis komme. Die Frage, ob sie damals Aussagen gemacht habe, die sie heute ohne diesen Druck nicht mehr machen würde, verneinte sie jedoch (kant. Akten, Urk. 4905). Die Vorinstanz durfte unter diesen Umständen eine unzulässige Beeinflussung verneinen (Urteil E. 2.3.4.7 S. 35). Die Behauptung, C._ sei eine Verfahrenseinstellung versprochen worden, ist spekulativ, weil dieser Entscheid nicht dem einvernehmenden Polizeibeamten oblag.
Keine rechtswidrige Druckausübung, die zur Unverwertbarkeit der Aussagen führen muss, liegt auch im Hinweis des Polizeibeamten N._, er schenke der Version von B._ Glauben, da C._ dadurch - auch wenn sie sich damals in Untersuchungshaft befand - nicht zu Falschaussagen verleitet wurde.
Aus der Aktennotiz vom 30. März 2007 geht hervor, dass der Polizeibeamte O._ C._ gleichentags den "technischen Ablauf" der bevorstehenden Konfrontationseinvernahme erläuterte. Dabei habe sie ihm erklärt, sie habe grosse Angst vor X._ und dessen Familie und befürchte, dass jemand ihrem Sohn etwas antun könnte, wenn sie jenen mit ihrer Aussage belaste. Am 30. März 2007 wurden demnach nicht die Aussagen von C._ "vorbesprochen", sondern es wurde lediglich der "technische Ablauf" der Konfrontationseinvernahme erläutert.
Aus der Aktennotiz vom 30. März 2007 geht hervor, dass der Polizeibeamte O._ C._ gleichentags den "technischen Ablauf" der bevorstehenden Konfrontationseinvernahme erläuterte. Dabei habe sie ihm erklärt, sie habe grosse Angst vor X._ und dessen Familie und befürchte, dass jemand ihrem Sohn etwas antun könnte, wenn sie jenen mit ihrer Aussage belaste. Am 30. März 2007 wurden demnach nicht die Aussagen von C._ "vorbesprochen", sondern es wurde lediglich der "technische Ablauf" der Konfrontationseinvernahme erläutert.
2.3 2.3.1 Die Anforderungen an die Protokollierung ergeben sich in erster Linie aus dem anwendbaren Strafprozessrecht. Als Minimalgarantie leitet die Rechtsprechung eine Pflicht zur schriftlichen Protokollierung von entscheidrelevanten Tatsachen und Ergebnissen auch aus dem verfassungsmässigen Anspruch auf rechtliches Gehör gemäss Art. 29 Abs. 2 BV ab (BGE 130 II 473 E. 4.2; 124 V 389 E. 3). Die Protokollierungspflicht hängt von den konkreten Umständen des Einzelfalls ab. Im Strafverfahren müssen mindestens die wesentlichen Zeugenaussagen im Protokoll schriftlich festgehalten werden. Die blosse Würdigung der Aussagen in den Erwägungen des Urteils genügt nicht (BGE 126 I 15 E. 2a/bb mit Hinweisen).
2.3.2 Die angeblich "unprotokollierten Gespräche" fanden insofern Eingang in die Akten, als im Einvernahmeprotokoll vom 13. Februar 2007 ein Hinweis auf die von C._ gewünschte Unterredung mit dem Polizeibeamten N._ erfolgte, anlässlich welcher dieser ihr "deutlich erklärte, dass er der Version von B._ Glauben schenke" (kant. Akten, Urk. 596). Im Protokoll der Einvernahme vom 24. Februar 2007 hielt der einvernehmende Polizeibeamte fest, "es sei nochmals über die ganze Geschichte aus dem Jahre 2001 gesprochen worden und C._ habe sich jetzt bereit erklärt, alles was damals passiert sei, zu erzählen" (kant. Akten, Urk. 625). Die unterbliebene wörtliche Aufzeichnung der fraglichen Gespräche kann nicht zur Folge haben, dass auch die gehörig protokollierten Aussagen unverwertbar sind, nachdem die Vorinstanz anhand der Einvernahmeprotokolle in der Lage war, die Aussagen von C._ auf ihre Glaubhaftigkeit hin zu überprüfen und Anhaltspunkte für belastende Falschaussagen fehlen.
3. 3.1 Der Beschwerdeführer beanstandet, B._ sei anlässlich der Einvernahmen durch die Kantonspolizei Zürich vom 7. und 22. Dezember 2006 nicht über sein generelles Aussageverweigerungsrecht im Sinne von § 149b Abs. 2 der Strafprozessordnung des Kantons Zürich vom 4. Mai 1919 (StPO/ZH) informiert worden. Ihm sei lediglich erklärt worden, dass er die Beantwortung von Fragen verweigern könne, mit denen er sich, einen nahen Verwandten oder Lebenspartner der Gefahr strafrechtlicher Verfolgung aussetzen würde. Indem die Vorinstanz die fraglichen Einvernahmeprotokolle verwerte, verletze sie Art. 6 Ziff. 1 EMRK und Art. 14 IPBPR (Uno-Pakt II; SR 0.103.2). Der Mangel könne aufgrund der Fernwirkung des Verwertungsverbots auch nicht durch eine Wiederholung der Einvernahme geheilt werden.
3.2 Nach dem im Strafprozessrecht allgemein anerkannten sowie in Art. 14 Ziff. 3 lit. g IPBPR und Art. 6 Ziff. 1 EMRK verankerten Grundsatz "nemo tenetur se ipsum accusare" ist im Strafverfahren niemand gehalten, zu seiner Belastung beizutragen. Der Beschuldigte ist nicht zur Aussage verpflichtet. Namentlich darf er nicht mit Druckmitteln zur Aussage gezwungen werden und darf sein Schweigen nicht als Indiz für seine Schuld gewertet werden (BGE 131 IV 36 E. 3.1; 130 I 126 E. 2.1; je mit Hinweisen). Dieser Grundsatz bzw. die damit einhergehende und im Strafprozessrecht und der BV (vgl. Art. 31 Abs. 2 BV sowie BGE 130 I 126 E. 2.3-2.5) verankerte Aufklärungspflicht wurde vorliegend nicht verletzt, da B._ ausdrücklich darauf hingewiesen wurde, dass er seine Aussage verweigern könne, wenn er sich damit der Gefahr einer strafrechtlichen Verfolgung aussetzen würde.
3.3 Das Verfahren betreffend den "Zürcher Fall" wurde anfänglich von den Strafverfolgungsbehörden des Kantons Zürich geführt. Die Auskunftsperson gemäss § 149a StPO/ZH ist zum Erscheinen verpflichtet. Sie kann die Aussage jedoch ohne Angabe von Gründen verweigern (§ 149b Abs. 1 StPO/ZH). Der Untersuchungsbeamte belehrt die Auskunftsperson über das Recht zur Aussageverweigerung [...] (§ 149b Abs. 2 StPO/ZH).
Offen bleiben kann, ob B._ am 7. und 22. Dezember 2006 die Stellung einer Auskunftsperson im Sinne von § 149a StPO/ZH hatte, da er im Anschluss an diese Befragungen wiederholt von den Strafverfolgungsbehörden des Kantons Basel-Stadt einvernommen wurde, wobei er seine früheren Angaben jeweils bestätigte. Der Beschwerdeführer legt nicht dar, dass und inwiefern die Vorinstanz nicht nur auf die späteren, teilweise unter Zeugnispflicht erfolgten Aussagen von B._ gegenüber den basel-städtischen Strafverfolgungsbehörden abstellt, sondern auch auf dessen Aussagen vom 7. und 22. Dezember 2006 gegenüber der Kantonspolizei Zürich. Soweit er geltend macht, die ungenügende Belehrung über das generelle Aussageverweigerungsrecht gemäss § 149b Abs. 2 StPO/ZH müsse auch zur Unverwertbarkeit der späteren Aussagen von B._ führen, kann ihm nicht gefolgt werden, da der fehlende Hinweis auf das Aussageverweigerungsrecht nach der Rechtsprechung die Verwertbarkeit einer erneuten, regelkonform erfolgten Einvernahme nicht tangiert (BGE 130 I 126 E. 3.4).
4. 4.1 Der Beschwerdeführer macht geltend, die Aussagen von D._, E._ und H._ seien nicht verwertbar, da ihm nie die Möglichkeit eingeräumt worden sei, den Belastungszeugen Fragen zu stellen.
4.2 Das erstinstanzliche Urteil des Strafgerichts Basel-Stadt vom 25. April 2008 erging vor Inkrafttreten der Schweizerischen Strafprozessordnung vom 5. Oktober 2007 (StPO; SR 312.0) am 1. Januar 2011. Das kantonale Verfahren richtet sich daher weiterhin nach der Strafprozessordnung des Kantons Basel-Stadt (vgl. Art. 453 Abs. 1 und Art. 454 Abs. 2 StPO; BGE 137 IV 145 E. 1.1 mit Hinweisen).
4.3 Das Recht, Belastungs- und Entlastungszeugen zu befragen, untersteht dem vorliegend noch anwendbaren kantonalen Verfahrensrecht. Entsprechende Gesuche um Zeugenbefragung sind den Behörden formgerecht einzureichen. Der Beschuldigte kann den Behörden grundsätzlich nicht vorwerfen, gewisse Zeugen nicht vorgeladen zu haben, wenn er es unterlässt, rechtzeitig und formgerecht die entsprechenden Beweisanträge zu stellen (BGE 131 I 476 E. 2.1; 125 I 127 E. 6c/bb mit Hinweisen). Auf das Recht der Befragung von Belastungszeugen kann verzichtet werden. Ein derartiger Verzicht führt dazu, dass die in der Untersuchung gemachten Aussagen der Zeugen verwendet werden dürfen (BGE 121 I 306 E. 1b mit Hinweisen).
Neue Tatsachen und Beweismittel dürfen vor Bundesgericht nur so weit vorgebracht werden, als erst der Entscheid der Vorinstanz dazu Anlass gibt (Art. 99 Abs. 1 BGG).
4.4 Die Vorinstanz führt aus, die Verteidigung habe darauf verzichtet, D._, E._ und H._ als Zeugen vor Appellationsgericht zu laden (Urteil E. 2.2.5 S. 18). Der Beschwerdeführer macht nicht geltend, er habe entgegen dem Hinweis im angefochtenen Urteil im vorinstanzlichen Verfahren die Konfrontation mit D._, E._ und H._ beantragt. Ebenso wenig legt er dar, weshalb erst der vorinstanzliche Entscheid Anlass zur Konfrontation mit den Belastungszeugen gegeben haben soll. Auf den verspäteten Antrag ist nicht einzutreten.
5. 5.1 Das Appellationsgericht beauftragte die Staatsanwaltschaft im Fall "I._Bar" am 9. Juli 2010, ein Gutachten zur Schussdistanz einzuholen. Diesem Auftrag kam die kriminaltechnische Abteilung der Staatsanwaltschaft Basel-Stadt mit dem kriminaltechnischen Untersuchungsbericht vom 6. August 2010 nach. Der Beschwerdeführer rügt, aus den Akten ergebe sich nicht, dass der Verfasser des Berichts auf die Geheimhaltungspflicht und die Straffolgen eines falschen Gutachtens gemäss Art. 184 Abs. 2 lit. e und f StPO hingewiesen worden sei.
5.2 Vorliegend gelangt nicht die StPO, sondern die Strafprozessordnung des Kantons Basel-Stadt zur Anwendung (oben E. 4.2). Inwiefern die Vorinstanz diese willkürlich angewendet haben soll, legt der Beschwerdeführer nicht dar. Auf die Rüge ist auch deshalb nicht einzutreten, weil der Beschwerdeführer diese erstmals im bundesgerichtlichen Verfahren vorbringt, obschon er die Gelegenheit und auch Anlass dazu gehabt hätte, den allfälligen Mangel bereits im Verfahren vor dem Appellationsgericht geltend zu machen (vgl. zum Erfordernis der Ausschöpfung des kantonalen Instanzenzugs: Art. 80 Abs. 1 BGG sowie BGE 134 III 524 E. 1.3; 133 III 639 E. 2).
6. 6.1 Der Beschwerdeführer rügt, die Vorinstanz habe die kriminaltechnischen Untersuchungsberichte zur Schussdistanz willkürlich gewürdigt. Sie sei gestützt darauf zu Unrecht zum Schluss gelangt, er habe den letzten Schuss auf J.A._ aus "kurzer Distanz" abgegeben.
6.2 Das Gericht würdigt Gutachten grundsätzlich frei. In Fachfragen darf es davon indessen nicht ohne triftige Gründe abweichen. Abweichungen müssen begründet werden. Ein Abweichen ist zulässig, wenn die Glaubwürdigkeit des Gutachtens durch die Umstände ernsthaft erschüttert ist. Umgekehrt kann das Abstellen auf nicht schlüssige Gutachten unter Verzicht auf die gebotenen zusätzlichen Beweiserhebungen gegen das Willkürverbot und gegen Verfahrensrechte der Parteien verstossen (BGE 136 II 539 E. 3.2; 133 II 384 E. 4.2.3; je mit Hinweisen).
6.3 Die Rüge ist unbegründet. Die Vorinstanz anerkennt, dass sich die exakte Schussdistanz nicht ermitteln lässt. Sie geht davon aus, der Beschwerdeführer habe den letzten Schuss auf das Opfer aus "kurzer Distanz" abgegeben. Inwiefern dieser Schluss willkürlich sein soll, ist nicht ersichtlich, da die Vorinstanz die Schussdistanz nicht in Metern festlegt und eine eigentliche Hinrichtungssituation verneint. Sie weist lediglich darauf hin, dass die Tatausführung einer solchen "doch sehr nahe kommt" (Urteil E. 13.3.1.3 S. 66 f.). Damit trägt sie dem Umstand Rechnung, dass die Experten für die Experimente - wie vom Beschwerdeführer beanstandet - eine andere als die vom Täter gebrauchte Munition verwendeten. Eine Manipulation der fünf Patronenhülsen durfte sie gestützt auf den ergänzenden kriminaltechnischen Untersuchungsbericht vom 10. Januar 2011 ebenfalls ohne Willkür verneinen (Urteil E. 13.2.1.1 S. 56 f.).
7. 7.1 Der Beschwerdeführer wendet sich gegen die rechtliche Qualifikation als Mord bzw. versuchten Mord. Die besondere Skrupellosigkeit entfalle, da die Tat durch eine schwere Konfliktsituation (lange andauernder gewaltsamer Familienstreit, gewaltsame Auseinandersetzung am Morgen des gleichen Tages) ausgelöst worden sei. Ein Tötungsdelikt am Ende eines langen und massiven, wenn auch vom Täter mitverschuldeten Konflikts könne nicht als Mord betrachtet werden.
7.2 Eine vorsätzliche Tötung ist als Mord zu qualifizieren, wenn der Täter besonders skrupellos handelt, namentlich wenn sein Beweggrund, der Zweck der Tat oder die Art der Ausführung besonders verwerflich sind (Art. 112 StGB). Mord zeichnet sich nach der Rechtsprechung durch eine aussergewöhnlich krasse Missachtung fremden Lebens bei der Durchsetzung eigener Absichten aus. Für die Qualifikation verweist das Gesetz in nicht abschliessender Aufzählung auf äussere (Ausführung) und innere Merkmale (Beweggrund, Zweck). Diese müssen nicht (alle) erfüllt sein, um Mord anzunehmen. Entscheidend ist eine Gesamtwürdigung der äusseren und inneren Umstände der Tat. Eine besondere Skrupellosigkeit kann beispielsweise entfallen, wenn das Tatmotiv einfühlbar und nicht krass egoistisch war, so etwa wenn die Tat durch eine schwere Konfliktsituation ausgelöst wurde. Für Mord typische Fälle sind die Tötung eines Menschen zum Zwecke des Raubes, Tötungen aus religiösem oder politischem Fanatismus oder aus Geringschätzung (BGE 127 IV 10 E. 1a mit Hinweisen).
7.3 Die Vorinstanz weist zu Recht darauf hin, dass nicht jede Konfliktsituation die besondere Skrupellosigkeit im Sinne von Art. 112 StGB entfallen lässt. Angesichts der Tatumstände und des Tatmotivs durfte sie, ohne Bundesrecht zu verletzen, die Skrupellosigkeit und damit den Tatbestand des Mordes bzw. versuchten Mordes bejahen. Auf die zutreffenden Ausführungen im angefochtenen Urteil (S. 67 f.) kann verwiesen werden. Der Beschwerdeführer legt seiner rechtlichen Würdigung teilweise einen von den willkürfreien vorinstanzlichen Feststellungen abweichenden Sachverhalt zugrunde. Darauf ist nicht einzutreten (Art. 105 Abs. 1 BGG).
8. Die Beschwerde ist abzuweisen, soweit darauf einzutreten ist. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung ist infolge Aussichtslosigkeit der Beschwerde abzuweisen (Art. 64 Abs. 1 und 2 BGG). Der finanziellen Lage des Beschwerdeführers ist bei der Festsetzung der Gerichtskosten Rechnung zu tragen (Art. 65 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Das Gesuch um unentgeltliche Rechtspflege und Verbeiständung wird abgewiesen.
3. Die Gerichtskosten von Fr. 1'600.-- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt schriftlich mitgeteilt.
Lausanne, 3. April 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Unseld