Sachverhalt:
A.
Die Staatsanwaltschaft Basel-Stadt wirft X.A._ u.a. vor, er habe sich mit seiner Schwester B.A._ zu einer Liegenschaft begeben, um nach ihrer Schwester C.A._ zu sehen. Zum Leidwesen der ganzen Familie habe diese dort mit ihrem Freund Y._ gewohnt. Die beiden hätten nur den Freund angetroffen. B.A._ habe diesem Vorhaltungen gemacht. In dieser aggressiven Stimmung habe Y._ X.A._ mit dem Kopf gestossen, so dass jener gegen ein Baugerüst geflogen sei. Hierauf habe X.A._ seinem Widersacher mit einem Messer einen Stich in den Bauch versetzt, der zu lebensgefährlichen Verletzungen geführt habe.
B.
Das Strafgericht des Kantons Basel-Stadt verurteilte X.A._ wegen versuchter vorsätzlicher Tötung (begangen in nicht entschuldbarem Notwehrexzess), falscher Anschuldigung, mehrfacher grober und mehrfacher einfacher Verletzung der Verkehrsregeln zu einer Freiheitsstrafe von 33⁄4 Jahren und einer Busse von Fr. 800.--. Es entschied über die Einziehung bzw. Herausgabe der beschlagnahmten Gegenstände und verpflichtete X.A._ zur Bezahlung einer Genugtuung an Y._. Dessen Schadenersatzforderung hiess es dem Grundsatz nach gut, legte die Haftungsquote auf 80 % fest und verwies Y._ für die Festlegung der Höhe des Schadenersatzes auf den Zivilweg.
Auf Appellation von X.A._ und der Staatsanwaltschaft Basel-Stadt sowie auf Anschlussappellation von Y._ hin bestätigte das Appellationsgericht des Kantons Basel-Stadt das Urteil des Strafgerichts im Schuldpunkt. Es bestätigte auch die Busse, erhöhte aber die Freiheitsstrafe auf 41⁄2 Jahre und verpflichtete X.A._, Y._ eine Genugtuung von Fr. 16'000.--, zuzüglich Zins, und einen Schadenersatz von Fr. 10'198.50 zu bezahlen. Im Mehrbetrag wies es die Forderungen ab.
C.
X.A._ führt Beschwerde in Strafsachen mit den Anträgen, das angefochtene Urteil aufzuheben und ihn infolge rechtfertigender Notwehr freizusprechen. Eventualiter sei er wegen Körperverletzung in entschuldbarer Notwehr zu einer bedingten Freiheitsstrafe von zwei Jahren zu verurteilen. Subeventualiter sei die Sache an die Vorinstanz zurückzuweisen. Die Zivilforderungen seien abzuweisen.

Erwägungen:
1.
1.1. Das Bundesgericht legt seinem Urteil den Sachverhalt zu Grunde, den die Vorinstanz festgestellt hat (<ref-law>). Die vorinstanzliche Sachverhaltsfeststellung kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Offensichtlich unrichtig ist die Sachverhaltsfeststellung, wenn sie willkürlich ist (<ref-ruling> E. 4.2 S. 234; zum Begriff der Willkür <ref-ruling> E. 7.1; <ref-ruling> E. 4.2; je mit Hinweisen). Eine entsprechende Rüge muss klar und substanziiert begründet werden (Art. 42 Abs. 2 und Art. 106 Abs. 2 BGG; <ref-ruling> E. 4.2.3; <ref-ruling> E. 1.3.1; je mit Hinweisen). Auf eine rein appellatorische Kritik am angefochtenen Entscheid tritt das Bundesgericht nicht ein (<ref-ruling> E. 4.2.3; <ref-ruling> E. 2.8; je mit Hinweisen).
1.2. Soweit der Beschwerdeführer die tatsächlichen Feststellungen der Vorinstanz beanstandet, legt er nicht dar, weshalb diese schlechterdings unhaltbar sind. Er beschränkt sich darauf, seine Sicht der Dinge darzustellen. Darauf ist nicht einzutreten. Dies ist der Fall, wenn er vorbringt, er habe sehr wohl damit rechnen müssen, dass auch der Geschädigte ein Messer mitführe (Beschwerde S. 3 N. 7).
2.
2.1. Der Beschwerdeführer macht geltend, die Vorinstanz anerkenne zwar eine Notwehrsituation, erachte seine Abwehr aber zu Unrecht als nicht verhältnismässig. Werde ein Messer zur Verteidigung eingesetzt, könne es immer zu schweren Verletzungen kommen. Die Annahme, ein körperlich Unterlegener könne sich mit einem präzisen und mithin harmlosen Stich verteidigen, sei lebensfremd.
2.2. Die Vorinstanz stellt fest, der Geschädigte habe den Beschwerdeführer unvermittelt mit dem Kopf gestossen, wodurch dieser rückwärts in ein Baugerüst gefallen sei (Urteil S. 5 f. E. 3.1). Der Kopfstoss stelle keinen schweren Angriff dar. Die Verletzungen des Beschwerdeführers seien auch eher geringfügig gewesen. Es sei nicht zu erwarten gewesen, dass der Geschädigte zu anderen, schwereren Mitteln greifen würde. Der Beschwerdeführer sei unangemeldet aufgetaucht und habe den Freund seiner Schwester mit einem Anzug in der Hand im Treppenhaus angetroffen. Es sei nicht damit zu rechnen gewesen, dass jener mit einem Messer bewaffnet war. In dieser nicht besonders gefährlichen Situation sei die Abwehr des Beschwerdeführers nicht angemessen gewesen (Urteil S. 7 f. E. 3.3).
2.3. Wird jemand ohne Recht angegriffen oder unmittelbar mit einem Angriff bedroht, ist der Angegriffene und jeder andere berechtigt, den Angriff in einer den Umständen angemessenen Weise abzuwehren (<ref-law>).
Gemäss Rechtsprechung muss die Abwehr in einer Notwehrsituation nach der Gesamtheit der Umstände als verhältnismässig erscheinen. Eine Rolle spielen v.a. die Schwere des Angriffs, die durch den Angriff und die Abwehr bedrohten Rechtsgüter, die Art des Abwehrmittels und dessen tatsächliche Verwendung. Die Angemessenheit der Abwehr ist aufgrund jener Situation zu beurteilen, in der sich der rechtswidrig Angegriffene im Zeitpunkt seiner Tat befand. Es dürfen nicht nachträglich allzu subtile Überlegungen darüber angestellt werden, ob der Angegriffene sich nicht allenfalls auch mit anderen, weniger einschneidenden Massnahmen hätte begnügen können und sollen. Bei der Verwendung von gefährlichen Gegenständen zur Abwehr (Messer, Schusswaffen etc.) ist besondere Zurückhaltung geboten (<ref-ruling> E. 3.2 f. mit Hinweisen).
2.4. Es ist unbestritten, dass sich der Beschwerdeführer in einer Notwehrsituation befand, als er sich mit dem Messer verteidigte. Die Vorinstanz qualifiziert den Stich mit dem Messer in den Bauch des Geschädigten zutreffend als Notwehrexzess. Nachdem jener den Beschwerdeführer mit dem Kopf gestossen hatte, stach er das mitgeführte Messer ohne Vorwarnung so wuchtig in den Bauch seines Widersachers, dass eine ca. fünf Zentimeter lange, durch die Leber hindurch verlaufende Stichverletzung resultierte (Urteil S. 7 E. 3.2). Dem rechtsmedizinischen Gutachten folgend lässt das Verletzungsbild auf einen wuchtigen Messerhieb und eine aktive sowie gezielte Stichführung schliessen (Urteil S. 6 E. 3.1 mit Hinweis auf den erstinstanzlichen Entscheid, vgl. S. 50 oben und S. 51 f.). Nach der bundesgerichtlichen Rechtsprechung ist der rechtswidrig Angegriffene gehalten, den Gebrauch eines gefährlichen Gegenstands zunächst anzudrohen bzw. den Angreifer zu warnen. Verlangt wird zudem, dass zuerst ein schonenderer bzw. milderer Einsatz des Messers zur Erreichung des Abwehrerfolgs versucht wird, der sich in erster Linie gegen weniger verletzliche Körperteile wie Beine und Arme zu richten hat (<ref-ruling> E. 4.2 S. 53 f.; Urteile 6B_810/2011 vom 30. August 2012 E. 3.4.2 mit Hinweisen und 6B_1039/2010 vom 16. Mai 2011 E. 2.1.4). Selbst wenn der Beschwerdeführer einem körperlich überlegenen und erfahreneren Angreifer gegenüberstand, war sein unangekündigter Messereinsatz als Reaktion auf den Kopfstoss keine verhältnismässige Abwehr. Er wäre zu besonderer Zurückhaltung verpflichtet gewesen und hätte seinen Widersacher zumindest warnen oder die Verwendung des Messers androhen müssen. Dies wäre ihm entgegen seiner Auffassung zumutbar gewesen.
3.
3.1. Der Beschwerdeführer bringt vor, ein allfälliger Notwehrexzess sei entschuldbar im Sinne von <ref-law>. Er sei über den Angriff äusserst aufgeregt und nicht in der Lage gewesen, sich gezielt und mithin harmloser zu verteidigen.
3.2. Überschreitet der Abwehrende die Grenzen der Notwehr, so mildert das Gericht die Strafe (<ref-law>). Überschreitet er die Grenzen der Notwehr in entschuldbarer Aufregung oder Bestürzung über den Angriff, so handelt er nicht schuldhaft (<ref-law>).
Ein Notwehrexzess ist gemäss <ref-law> entschuldbar, wenn die Aufregung oder die Bestürzung des Täters allein oder zumindest vorwiegend auf den rechtswidrigen Angriff zurückzuführen ist. Überdies müssen Art und Umstände des Angriffs derart sein, dass sie die Aufregung oder Bestürzung entschuldbar erscheinen lassen. Nicht jede geringfügige Erregung oder Bestürzung ist straflos (Urteil 6B_810/2011 vom 30. August 2012 E. 5.3.2 mit Hinweisen). Das Gericht hat einen umso strengeren Massstab anzulegen, je mehr die Reaktion des Täters den Angreifer verletzt oder gefährdet. Erforderlich ist, dass es dem Täter aufgrund der Aufregung oder Bestürzung über den Angriff nicht möglich war, besonnen und verantwortlich zu reagieren (vgl. Urteil 6S.734/1999 vom 10. April 2001 E. 4b zum Einsatz von Schusswaffen).
3.3. Die Vorinstanz erachtet den Notwehrexzess zu Recht als nicht entschuldbar. Der Angriff des Geschädigten gestaltete sich vergleichsweise harmlos. Der Beschwerdeführer stand weder Todesangst aus, noch fürchtete er sich vor schweren Verletzungen. Mit dem wuchtigen Messerstich in den Bauch verwundete er seinen Angreifer beinahe tödlich. Die Vorinstanz berücksichtigt zutreffend, dass er angesichts seiner Schutzvorkehrungen (Mitführen des Messers) mit einer tätlichen Auseinandersetzung rechnete. Insofern konnte ihn der Kopfstoss nicht besonders überraschen, obwohl dieser unvermittelt erfolgte. Dass er sich über den Angriff aufregte, dieser ihn in eine Spannungslage versetzte und er in einer gewissen Bestürzung handelte, erscheint nachvollziehbar. Allerdings reicht dies, insbesondere auch in Anbetracht der Schwere der Verletzung des Geschädigten, für eine die Straflosigkeit von schweren Notwehrüberschreitungen begründende entschuldbare Emotion im Sinne von <ref-law> nicht aus (Urteil S. 8 E. 3.4).
4.
4.1. Der Beschwerdeführer stellt den Eventualantrag, er sei nicht der versuchten vorsätzlichen Tötung, sondern der Körperverletzung schuldig zu sprechen. Er macht geltend, die Vorinstanz nehme zu Unrecht an, er habe den Tod seines Kontrahenten in Kauf genommen.
4.2. Die Vorinstanz erwägt, wer in einer tätlichen Auseinandersetzung mit einem Messer unkontrolliert und derart wuchtig in den Bauch des Kontrahenten steche, dass eine ca. fünf cm lange, durch die Leber hindurch verlaufende Stichverletzung resultiere, müsse mit einer lebensbedrohlichen Situation rechnen. Wenn der Beschwerdeführer erkläre, ihm seien die Folgen eines Messerstichs in den Bauch nicht bewusst gewesen, handle es sich um eine Schutzbehauptung. Dies bestätigten die Aussagen seiner Schwester, wonach er sich unmittelbar nach der Tat in einem hohen Masse darüber besorgt gezeigt habe, der Geschädigte könne der Stichverletzung erliegen (Urteil S. 6 f. E. 3.2).
4.3.
4.3.1. Vorsätzlich begeht ein Verbrechen oder Vergehen, wer die Tat mit Wissen und Willen ausführt oder wer die Verwirklichung der Tat für möglich hält und in Kauf nimmt (<ref-law>). Nach ständiger Rechtsprechung ist Eventualvorsatz gegeben, wenn der Täter den Eintritt des Erfolgs für möglich hält, aber dennoch handelt, weil er den Erfolg für den Fall seines Eintritts in Kauf nimmt, sich mit ihm abfindet, mag er ihm auch unerwünscht sein (<ref-ruling> E. 4.2.3 S. 4 mit Hinweis). Die Abgrenzung zwischen Eventualvorsatz und bewusster Fahrlässigkeit kann im Einzelfall schwierig sein. Sowohl der eventualvorsätzlich als auch der bewusst fahrlässig handelnde Täter wissen um die Möglichkeit des Erfolgseintritts. Hinsichtlich der Wissensseite stimmen somit beide Erscheinungsformen des subjektiven Tatbestands überein. Unterschiede bestehen jedoch beim Willensmoment. Der bewusst fahrlässig handelnde Täter vertraut (aus pflichtwidriger Unvorsichtigkeit) darauf, dass der von ihm als möglich vorausgesehene Erfolg nicht eintreten, das Risiko der Tatbestandserfüllung sich mithin nicht verwirklichen werde. Demgegenüber nimmt der eventualvorsätzlich handelnde Täter den Eintritt des als möglich erkannten Erfolgs ernst, rechnet mit ihm und findet sich mit ihm ab. Wer den Erfolg dergestalt in Kauf nimmt, "will" ihn im Sinne von <ref-law>. Nicht erforderlich ist, dass der Täter den Erfolg billigt (<ref-ruling> E. 4.1 S. 16 mit Hinweisen).
Für den Nachweis des Vorsatzes kann sich das Gericht - soweit der Täter nicht geständig ist - regelmässig nur auf äusserlich feststellbare Indizien und auf Erfahrungsregeln stützen, die ihm Rückschlüsse von den äusseren Umständen auf die innere Einstellung des Täters erlauben. Zu den äusseren Umständen, aus denen der Schluss gezogen werden kann, der Täter habe die Tatbestandsverwirklichung in Kauf genommen, zählt namentlich die Grösse des dem Täter bekannten Risikos der Tatbestandsverwirklichung und die Schwere der Sorgfaltspflichtverletzung. Je grösser dieses Risiko ist und je schwerer die Sorgfaltspflichtverletzung wiegt, desto eher darf gefolgert werden, der Täter habe die Tatbestandsverwirklichung in Kauf genommen (<ref-ruling> E. 3.2.2 mit Hinweisen). Der Richter darf vom Wissen des Täters auf den Willen schliessen, wenn sich dem Täter der Eintritt des Erfolgs als so wahrscheinlich aufdrängte, dass die Bereitschaft, ihn als Folge hinzunehmen, vernünftigerweise nur als Inkaufnahme des Erfolgs ausgelegt werden kann (<ref-ruling> E. 4.2.3 S. 4 mit Hinweis). Eventualvorsatz kann indessen auch vorliegen, wenn der Eintritt des tatbestandsmässigen Erfolgs nicht in diesem Sinne sehr wahrscheinlich, sondern bloss möglich war. Doch darf nicht allein aus dem Wissen des Täters um die Möglichkeit des Erfolgseintritts auf dessen Inkaufnahme geschlossen werden. Vielmehr müssen weitere Umstände hinzukommen (<ref-ruling> E. 4.1 S. 17 mit Hinweisen).
Was der Täter wusste, wollte und in Kauf nahm, betrifft sog. innere Tatsachen und ist somit Tatfrage. Rechtsfrage ist hingegen, ob im Lichte der festgestellten Tatsachen der Schluss auf Eventualvorsatz begründet ist (<ref-ruling> E. 4.2.3 S. 4 mit Hinweis). Da sich insoweit Tat- und Rechtsfragen teilweise überschneiden können, hat der Sachrichter die in diesem Zusammenhang relevanten Tatsachen möglichst erschöpfend darzustellen, damit erkennbar wird, aus welchen Umständen er auf Eventualvorsatz geschlossen hat. Das Bundesgericht kann in einem gewissen Ausmass die richtige Bewertung dieser Umstände im Hinblick auf den Rechtsbegriff des Eventualvorsatzes überprüfen (<ref-ruling> E. 4.1 S. 17 mit Hinweisen).
4.3.2. In einem neueren Entscheid erwog das Bundesgericht, auch bei einem einzigen gegen den Oberkörper des Opfers geführten Messerstich könne auf vorsätzliche Tötung erkannt werden (Urteil 6B_829/2010 vom 28. Februar 2011 E. 3.2, Tatwaffe war ein Messer mit einer Klingenlänge von 11 cm, mit Hinweis auf das Urteil 6S.104/2002 vom 22. Oktober 2003 E. 2.; vgl. ferner z.B. Urteile 6B_572/2011 vom 20. Dezember 2011 E. 2.6 3. Abs., gezielter Stich in den Oberkörper; 6B_635/2009 vom 19. November 2009 E. 3.3, Stich in die Nierengegend mit einem Tranchiermesser; 6B_788/2008 vom 26. Dezember 2008 E. 1, kräftige, gezielte Messerstiche in Brust und Rücken; 6B_822/2008 vom 5. November 2008 E. 4.3, Stich mit Kraftaufwand in die Brust; 6S.224/2005 vom 21. Juni 2005 E. 2, Messerstich mit voller Wucht in den Bauch).
4.4. Der vorinstanzliche Schuldspruch wegen versuchter eventualvorsätzlicher Tötung verletzt kein Bundesrecht. Nach den tatsächlichen Feststellungen der Vorinstanz stach der Beschwerdeführer das Messer wuchtig und gezielt in den Bauch seines Widersachers. Es bestand unmittelbare Lebensgefahr für diesen (vgl. E. 2.4). Dass Messerstiche in Brust und Bauch eines Menschen den Tod zur Folge haben können, bedarf keiner besonderen Intelligenz (<ref-ruling> E. 2 S. 6). Die Sorgfaltspflichtverletzung des Beschwerdeführers wiegt schwer. Bei einem mit Wucht ausgeführten Messerstich in den Bauch ist das Risiko des Todes des Opfers als hoch einzustufen. Der glimpfliche Ausgang ist vorliegend einzig der Hilfe von Passanten zuzuschreiben, die den Geschädigten unverzüglich ins Spital brachten (Urteil S. 6 E. 3.1 mit Hinweis auf den erstinstanzlichen Entscheid S. 51). Der Beschwerdeführer musste bei seinem Vorgehen mit dem Eintritt des Todes des Geschädigten rechnen und hat diesen für den Fall seines Eintritts in Kauf genommen.
5.
Die Beschwerde richtet sich schliesslich gegen die Strafzumessung. Auf die Rüge des Beschwerdeführers ist insofern nicht einzutreten, als er sich im Zusammenhang mit dem beantragten Freispruch äussert. Soweit er darüber hinaus geltend macht, sein jugendliches Alter zur Tatzeit und der erhebliche Druck von Seiten der Familie habe sich nicht erkennbar ausgewirkt, sind die Rügen nicht rechtsgenügend begründet (<ref-law>). Darauf ist ebenfalls nicht einzutreten.
6.
Die Anträge zur Zivilforderung und den Kostenfolgen begründet der Beschwerdeführer einzig mit dem beantragten Freispruch. Darauf ist nicht einzutreten.
7.
Die Beschwerde ist abzuweisen, soweit darauf eingetreten werden kann. Bei diesem Ausgang des Verfahrens hat der Beschwerdeführer die bundesgerichtlichen Kosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf eingetreten wird.
2.
Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt schriftlich mitgeteilt.
Lausanne, 19. Juli 2013
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Die Gerichtsschreiberin: Pasquini