Sachverhalt:
A.
B.X._ befand sich in Begleitung seines Bruders A.X._ und von C._, als er am frühen Morgen des 21. November 2009 D._ unvermittelt von hinten angriff und zu Boden stiess. D._ wurde mehrmals mit Fäusten und Fusstritten gegen Kopf und Oberkörper geschlagen und getreten. Er rief den sich entfernenden Angreifern Beschimpfungen nach, worauf diese zurückkamen und ihn und den zur Hilfe geeilten E._ erneut attackierten. Infolge eines K.o.-Schlags/Tritts fiel D._ rückwärts auf den Hinterkopf und blieb bewusstlos am Boden liegen, wo C._ ihm noch einen Tritt versetzte. D._ erlitt Schürfwunden an den Handinnenflächen und Knien, einen Bruch der Elle sowie Weichteilquetschungen, eine Schwellung und eine Schürfwunde am Hinterkopf. E._ wurde im Rahmen des zweiten Angriffs von B.X._ am Boden liegend im Schwitzkasten gehalten und ebenfalls getreten und geschlagen, blieb jedoch unverletzt. Auf seinem Heimweg wurde er von C._ und den Brüdern X._ erkannt und verfolgt. Als sie ihn eingeholt hatten, schlug C._ ihm ins Gesicht. E._ wurde zu Boden geworfen und mit zahlreichen Faustschlägen und Fusstritten, vor allem gegen den Kopf und ins Gesicht, traktiert. Die Gruppe liess erst von ihm ab, als F._ einschritt. E._ erlitt Brüche des rechten Jochbeins, des rechten Augenhöhlenbogens und des Nasenbeins. Es bestand keine unmittelbare Lebensgefahr für ihn.
B.
Am 19. Oktober 2012 verurteilte das Appellationsgericht Basel-Stadt A.X._ im Berufungsverfahren u.a. wegen (mittäterschaftlich begangener) mehrfach versuchter schwerer und einfacher Körperverletzung zu einer Freiheitsstrafe von dreieinhalb Jahren.
C.
Gegen das Urteil des Appellationsgerichts führen sowohl A.X._ (6B_45/2013) als auch die Staatsanwaltschaft Basel-Stadt (separates Verfahren 6B_754/2012) Beschwerde in Strafsachen. A.X._ beantragt, Ziffer 3 des angefochtenen Urteils sei aufzuheben, und er sei vom Vorwurf der mehrfachen versuchten schweren Körperverletzung freizusprechen. Eventualiter sei die Sache zur erneuten Beurteilung und Durchführung eines verfassungs- und EMRK-konformen Verfahrens an das Appellationsgericht zurückzuweisen.
Die Staatsanwaltschaft Basel-Stadt hat sich nicht vernehmen lassen. Das Appellationsgericht beantragt in seiner Vernehmlassung zum Kostenpunkt die Abweisung der Beschwerde. A.X._ hat sich zur Vernehmlassung nicht geäussert.

Erwägungen:
1.
1.1. Die Vorinstanz hält für erwiesen, dass der Beschwerdeführer an allen drei Angriffen aktiv mitgewirkt hat. Er habe beim ersten Angriff auf D._ eingetreten und eingeschlagen und diesen beim zweiten bewusstlos geschlagen oder getreten. Auch beim Angriff auf E._ habe er nicht nur schlichtend eingegriffen. Offen bleiben könne letztlich, ob er E._ nur geschlagen oder auf diesen auch eingetreten habe. Er müsse für die entsprechenden Handlungen seiner Mittäter (B.X._ und C._) einstehen, da er sie nicht hinderte oder zu hindern versuchte, das am Boden liegende Opfer zu treten. Ein Mittäterexzess liege insoweit nicht vor.
1.2. Der Beschwerdeführer wendet sich gegen die Verurteilung wegen mittäterschaftlich begangener mehrfacher schwerer Körperverletzung. Er rügt eine willkürliche Sachverhaltsfeststellung und eine Verletzung des Grundsatzes in dubio pro reo. Er habe zu keinem Zeitpunkt eines der Opfer geschlagen oder getreten. Er habe seinem Bruder helfen wollen und D._ lediglich einen Stoss gegen die Brust gegeben. Sein Wille sei einzig auf Tätlichkeiten, schlimmstenfalls auf einfache Körperverletzung gerichtet gewesen. Allfällige Tritte seitens seines Bruders oder von C._ habe er nie gebilligt. Die Annahme mittäterschaftlichen Handelns sei bundesrechtswidrig. Die Vorinstanz lege im Übrigen die objektiven und subjektiven Kriterien einer allfälligen Mittäterschaft nicht nachvollziehbar dar. Sie verstosse somit gegen ihre Begründungspflicht und verletze seinen Anspruch auf rechtliches Gehör.
1.3.
1.3.1. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Die Sachverhaltsfeststellung kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>; <ref-ruling> E. 1.4.1 mit Hinweisen). Willkür bei der Beweiswürdigung liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist oder mit der tatsächlichen Situation in klarem Widerspruch steht (<ref-ruling> E. 2.4; <ref-ruling> E. 5.4; je mit Hinweisen). Dem Grundsatz in dubio pro reo kommt in der vom Beschwerdeführer angerufenen Funktion als Beweiswürdigungsregel im Verfahren vor dem Bundesgericht keine über das Willkürverbot von <ref-law> hinausgehende Bedeutung zu (<ref-ruling> E. 7; <ref-ruling> E. 2a; je mit Hinweisen).
1.3.2. Den Tatbestand der schweren Körperverletzung im Sinne von <ref-law> erfüllt, wer vorsätzlich einen Menschen lebensgefährlich verletzt.
1.3.3. Gemäss <ref-law> begeht ein Verbrechen oder Vergehen vorsätzlich, wer die Tat mit Wissen und Willen ausführt (Satz 1). (Eventual-) vorsätzlich handelt bereits, wer die Verwirklichung der Tat für möglich hält und in Kauf nimmt (Satz 2), sich mit dem Erfolg abfindet, mag er ihm auch unerwünscht sein (vgl. <ref-ruling> E. 4.2.3). Was der Täter weiss, will und in Kauf nimmt, betrifft nach bundesgerichtlicher Rechtsprechung eine innere Tatsache und ist Tatfrage. Rechtsfrage ist hingegen, nach welchen tatsächlichen Voraussetzungen bewusste Fahrlässigkeit, Eventualvorsatz oder direkter Vorsatz gegeben ist (<ref-ruling> E. 4.1; <ref-ruling> E. 8.5).
1.3.4. Ein Versuch liegt vor, wenn der Täter, nachdem er mit der Ausführung eines Verbrechens oder Vergehens begonnen hat, die strafbare Tätigkeit nicht zu Ende führt oder der zur Vollendung der Tat gehörende Erfolg nicht eintritt oder dieser nicht eintreten kann (<ref-law>). Beim Versuch erfüllt der Täter sämtliche subjektiven Tatbestandsmerkmale und manifestiert seine Tatentschlossenheit, ohne dass alle objektiven Tatbestandsmerkmale verwirklicht sind (<ref-ruling>13 E. 1.4.2 mit Hinweisen).
1.3.5. Mittäter ist, wer bei der Entschliessung, Planung oder Ausführung eines Deliktes vorsätzlich und in massgebender Weise mit anderen Tätern zusammenwirkt, so dass er als Hauptbeteiligter dasteht. Mittäterschaft kann durch tatsächliches Mitwirken bei der Ausführung begründet werden. Konkludentes Handeln genügt (<ref-ruling> E. 2c/aa). Auch an spontanen, nicht geplanten Aktionen oder unkoordinierten Straftaten ist Mittäterschaft möglich (vgl. Urteil 6B_180/2011 vom 5. April 2012 E. 2.2, nicht publiziert in: <ref-ruling>). Es genügt, dass sich der Täter den Vorsatz seiner Mittäter zu eigen macht (<ref-ruling> E. 2.3.1 mit Hinweisen).
1.4.
1.4.1. Soweit der Beschwerdeführer die Feststellungen zum Tatgeschehen rügt, beschränkt er sich darauf, in längeren Ausführungen die Ereignisse aus seiner Sicht zu schildern, ohne auf die umfassende Beweiswürdigung der Vorinstanz einzugehen. Das Bundesgericht ist keine Appellationsinstanz, die eine freie Prüfung in rechtlicher und tatsächlicher Hinsicht vornimmt. Für die Rüge einer willkürlichen Beweiswürdigung reicht es nicht aus, wenn der Beschwerdeführer zum Beweisergebnis wie in einem appellatorischen Verfahren frei plädiert und darlegt, wie seiner Auffassung nach die vorhandenen Beweise richtigerweise zu würdigen gewesen wären. Auf eine solche Kritik tritt das Bundesgericht nicht ein (vgl. <ref-ruling> E. 4.2.3 mit Hinweis).
1.4.2. Die Verurteilung wegen (mittäterschaftlich begangener) versuchter schwerer Körperverletzung im Sinne von <ref-law> i.V.m. <ref-law> verletzt kein Bundesrecht. Die Vorinstanz geht bei allen drei Angriffen von mittäterschaftlichem Handeln aus. Angesichts des willkürfrei festgestellten Sachverhalts durfte sie zur Überzeugung gelangen, dass der Beschwerdeführer sowie sein Bruder B.X._ und C._ aufgrund des gewalttätigen Vorgehens gegen D._ und E._ schwere Körperverletzungen für möglich hielten und für den Fall des Eintritts in Kauf nahmen. Zudem räumte der Beschwerdeführer (wie auch seine Mitangreifer) anlässlich der vorinstanzlichen Hauptverhandlung ein, ihm sei bekannt, dass stumpfe Gewalteinwirkung in Form unkontrollierter Tritte und Schläge gegen Körper und Kopf sowie ins Gesicht eines Menschen zu lebensbedrohlichen Verletzungen führen könne. Derartige Verletzungen sind nicht eingetreten, weshalb die Vorinstanz zu recht nur auf (mehrfache) versuchte schwere Körperverletzung befand.
Soweit der Beschwerdeführer sich gegen die Zurechnung der Schläge der Mitbeschuldigten B.X._ und C._ im Rahmen des (dritten) Angriffs auf E._ wendet, legt er nicht substantiiert dar, inwiefern die Vorinstanz aufgrund des willkürfrei festgestellten Sachverhalts Bundesrecht verletzt, indem sie mittäterschaftliches Handeln bejaht. Dies ist auch nicht ersichtlich. Zudem geht der Einwand eines nicht voraussehbaren Mitttäterexzesses mit der Begründung, er selber habe nicht getreten und die Tritte der beiden anderen auch nicht gebilligt, an der Sache vorbei. Der Beschwerdeführer nahm beim dritten Angriff wahr, dass sein Bruder B.X._ und C._ auf den am Boden liegenden E._ einschlugen und eintraten. Er beteiligte sich an diesem Angriff in Kenntnis der durch Tritte möglichen Verletzungsfolgen zumindest mit Faustschlägen. Bei einem derartigen Vorgehen durfte die Vorinstanz annehmen, dass er die Tritte der beiden anderen (konkludent) billigte und sich deren Vorsatz bezüglich schwerer Körperverletzungen zu eigen machte. Damit hat sich der Beschwerdeführer als Mittäter auch der versuchten schweren Körperverletzung zum Nachteil von E._ strafbar gemacht. Nach den vorinstanzlichen Erwägungen ist ohne Weiteres nachvollziehbar, aufgrund welcher objektiven (und subjektiven) Feststellungen sie die Voraussetzungen mittäterschaftlichen Handelns bejaht. Damit genügt sie ihrer Begründungspflicht (vgl. <ref-ruling> E. 2.2; <ref-ruling> E. 5.1; je mit Hinweisen). Die Rügen erweisen sich als unbegründet, soweit überhaupt darauf eingetreten werden kann.
2.
2.1. Der Beschwerdeführer rügt eine Verletzung des Anklageprinzips und des Anspruchs auf rechtliches Gehör. Die Anklageschrift werfe ihm den K.o.-Schlag/Tritt gegen D._ nicht vor. Indem die Vorinstanz ihm diesen trotzdem zurechne, verstosse sie gegen das Immutabilitätsprinzip.
2.2. Das aus Art. 29 Abs. 2 und Art. 32 Abs. 2 BV sowie Art. 6 Ziff. 1 und Ziff. 3 lit. a und b EMRK abgeleitete und nunmehr in <ref-law> festgeschriebene Anklageprinzip gewährleistet das rechtliche Gehör und die Verteidigungsrechte des Angeklagten (Informationsfunktion). Die Anklageschrift bestimmt den Gegenstand des Gerichtsverfahrens (Umgrenzungsfunktion). Damit sie dieser doppelten Funktion genügt, muss sie hinreichend präzise formuliert sein. Das Gericht ist an den in der Anklage wiedergegebenen Sachverhalt gebunden, nicht aber an dessen rechtliche Würdigung durch die Anklagebehörde (<ref-law>; <ref-ruling> E. 6.3 mit Hinweisen). Überspitzt formalistische Anforderungen dürfen an die Anklageschrift nicht gestellt werden (Urteil 6B_606/2012 vom 6. Februar 2013 E. 1.3 mit Hinweis).
2.3. Dass die Anklageschrift offen lässt, welcher der drei Beschuldigten den K.o.-Schlag/Tritt ausgeführt hat, ist unerheblich. Sie schildert, dass der Beschwerdeführer (auch) den zweiten Angriff gemeinsam und im Zusammenwirken mit seinem Bruder B.X._ und C._ durchgeführt hat. D._ sei hierbei nach einem wuchtigen Schlag oder Fusstritt gegen den Kopf, wobei nicht mehr exakt rekonstruierbar sei, welcher der "Angeklagten" ihn erteilt habe, zu Boden gesackt, mit dem Hinterkopf aufgeschlagen und habe das Bewusstsein verloren. Die Sachverhaltsschilderung beinhaltet die Möglichkeit, dass jeder der drei Beschuldigten den Schlag oder Tritt ausgeführt haben könnte und wirft somit jedem einzelnen von ihnen - wenn auch alternativ - vor, möglicher Täter zu sein. Eine Alternativanklage ist gemäss <ref-law> zulässig. Der Beschwerdeführer musste demnach damit rechnen, dass die Vorinstanz nach Durchführung des gerichtlichen Beweisverfahrens (<ref-law> i.V.m. <ref-law> und <ref-law>) als erwiesen erachtet, er sei es gewesen, der D._ K.o. geschlagen oder getreten habe. Die Vorinstanz geht insoweit nicht über den in der Anklageschrift formulierten Anklagevorwurf hinaus (<ref-law>). Zudem ist nicht ersichtlich, inwiefern ihm die zu seiner Verteidigung erforderlichen tatsächlichen Angaben in Bezug auf den Vorwurf der versuchten schweren Körperverletzung vorenthalten worden sein sollen oder sich die Zurechnung auf den Schuldspruch ausgewirkt haben soll. Denn selbst wenn er den Schlag oder Tritt nicht ausgeführt haben sollte, müsste er sich diesen im Rahmen der Mittäterschaft zurechnen lassen (vgl. Urteil 6B_473/2012 vom 21. Februar 2013 E. 1.5).
3.
3.1. Der Beschwerdeführer wendet sich gegen die Strafzumessung. Aufgrund der Erwägungen könne nicht überprüft werden, ob sämtliche relevanten Strafzumessungsfaktoren richtig angewendet und gewichtet würden. Die Vorinstanz versäume - analog der bundesgerichtlichen Rechtsprechung bei verminderter Schuldfähigkeit (vgl. <ref-ruling>) - darzutun, in welchem Umfang sich der Versuch strafmildernd auswirke. Die Freiheitsstrafe von dreieinhalb Jahren sei, insbesondere im Vergleich zu den beiden Mitbeschuldigten, überhöht.
3.2. Der Richter misst die Strafe nach dem Verschulden des Täters zu (<ref-law>). Das Bundesgericht hat die Grundsätze der Strafzumessung nach <ref-law> (<ref-ruling> E. 5.4 ff. mit Hinweisen) und die Anforderungen an ihre Begründung (<ref-ruling> E. 2.1 mit Hinweisen) wiederholt dargelegt. Es greift in die Strafzumessung nur ein, wenn die Vorinstanz den gesetzlichen Strafrahmen über- oder unterschritten hat, von rechtlich nicht massgebenden Kriterien ausgegangen ist oder wesentliche Gesichtspunkte ausser Acht gelassen beziehungsweise in Überschreitung oder Missbrauch ihres Ermessens falsch gewichtet hat (<ref-ruling> E. 5.3.1; <ref-ruling> E. 2.1; je mit Hinweisen). Nicht erforderlich ist, dass der Sachrichter die Gewichtung der einzelnen Strafzumessungsfaktoren in Zahlen oder in Prozenten wiedergibt (<ref-ruling> E. 5.6 mit Hinweisen).
3.3. Die Vorinstanz hält ihre eigenen Strafzumessungserwägungen sehr kurz, verweist jedoch auf die Ausführungen des erstinstanzlichen Gerichts. Dies ist nicht in Frage zu stellen (§ 183der Strafprozessordnung des Kantons Basel-Stadt vom 8. Januar 1997 [StPO/BS; SG 257.100] i.V.m. <ref-law>). Die kantonalen Gerichte würdigen die wesentlichen schuldrelevanten Tat- und Täterkomponenten in nicht zu beanstandender Weise. Dass sie sich von nicht massgeblichen Gesichtspunkten hätten leiten lassen oder wesentliche Aspekte unberücksichtigt gelassen hätten, ist nicht ersichtlich und wird vom Beschwerdeführer auch nicht dargelegt. Strafmindernd würdigen sie namentlich, dass die schweren Körperverletzungen nicht über das Versuchsstadium hinausgingen. Sie waren jedoch nicht verpflichtet, zahlenmässig anzugeben, in welchem Umfang sie diesem fakultativen Strafmilderungsgrund Rechnung trugen. In Bezug auf den Beschwerdeführer berücksichtigt die Vorinstanz sodann, dass ihn von allen drei Beschuldigten das geringste Verschulden trifft und er als einziger keine weiteren Straftaten begangen hat. Mit der um ein Jahr niedrigeren Freiheitsstrafe trägt sie dem Grundsatz der Gleichbehandlung und Gleichmässigkeit der Strafzumessung bei Mittätern hinreichend Rechnung (vgl. <ref-ruling> E. 3.2). Unzutreffend ist, die Vorinstanz habe den Grenzwert von drei Jahren für teilbedingte Freiheitsstrafen bei der Strafzumessung nicht berücksichtigt. Sie erachtet die erstinstanzliche Freiheitsstrafe von fünfeinhalb Jahren für übersetzt, hält aber gleichzeitig ausdrücklich fest, dass eine Freiheitsstrafe unter drei Jahren nicht in Betracht komme. Die ausgefällte Strafe hält sich innerhalb des weiten sachrichterlichen Ermessens. Die Strafzumessungserwägungen genügen dem Begründungsgebot von <ref-law> und erweisen sich als bundesrechtskonform.
4.
4.1. Der Beschwerdeführers macht geltend, die Freiheitsstrafe sei zu Gunsten einer ambulanten "Behandlung" aufzuschieben. Die Vorinstanz habe in willkürlicher Weise auf das gerichtlich eingeholte Gutachten von med. pract. G._ abgestellt. Dessen Schlussfolgerungen seien weder nachvollziehbar noch begründet und würden durch das Privatgutachten von Dr. med. H._ widerlegt. Trotz der sich widersprechenden Gutachten habe die Vorinstanz keinen der beiden Gutachter zur Hauptverhandlung vorgeladen und damit seinen Anspruch auf rechtliches Gehör, Konfrontation und Befragung des Sachverständigen nach <ref-law> und Art. 6 Ziff. 1, Ziff. 3 lit. d EMRK verletzt.
4.2. Die Anordnung einer ambulanten Massnahme setzt u.a. voraus, dass der Täter psychisch schwer gestört ist (vgl. <ref-law>). Nach <ref-law> kann das Gericht den Vollzug einer zugleich ausgesprochenen Freiheitsstrafe zu Gunsten einer ambulanten Massnahme aufschieben, um der Art der Behandlung Rechnung zu tragen. Es ist jedoch vom Ausnahmecharakter des Strafaufschubs auszugehen, denn grundsätzlich wird die ambulante Massnahme gleichzeitig mit dem Strafvollzug durchgeführt (<ref-ruling> E. 4.1 und E. 4.3; Urteil 6B_495/2012 vom 6. Februar 2013 E. 6.2).
4.3.
Unbegründet ist die Rüge der Gehörsverletzung. Gutachten sind in der Regel schriftlich zu erstatten. Die mündliche Erläuterung und Ergänzung des Gutachtens durch den Sachverständigen ist fakultativ (<ref-law>/BS; vgl. auch <ref-law>). Aus den Akten ergibt sich, dass dem Beschwerdeführer der Gutachtenauftrag und der Befund zugestellt wurden (<ref-law>/BS). Damit erhielt er Gelegenheit, sich zur Person des Sachverständigen, den Fragestellungen und den Ergebnissen zu äussern. Ergänzungs- oder Zusatzfragen (<ref-law>/BS) formulierte er nicht, sondern reichte ein Privatgutachten ein. Dieses wurde dem gerichtlichen Sachverständigen zur Kenntnis zugestellt und von diesem bei seiner Beurteilung berücksichtigt. Aus der prozessleitenden Verfügung vom 21. Mai 20012 ergab sich für den anwaltlich vertretenen Beschwerdeführer ohne Weiteres, dass weder der gerichtlich bestellte Sachverständige noch Dr. med H._ zur Hauptverhandlung vorgeladen würden.
Zudem verkennt der Beschwerdeführer, dass die Vorinstanz seinen Antrag in antizipierter Beweiswürdigung materiell behandelt und abgewiesen hat. Die Vorinstanz legt ausführlich dar, warum sie dem Privatgutachter nicht folgt, sondern auf das gerichtlich eingeholte Gutachten abstellt. Der Beschwerdeführer setzt sich mit diesen Erwägungen nicht auseinander und legt nicht dar, inwieweit die Beweiswürdigung willkürlich sein soll. Seine Einwendungen erschöpfen sich in appellatorischer Kritik. Für die Rüge einer willkürlichen Beweiswürdigung genügt dies nicht (vgl. vorstehend E. 1.3.1 und 1.4.1 sowie <ref-ruling> E. 4.2.3). Die Vorinstanz durfte willkürfrei annehmen, dass beim Beschwerdeführer zum Zeitpunkt der Deliktsbegehung keine hiermit im Zusammenhang stehende psychiatrische Erkrankung bestand. Demnach besteht keine Notwendigkeit für eine therapeutische Massnahme.
5.
5.1. Der Beschwerdeführer macht geltend, ihm sei ein Teil seiner Anwaltskosten zu ersetzen, da die Vorinstanz die Freiheitsstrafe um zwei Jahre reduziert habe. Dass er in seiner Beschwerde noch weitere Punkte gerügt habe, mit denen er nicht durchgedrungen sei, rechtfertige nicht, ihm jegliche Parteientschädigung zu verweigern.
5.2. Die Vorinstanz führt aus, der Beschwerdeführer unterliege mit seiner Appellation mehrheitlich, weshalb er die Kosten seines Privatverteidigers zu tragen habe. Da auch die Staatsanwaltschaft mit ihren Anträgen nicht durchgedrungen sei und die Strafe reduziert worden sei, werde keine Verfahrensgebühr erhoben. Die ordentlichen Kosten, insbesondere diejenigen des forensisch-psychiatrischen Gutachtens, seien dem Beschwerdeführer aufzuerlegen.
5.3.
5.3.1. Das Bundesgericht prüft - auf entsprechend begründete Rüge hin (<ref-law>) - kantonales Recht nur auf willkürliche Bundesrechtsverletzungen (<ref-ruling> E. 2; zum Willkürbegriff vgl. <ref-ruling> E. 1.3; <ref-ruling> E. 4.2.1).
5.3.2. Das erstinstanzliche Urteil vom 15. Dezember 2010 wurde vor Inkrafttreten der StPO gefällt, so dass auf das kantonale Verfahren die bis zum 31. Dezember 2010 geltende Strafprozessordnung des Kantons Basel-Stadt vom 8. Januar 1997 anzuwenden war (<ref-law>; vgl. <ref-ruling> E. 1.1 mit Hinweisen).
Gemäss <ref-law>/BS sind die Kosten eines Rechtsmittelverfahrens in sinngemässer Anwendung der allgemeinen Grundsätze von § 35 f. (StPO/BS) nach dem Ausgang der Sache entweder vom Staat oder von der unterliegenden Partei zu tragen. Wird die angeschuldigte Person freigesprochen oder das gegen sie geführte Verfahren eingestellt, trägt in der Regel der Staat die Verfahrenskosten (<ref-law>/BS).
5.4. Der vorinstanzliche Kostentscheid ist nicht hinreichend begründet und widersprüchlich. Es ist nicht nachvollziehbar, warum die Vorinstanz dem Beschwerdeführer eine Entschädigung versagt, wenn sie gleichzeitig auf die Erhebung einer Gerichtsgebühr verzichtet respektive ihm eine solche nicht (zumindest teilweise) auferlegt. Zudem hat die Vorinstanz die Freiheitsstrafe im Appellationsverfahren um zwei Jahre reduziert, was nicht als mehrheitliches Unterliegen im Sinne von <ref-law>/BS gewertet werden kann. Dass sie antragsgemäss keine Freiheitsstrafe von maximal zwei Jahren ausspricht und der Beschwerdeführer mit seinen Anträgen auf Änderung des Schuldspruchs (einfache statt versuchte schwere Körperverletzung) unterliegt, kommt im Hinblick auf die effektive Strafreduzierung von über einem Drittel nur untergeordnete Bedeutung zu. Die Vorinstanz berücksichtigt auch nicht, dass der Beschwerdeführer im gleichen Umfang obsiegt, in dem die Staatsanwaltschaft mit ihren Anträgen auf Verurteilung wegen mehrfachen versuchten Mordes und Erhöhung der Freiheitsstrafe um über 50 % auf achteinhalb Jahre, deren Abweisung er beantragte, unterliegt. Die Vorinstanz wendet <ref-law>/BS i.V.m. <ref-law>/BS willkürlich an.
6.
D ie Beschwerde ist teilweise gutzuheissen, das angefochtene Urteil aufzuheben und die Sache zur neuen Beurteilung der Parteientschädigung des Beschwerdeführers an die Vorinstanz zurückzuweisen. Im Übrigen ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann. Dem mehrheitlich unterliegenden Beschwerdeführer sind reduzierte Gerichtskosten aufzuerlegen (<ref-law>). Der Kanton Basel-Stadt trägt keine Gerichtskosten (<ref-law>), hat dem Beschwerdeführer für das bundesgerichtliche Verfahren jedoch eine reduzierte Parteientschädigung auszurichten (Art. 68 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen, der Kostenentscheid gemäss Ziffer 3 des Urteils des Appellationsgerichts des Kantons Basel-Stadt vom 19. Oktober 2012 aufgehoben und die Sache zur neuen Beurteilung an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen, soweit darauf einzutreten ist.
2.
Dem Beschwerdeführer werden Gerichtskosten von Fr. 3'000.-- auferlegt.
3.
Der Kanton Basel-Stadt hat dem Beschwerdeführer eine Parteientschädigung von Fr. 750.-- auszurichten.
4.
Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt schriftlich mitgeteilt.
Lausanne, 18. Juli 2013
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Mathys
Der Gerichtsschreiber: Held