Sachverhalt:
A. X._ wurde mit Anklageschrift vom 3. Juli 2009 zahlreicher Straftaten und insbesondere der versuchten vorsätzlichen Tötung angeklagt, weil er am 28. Juni 2008 um ca. 03.00 Uhr bei einer Schlägerei zwischen seinem Bruder Y._ und A._ letzterem mit einem Küchenmesser von hinten einen Stich versetzt hatte. Nach Feststellung des Amtsgerichts Bucheggberg-Wasseramt wies das Küchenmesser eine ca. 12,5 cm lange und gegen 2 cm breite Klinge auf. A._ befand sich in unmittelbarer Lebensgefahr und musste sich einer dreistündigen Operation unterziehen. Im Arztbericht vom 30. März 2009 wurde eine Messerstichverletzung von 3 cm Länge am Brustkorb postero-basal links mit Verletzung der Intercostalarterie, wahrscheinlich im Bereich der 9. Rippe, festgestellt. Tiefe und Richtung der Verletzung wurden mit "vermutlich mindestens 5 cm Richtung von schräg hinten nach vorne" angegeben (act. 35).
B. Das Amtsgericht Bucheggberg-Wasseramt fand X._ am 11./12. März 2010 der versuchten vorsätzlichen Tötung, der schweren und der einfachen Körperverletzung, des Raufhandels, des mehrfachen und des geringfügigen Diebstahls sowie der mehrfachen Widerhandlungen gegen <ref-law> schuldig. In mehreren Anklagepunkten sprach es ihn frei. Es verurteilte ihn zu einer Freiheitsstrafe von 44 Monaten (unter Anrechnung von 2 Tagen Untersuchungshaft) und einer Busse von Fr. 800.-- als Zusatzstrafe zum Urteil der Jugendanwaltschaft des Kantons Solothurn vom 12. Oktober 2005.
Auf Berufung von X._ und der Staatsanwaltschaft sprach ihn das Obergericht des Kantons Solothurn am 19. Januar 2012 der vollendet versuchten eventualvorsätzlichen Tötung schuldig (Art. 111 i.V.m. <ref-law>). Bezüglich des amtsgerichtlichen Schuldspruchs wegen schwerer Körperverletzung nahm das Obergericht unechte Konkurrenz durch die versuchte Tötung an (<ref-ruling> E. 1.5). Es stellte fest, dass die Freisprüche und die übrigen Schuldsprüche des amtsgerichtlichen Urteils in Rechtskraft erwachsen waren. Das Obergericht verurteilte X._ zu einer Freiheitsstrafe von 62 Monaten und 20 Tagen (unter Anrechnung von 2 Tagen Untersuchungshaft) sowie zu einer Busse von Fr. 800.-- als Zusatzstrafe zum jugendanwaltschaftlichen Urteil vom 12. Oktober 2005.
C. X._ erhebt Beschwerde in Strafsachen mit den Anträgen, das obergerichtliche Urteil aufzuheben, ihn vom Vorwurf der versuchten eventualvorsätzlichen Tötung freizusprechen und stattdessen der fahrlässigen Körperverletzung sowie des Raufhandels schuldig zu sprechen. Die Sache sei zur Festsetzung von Strafe und Kosten an die Vorinstanz zurückzuweisen.

Erwägungen:
1. 1.1 Der Beschwerdeführer macht geltend, die Vorinstanz sei in Willkür verfallen, indem sie die ihn entlastenden Umstände nicht berücksichtigt und ihn im Ergebnis in Verletzung des Grundsatzes in dubio pro reo verurteilt habe.
1.2 Die Vorinstanz führt in ihrer zusammenfassenden Darstellung der Einvernahmen auch die Aussagen auf, welche der Beschwerdeführer für seine Argumentation heranzieht (Urteil S. 9 - 14). Nach den massgeblichen Feststellungen hörte der sich in seiner Wohnung aufhaltende Beschwerdeführer seinen Bruder von einem nahe gelegenen Orte her schreien. Sein Bruder war in eine Schlägerei mit A._ (nachfolgend: Geschädigter) verwickelt. Der Beschwerdeführer nahm ein Küchenmesser an sich und begab sich dorthin. In seiner Einvernahme sagte er, er habe das Küchenmesser mitgeführt, weil sein Bruder geschrien habe. Er habe ihm helfen wollen (Urteil S. 11). Vor der Vorinstanz erklärte er, er habe schlichten wollen. Als der viel grössere Geschädigte auf seinen Bruder losgegangen sei, habe er mit dem Messer herumgefuchtelt. Er habe das Messer nicht eingesetzt, sondern nur in der Hand gehalten. Er sei wohl "blöde" gestanden, als ihm das Opfer ins Messer gefallen sei (Urteil S. 12).
Die Vorinstanz kommt zum Ergebnis, entgegen den Aussagen des Beschwerdeführers könne nicht davon ausgegangen werden, dass ihm der Geschädigte ins Messer lief, sondern dass er bewusst mit dem Messer eine Stossbewegung auf den Körper des Geschädigten vornahm. Die Verletzung spreche dafür, dass das Messer mit einem erheblichen Kraftaufwand in den Körper des Geschädigten gewuchtet wurde (Urteil S. 16).
1.3 Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Offensichtlich unrichtig bedeutet willkürlich (<ref-ruling> E. 2.4). Willkür in der Beweiswürdigung liegt vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist oder mit der tatsächlichen Situation in klarem Widerspruch steht. Es genügt nicht, dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint (<ref-ruling> E. 5.4; <ref-ruling> E. 4.2). Eine Verletzung des Grundsatzes in dubio pro reo als Beweiswürdigungsregel prüft das Bundesgericht ebenfalls auf Willkür hin. Frei prüft es, ob dieser Grundsatz als Beweislastregel verletzt ist. Auf diese konstante Rechtsprechung kann verwiesen werden (<ref-ruling> E. 2a).
1.4 Unbehelflich ist der Einwand, dass der Zeuge B._ entgegen einer früheren Aussage bei der Polizei vor der Erstinstanz erklärte, das Messer gar nicht gesehen zu haben. Bei der polizeilichen Einvernahme wurde B._ auf seine Rechte sowie auf Art. 303 und 304 StGB hingewiesen. Er verzichtete auf einen Rechtsbeistand (act. 135 f.). In dieser Einvernahme sagte er: "Ich habe nur gesehen, wie er auf (den Geschädigten) zuging, mit dem Messer in der rechten Hand, mit der Klinge nach vorne. Aber wie er zugestochen hat, habe ich nicht mitbekommen" (act. 137). An der Befragung in der erstinstanzlichen Verhandlung erklärte er nach Hinweis auf diese Aussage in act. 137, er habe "schon gesehen, dass er etwas in der Hand gehalten hat. Wie (der Geschädigte) abgestochen wurde, habe ich jedoch nicht gesehen" (erstinstanzliche Minuten S. 4). Die Vorinstanz bezieht sich insbesondere auf die polizeiliche Einvernahme, wonach der Beschwerdeführer mit vorgehaltener Klinge von hinten auf den Geschädigten zuging und B._ die einzige Person war, welche vor der Verletzung das Messer in der Hand des Beschwerdeführers gesehen hatte (Urteil S. 13 lit. b und S. 16). In beiden Einvernahmen äusserte sich B._ nicht zur Entstehung der Verletzung. Die beiden Aussagen (act. 137 und Minuten S. 4) widersprechen sich nicht diametral. Dass der Beschwerdeführer hinter dem Geschädigten stand sowie das Messer in der Hand hielt und dass mit diesem Messer die Verletzung verursacht wurde, ist nicht zweifelhaft und wird auch in der Beschwerde bestätigt (nachfolgend E. 1.6). Der Messerstich in den Rücken wurde von keiner der anwesenden Personen beobachtet (ebenso bereits das erstinstanzliche Urteil S. 16; act. 1011), lässt sich aber willkürfrei aus dem massgeblichen Sachverhalt schliessen. Eine Verletzung des Grundsatzes in dubio pro reo im Sinne der Beweiswürdigungsregel ist nicht nachgewiesen. Ebenso wenig ist eine Verletzung des Grundsatzes als Beweislastregel ersichtlich. Der Schuldspruch erfolgt nicht deshalb, weil dem Beschwerdeführer der Beweis für den von ihm geschilderten Tatablauf misslang. Dieser Vorwurf lässt sich mit der vorinstanzlichen Würdigung der erwähnten Aussagen des Zeugen B._ nicht belegen.
1.5 Die Verletzung spricht nach der Vorinstanz dafür, dass das Messer mit einem erheblichen Kraftaufwand in den Körper des Geschädigten gewuchtet wurde (Urteil S. 16). Der Beschwerdeführer rügt diese Annahme als völlig unhaltbar und willkürlich. Die Erstinstanz ging davon aus, dass der Stich nicht mit voller Wucht, aber doch mit einer gewissen Intensität erfolgt sein müsse (erstinstanzliches Urteil S. 16). Fest steht nach der vorinstanzlichen Beweiswürdigung, dass die Verletzung aktiv und mit einem erheblichen Kraftaufwand zugefügt worden sein muss. Mit einer bloss passiven Verhaltensweise des Beschwerdeführers lässt sie sich nicht in Einklang bringen. Dass ihm der Geschädigte ins Messer gefallen ist, durfte die Vorinstanz angesichts dieses Sachverhalts willkürfrei als unglaubhaft qualifizieren.
1.6 Entgegen der Beschwerde musste die Vorinstanz somit nicht auf die Darstellung des Beschwerdeführers abstellen, "wonach sich (der Geschädigte) als Folge seiner Rückwärtsbewegung am Messer, das der hinter ihm stehende Beschwerdeführer in der Hand hielt, verletzt hat" (Beschwerde S. 11).
2. 2.1 Der Beschwerdeführer rügt eine Verletzung von <ref-law>. Eine eventualvorsätzliche Begehung lasse sich nicht begründen und werde von der Vorinstanz auch nicht hinlänglich begründet.
2.2 Die Vorinstanz setzt sich zur Beurteilung dieser Frage mit zahlreichen einschlägigen bundesgerichtlichen Entscheiden auseinander (<ref-ruling> E. 8.4; Urteile 6B_177/2011 vom 5. August 2011; 6B_432/2010 vom 1. Oktober 2010 E. 4; 6B_635/2009 vom 19. November 2009 E. 3.3; 6B_289/ 2008 vom 17. Juli 2008 E. 3 und 5.4; 6B_239/2009 vom 13. Juli 2009 E. 1 und 2.4; 6B_788/2008 vom 26. Dezember 2008 E. 1.1 und 1.3; 6S.216/2003 vom 1. Oktober 2003 E. 2).
Die Vorinstanz führt aus, nach dieser Rechtsprechung liege der Tod als Folge eines Messerstichs in den Oberkörper eines Menschen im allgemein bekannten Rahmen des Kausalverlaufs. Der Beschwerdeführer habe sich in die tätliche Auseinandersetzung eingemischt, um seinen Bruder zu unterstützen, und habe dem Geschädigten einen Stich in den Oberkörper versetzt. Die Möglichkeit einer tödlichen Verletzung habe sich ihm in dieser Situation als so wahrscheinlich aufdrängen müssen, dass sein Handeln als Billigung dieses möglichen Erfolgs ausgelegt werden müsse.
2.3 Die Annahme des Eventualvorsatzes begründet die Vorinstanz gestützt auf die bundesgerichtliche Rechtsprechung hinreichend. Im Urteil 6B_432/2010 vom 1. Oktober 2010 E. 4 wurde gerügt, im Zuge der handgreiflichen Auseinandersetzung sei es fatalerweise zu der tödlichen Verletzung gekommen. Dieser Argumentation folgte das Bundesgericht nicht. Es führte dazu aus, nichts weise darauf hin, dass die Täterin nicht vorsätzlich zugestochen habe. Wer in einer dynamischen Auseinandersetzung mit einem Messer in den Schulter-Brustbereich zusticht, muss in aller Regel mit schweren Verletzungen rechnen. Bei einem Messerstich in den Brustbereich ist das Risiko einer tödlichen Verletzung als hoch einzustufen. Eine Todesfolge liegt damit im allgemein bekannten Rahmen des Kausalverlaufs und ist somit vom Vorsatz erfasst. Die Vorsatzannahme erfordert nicht, dass der (Tötungs-)Erfolg Handlungsziel ist. Vorsätzlich handelt bereits, wer die Verwirklichung der Tat für möglich hält und in Kauf nimmt (<ref-law>). Allerdings kann nicht unbesehen vom Wissen auf den Willen geschlossen werden. Je schwerer aber die Sorgfaltsverletzung ist, desto eher lässt sich auf die Inkaufnahme der Tatbestandsverwirklichung schliessen (<ref-ruling> E. 2.3.2; zur Verneinung des Eventualvorsatzes vgl. Urteil 6B_775/2011 vom 4. Juni 2012 E. 2.4, Verwendung eines Taschenmessers).
Diese Erwägungen sind massgeblich. Im Urteil 6B_432/2010 vom 1. Oktober 2010 E. 4 spielten Beweggründe wie Angst, Ohnmacht und Wut der vom Opfer angegriffenen Täterin eine Rolle. Sie handelte im Rahmen einer persönlichen Auseinandersetzung. In der hier zu beurteilenden Sache eilte der unbehelligte und unbeteiligte Beschwerdeführer aus seiner Wohnung zum Kampfplatz, um seinem Bruder zu helfen. Er nahm eigens zu diesem Zwecke ein Küchenmesser mit. Er griff bewusst zugunsten seines Bruders in die Schlägerei ein. Ohne abzuwarten, wie sich diese entwickelte und ohne Vorwarnung stach er mit dem Messer von hinten zu (Urteil S. 26). Dass ein Tötungserfolg Handlungsziel gewesen wäre, nimmt die Vorinstanz nicht an. Den Eventualvorsatz bejaht sie zu Recht. Eine Fahrlässigkeitshandlung ist auszuschliessen.
3. Der Beschwerdeführer wendet sich gegen die Strafzumessung. Die Vorinstanz nehme nur aufgrund einer unzulässigen Doppelverwertung ein sehr schweres Tatverschulden an. Die Einsatzstrafe sei nicht überprüfbar. Die Vorinstanz begründe auch nicht die erhebliche Abweichung vom erstinstanzlichen Urteil und vom Strafantrag der Staatsanwaltschaft. Ferner unterlasse sie es, beim Einbezug der weiteren Straftaten den Umständen Rechnung zu tragen.
3.1 Die Vorinstanz führt aus, es sei nur einer glücklichen Fügung zu verdanken, dass nicht auch die Lunge verletzt wurde (Urteil S. 25 f.). Damit weist sie zutreffend auf die Lebensgefährlichkeit der Tat hin. Darin liegt keine Verletzung des Doppelverwertungsverbots. Gesamthaft geht sie von einem schweren Tatverschulden aus.
3.2 Die Vorinstanz begründet die Festsetzung der Einsatzstrafe. Sie äusserst sich zum Strafrahmen, beurteilt die Tat- und Täterkomponenten und berücksichtigt den Versuch strafmindernd. Sie nimmt an, bei einem vollendeten Delikt wäre von 8 Jahren auszugehen. Für die Versuchsstraftat rechtfertige sich eine Einsatzstrafe von 5 Jahren oder 60 Monaten (Urteil S. 28).
Für die vorsätzliche Tötung droht <ref-law> eine Freiheitsstrafe von nicht unter 5 Jahren an. Der Strafrahmen reicht bis zu 20 Jahren Freiheitsstrafe. Beim vollendeten Versuch im Sinne von <ref-law> kann das Gericht die Strafe mildern und damit gegebenenfalls die Mindeststrafe von 5 Jahren unterschreiten (vgl. <ref-ruling> E. 2a). Der ordentliche Strafrahmen ist nur zu verlassen, wenn aussergewöhnliche Umstände vorliegen und die angedrohte Strafe im konkreten Fall zu hart bzw. zu milde erscheint (<ref-ruling> E. 5.8; Urteil 6B_31/2011 vom 27. April 2011 E. 3.4.1).
Die Vorinstanz verneint zutreffend solche ausserordentlichen Umstände (Urteil S. 27). Wie sie feststellt, ging der Beschwerdeführer mit einer gewissen Perfidie vor. Er war an der Schlägerei, bei der sich sein Bruder zu wehren verstand, nicht beteiligt, wurde nicht angegriffen und stach ohne Vorwarnung von hinten seitlich auf den Geschädigten ein, während sich dieser mit seinem Bruder prügelte. Nach der Tat kümmerte er sich in keiner Weise um den Geschädigten.
Die Strafzumessung genügt den Begründungsanforderungen von Art. 47 und 50 StGB (<ref-ruling> E. 2.1). Die Einsatzstrafe in der Höhe der Mindeststrafe, die nicht zu unterschreiten war, erscheint nachvollziehbar begründet. Der weiteren Auseinandersetzung mit der erstinstanzlichen Strafe und dem Strafantrag der Staatsanwaltschaft bedurfte es nicht.
3.3 Die Vorinstanz legt dar, wie bei mehreren Straftaten die Gesamtstrafe gemäss <ref-law> zu bilden und dabei den Umständen Rechnung zu tragen ist (Urteil 6B_865/2009 vom 25. März 2010 E. 1.2.2). In der Begründung hält sie fest, für die weiteren Straftaten, für die Freiheitsstrafe angedroht ist (Raufhandel, mehrfacher Diebstahl, einfache Körperverletzung) sei eine Straferhöhung von 3 Monaten vorzunehmen. Es ergebe sich eine Gesamtstrafe von 63 Monaten. Nach Abzug der zehntägigen Strafe im Urteil vom 12. Oktober 2005 führe dies zu einer Zusatzstrafe von 62 Monaten und 20 Tagen (Urteil S. 28).
Angesichts der Festsetzung von 5 Jahren (60 Monaten) Freiheitsstrafe für die versuchte Tötung misst die Vorinstanz den weiteren Straftaten nur sehr untergeordnetes Gewicht zu (für die Übertretungstatbestände des geringfügigen Diebstahls und der Widerhandlungen gegen das BetmG spricht sie eine Busse aus). Die Erwägung ist denkbar knapp, doch nachvollziehbar ausgefallen. Eine eingehende Auseinandersetzung drängte sich nicht auf. Nur einer ausführlicheren Begründung wegen kommt eine Gutheissung der Beschwerde nicht in Betracht (<ref-ruling> E. 2c am Ende; Urteil 6B_460/2010 vom 4. Februar 2011 E. 3.3.4, in <ref-ruling> nicht veröffentlicht).
3.4 Wegen des Verschlechterungsverbots (<ref-ruling> E. 6 am Ende) kann offen bleiben, weshalb die Vorinstanz wie bereits die Erstinstanz eine Zusatzstrafe zum jugendanwaltschaftlichen Urteil vom 12. Oktober 2005 (zehntägige Einschliessung wegen Körperverletzung) ausspricht (vgl. <ref-law>). Diese sich zu Gunsten des Beschwerdeführers auswirkende Entscheidung wird von diesem nicht in Frage gestellt.
4. Die Beschwerde ist abzuweisen. Der Beschwerdeführer hat die Kosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 4'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Solothurn, Strafkammer, schriftlich mitgeteilt.
Lausanne, 18. September 2012
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Schneider
Der Gerichtsschreiber: Briw