Sachverhalt:
A. Das Kantonsgericht von Appenzell A.Rh. verurteilte X._ am 28. August 2006 wegen vorsätzlicher Tötung und mehrfachen Führens eines Motorfahrzeuges ohne Führerausweis zu 9 Jahren Zuchthaus und widerrief den bedingten Vollzug einer vom Untersuchungsamt St. Gallen am 3. November 2003 ausgesprochenen Gefängnisstrafe von 5 Tagen. Es hielt (u.a.) für erwiesen, dass X._ am 28. Februar 2005 +C._ erschossen hatte.
Auf Appellation von X._ und Anschlussappellation der Staatsanwaltschaft hin bestätigte das Obergericht des Kantons Appenzell A.Rh. am 25. März 2008 das erstinstanzliche Urteil im Schuldpunkt, passte die Strafe ans neue Recht an, erhöhte sie um ein Jahr auf 10 Jahre Freiheitsstrafe und verhängte zusätzlich eine Busse von 400 Franken (Dispositiv-Ziff. 4-6). Es auferlegte ihm die Verfahrenskosten (Dispositiv-Ziff. 7), entschädigte den amtlichen Verteidiger aus der Staatskasse (Dispositiv-Ziff. 8) und verurteilte ihn zu einer Parteientschädigung an die Geschädigten (Dispositiv-Ziff. 9).
B. Mit Beschwerde in Strafsachen beantragt X._, die Dispositiv-Ziffern 4-9 des obergerichtlichen Urteils aufzuheben und die Sache an das Obergericht zurückzuweisen oder ihn eventuell vom Vorwurf der vorsätzlichen Tötung freizusprechen und lediglich wegen mehrfachen Führens eines Motorfahrzeugs ohne Führerausweis angemessen zu bestrafen, unter Zusprechung einer Entschädigung für die überschiessende Untersuchungshaft. Subeventuell sei er im Sinne der Anklage schuldig zu sprechen und zu einer Freiheitsstrafe von 7 Jahren zu verurteilten. Zudem ersucht er um unentgeltliche Rechtspflege und Verbeiständung.
Die Staatsanwaltschaft beantragt in ihrer Vernehmlassung, die Beschwerde abzuweisen. Das Obergericht hat auf Stellungnahme verzichtet.
Erwägungen:
1. Der Beschwerdeführer rügt, das Obergericht habe den Untersuchungsgrundsatz von Art. 18 und 19 der Ausserrhodischen Strafprozessordnung vom 30. April 1978 (StPO) bzw. seinen Anspruch auf gerechte Beurteilung i.S. von Art. 29 Abs. 1 BV und Art. 6 Ziff. 1 EMRK verletzt.
Die Verletzung von kantonalem Gesetzesrecht ist zwar kein zulässiger Beschwerdegrund (Art. 95 BGG). Das schadet dem Beschwerdeführer vorliegend insofern nicht, als er in der Beschwerde nachweist, dass sich die kantonalen Strafverfolgungs- und Anklagebehörden ebenso wie die erkennenden Gerichte offenkundig in unhaltbarer Weise über ihre in Art. 21 StPO festgelegte Verpflichtung zur Erforschung der materiellen Wahrheit hinweggesetzt und damit Art. 9 BV verletzt haben. Auf diese gehörig begründete Willkürrüge ist einzutreten.
2. 2.1 Der Sachverhalt ist insoweit unbestritten, als es am 28. Februar 2005, um ca. 15 Uhr, beim WinWin-Markt in Herisau zu einer Schlägerei zwischen +C._ und A.Y._ kam, in deren Verlauf letzterer einen Nasenbeinbruch erlitt. A.Y._ telefonierte seinem Bruder B._ und dem Freund oder Ex-Freund einer seiner Schwestern, Z._, und liess sich dann im Spital Herisau behandeln. Nach ca. 20:30 Uhr begaben sich Z._, B.Y._ und A.Y._ zum Imbiss "Säntis Kebab-Pizza" in Herisau. Um 20:44 Uhr meldete sich X._, der Schwager der Gebrüder Y._ telefonisch bei Z._ und stiess kurz darauf zur Runde, in welcher beschlossen wurde, +C._ zu stellen und ihm einen Denkzettel zu verpassen. Sie machten ausfindig, dass sich dessen Wohnung im gleichen Gebäude befand wie das "Säntis Kebab-Pizza", worauf Z._ dort klingelte und den ihm unbekannten +C._ aufforderte, seinen Wagen umzuparkieren. Dieser kam der Aufforderung nicht sofort nach, sondern liess einige Minute verstreichen. Als er die Strasse betrat, befanden sich dort nur noch B.Y._ und X._. Z._ und A.Y._ waren bereits weggefahren. Nach dem Eintreffen von +C._ zog X._ eine Pistole aus dem Hosenbund und schoss ihm in die Brust, woran er kurz danach verstarb.
Umstritten ist, was sich zwischen dem Aufeinandertreffen der drei Männer und der Schussabgabe des Beschwerdeführers abspielte. Die Aussagen des Beschwerdeführers zum Tatgeschehen sind widersprüchlich, teils will er unvermittelt geschossen haben, teils nach einer vorgängigen tätlichen Auseinandersetzung. B.Y._ hat stets bestritten, dass vor der Schussabgabe durch den Beschwerdeführer eine solche stattfand.
2.2 Nach Art. 21 StPO sind die Strafverfolgungsbehörden zur Erforschung der Wahrheit verpflichtet, die Beweisabnahme ist auf alle Tatsachen zu erstrecken, welche für die Beurteilung von Tat und Täter von Bedeutung sind. Es bedarf keiner weiteren Ausführungen, dass für die strafrechtliche Beurteilung von Tat und Täter entscheidend ist, was sich zwischen dem Aufeinandertreffen der drei Männer und der Schussabgabe durch den Beschwerdeführer genau abspielte. Die Strafverfolgungsbehörden waren damit klarerweise verpflichtet, alle verfügbaren Beweise zu erheben, die geeignet sind, das Tatgeschehen zu erhellen.
2.3 Das Verbrechen wurde von einem unbeteiligten Dritten, D._, welcher zur Tatzeit am Tatort vorbeigefahren ist, beobachtet und der Polizei gemeldet. Tags darauf von dieser befragt, hat er ausgesagt, er habe die drei Personen schon frühzeitig sehen können. Obwohl sie nur beieinander gestanden seien, sei ihm die Situation komisch vorgekommen. Beim Näherkommen habe er einen der Männer dem Griechen - er habe aus der Presse erfahren, dass es ein Grieche gewesen sei, er kenne diesen im Übrigen, habe ihn aber damals nicht erkannt - einen Schlag und unmittelbar danach einen Stoss versetzen sehen, worauf der Grieche ausgerutscht und zu Boden gefallen sei. Als er auf der Höhe des Tatorts angekommen sei, habe er kurz auf die Strasse achten müssen. Als er wieder auf die Szene geschaut habe, habe er in der Hand des hinteren Mannes eine Schusswaffe gesehen, die er zuvor nicht bemerkt habe. Fast gleichzeitig habe er einen Knall vernommen. Der Schütze habe auf eine Entfernung von 2 - 3 m einen gezielten Schuss auf den am Boden liegenden Mann abgegeben.
2.4 Das Obergericht hat dazu erwogen, die Aussage von D._ sei nicht verwertbar, da dieser nie als Zeuge befragt worden sei. Es sei nicht seine Sache dies nachzuholen, auf Grund der Konzeption der Strafprozessordnung sollten die Gerichte keine grundlegenden Untersuchungshandlungen vornehmen müssen, da bereits vom Verhöramt eine umfassende tatsächliche und rechtliche Würdigung gefordert werde. Bei der den Gerichten zustehenden Möglichkeit, selber Beweise zu erheben, habe der Gesetzgeber an Beweishandlungen gedacht, die sich erstmals in diesem Verfahrensstadium aufdrängten. Im jetzigen Verfahrensstadium erscheine eine Rückweisung der Untersuchung wegen des Zeitablaufs von rund 2 1⁄2 Jahren nicht mehr sinnvoll.
2.5 Dieses Vorgehen der Untersuchungs- und der Anklagebehörde sowie beider kantonalen Gerichtsinstanzen ist schlechterdings nicht nachvollziehbar: Bei der Untersuchung eines Tötungsdelikts meldet sich ein unbeteiligter Augenzeuge, der dessen Ablauf exklusiv mitverfolgt und der Polizei genau geschildert hat, und weder die Strafverfolgungsbehörden noch die erkennenden Gerichte halten es für angebracht bzw. notwendig, ihn als Zeugen einzuvernehmen und dadurch als Beweismittel ins Verfahren einzuführen. Stattdessen gehen sie von den wenigen auf Grund übereinstimmender Aussagen oder objektiven Beweismitteln feststehenden Tatsachen aus - dass das Opfer vom Beschwerdeführer und seinen Komplizen unter einem Vorwand auf die Strasse gelockt, dort von diesem und B.Y._ erwartet und anschliessend vom Beschwerdeführer mit einem Schuss in die Brust getötet wurde -, lassen offen, ob es vor der Schussabgabe zu einer tätlichen Auseinandersetzung kam und nehmen auf Grund des Wundkanals an, das Opfer sei bei der Schussabgabe seitlich zum Beschwerdeführer gestanden. Daraus zieht das Obergericht wiederum den Schluss, dass das Opfer in diesem Zeitpunkt nicht im Begriff war, den Beschwerdeführer anzugreifen, da nach seinen Erfahrungen Angriffe frontal ausgeführt werden, nicht aus einer seitlich abgewandten Position, und verneint (u.a.) damit das Vorliegen sowohl einer Notwehr- als auch einer Putativnotwehrsituation. Indem das Obergericht somit spekulative und wenigstens teilweise den Beobachtungen des einzigen Augenzeugen widersprechende Annahmen trifft, obwohl ein Beweismittel verfügbar wäre, das geeignet erscheint, das Tatgeschehen weitgehend zu erhellen, setzt es sich in willkürlicher Weise über seine in Art. 21 StPO festgelegte Pflicht zur Erforschung der materiellen Wahrheit hinweg, die Rüge ist offensichtlich begründet.
2.6 Die Staatsanwaltschaft wendet in ihrer Vernehmlassung zwar ein, es müsse offen bleiben, ob es sinnvoll gewesen wäre, den angeblichen Augenzeugen untersuchungsrichterlich einzuvernehmen. Tatsache sei, dass dessen Aussage einerseits etliche Widersprüche aufweise, anderseits aber den Beschwerdeführer auf schwerwiegendste Weise belaste. Die Tatumstände seien schliesslich anderweitig - auch durch das Geständnis - geklärt worden, sodass auf eine Einvernahme des Augenzeugen, der nicht mehr mit dieser Angelegenheit habe konfrontiert werden wollen, verzichtet worden sei.
Diese Einwände sind unbegründet. Wie sich aus den obenstehenden Ausführungen (E. 2.5) ergibt, ist das Tatgeschehen keineswegs durch andere Beweismittel in einer Weise abgeklärt und belegt, die eine untersuchungsrichterliche oder gerichtliche Einvernahme des einzigen unbeteiligten Augenzeugen überflüssig erscheinen lassen könnte. Der Umstand, dass dessen Aussagen nach der Einschätzung der Staatsanwaltschaft Widersprüche enthalten und den Beschwerdeführer schwer belasten, spricht nicht gegen, sondern für dessen Einvernahme als Zeugen. Dass D._ mit dieser Geschichte nicht mehr konfrontiert werden möchte, ist verständlich, stellt aber offensichtlich keinen zureichenden Grund dar, von einer Befragung als Zeuge abzusehen. Zutreffend ist, dass seine Darstellung des Vorfalls gegenüber der Polizei den Beschwerdeführer stärker belastet als der vom Obergericht angenommene Sachverhalt. Abschliessend lässt sich dies indessen erst nach der Würdigung der Zeugenaussage von D._ beurteilen, und es wird Sache des Obergerichts sein zu entscheiden, ob die prozessuale Situation eine allfällige Schlechterstellung des Beschwerdeführers zulässt oder nicht. Entgegen der Auffassung des Obergerichts liegt es zudem keineswegs nahe, dass sich der Augenzeuge an ein derart dramatisches Ereignis nicht mehr erinnern kann; auf dessen Einvernahme konnte es daher auch nicht in willkürfreier antizipierter Beweiswürdigung verzichten. (BGE 124 I 274 E. 5b S. 285 mit Hinweisen, siehe auch BGE 131 I 153 E. 3 S. 157 mit Hinweisen).
3. Die Willkürrüge ist daher gutzuheissen, der angefochtene Entscheid ohne Prüfung der weiteren Rügen aufzuheben und die Sache ans Obergericht zurückzuweisen. Bei diesem Ausgang des Verfahrens sind keine Kosten zu erheben (Art. 66 Abs. 4 BGG). Hingegen hat der Kanton Appenzell A.Rh. dem Beschwerdeführer für das bundesgerichtliche Verfahren eine angemessene Parteientschädigung zu bezahlen (Art. 68 BGG). Damit wird das Gesuch um unentgeltliche Rechtspflege und Verbeiständung gegenstandslos.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, der angefochtene Entscheid vom 10. Juli 2007 aufgehoben und die Sache ans Obergericht des Kantons Appenzell A.Rh. zurückgewiesen.
2. Es werden keine Gerichtskosten erhoben.
3. Der Kanton Appenzell A.Rh. hat dem Beschwerdeführer für das bundesgerichtliche Verfahren eine Parteientschädigung von Fr. 3'000.-- zu bezahlen.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Appenzell A.Rh. schriftlich mitgeteilt.
Lausanne, 14. Juli 2008
Im Namen der Strafrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Schneider Störi