Sachverhalt:
A. Am 19. August 2004 verstarb A.a._. Als einzige gesetzliche Erben hinterliess er A.x._ (Kläger und Beschwerdeführer) sowie dessen Schwestern A.w._ und A.v._. Die Erbengemeinschaft bestimmte am 23. März 2005 A.x._ als ihren Vertreter mit ausdrücklicher Liquidationsbefugnis. Mit schriftlichen Abtretungserklärungen vom 3. bzw. 11. Dezember 2008 traten A.w._ und A.v._ ihre Erbanteile an A.x._ ab.
Der Erblasser A.a._ war zusammen mit seinen Brüdern A.b._ und A.c._ Gesellschafter der am 29. Mai 1979 gegründeten Kollektivgesellschaft "Gebrüder A._, I._" (Beklagte und Beschwerdegegnerin). Gemäss Ziffer 5.2 des Gesellschaftsvertrags wird die Kollektivgesellschaft bei Tod eines Gesellschafters nicht aufgelöst, sondern durch die verbleibenden Gesellschafter weitergeführt. Der ausscheidende Gesellschafter bzw. dessen Erben haben Anspruch auf Auszahlung ihres Anteils am Gesellschaftsvermögen. Diese soll gemäss Ziffer 5.4 des Gesellschaftsvertrags in Raten erfolgen.
Zwischen den Parteien entzündete sich ein Streit über den Anspruch der Erben von A.a._ sel. auf Auszahlung des Anteils am Gesellschaftsvermögen der Beklagten.
B. B.a Gestützt auf die Schiedsklausel in Ziff. 6.1 des Gesellschaftsvertrags erhob A.x._ Schiedsklage gegen die Kollektivgesellschaft A._ bei einem Dreierschiedsgericht mit Sitz in Balsthal.
Mit Eingabe vom 4. Januar 2012 stellte der Kläger die folgenden Rechtsbegehren:
"1. Es sei die Beklagte zu verpflichten, dem Kläger die fälligen 8 von 10 per Ende eines jeden Jahres fällig werdenden Raten von 1/3 des Wertes der Beklagten per 19.08.2004 zuzüglich 5 % Verzugszins ab mittlerem Verfall seit dem 19.08.2004 und unter Anrechnung von CHF 21'500.00 zu bezahlen.
2. Eventualiter sei die Beklagte zu verpflichten, dem Kläger 8/10 von CHF 161'110.16 zuzüglich 5 % Verzugszins ab mittlerem Verfall seit dem 19.08.2004 und unter Anrechnung von CHF 21'500.00 zu bezahlen.
3. Auf eine weitere Verhandlung resp. Zeugenvorladung sei zu verzichten.
4. Die bereits spruchreife Sache sei unverzüglich zu entscheiden.
5. Auf eine weitere Kostenvorschusszahlung sei zu verzichten.
6. Eventualiter sei die Kostenvorschussverfügung vom 14. November 2011 in Wiedererwägung zu ziehen und den Parteien hierfür eine neue Frist anzusetzen.
7. In der Urteilsbegründung sei eine allfällig abweichende Minderheitsmeinung zu den wesentlichen Fragen ebenfalls darzulegen.
8. Unter Kosten- und Entschädigungsfolge zzgl. MWST und Auslagen zu Lasten der Beklagten."
B.b Mit Urteil vom 2. Juli 2012 hiess das Dreierschiedsgericht die Klage teilweise gut, soweit es darauf eintrat, und verurteilte die Beklagte zur Zahlung von Fr. 22'589.40 nebst Zins an den Kläger (Dispositiv-Ziff. 2). Die Kosten des Schiedsgerichts bestimmt auf Fr. 41'624.85 wurden zu 4/5 dem Kläger und zu 1/5 der Beklagten auferlegt (Dispositiv-Ziff. 3).
C. Mit Beschwerde in Zivilsachen stellt der Kläger dem Bundesgericht die folgenden Rechtsbegehren:
"1. Das Schiedsurteil sei aufzuheben.
2. Die Beklagte sei zu verpflichten, dem Kläger CHF 107'388.00 zzügl. Verzugszins gemäss den Hypothekarzinsen für 2. Hypotheken der Bank Y._ seit dem 19.8.2004 zu bezahlen.
3. Die vom Schiedsgericht erhobenen Gerichtsgebühren von CHF 39'760.00 resp. CHF 41'624.85 seien neu auf max. CHF 25'000.00 festzusetzen.
4. Unter Kosten- und Entschädigungsfolgen zzügl. Auslagen und MWSt zu Lasten der Beklagten."
Die Beschwerdegegnerin beantragt in ihrer Vernehmlassung, es sei auf die Beschwerde nicht einzutreten, eventualiter sei diese abzuweisen. Die Vorinstanz verzichtete in ihrer Vernehmlassung auf Antragstellung.
Die Parteien reichten Replik und Duplik ein.
Erwägungen:
1. 1.1 Angefochten ist ein Schiedsspruch über eine Streitigkeit zwischen zwei Parteien, die beide ihren Sitz in der Schweiz haben (und auch beim Abschluss der Schiedsvereinbarung hatten; Art. 176 IPRG [SR 291]). Für die Rechtsmittelordnung sind somit die Bestimmungen über die interne Schiedsgerichtsbarkeit (3. Teil ZPO) anzuwenden.
Nach Art. 407 Abs. 3 ZPO gilt für Rechtsmittel gegen Entscheide von internen Schiedsgerichten das Recht, das bei Eröffnung des Schiedsentscheids in Kraft ist. Nach Inkrafttreten der ZPO am 1. Januar 2011 eröffnete Binnenschiedsentscheide sind demzufolge unter den Voraussetzungen der Art. 389 bis 395 ZPO anfechtbar, soweit die Parteien keine Vereinbarung im Sinne von Art. 353 Abs. 2 ZPO geschlossen haben, mit der sie die Geltung dieser Bestimmungen ausschlossen und die Anwendung der Bestimmungen des 12. Kapitels des IPRG vereinbarten. Nachdem dies vorliegend nicht der Fall ist und die Parteien keine Beschwerdemöglichkeit an ein kantonales Gericht im Sinne von Art. 390 ZPO vereinbart haben, steht gegen den Endschiedsspruch (Art. 392 lit. a ZPO) vom 2. Juli 2012 die Beschwerde an das Bundesgericht als einzige Rechtsmittelinstanz nach den Bestimmungen von Art. 389 ff. ZPO offen (Art. 77 Abs. 1 lit. b BGG).
1.2 Die Beschwerde nach Art. 389 ff. ZPO ist grundsätzlich kassatorischer Natur, weshalb bei einer Gutheissung derselben einzig die Aufhebung des angefochtenen Entscheids und Rückweisung der Sache an das Schiedsgericht in Betracht kommt; im Allgemeinen kann das Bundesgericht in der Sache nicht selbst entscheiden (Art. 77 Abs. 2 i.V.m. Art. 107 Abs. 2 BGG; Urteil 4A_424/2011 vom 2. November 2011 E. 1.2 mit Hinweisen). Ausnahmen von der kassatorischen Natur der Schiedsbeschwerde gelten nach der Rechtsprechung in Bezug auf die Zuständigkeit des Schiedsgerichts und die Ablehnung von Schiedsrichtern (BGE 136 III 605 E. 3.3.4 S. 616; Urteile 4A_537/2012 vom 8. Januar 2013 E. 2.1; 4A_515/2012 vom 17. April 2013 E. 2.3). Für die interne Schiedsgerichtsbarkeit ist eine Ausnahme schliesslich für den Fall vorgesehen, dass der Schiedsspruch wegen offensichtlich zu hoher Entschädigungen und Auslagen angefochten wird (Art. 395 Abs. 4 ZPO). Hier ist vom Beschwerdeführer in Beachtung der allgemeinen Vorschriften für Beschwerden an das Bundesgericht ein Antrag in der Sache zu stellen (Art. 42 Abs. 1 BGG; BGE 136 V 131 E. 1.2 S. 135; 133 III 489 E. 3.1 S. 489 f.); er hat die von ihm als angemessen erachteten Entschädigungen und Auslagen zu beziffern (BGE 134 III 235 E. 2 S. 236 f.).
Die vom Beschwerdeführer gestellten Anträge auf Aufhebung des angefochtenen Entscheids (Rechtsbegehren Ziff. 1) und Reduktion der Gerichtsgebühren (Rechtsbegehren Ziff. 3) sind damit grundsätzlich zulässig. Unzulässig ist demgegenüber der Antrag in der Sache gemäss Rechtsbegehren Ziff. 2. Darauf ist nicht einzutreten.
2. Der Beschwerdeführer wirft der Vorinstanz in diverser Hinsicht Willkür in der Sachverhaltsfeststellung vor.
2.1 Die Beschwerdegründe gegen einen Schiedsspruch sind beschränkter als gegen ein staatliches Urteil; sie sind im Gesetz abschliessend aufgezählt (Art. 393 ZPO). Mit einer Schiedsbeschwerde kann nicht gerügt werden, der angefochtene Entscheid verletze Bundesrecht im Sinne von Art. 95 lit. a BGG, handle es sich um solches auf Verfassungs- oder auf Gesetzesstufe (Urteile 4A_424/2011 vom 2. November 2011 E. 1.3; 4A_254/2011 vom 5. Juli 2011 E. 5.1).
Das Bundesgericht prüft sodann nur die Beschwerdegründe, die in der Beschwerde vorgebracht und begründet werden (Art. 77 Abs. 3 BGG). Diese Anforderung entspricht der für die Verletzung von Grundrechten vorgesehenen Rügepflicht (Art. 106 Abs. 2 BGG); dabei gelten nach wie vor die strengen Begründungsanforderungen, die das Bundesgericht unter der Herrschaft von Art. 90 Abs. 1 lit. b aOG stellte (BGE 134 III 186 E. 5). Der Beschwerdeführer muss die einzelnen Beschwerdegründe, die nach seinem Dafürhalten erfüllt sind, benennen; es ist nicht Aufgabe des Bundesgerichts, danach zu forschen, welcher Beschwerdegrund nach Art. 393 ZPO mit den einzelnen erhobenen Rügen geltend gemacht werden soll, wenn dies vom Beschwerdeführer im Zusammenhang mit diesen nicht präzisiert wird. Sodann hat der Beschwerdeführer im Detail aufzuzeigen, warum die angerufenen Beschwerdegründe erfüllt sind, wobei er mit seiner Kritik an den als rechtsfehlerhaft erachteten Erwägungen der Vorinstanz anzusetzen hat (vgl. BGE 128 III 50 E. 1c; ferner: BGE 134 II 244 E. 2.1 S. 245 f.; 133 IV 286 E. 1.4 S. 287; 134 V 53 E. 3.3; s. zum ganzen Urteil 4A_424/2011 vom 2. November 2011 E. 1.3 mit Hinweisen). Unbeachtlich sind blosse Verweise auf die Akten; inwiefern die angerufenen Beschwerdegründe gegeben sein sollen, ist in der Beschwerdeschrift selber darzulegen (vgl. BGE 133 II 396 E. 3.1 S. 400; 126 III 198 E. 1d; 116 II 92 E. 2; 115 II 83 E. 3 S. 85).
2.2 Gemäss Art. 393 lit. e ZPO kann gegen den Schiedsspruch vorgebracht werden, er sei im Ergebnis willkürlich, weil er auf offensichtlich aktenwidrigen tatsächlichen Feststellungen oder auf einer offensichtlichen Verletzung des Rechts oder der Billigkeit beruht (zum Ganzen Urteil 4A_424/2011 vom 2. November 2011 E. 2.1). Dieser Beschwerdegrund wurde aus dem früheren Konkordat (Art. 36 lit. f KSG) übernommen (Botschaft vom 28. Juni 2006 zur Schweizerischen Zivilprozessordnung, BBl 2006 7405 Ziff. 5.25.8 zu Art. 391 des Entwurfs).
Die Umschreibung des Willkürtatbestandes in Art. 393 lit. e ZPO bzw. Art. 36 lit. f KSG stimmt mit dem Begriff der Willkür überein, den das Bundesgericht zu Art. 4 aBV bzw. Art. 9 BV entwickelt hat (BGE 131 I 45 E. 3.4 S. 48). Willkürlich ist ein Entscheid danach nicht schon dann, wenn eine andere Lösung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre, sondern erst, wenn er offensichtlich unhaltbar ist, zur tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (BGE 137 I 1 E. 2.4 S. 5; 136 I 316 E. 2.2.2 S. 318 f.).
Die Tatbestände, hinsichtlich derer Willkür im genannten Sinne geltend gemacht werden kann, sind jedoch eingeschränkt. Eine Einschränkung der Willkürrüge betrifft Tatsachenfeststellungen. Es kann einzig offensichtliche Aktenwidrigkeit vorgebracht werden; diese ist nicht mit willkürlicher Beweiswürdigung gleichzusetzen. Offensichtlich aktenwidrige tatsächliche Feststellungen im Sinne von Art. 393 lit. e ZPO trifft das Schiedsgericht dann, wenn es sich infolge Versehens mit den Akten in Widerspruch gesetzt hat, sei es, dass es Aktenstellen übersehen oder ihnen einen anderen als den wirklichen Inhalt beigemessen hat, sei es, dass es irrig davon ausgegangen ist, eine Tatsache sei aktenmässig belegt, während die Akten in Wirklichkeit darüber keinen Aufschluss geben. Aktenwidrigkeit liegt nur vor, wenn der Richter bei der Beweiswürdigung von unrichtigen tatsächlichen Prämissen ausgeht; das Ergebnis und die Art und Weise der Beweiswürdigung sowie die darin liegenden Wertungen sind nicht Gegenstand der Willkürrüge, sondern einzig Tatsachenfeststellungen, die von keiner weiteren Würdigung abhängen, weil sie mit den Akten unvereinbar sind (BGE 131 I 45 E. 3.6 und 3.7 S. 49 f.; Urteile 4A_454/2011 vom 27. Oktober 2011 E. 2.2; 4A_424/2011 vom 2. November 2011 E. 2.1).
Mit offensichtlicher Verletzung des Rechts gemäss Art. 393 lit. e ZPO ist - als weitere Einschränkung - nur eine Verletzung des materiellen Rechts gemeint und nicht eine solche des Verfahrensrechts (BGE 131 I 45 E. 3.4 S. 48).
2.3 Der Beschwerdeführer verkennt diese Grundsätze in verschiedener Hinsicht:
2.3.1 Unter Ziff. 10 seiner Beschwerdeschrift behauptet der Beschwerdeführer, die Feststellung der Vorinstanz, wonach bezüglich der Forderung der Erbengemeinschaft gegenüber der Beschwerdegegnerin bereits am 22. Mai 2005 eine Einigung über eine partielle Erbteilung erzielt worden sei, beruhe auf einer "willkürlichen Feststellung des Sachverhalts und einer unbilligen Ungleichbehandlung der Parteien". Weder die Erbengemeinschaft noch der Beschwerdeführer habe der Beschwerdegegnerin je mitgeteilt, dass jedem Erben der Erbengemeinschaft A.a._ sel. aus der Forderung gegenüber der Beschwerdegegnerin ein Drittel zukommen werde. Das Schiedsgericht habe "willkürlich einen Sachverhalt erfunden, der aus keiner Akte oder Aussage hervorgeht" (Ziff. 23 der Beschwerdeschrift). Diese Rügen begründet der Beschwerdeführer freilich mit keinem Wort bzw. nicht in einer den Begründungsanforderungen gemäss Art. 77 Abs. 3 BGG genügenden Weise, weshalb darauf nicht einzutreten ist.
2.3.2 Unter Ziff. 12 der Beschwerdeschrift rügt der Beschwerdeführer die vorinstanzliche Bewertung des Wertschriftenbestands der Beschwerdegegnerin als "unverständlich und auch im krassen Masse willkürlich". Die vom Schiedsgericht auf S. 10 erwähnte Aussage von A.c._ sei "ganz offensichtlich falsch". "Ebenso falsch" sei sodann "die aus der Luft gegriffene und nicht einmal von der Beklagten behauptete Ausführung des Schiedsgerichts, dass die Partizipationsscheine der Bank Z._ im relevanten Zeitpunkt wertlos gewesen seien" (Ziff. 14 der Beschwerdeschrift). Weiter verstiessen die vorinstanzlichen Sachverhaltsfeststellungen im Zusammenhang mit einer Darlehensgewährung gegen "Art. 9 BV" (Ziff. 16-18 der Beschwerdeschrift). In der Begründung dieser Rügen zeigt der Beschwerdeführer freilich keine offensichtliche Aktenwidrigkeit auf, sondern wirft der Vorinstanz vielmehr eine willkürliche Beweiswürdigung vor. Dabei handelt es sich nicht um einen zulässigen Rügegrund gemäss dem Katalog von Art. 393 ZPO.
2.3.3 Dass eine willkürliche Beweiswürdigung kein zulässiger Rügegrund ist, verkennt der Beschwerdeführer sodann auch bei seinen Vorbringen unter dem Titel "Partielle Erbteilung" (Ziff. 19-39 der Beschwerdeschrift). Soweit er sich dabei gegen die vorinstanzlichen Sachverhaltsfeststellungen richtet, zeigt er durchwegs keine Aktenwidrigkeit i.S. von Art. 393 lit. e ZPO auf, sondern kritisiert das Ergebnis und die Art und Weise der Beweiswürdigung sowie die darin liegenden Wertungen. Dabei handelt es sich um unzulässige Rügen im Rahmen einer Schiedsbeschwerde gemäss den Art. 389 ff. ZPO.
3. Unter dem Titel "Partielle Erbteilung" wirft der Beschwerdeführer der Vorinstanz schliesslich eine "willkürliche Rechtsauffassung" vor. Der Schluss der Vorinstanz auf den S. 26 ff. des angefochtenen Entscheids, wonach die Erbengemeinschaft hinsichtlich der Abfindungsforderung gegenüber der Beschwerdegegnerin eine partielle Realteilung vorgenommen habe, sei offensichtlich unzutreffend.
3.1 Art. 634 ZGB regelt die rechtsgeschäftliche Teilung der Erbschaft. Danach wird die Teilung für die Erben verbindlich mit entweder der Aufstellung und Entgegennahme der Lose oder dem Abschluss eines Teilungsvertrages (Abs. 1), der zu seiner Gültigkeit der schriftlichen Form bedarf (Abs. 2). Unter "Losen" im Sinne von Art. 634 Abs. 1 ZGB versteht das Gesetz wertgleiche Komplexe von Erbschaftsaktiven und -passiven (THOMAS WEIBEL, in: Abt/Weibel [Hrsg.], Praxiskommentar Erbrecht, 2007, N. 7 zu Art. 611 ZGB; SCHAUFELBERGER/KELLER LÜSCHER, in: Basler Kommentar, 4. Aufl. 2011, N. 4 zu Art. 611 ZGB).
Art. 634 ZGB stellt damit für den Abschluss der rechtsgeschäftlichen Erbteilung zwei gleichwertige Teilungsmodi zur Verfügung: Die sog. Realteilung ("Aufstellung und Entgegennahme der Lose") und den schriftlichen Teilungsvertrag. Bei der Realteilung fällt der Teilungsvertrag mit seiner Durchführung zusammen. Die Realteilung ist Teilung von Hand zu Hand; sie ist Verpflichtungs- und Verfügungsgeschäft zugleich und verhält sich zum schriftlichen Teilungsvertrag wie die Handschenkung (Art. 242 OR) zum Schenkungsversprechen (Art. 243 OR; BGE 102 II 197 E. 3a S. 203). Nach dem Wortlaut von Art. 643 Abs. 1 ZGB tritt dabei die Bindung der Erben erst mit der Entgegennahme der Lose ein. Erforderlich für die Bindung ist somit, dass die Nachlassgegenstände aus der gesamten Hand in die Individualrechtssphäre der einzelnen Erben überführt (BGE 102 II 197 E. 3a S. 203), d.h. nach den Vorschriften des Sachen- und des Obligationenrechts erworben worden sind. Im Einzelnen bedeutet dies, dass z.B. Forderungen mittels von allen Miterben unterzeichneter, schriftlicher Zession an den erwerbenden Erben abgetreten wurden (Art. 165 Abs. 1 OR; SCHAUFELBERGER/KELLER LÜSCHER, a.a.O., N. 8 zu Art. 634 ZGB; ESCHER/ ESCHER, in: Zürcher Kommentar, 1960, N. 7 zu Art. 634 ZGB; TUOR/PICENONI, in: Berner Kommentar, 1964, N. 5 zu Art. 634 ZGB; vgl. sodann bereits EUGEN HUBER, Erläuterungen zum Vorentwurf des Eidgenössischen Justiz- und Polizeidepartements, 2. Ausgabe 1914, in: Berner Kommentar, Materialien zum Zivilgesetzbuch, Bd. II, 2007, N. 1207, wonach sich der Übergang der Erbschaftsgegenstände aus der "bishin vorhandenen Gemeinschaft auf ihre Einzelperson" nach den Grundsätzen bestimme, "welche im Obligationen- und Sachenrecht über den Erwerb von persönlichen und dinglichen Rechten aufgestellt sind").
Die Realteilung ist erst wirksam, wenn sie vollständig durchgeführt wurde. Solange die mündliche bzw. stillschweigende Einigung über die Realteilung bloss teilweise umgesetzt ist, besteht kein verbindliches Realgeschäft (NICOLAS ROUILLER, in: Eigenmann/Rouiller [Hrsg.], Commentaire du droit des successions, 2012, N. 11 zu Art. 634 ZGB).
3.2 Der Abfindungsanspruch des aus einer Kollektivgesellschaft ausgeschiedenen Gesellschafters ist schuldrechtlicher Natur (DANIEL STAEHELIN, in: Basler Kommentar, 4. Aufl. 2012, N. 3 zu Art. 580 OR; WERNER VON STEIGER, Handelsrecht, Schweizerisches Privatrecht, Bd. VIII/1, 1976, S. 554 f.; JEAN-PAUL VULLIÉTY, in: Commentaire romand, CO II, 2008, N. 22 zu Art. 580 OR). Er kann nach den Vorschriften über die Forderungszession (Art. 164 ff. OR) abgetreten werden (HANDSCHIN/CHOU, in: Zürcher Kommentar, 4. Aufl. 2009, N. 75 zu Art. 580 OR).
3.3 Die Vorinstanz kam zum Schluss, dass die Erbengemeinschaft bezüglich des Abfindungsanspruchs gegenüber der Beschwerdegegnerin eine partielle Realteilung vorgenommen habe mit der Folge, dass der Beschwerdeführer nur noch einen Drittel des Anspruchs von A.a._ sel. gegenüber der Beschwerdegegnerin geltend machen, d.h. im Ergebnis noch einen Neuntel des Gesellschaftsvermögens beanspruchen könne. Die Vorinstanz begründet dies damit, dass anlässlich einer Versammlung vom 25. Mai 2005, an der sämtliche Erben anwesend oder durch den Liquidator vertreten waren, "klar (und unbestritten)" gewesen sei, "dass jedem Erben je ein Drittel des Anteils am Gesellschaftsvermögen zustand, den die Erbengemeinschaft beanspruchen konnte (gemäss Kollektivgesellschaftsvertrag wiederum ein Drittel), somit je ein Neuntel des Gesamtvermögens der Beklagten". Daraus zog die Vorinstanz fol-genden Schluss: "Mit dieser allenfalls stillschweigenden Vereinbarung war der Nachlass des A.a._ diesbezüglich aber bereits (partiell) geteilt". Innerhalb der Erbengemeinschaft sei "Einigkeit" darüber erzielt worden, "dass mit Bezug auf den Anteil am Vermögen der Gesellschaft eine Realteilung vorgenommen würde".
Dieser Schluss ist - wie der Beschwerdeführer zu Recht rügt - unhaltbar: Eine stillschweigende bzw. jedenfalls mündliche Vereinbarung ("Einigkeit") stellt weder einen wirksamen Teilungsvertrag noch eine Realteilung i.S. von Art. 634 Abs. 1 ZGB dar. Denn der Teilungsvertrag bedürfte zu seiner Gültigkeit der schriftlichen Form (Art. 634 Abs. 2 ZGB) und die Realteilung des Vollzugs des Verfügungsgeschäfts, d.h. der schriftlichen Abtretung der Abfindungsforderung von der Erbengemeinschaft an die drei Erben (Art. 165 Abs. 1 OR). Dass eine schriftliche Zession in Bezug auf die Abfindungsforderung vorliegt, ergibt sich aber weder aus dem angefochtenen Entscheid noch macht dies die Beschwerdegegnerin geltend. Eine wirksame Realteilung lässt sich auch daraus nicht ableiten, dass sich die beiden Miterbinnen des Beschwerdeführers ihren Anteil an der Abfindungsforderung von der Beschwerdegegnerin auszahlen liessen. Denn solange die real zu teilenden Erbschaftsgegenstände nicht von allen Erben in Empfang genommen wurden, liegt keine wirksame Realteilung vor (oben E. 3.1 in fine). Dass auch der Beschwerdeführer seinen Anteil an der Abfindungsforderung ausbezahlt erhalten hätte, ergibt sich weder aus dem angefochtenen Entscheid noch macht dies die Beschwerdegegnerin geltend (vgl. Vernehmlassung, S. 20; sodann Duplik, S. 8, wo nur von Auszahlungen "an die Schwestern des Beschwerdeführers" die Rede ist).
Daraus folgt, dass der vorinstanzliche Schluss, es liege eine wirksame partielle Realteilung vor, offensichtlich unrichtig und damit willkürlich ist. Dieser Schluss wirkt sich auf das Ergebnis des Entscheids aus, da die Vorinstanz damit begründet, dass dem Beschwerdeführer nur ein Drittel des Abfindungsanspruchs der Erbengemeinschaft gegenüber der Beschwerdegegnerin zustehe, obwohl ihm gemäss unbestrittener Feststellung im angefochtenen Entscheid am 3. bzw. 11. Dezember 2008 sämtliche Erbanteile der beiden Miterbinnen abgetreten wurden.
4. Nach dem Gesagten erweist sich der Rügegrund von Art. 393 lit. e ZPO ("offensichtliche Verletzung des Rechts") als gegeben und der angefochtene Entscheid ist aufzuheben. Der Antrag, es sei die Gebühr des Schiedsgerichts zu reduzieren, wird damit gegenstandslos.
Bei diesem Verfahrensausgang wird die Beschwerdegegnerin kosten- und entschädigungspflichtig (Art. 66 Abs. 1 i.V.m. Art. 68 Abs. 2 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist, und das angefochtene Urteil des Schiedsgerichts mit Sitz in Balsthal vom 2. Juli 2012 wird aufgehoben.
2. Die Gerichtskosten von Fr. 4'000.-- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 5'000.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Schiedsgericht mit Sitz in Balsthal schriftlich mitgeteilt.
Lausanne, 13. Mai 2013
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Klett
Der Gerichtsschreiber: Hurni