Sachverhalt:
A. Mit Entscheid vom 8. Juli 2010 hiess das Schiedsgericht Graubünden nach Eidgenössischem Sozialversicherungsrecht die Klage verschiedener Krankenversicherer gegen Dr. med. A._ gut und verpflichtete diesen, für das Jahr ........ den Betrag von Fr. 69'082.50 zurückzuerstatten. Mit Urteil 9C_732/2010 vom 7. April 2011 hiess das Bundesgericht die dagegen erhobene Beschwerde in öffentlich-rechtlichen Angelegenheiten in dem Sinne gut, dass es das angefochtene Erkenntnis aufhob und die Sache an die Vorinstanz zurückwies, damit sie im Sinne der Erwägungen verfahre und über die Klage neu entscheide.
B. Mit Entscheid vom 4. Juni 2012 hiess das Schiedsgericht Graubünden nach Eidgenössischem Sozialversicherungsrecht die Klage teilweise gut und verpflichtete A._ zur Bezahlung von Fr. 47'469.90.
C. A._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der Entscheid vom 4. Juni 2012 sei aufzuheben und die Klage abzuweisen; eventualiter sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen.
Die Krankenversicherer, vertreten durch santésuisse, Die Schweizer Krankenversicherer, diese handelnd durch die Geschäftsstelle santésuisse Graubünden, und das kantonale Schiedsgericht beantragen, die Beschwerde sei abzuweisen, soweit darauf einzutreten sei. Das Bundesamt für Gesundheit verzichtet auf eine Vernehmlassung.
In einer weiteren Eingabe hat sich A._ zur Sache geäussert.

Erwägungen:
1. Gemäss <ref-law> muss sich der Leistungserbringer in seinen Leistungen auf das Mass beschränken, das im Interesse der Versicherten liegt und für den Behandlungszweck erforderlich ist (Abs. 1). Für Leistungen, die über dieses Mass hinausgehen, kann die Vergütung verweigert werden. Eine nach diesem Gesetz dem Leistungserbringer zu Unrecht bezahlte Vergütung kann zurückgefordert werden (Abs. 2).
2. Die Vorinstanz hat die Wirtschaftlichkeit der Praxistätigkeit des Beschwerdeführers im ........ in Anwendung der statistischen Methode (Durchschnittskostenvergleich; vgl. <ref-ruling> E. 6.2 S. 416 f. mit Hinweisen) geprüft. Dabei ist sie von einem Index der gesamten Kosten (Fr. 890'305.-) von 140 Punkten, einem Index der direkten Kosten (Fr. 728'935.-) von 159 Punkten, einem Index der direkten Arztkosten von 193 Punkten und der direkten Medikamentenkosten von 116 Punkten sowie von einem Index der veranlassten Kosten von 91 Punkten ausgegangen. Vergleichsgruppe bildete die vom Beklagten in seiner Eingabe vom 24. Juni 2011 getroffene Auswahl von zehn ("vielleicht" miteinander vergleichbaren) Ärztinnen und Ärzten aus den von den Krankenversicherern bestimmten 25 im Kanton Graubünden tätigen Ärztinnen und Ärzten aus der Gruppe "Praktische Arzt/Ärztin". Den Rückerstattungsbetrag hat das Schiedsgericht bezogen auf den Gesamtkostenindex berechnet, d.h. nach der Differenz zwischen den gesamten Kosten von Fr. 890'305.- (140 Indexpunkte) und den Kosten von Fr. 826'711.80 (130 Indexpunkte [Toleranzwert]). Vom so erhaltenen Betrag von Fr. 63'593.20 hat es einen von den Krankenversicherern implizit anerkannten Abzug von 25 % für den hohen Ausländeranteil am Patientengut vorgenommen, was die Summe von Fr. 47'469.90 ergab.
3. 3.1 Der Beschwerdeführer bestreitet nicht die Anwendung der statistischen Methode zur Prüfung des Vorwurfs unwirtschaftlicher Behandlung. Gleichzeitig bringt er vor, die Gruppe von 25 Ärzten bilde kein Vergleichskollektiv und eine neue Gruppe dürfe und könne nicht mehr gebildet werden. Indem die Vorinstanz die von ihm "vielleicht" bzw. "im besten Fall" als miteinander vergleichbar bezeichneten zehn Ärztinnen und Ärzte als neue Vergleichsgruppe heranziehe, habe sie in bundesrechtswidriger Weise die Klagegrundlagen geändert. Diese Argumentation verkennt, dass die im konkreten Fall anwendbare Methode der Wirtschaftlichkeitsprüfung, die statistische, die analytische oder eine Kombination von beiden (<ref-ruling> E. 4d S. 454; SVR 2012 KV Nr. 12 S. 43, 9C_260/2010 E. 4.2), eine Frage des Beweises und damit Gegenstand des (schiedsgerichtlichen) Beweisverfahrens ist (<ref-ruling> E. 3 S. 199). Dies betrifft auch etwa die Frage, ob beim Durchschnittskostenvergleich die Vergleichsgruppe zu modifizieren, allenfalls enger oder weiter zu fassen ist (RKUV 2003 Nr. KV 250 S. 216, K 9/00 E. 2.2.2). Die Vorinstanz durfte daher aus der Gruppe der 25 Ärzte, welche die Krankenversicherer zum Vergleich heranziehen wollten, eine neue Vergleichsgruppe bilden, wenn sie der Überzeugung war, dass jene grössere den von der Rechtsprechung formulierten Anforderungen betreffend Mindestgrösse, Homogenität, geografischen Tätigkeitsbereich und Krankengut (<ref-ruling> E. 2.2 S. 45; SVR 2012 KV Nr. 12 S. 43, 9C_260/2010 E. 4.3; RKUV 1988 Nr. K 761 S. 92, K 97/85) nicht genügte.
Die in der vorinstanzlichen Eingabe vom 24. Juni 2011 als "vielleicht" oder "im besten Fall" vergleichbar bezeichneten zehn bzw. ohne Beschwerdeführer neun Ärztinnen und Ärzte sind wie er selber Hausärzte ohne FMH-Titel für Allgemeinmedizin. Den in der weiteren Eingabe vom 31. August 2011 sinngemäss vorgebrachten Einwand, die drei Ärzte in der Mesolcina (Misox) gehörten nicht dem gleichen geografischen Tätigkeitsbereich an - das Tal sei dem Tessin zuzuordnen - und müssten daher ausser Acht bleiben, hat die Vorinstanz als nicht stichhaltig erachtet im Wesentlichen mit der Begründung, der Beklagte könne nicht darlegen, inwiefern sich dieser Umstand zu seinem Nachteil konkret auswirke. Vor Bundesgericht bringt dieser vor, die Ärzte aus der Mesolcina orientierten sich mehrheitlich, nicht zuletzt aus sprachlichen Gründen bei Überweisungen an Spezialisten nach dem Kanton Tessin. Die bestehenden Mentalitätsunterschiede zögen auch Behandlungsunterschiede nach sich, weshalb die Vergleichbarkeit mit den übrigen Ärzten in Graubünden nicht ohne weiteres gegeben sei. Diese Vorbringen sind indessen zu wenig substanziiert, um den Einbezug der drei Ärzte aus dem Misox in die Vergleichsgruppe als offensichtlich unrichtig oder sonst wie bundesrechtswidrig erscheinen zu lassen.
3.2 Weiter bringt der Beschwerdeführer vor, ........ sei er das zweite Jahr am jetzigen Standort tätig gewesen. Nach Treu und Glauben (Recht auf eine Vorwarnung bzw. eine Reaktionszeit) sei die kurze Praxistätigkeit als eine die übliche Toleranzgrenze von 120 bis 130 Indexpunkten (SVR 2011 KV Nr. 15 S. 57, 9C_732/2010 E. 3.2 mit Hinweisen) erhöhende Besonderheit anzuerkennen. Die nach wie vor geltende Rechtsprechung des Eidg. Versicherungsgerichts, auf die er sich in diesem Zusammenhang beruft, betrifft indessen gerade Sachverhalte langjähriger Praxistätigkeit (vgl. KSK aktuell 1996 S. 146, K 57/95 E. 4 und RKUV 1988 Nr. K 761 S. 92, K 97/85). Im Übrigen bestreitet der Beschwerdeführer zu Recht nicht, dass eine kurze Praxistätigkeit für sich allein genommen keine Ausweitung des Toleranzbereichs rechtfertigt (SVR 2011 KV Nr. 15 S. 57, 9C_732/2010 E. 4.2 mit Hinweis). Der Umstand, dass das Durchschnittsalter der Patienten von 56,9 Jahre (2003) auf 51,6 Jahre (2004) sank, stellt bei einem Durchschnittsalter in der Vergleichsgruppe von 47,53 Jahren in diesem Jahr keine Praxisbesonderheit dar, die einen höheren Toleranzwert als 130 Indexpunkte rechtfertigen könnte. Dass "ein neuer Arzt im Ort angekommen war", mag teilweise erklären, weshalb vermehrt jüngere Patienten den Beschwerdeführer konsultierten und sich von ihm hausärztlich behandeln liessen. Inwiefern dadurch - bei gemäss Beschwerdeführer im Wesentlichen gleich gebliebener Anzahl Patienten - insgesamt ein diagnostischer und therapeutischer Mehraufwand notwendig geworden sein soll, ist nicht einsehbar. In diesem Zusammenhang ist zu beachten, dass es bei der statistischen Methode um die Durchschnittskosten pro Patient geht.
3.3 Im ersten Entscheid vom 8. Juli 2010 sodann hatte die Vorinstanz dargelegt, weshalb keine Praxisbesonderheiten bestünden, die einen Zuschlag zum Toleranzwert rechtfertigten (vgl. SVR 2005 KV Nr. 4 S. 13, K 150/03 E. 6.3 [nicht publ. in: <ref-ruling>]; Urteile des Eidg. Versicherungsgerichts K 148/04 vom 2. Dezember 2005 E. 3.3.2 und K 9/99 vom 29. Juni 2001 E. 6c). Das Bundesgericht hat im Urteil 9C_732/2010 vom 7. April 2011 die dagegen vorgebrachten Einwendungen als nicht stichhaltig erachtet. Der Beschwerdeführer vermag auch in Bezug auf die neue, enger gefasste Vergleichsgruppe (vorne E. 2 und 3.1) keine Besonderheiten seiner Praxistätigkeit darzutun, die für einen Toleranzwert von mehr als 130 Indexpunkten sprechen würden. Insbesondere beruhen seine Vorbringen betreffend das überdurchschnittliche Alter der von ihm ........ behandelten Patienten auf der unzutreffenden Annahme eines Durchschnittsalters der Vergleichsgruppe von 45,6 Jahren. Das mittlere Alter der von der Vorinstanz herangezogenen zehn Ärzte aus der Gruppe "Praktische Arzt/ Ärztin" betrug 47,53 Jahre, lag somit lediglich vier Jahre unter demjenigen seiner eigenen Patienten (vgl. E. 3.2). Dem hohen Ausländeranteil sodann hat die Vorinstanz mit einer Kürzung des Rückforderungsbetrages bzw. der Differenz zwischen den gesamten Kosten und den Kosten bei tolerierten 130 Indexpunkten Rechnung getragen (vorne E. 2). Der Beschwerdeführer vermag nicht substanziiert darzutun, inwiefern dies - im Ergebnis - bundesrechtswidrig zu wenig sein soll.
Aufgrund des Vorstehenden ist die Beschwerde in Bezug auf die Frage der Begründetheit der Forderung in der Höhe von Fr. 47'469.90 wegen unwirtschaftlicher Behandlung für 2004 unbegründet.
4. 4.1 Die Vorinstanz hat die vom Rechtsvertreter des Beklagten eingereichte Kostennote u.a. um den anwaltlichen Aufwand für das Sühneverfahren vor der Kantonalen Paritätischen Vertrauenskommission gekürzt. Der Beschwerdeführer rügt, dies widerspreche dem einschlägigen Art. 78 Abs. 1 des bündnerischen Gesetzes über die Verwaltungsrechtspflege vom 31. August 2006 (VRG; BR 370.100). Gemäss dieser Bestimmung wird im Klageverfahren die unterliegende Partei in der Regel verpflichtet, der obsiegenden Partei die durch den Rechtsstreit verursachten notwendigen Kosten zu ersetzen.
4.2 Ob die Festsetzung der Parteientschädigung für das vorinstanzliche Verfahren Bundesrecht verletzt (<ref-law>), kann lediglich unter eingeschränktem Blickwinkel geprüft werden. Die Anwendung kantonalen Rechts muss zu einer in der Beschwerde substanziiert gerügten (<ref-law>) Verfassungsverletzung führen, wegen seiner Ausgestaltung oder aufgrund des Ergebnisses im konkreten Fall. Dabei fällt praktisch nur das Willkürverbot in Betracht (<ref-law>; vgl. Urteil 9C_933/2011 vom 14. Februar 2012 E. 3.2 mit Hinweisen). Mit dem blossen Einwand, die Kürzung widerspreche Art. 78 Abs. 1 VRG kommt der Beschwerdeführer seiner qualifizierten Rügepflicht nach <ref-law> klarerweise nicht nach. Die Beschwerde ist daher auch in diesem Punkt unbegründet.
5. Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 3'500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Schiedsgericht Graubünden nach Eidgenössischem Sozialversicherungsrecht und dem Bundesamt für Gesundheit schriftlich mitgeteilt.
Luzern, 17. Dezember 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Fessler