Sachverhalt:
A. Dr. med. X._ ist als Selbständigerwerbender der Ausgleichskasse medisuisse angeschlossen und seit 1. April 2005 freiwillig bei der Personalvorsorgestiftung der Ärzte und Tierärzte (PAT BVG) berufsvorsorgeversichert. Gemäss Bescheinigung der PAT BVG vom 24. Januar 2008 hatte X._ 2007 Einlagen in der Höhe von insgesamt Fr. 100'344.- (Fr. 40'344.- ordentliche Beiträge und Fr. 60'000.- für den Einkauf von Beitragsjahren) geleistet. Gestützt auf die Steuermeldung der Veranlagungsbehörde Grenchen vom 31. Juli 2008 setzte die Ausgleichskasse medisuisse seine Beiträge für 2007 fest. Bei der Ermittlung des beitragspflichtigen Einkommens berücksichtigte sie die Hälfte der in diesem Jahr getätigten Einlagen in die PAT BVG. Mit Verfügung vom 12. August 2008 verpflichtete die Ausgleichskasse medisuisse X._ zur Bezahlung von Fr. 24'179.40 (AHV-Beiträge für 2007 und Verwaltungskosten). Daran hielt sie mit Einspracheentscheid vom 3. September 2008 fest.
B. Die Beschwerde des X._ wies das Versicherungsgericht des Kantons Solothurn mit Entscheid vom 29. Mai 2009 ab.
C. X._ lässt Beschwerde in öffentlichrechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 29. Mai 2009 sei aufzuheben und seine Einlage in die PAT BVG sei vollumfänglich als Geschäftsaufwand für die Berechnung der AHV-Beiträge anzuerkennen.
Kantonales Gericht, Ausgleichskasse medisuisse und Bundesamt für Sozialversicherungen beantragen die Abweisung der Beschwerde.

Erwägungen:
1. Ob bei der Ermittlung des beitragspflichtigen Einkommens aus selbständiger Erwerbstätigkeit (Art. 9 Abs. 1 AHVG) für 2007 die Einlagen des Beschwerdeführers in die PAT BVG in der Höhe von Fr. 100'344.- (Fr. 40'344.- [ordentliche Beiträge], Fr. 60'000.- [Einkauf von Beitragsjahren]) im Rahmen der freiwilligen beruflichen Vorsorge (Art. 4 und 44 BVG) lediglich zur Hälfte in Abzug gebracht werden können, wie die Vorinstanz entschieden hat, oder vollumfänglich, wie vom Beschwerdeführer beantragt, ist nicht eine Frage der Bemessung des Beitragssubstrates und daher frei zu prüfen (vgl. SVR 2007 AHV Nr. 11, H 64/06 E. 3.3 und Urteil 9C_880/2008 vom 12. Mai 2009 E. 2).
2. Gemäss Art. 9 Abs. 2 lit. e AHVG werden von dem durch die selbständige Erwerbstätigkeit erzielten rohen Einkommen die persönlichen Einlagen in Einrichtungen der beruflichen Vorsorge abgezogen, soweit sie dem üblichen Arbeitgeberanteil entsprechen. In <ref-ruling> entschied das Eidg. Versicherungsgericht, dass der Einkauf von Beitragsjahren durch Arbeitgeber oder Selbständigerwerbende ohne Arbeitnehmer im Rahmen der freiwilligen beruflichen Vorsorge (Art. 4 und 44 BVG) in einem bestimmten Umfang abzugsfähige persönliche Einlagen in Einrichtungen der beruflichen Vorsorge im Sinne von Art. 9 Abs. 2 lit. e AHVG (und der Vorgängerbestimmung aArt. 18 Abs. 3 AHVV) darstellen. In <ref-ruling> bezeichnete es Rz. 1104 Satz 2 WSN, wonach Selbständigerwerbende ohne Arbeitnehmer vom massgebenden beitragspflichtigen Einkommen höchstens die Hälfte der laufenden Beiträge an die Vorsorgeeinrichtung, der sie auf freiwilliger Basis angeschlossen sind, abzuziehen berechtigt sind, als gesetzmässig. In <ref-ruling> erkannte die II. sozialrechtliche Abteilung des Bundesgerichts, dass bei Selbständigerwerbenden vom rohen Einkommen nicht nur die aufgrund einer normativen Verpflichtung geleisteten, sondern auch die freiwillig erbrachten, von den Statuten oder vom Reglement der Vorsorgeeinrichtung bloss ermöglichten Einlagen in die berufliche Vorsorge abgezogen werden können. Innerhalb bestimmter Schranken (u.a. beitragsmässige Begrenzung für einen Einkauf [Art. 79a BVG, in der vom 1. Januar 2001 bis 31. Dezember 2005 gültig gewesenen Fassung (heute: Art. 79a-79c BVG)], Grundsätze der Angemessenheit [vgl. Art. 1-1b BVV 2] und Umgehungstatbestände [<ref-ruling> E. 5.2 S. 635 f.]) kann in analoger Anwendung von Art. 66 Abs. 1 BVG die Hälfte abgezogen werden (<ref-ruling> E. 2.4.4 in fine S. 568).
3. Die Vorinstanz hat im Wesentlichen gestützt auf <ref-ruling>, welcher nicht zwischen Selbständigerwerbenden mit oder ohne Personal differenziere, wie zuvor schon die Ausgleichskasse die Höhe des Abzugs vom rohen Einkommen nach Art. 9 Abs. 2 lit. e AHVG der 2007 getätigten Einlagen (ordentliche Beiträge und Einkauf von Beitragsjahren) des Beschwerdeführers in die PAT BVG im Rahmen der freiwilligen beruflichen Vorsorge auf die Hälfte beschränkt.
4. Der Beschwerdeführer stellt weder <ref-ruling> in Frage, noch legt er dar, inwiefern die vorinstanzliche Auffassung, wonach dieses Urteil für Selbständigerwerbende ohne Arbeitnehmer und auch solche mit Arbeitnehmern (Arbeitgeber) gilt, nicht zutreffen soll. In dem zwischenzeitlich ergangenen Urteil 9C_572/2009 vom 8. Januar 2010 hat das Bundesgericht in Bestätigung und Verdeutlichung der Rechtsprechung entschieden, dass Selbständigerwerbende, auch wenn sie berufsvorsorgeversicherte Arbeitnehmer beschäftigen, maximal die Hälfte der persönlichen Einlagen in die 2. Säule (laufende Beiträge, Einkauf von Beitragsjahren) vom rohen Einkommen nach Art. 9 Abs. 2 lit. e AHVG in Abzug bringen können. Die Vorbringen in der Beschwerde beschlagen allesamt nicht entscheidwesentliche Punkte. Insbesondere ist nicht von Bedeutung, dass aufgrund des Alters der beiden Angestellten von weniger als 24 Jahren nach Gesetz und Reglement lediglich Risikoprämien zu bezahlen waren und ein Einkauf von Beitragsjahren ausser Betracht fiel. Schliesslich konnte durch die Tatsache allein, dass offenbar die Ausgleichskasse 2005 und 2006 die Beiträge für die eigene berufliche Vorsorge vollumfänglich zum Abzug zugelassen hatte, keine rechtlich geschützte Position im Sinne eines Anspruchs darauf entstehen, dass auch im folgenden Jahr so verfahren werde. Die Beschwerde ist somit unbegründet.
5. Bei diesem Ausgang des Verfahrens hat der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Solothurn und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 14. Januar 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Fessler