Sachverhalt:
A. Mit Verfügung vom 27. Januar 2010 verneinte die IV-Stelle des Kantons Zürich den Anspruch des W._ auf eine Rente der Invalidenversicherung.
B. Auf Beschwerde hin hob das Sozialversicherungsgericht des Kantons Zürich mit Entscheid 24. Januar 2012 die Verfügung vom 27. Januar 2010 auf und wies die Sache an die IV-Stelle zurück, damit diese, nach erfolgter Abklärung im Sinne der Erwägungen, neu verfüge.
C. W._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, der Entscheid vom 24. Januar 2012 sei aufzuheben und ihm wenigstens eine Viertelsrente zuzusprechen; eventualiter sei die Sache an die IV-Stelle zwecks Einholens eines neuen polydisziplinären Gutachtens zurückzuweisen.

Erwägungen:
1. Der angefochtene Entscheid weist die Sache an die IV-Stelle zurück, damit diese, nach erfolgter Abklärung im Sinne der Erwägungen, neu verfüge. Die Vorinstanz war in Würdigung der Akten zum Ergebnis gelangt, der medizinische Sachverhalt sei ungenügend erhoben worden. Die IV-Stelle habe ein verlässliches und umfassendes psychiatrisches Gutachten zur Festlegung der Arbeitsfähigkeit einzuholen (E. 5.6). Weiter hat die Vorinstanz festgestellt, aufgrund des rheumatologischen Gutachtens des Dr. med. A._ vom 13. September 2008 sei in somatischer Hinsicht von einer vollumfänglichen Arbeitsfähigkeit auszugehen (E. 5.1.3). Gegen diese Feststellung richtet sich einzig die Beschwerde.
2. 2.1 Der vorinstanzliche Rückweisungsentscheid ist ein - selbständig eröffneter - Vor- oder Zwischenentscheid im Sinne von <ref-law>. Die Zulässigkeit der Beschwerde in öffentlich-rechtlichen Angelegenheiten setzt somit gemäss Absatz 1 dieser Bestimmung voraus, dass der Entscheid einen nicht wieder gutzumachenden Nachteil bewirken kann (lit. a) oder dass die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit oder Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b).
2.2 Die Rückweisung der Sache an die Verwaltung zu ergänzender oder weiterer Abklärung und neuer Entscheidung bewirkt in der Regel keinen nicht wieder gutzumachenden Nachteil im Sinne von <ref-law> (<ref-ruling> E. 2.1 S. 316 mit Hinweisen). Nach Auffassung des Beschwerdeführers ist diese Voraussetzung in Bezug auf die vorinstanzliche Feststellung betreffend die Arbeitsfähigkeit aus somatischer Sicht jedoch als gegeben zu betrachten, weil bei Nichtanfechtung im Rahmen des (nichtstreitigen) Verwaltungsverfahrens nicht mehr geltend gemacht werden könnte, (auch) diesbezüglich sei eine Begutachtung notwendig.
2.2 Die Rückweisung der Sache an die Verwaltung zu ergänzender oder weiterer Abklärung und neuer Entscheidung bewirkt in der Regel keinen nicht wieder gutzumachenden Nachteil im Sinne von <ref-law> (<ref-ruling> E. 2.1 S. 316 mit Hinweisen). Nach Auffassung des Beschwerdeführers ist diese Voraussetzung in Bezug auf die vorinstanzliche Feststellung betreffend die Arbeitsfähigkeit aus somatischer Sicht jedoch als gegeben zu betrachten, weil bei Nichtanfechtung im Rahmen des (nichtstreitigen) Verwaltungsverfahrens nicht mehr geltend gemacht werden könnte, (auch) diesbezüglich sei eine Begutachtung notwendig.
2.3 2.3.1 Dem Beschwerdeführer wäre dann beizupflichten, wenn der vorinstanzliche Entscheid hinsichtlich der Würdigung der somatischen Beschwerden bei Nichtanfechtung in formelle Rechtskraft erwüchse und einer Überprüfung durch das Bundesgericht ein für allemal entzogen wäre. Eine solche Betrachtungsweise steht jedoch im Widerspruch dazu, dass auch Rückweisungsentscheide, mit denen eine materielle Grundsatzfrage entschieden wird, keine Teilentscheide im Sinne von <ref-law> sind, da es sich dabei nicht um Entscheide über Begehren handelt, die unabhängig von den anderen Fragen beantwortet werden können (<ref-ruling> E. 4.2 S. 481; SVR 2010 IV Nr. 61 S. 186, 9C_34/2009 E. 3.1); sie beruht zudem auf einem unzutreffenden Verständnis vom Streitgegenstand (in Abgrenzung vom Anfechtungsgegenstand; grundlegend <ref-ruling>).
2.3.2 Streitgegenstand des vorinstanzlichen Verfahrens bildete der mit der angefochtenen Verfügung verneinte Anspruch auf eine Invalidenrente, nicht die Arbeits(un)fähigkeit als solche. Diese ist nur (vgl. <ref-law>) ein Faktor der Invaliditätsbemessung (Art. 7, 8 und 16 ATSG). Als Begründungselement kann sie demzufolge grundsätzlich erst als rechtskräftig beurteilt und damit der richterlichen Überprüfung entzogen gelten, wenn über das streitige Rechtsverhältnis (Anspruch auf eine Invalidenrente) insgesamt rechtskräftig entschieden worden ist (<ref-ruling> E. 2b S. 416; SVR 2009 IV Nr. 7 S. 13, 9C_488/2008 E. 4; vgl. auch StR 63/2008 S. 376, 2C_446/2007 E. 2.2), was hier nicht zutrifft.
2.3.3 Die Erwägungen im Rückweisungsentscheid eines kantonalen Versicherungsgerichts, auf die im Dispositiv verwiesen wird, werden zwar bei Nichtanfechtung für den Versicherungsträger, an den die Sache zurückgewiesen wird, verbindlich, soweit sie zum Streitgegenstand gehören (<ref-ruling> E. 1a S. 237 mit Hinweisen; Urteil 8C_272/2011 vom 11. November 2011 E. 1.3 [nicht publ. in: <ref-ruling>]). Diese Bindungswirkung gilt grundsätzlich auch für das Gericht bei erneuter Befassung mit der Sache (Urteil I 874/06 vom 8. August 2007 E. 3.1 mit Hinweis), nicht jedoch für das Bundesgericht. Vielmehr sind jene Erwägungen, welche die streitigen Teilaspekte des nicht abschliessend beurteilten Rechtsverhältnisses betreffen, nötigenfalls durch Beschwerde gegen den Endentscheid anfechtbar, soweit sie sich auf dessen Inhalt auswirken (<ref-law>; SVR 2010 IV Nr. 61 S. 186, 9C_34/2009 E. 3.3).
2.4 Die Beschwerde ist offensichtlich unzulässig (<ref-law>). Der Antrag auf Durchführung eines zweiten Schriftenwechsels ist demzufolge gegenstandslos.
3. Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 4. April 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Fessler