Sachverhalt:
A. Der 1961 geborene D._ meldete sich im Mai 2006 bei der Invalidenversicherung zum Leistungsbezug an. Gestützt auf die eingeholten Unterlagen (u.a. Gutachten der MEDAS X._ vom 23. August 2010 mit orthopädischen und psychiatrischen Teilgutachten vom 20. Januar und 16. August 2010) und nach durchgeführtem Vorbescheidverfahren verneinte die IV-Stelle des Kantons Aargau mit Verfügung vom 20. Dezember 2010 den Anspruch auf eine Invalidenrente.
B. Die Beschwerde des D._ wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 29. November 2011 ab.
C. D._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Rechtsbegehren, Gerichtsentscheid und Verwaltungsverfügung seien aufzuheben und ihm eine ganze Invalidenrente zuzusprechen, eventualiter die Sache zu weiteren medizinischen Abklärungen an die Vorinstanz oder an die IV-Stelle zurückzuweisen, unter Gewährung der unentgeltlichen Rechtspflege.
Die IV-Stelle beantragt die Abweisung der Beschwerde. Das kantonale Versicherungsgericht verzichtet auf eine Stellungnahme und stellt keinen Antrag. Das Bundesamt für Sozialversicherungen hat sich nicht vernehmen lassen.
Erwägungen:
1. Die Vorinstanz hat dem MEDAS-Gutachten vom 23. August 2010 volle Beweiskraft zuerkannt. In Würdigung der Expertise ist sie zum Ergebnis gelangt, es sei mit überwiegender Wahrscheinlichkeit davon auszugehen, dass nie über längere Zeit eine höhere Einschränkung der Arbeitsfähigkeit in angestammter wie adaptierter Tätigkeit bestanden habe als die aus psychiatrischer Sicht um 20 % verminderte Leistungsfähigkeit. Somit sei die Wartezeit nach Art. 28 Abs. 1 lit. b IVG nicht erfüllt und der Beschwerdeführer habe keinen Rentenanspruch.
2. Der Beschwerdeführer rügt, das MEDAS-Gutachten vom 23. August 2010 sei in qualifizierter Weise untauglich. Die Expertise enthalte in psychiatrischer Hinsicht Widersprüche. Indem die Vorinstanz darauf abstelle, missachte sie die rechtsprechungsgemässen Anforderungen an ein beweiskräftiges Gutachten, womit Beweiswürdigungsregeln und damit Bundesrecht verletzt würden.
3. 3.1 Einem ärztlichen Bericht kommt Beweiswert zu, wenn er für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt und in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, wenn die Beschreibung der medizinischen Situation und Zusammenhänge einleuchtet und die Schlussfolgerungen des Arztes begründet sind (BGE 125 V 351 E. 3a S. 352). Auf einen diesen Anforderungen an sich genügenden ärztlichen Bericht darf jedoch dann nicht abgestellt werden, wenn Umstände vorliegen, die in objektiver Weise und nicht bloss aufgrund des subjektiven Empfindens der Partei geeignet sind, Misstrauen in die Unparteilichkeit und Unvoreingenommenheit des Verfassers zu erwecken (BGE 137 V 210 E. 6.1.2 S. 267; 132 V 93 E. 7.1 S. 109 mit Hinweis; Urteil 9C_1061/2009 vom 11. März 2010 E. 4.1; Urteil 9C_179/2011 vom 16. Mai 2011 E. 3.1.1).
3.2 Der Beschwerdeführer bringt wie schon im Vorbescheidverfahren und in der vorinstanzlichen Beschwerde u.a. vor, er sei von der psychiatrischen Gutachterin der MEDAS recht aggressiv angegangen worden; sie habe einen Kasernenton angeschlagen. Er sei darüber schon bald so ungehalten gewesen, dass er die Exploration verlassen habe. Hierauf habe er ins Untersuchungszimmer zurückgerufen werden müssen. Ob diese Darstellung zutrifft, ist unklar. Weder im Haupt- noch im psychiatrischen Teilgutachten finden sich diesbezügliche Hinweise. Die Vorinstanz hat sich zum nämlichen Vorwurf nicht geäussert. Sollte sich ein solcher Vorfall tatsächlich ereignet haben, kann ihm nicht jede Relevanz abgesprochen werden: Beim Befund wurde im psychiatrischen Teilgutachten u.a. festgehalten, bei der Kommunikation und bei den interpersonellen Aktionen hätten im Verlauf des Gespräches keine Auffälligkeiten vorgelegen. Die Affektivität habe unbeeinträchtigt erschienen mit einer normalen Modulationsfähigkeit. Bei der Beurteilung und Prognose aus psychiatrischer Sicht wurde ausgeführt, die Nervosität, die innere Unruhe und die aggressiven Tendenzen seien im Rahmen der Untersuchung selber nicht auszumachen gewesen und diese eher aufgrund der anamnestischen Daten und den eigenen Angaben des Versicherten festgestellt worden. Das vom Beschwerdeführer als Streit bzw. "Krach" bezeichnete Ereignis, sollte es sich tatsächlich so oder ähnlich abgespielt haben, steht zu diesen Feststellungen in einem unauflösbaren Widerspruch. Insofern bestehen somit nicht auszuräumende Zweifel an der Schlüssigkeit der Expertise.
Der Vorhalt des Beschwerdeführers betreffend den Ablauf der Untersuchung bedarf der Klärung. Die MEDAS bzw. die psychiatrische Gutachterin der Abklärungsstelle ist damit zu konfrontieren, zu welchem Zweck die Sache an die Vorinstanz zurückzuweisen ist.
3.3 Unter der Annahme, dass die psychiatrische Gutachterin die erwähnten Zweifel überzeugend auszuräumen vermag, kann auf das MEDAS-Gutachten vom 23. August 2010 bzw. das psychiatrische Teilgutachten vom 16. August 2010 abgestellt werden:
3.3.1 Die Aussage der psychiatrischen Gutachterin, wonach die Diagnose einer somatoformen Schmerzstörung hauptsächlich von somatisch orientierten Ärzten gestellt worden sei, trifft zwar nicht zu, wie ein Blick in den Aktenauszug zeigt. Ebenfalls ist die vorinstanzliche Feststellung offensichtlich unrichtig, es sei von keinem der vorgängigen Ärzte eine anhaltende somatoforme Schmerzstörung nach ICD-10 diagnostiziert worden. Im Bericht der Klinik Y._ vom 12. Dezember 2007 etwa wurde eine somatoforme Komponente erwähnt und dabei auf den Diagnosecode für eine anhaltende somatoforme Schmerzstörung (ICD-10 F45.4) hingewiesen. Zur Frage, ob dieses Beschwerdebild vorliege, nahm die psychiatrische Gutachterin der MEDAS indessen einlässlich Stellung. Die betreffenden Erwägungen im angefochtenen Entscheid bestreitet der Beschwerdeführer mit praktisch identischer Begründung wie in der vorinstanzlichen Beschwerde, womit er seiner Rügepflicht nicht genügt (vgl. BGE 134 II 244 E. 2.1-2.3 S. 245 ff.).
3.3.2 Weiter kann nicht von einer entscheidwesentlichen Verschärfung der für die Diagnose einer Depression typischen Kriterien durch die psychiatrische Expertin gesprochen werden, weder nach der in Deutschland noch in der Schweiz geläufigen ICD-10-Verschlüsselung. In diesem Zusammenhang war der von ihr erwähnte beinahe strukturierte Tagesablauf nicht das einzige Element, das gegen ein krankheitswertiges depressives Geschehen sprach. Weiter wurde entgegen den Vorbringen in der Beschwerde die Frage, ob der Versicherte einem durchschnittlichen Arbeitgeber zumutbar sei, von der Psychiaterin der Abklärungsstelle bejaht.
3.3.3 Sodann trifft zwar zu, dass im Gutachten vom 23. August 2010 der Beginn der Arbeitsunfähigkeit im Sinne einer um maximal 20 % reduzierten Leistungsfähigkeit auf ca. 2008 festgelegt wurde. Im psychiatrischen Teilgutachten vom 16. August 2010 wurde indessen bei der "Stellungnahme zu den diagnostischen und arbeitsmedizinischen Einschätzungen in den Vorakten" festgehalten, bei der mittelschweren Depression handle es sich, wie bereits in den Arztberichten selber beschrieben, um eine Episode und nicht um einen andauernden Zustand. Die darauf gestützte vorinstanzliche Feststellung, überwiegend wahrscheinlich habe nie über längere Zeit eine höhere Einschränkung der Arbeitsfähigkeit bestanden als die aus psychiatrischer Sicht um 20 % verminderte Leistungsfähigkeit (vorne E. 1), kann nicht als offensichtlich unrichtig bezeichnet werden (Art. 105 Abs. 1 und 2 BGG). Schliesslich vermag auch die Diskrepanz zwischen den persönlichen Angaben des Exploranden und dem von der psychiatrischen Gutachterin erhobenen klinischen Befund den Beweiswert des Administrativgutachtens nicht entscheidend zu mindern.
4. Dem Ausgang des Verfahrens entsprechend hat die IV-Stelle die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG) und dem Beschwerdeführer eine Parteientschädigung zu bezahlen (Art. 68 Abs. 2 BGG). Sein Gesuch um unentgeltliche Rechtspflege ist demzufolge gegenstandslos.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird teilweise gutgeheissen. Der Entscheid des Versicherungsgerichts des Kantons Aargau vom 29. November 2011 wird aufgehoben und die Sache an die Vorinstanz zurückgewiesen, damit sie, nach erfolgter Abklärung im Sinne der Erwägungen, über die Beschwerde neu entscheide.
2. Die Gerichtskosten von Fr. 500.- werden der IV-Stelle des Kantons Aargau auferlegt.
3. Die IV-Stelle des Kantons Aargau hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 12. September 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Fessler