Sachverhalt:
A. Nach Ablehnung eines ersten Leistungsgesuchs sprach die IV-Stelle des Kantons Thurgau mit Verfügung vom 27. Juni 2003 dem 1953 geborenen L._ für die Zeit vom 1. Dezember 2001 bis 30. April 2003 eine halbe Härtefallrente und ab 1. Mai 2003 eine Viertelsrente der Invalidenversicherung zu. Auf Einsprache hin hob die IV-Stelle die Verfügung auf und nahm weitere Abklärungen vor. U.a. liess sie den Versicherten (erneut) rheumatologisch und psychiatrisch begutachten. Mit Verfügung vom 5. Mai 2006 sprach die IV-Stelle L._ ab 1. Dezember 2001 eine Viertelsrente zu, wogegen dieser wiederum Einsprache erheben liess. Am 22. Oktober 2007 wurde der Versicherte im ärztlichen Begutachtungszentrum X._ interdisziplinär abgeklärt. Nachdem die IV-Stelle auf eine mögliche Schlechterstellung aufmerksam gemacht und Gelegenheit zum Rückzug der Einsprache gegeben hatte, reichte der Versicherte medizinische Unterlagen ein, wozu der regionale ärztliche Dienst Stellung nahm. Mit Einspracheentscheid vom 19. Dezember 2008 sprach die IV-Stelle L._ für die Zeit vom 1. Juni bis 31. Oktober 2007 eine ganze Invalidenrente zu.
B. Die Beschwerde des L._ mit dem Antrag auf Zusprechung einer ganzen Invalidenrente ab 1. Dezember 2001 samt Kinderrenten und einer temporären Zusatzrente für die Ehefrau wies das Verwaltungsgericht des Kantons Thurgau als Versicherungsgericht nach Durchführung einer mündlichen öffentlichen Verhandlung mit Entscheid vom 29. April 2009 ab.
C. L._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 29. April 2009 sei aufzuheben und ihm die gesetzlichen Leistungen, insbesondere eine ganze Invalidenrente ab 1. Dezember 2001 samt Kinderrenten und einer temporären Zusatzrente für die Ehefrau, auszurichten, unter Gewährung der unentgeltlichen Rechtspflege.
Die IV-Stelle beantragt die Abweisung der Beschwerde. Das kantonale Gericht äussert sich zur Sache, ohne einen Antrag zu stellen. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1. Das kantonale Gericht hat die von der IV-Stelle zugesprochene ganze Invalidenrente für die Zeit vom 1. Juni bis 31. Oktober 2007 bestätigt. Zu prüfen ist somit einzig, ob ausserhalb dieses Zeitraums Anspruch auf eine Invalidenrente besteht (<ref-law>).
2. Das kantonale Gericht hat durch Einkommensvergleich (<ref-law> in Verbindung mit <ref-law>) einen Invaliditätsgrad von 35 % ermittelt, was für den Anspruch auf eine Rente nicht ausreicht (<ref-law>). Das Valideneinkommen (Fr. 63'441.65) entspricht dem Lohn, den der Beschwerdeführer gemäss den Angaben seines letzten Arbeitgebers 1999 erzielt hätte, angepasst an die Nominallohnentwicklung bis 2001. Das Invalideneinkommen (Fr. 40'964.-) hat die Vorinstanz auf der Grundlage der Schweizerischen Lohnstrukturerhebung 2000 des Bundesamtes für Statistik (LSE 00) berechnet (<ref-ruling>). Dabei hat sie einen Abzug vom Tabellenlohn von 10 % gemäss <ref-ruling> vorgenommen. Die trotz gesundheitlicher Beeinträchtigung zumutbare Arbeitsfähigkeit hat sie entsprechend der Einschätzung im Gutachten des ärztlichen Begutachtungszentrums X._ vom 13. Dezember 2007 auf 80 % in leichten wechselbelastenden Tätigkeiten festgesetzt. Gemäss der Expertise hatte vom 8. August bis 7. Oktober 2006 sowie vom 23. März bis längstens 21. Oktober 2007 aufgrund von Spitalaufenthalten und Rehabilitation eine Arbeitsunfähigkeit von 100 % bestanden.
3. Der Beschwerdeführer bestreitet die Höhe des Valideneinkommens. Da er in den Jahren 1997 bis 1999 unfall- und krankheitsbedingt monatelang arbeitsunfähig gewesen sei, müsse vom Einkommen 1996 von Fr. 61'377.- ausgegangen werden. Unter Berücksichtigung des Nominallohnindexes im Baugewerbe hätte er 2001 Fr. 64'314.- verdient. Dieser Einwand ist nicht stichhaltig. Im Fragebogen für den Arbeitgeber vom 30. April 1999 wurde als heutiger Lohn gemäss Landesmantelvertrag Fr. 61'100.- angegeben. Diese Angabe stimmt überein mit den Lohnabrechnungen für Januar bis März 1999. Danach betrug der Monatslohn je Fr. 4'700.-, was einem Jahresverdienst von Fr. 61'100.- (13 x Fr. 4'700.-) entspricht. Das Valideneinkommen beträgt somit Fr. 63'441.65, wie von der Vorinstanz angenommen.
4. Mit Bezug auf das Invalideneinkommen rügt der Beschwerdeführer eine Verletzung des Untersuchungsgrundsatzes und des rechtlichen Gehörs sowie des Grundsatzes der freien Beweiswürdigung durch die Vorinstanz. Im Weitern bestreitet er in verschiedener Hinsicht den Beweiswert des Gutachtens des ärztlichen Begutachtungszentrums X._ vom 13. Dezember 2007.
4. Mit Bezug auf das Invalideneinkommen rügt der Beschwerdeführer eine Verletzung des Untersuchungsgrundsatzes und des rechtlichen Gehörs sowie des Grundsatzes der freien Beweiswürdigung durch die Vorinstanz. Im Weitern bestreitet er in verschiedener Hinsicht den Beweiswert des Gutachtens des ärztlichen Begutachtungszentrums X._ vom 13. Dezember 2007.
4.1 4.1.1 Im Sozialversicherungsverfahren gelten der Untersuchungsgrundsatz sowie der Grundsatz der freien Beweiswürdigung (vgl. <ref-law> und <ref-law>). Der rechtserhebliche Sachverhalt ist von Amtes wegen unter Mitwirkung der Versicherten resp. der Parteien zu ermitteln. In diesem Sinne rechtserheblich sind alle Tatsachen, von deren Vorliegen es abhängt, ob über den streitigen Anspruch so oder anders zu entscheiden ist (Fritz Gygi, Bundesverwaltungsrechtspflege, 2. Aufl. 1983, S. 43 und 273; Urteil 9C_214/2009 vom 11. Mai 2009 E. 3.2). Die Beweise sind ohne Bindung an förmliche Beweisregeln umfassend und pflichtgemäss zu würdigen. Die kantonalen Versicherungsgerichte haben somit alle Beweismittel, unabhängig davon, von wem sie stammen, objektiv zu prüfen und danach zu entscheiden hat, ob die verfügbaren Unterlagen eine zuverlässige Beurteilung des streitigen Anspruchs gestatten. Insbesondere dürfen sie bei einander widersprechenden medizinischen Berichten den Prozess nicht erledigen, ohne das gesamte Beweismaterial zu würdigen und die Gründe anzugeben, weshalb sie auf die eine und nicht auf die andere medizinische These abstellen (<ref-ruling> E. 3a S. 352).
4.1.2 Die konkrete Beweiswürdigung ist wie die darauf beruhende Sachverhaltsfeststellung für das Bundesgericht verbindlich, sofern sie nicht offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 1 und 2 BGG; Urteil 9C_323/2009 vom 14. Juli 2009 E. 3). Die Beweiswürdigung durch das kantonale Gericht verletzt Bundesrecht, namentlich wenn es den Sinn und die Tragweite eines Beweismittels offensichtlich falsch eingeschätzt, ohne sachlichen Grund ein wichtiges und für den Ausgang des Verfahrens entscheidendes Beweismittel nicht beachtet oder aus den abgenommenen Beweisen unhaltbare Schlüsse gezogen hat (<ref-ruling> E. 2.1 S. 9; Urteil 9C_161/2009 vom 18. September 2009 E. 1.2 mit Hinweisen).
4.1.3 Einem ärztlichen Bericht kommt Beweiswert zu, wenn er für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt und in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, wenn die Beschreibung der medizinischen Situation und Zusammenhänge einleuchtet und die Schlussfolgerungen des Arztes begründet sind (<ref-ruling> E. 3a S. 352; Urteil 9C_624/2009 vom 7. Oktober 2009 E. 4.1.1 mit Hinweis).
4.1.3 Einem ärztlichen Bericht kommt Beweiswert zu, wenn er für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt und in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, wenn die Beschreibung der medizinischen Situation und Zusammenhänge einleuchtet und die Schlussfolgerungen des Arztes begründet sind (<ref-ruling> E. 3a S. 352; Urteil 9C_624/2009 vom 7. Oktober 2009 E. 4.1.1 mit Hinweis).
4.2 4.2.1 Der Beschwerdeführer macht geltend, es bestehe der Anschein einer Befangenheit des ärztlichen Begutachtungszentrums X._. Die Abklärungsstelle lebe ausschliesslich von medizinischen Gutachteraufträgen. Es bestehe ein handfestes wirtschaftliches Interesse, dass die Expertisen im Ergebnis den Auftraggeber, insbesondere die Invalidenversicherung, zufrieden stellten. Nach Wahrnehmung der Versicherten und der Versichertenvertreter gehöre das ärztliche Begutachtungszentrum X._ zu denjenigen Gutachterstellen, welche tendenziell tiefere Arbeitsunfähigkeiten attestierten, was im Interesse der IV-Stellen sei, die prozentualen Anteile der Neurenten tief zu halten.
Die Vorinstanz hat denselben anlässlich der öffentlichen mündlichen Verhandlung vorgebrachten Einwand verworfen. Sie hat festgestellt, dem Gutachten vom 17. Dezember 2007 seien keinerlei Anzeichen für eine Falschbegutachtung oder mangelnde Unabhängigkeit zu entnehmen. Weder sei ersichtlich noch werde behauptet, der vom Versicherten abgelehnte Dr. med. I. habe als Gutachter fungiert. Der Beschwerdeführer tut nicht dar, inwiefern diese Argumentation Bundesrecht verletzt, insbesondere auf einer offensichtlich unrichtigen Sachverhaltsfeststellung beruht. Insoweit genügt die Beschwerde den Begründungsanforderungen nicht (Art. 41 Abs. 1 und 2 sowie <ref-law>; <ref-ruling> E. 1.4.1 und 1.4.2 S. 254). Im Übrigen ist auf die Rechtsprechung hinzuweisen, wonach von ganz ausserordentlichen Fällen abgesehen nur die für eine Behörde tätigen Personen, nicht aber die Behörde als solche befangen sein können. Ausstandsbegehren gegen sämtliche Mitglieder einer Behörde sind nur zulässig, wenn gegen jedes einzelne Mitglied spezifische Ausstandsgründe geltend gemacht würden, die über die Kritik hinausgehen, die Behörde als solche sei befangen. Entsprechendes gilt auch hinsichtlich einer Medizinischen Abklärungsstelle nach <ref-law> (Urteil 9C_500/2009 vom 24. Juni 2009 E. 2.1 mit Hinweis). Im Weitern stellt nach ständiger Rechtsprechung der Umstand, dass ein Arzt wiederholt von einem Sozialversicherungsträger als Gutachter beigezogen wird, für sich allein keinen Ausstandsgrund dar (SVR 2008 IV Nr. 22, 9C_67/2007 E. 2.4 mit Hinweisen).
4.2.2 Der Beschwerdeführer bestreitet die Beweistauglichkeit des Gutachtens des ärztlichen Begutachtungszentrums X._ auch damit, die Exploration habe nicht im Beisein eines Dolmetschers stattgefunden. Die vorbehandelnden Psychiater hätten seine Deutschkenntnisse trotz Übersetzung anwesender Familienmitglieder nicht als ausreichend erachtet. Nach der Rechtsprechung bestehe Anspruch auf Beizug eines Übersetzers, insbesondere bei psychiatrischen Abklärungen. Dies habe die Vorinstanz verkannt und es ins freie Belieben des Gutachters gestellt, ob er die Deutschkenntnisse des Exploranden als genügend betrachte oder nicht.
4.2.2.1 Entgegen den Vorbringen in der Beschwerde besteht kein unbedingter Anspruch auf Durchführung einer medizinischen Abklärung in der Muttersprache des Exploranden oder der Explorandin oder unter Beizug eines Übersetzers durch die Invalidenversicherung. Bei der Frage, ob eine solche Massnahme im Einzelfall angezeigt ist, geht es auch nicht in erster Linie um den Anspruch auf Teilnahme am Verfahren im Sinne der Mitwirkung bei der Erstellung des rechtserheblichen Sachverhalts, sondern um die Aussagekraft und damit die beweismässige Verwertbarkeit des ärztlichen Berichts. Ob die Abklärung in der Muttersprache der versicherten Person oder mit einer Übersetzungshilfe durchzuführen ist, hat grundsätzlich der Arzt oder die Ärztin im Rahmen sorgfältiger Auftragserfüllung zu entscheiden (AHI 2004 S. 143, I 245/00 E. 4.2.1).
4.2.2.2 Die Vorinstanz hat festgestellt, der psychiatrische Gutachter des ärztlichen Begutachtungszentrums X._ habe offensichtlich die Deutschkenntnisse des Beschwerdeführers als ausreichend erachtet. Aus seinen Ausführungen sei zudem in keiner Weise ersichtlich, dass sprachliche Missverständnisse aufgetreten sein konnten. Vielmehr würden sowohl die subjektiven Angaben wie auch die persönliche Anamnese klar und deutlich wiedergegeben. Es fänden sich denn auch keine Hinweise, dass es bei den psychiatrischen Behandlungen zu sprachlichen Schwierigkeiten gekommen wäre. Der Beschwerdeführer bestreitet diese Feststellungen nicht. Wenn die Vorinstanz daraus rechtlich gefolgert hat, die Durchführung der psychiatrischen Untersuchung ohne Dolmetscher schmälere den Beweiswert des Gutachtens des ärztlichen Begutachtungszentrums X._ nicht entscheidend, verletzt dies Bundesrecht nicht. Die vorinstanzliche Feststellung wird auch nicht dadurch offensichtlich unrichtig, dass bei den früheren psychiatrischen Begutachtungen 2002 und 2005 jeweils eine Übersetzungshilfe anwesend gewesen war. Ebenfalls ist unerheblich, dass Dr. med. B._ im Gutachten vom 1. Juli 2002 sprachliche Verständigungsschwierigkeiten erwähnte und die behandelnden Ärzte der Psychiatrischen Klinik Y._ im Bericht vom 23. Juli 2008 über die Behandlung vom 7. März bis 5. Juni 2008 auf erhebliche Verständigungsschwierigkeiten hinwiesen, zumal diese nicht allein auf schlechte Deutschkenntnisse, sondern auch auf Konzentrations- und Auffassungsschwierigkeiten zurückgeführt wurden. Zudem erfolgten auch die psychiatrischen Beurteilungen, auf die sich der Beschwerdeführer beruft und die ihm eine weitergehende Arbeitsunfähigkeit attestieren, offenbar ohne Dolmetscher.
4.2.3 Der Beschwerdeführer bringt weiter vor, die Vorinstanz wiederhole lediglich die Aussagen der Gutachter des ärztlichen Begutachtungszentrums X._, ohne die von ihm angerufenen übrigen Beweismittel zu würdigen und die unterschiedlichen medizinischen Beurteilungen gegeneinander abzuwägen. Hinsichtlich der Kritik im privat eingeholten Gutachten des medizinischen Instituts R._ beschränke sie sich darauf, einfach das Gegenteil zu behaupten, was den Grundsatz der freien Beweiswürdigung verletze. Beispielsweise habe die Vorinstanz festgehalten, den Administrativgutachtern könne in keiner Weise vorgeworfen werden, die Vorakten nicht berücksichtigt zu haben, was offensichtlich falsch sei. Die begutachtende Rheumatologin der Abklärungsstelle habe selber bemängelt, dass ihr u.a. der Austrittsbericht der Klinik Z._ und die Röntgenbilder nicht vorgelegen hätten.
4.2.3.1 Es trifft zu, dass sich die Vorinstanz nicht zu jedem ärztlichen Bericht geäussert und dargelegt hat, weshalb sie den Beweiswert des Gutachtens des ärztlichen Begutachtungszentrums X._ vom 13. Dezember 2007 nicht schmälerten. Dies gilt insbesondere in Bezug auf den Austrittsbericht der Klinik Z._ vom 27. Juli 2007. Dort hielt sich der Versicherte vom 4. bis 20. Juli 2007 zur Rehabilitation nach der beim Sturz am 25. Mai 2007 erlittenen L1-Impressionsfraktur bei Status nach Synkope auf. Indessen legt der Beschwerdeführer auch nicht ansatzweise dar, inwiefern der fragliche Bericht Diagnosen und Befunde enthält, die geeignet wären, zumindest Zweifel an der Beurteilung der rheumatologischen Gutachterin des ärztlichen Begutachtungszentrums X._ zu wecken. Abgesehen davon lagen der Expertin die Ergebnisse der bildgebenden Untersuchungen der Lendenwirbelsäule (LWS), des Beckens, der Halswirbelsäule (HWS; Röntgen und CT) vom selben Tag sowie eine Aufnahme LWS vom 22. Oktober 2007 vor. Ebenfalls nahm sie eine klinische Untersuchung vor. Ihre Einschätzung beruht somit nicht allein auf radiologischen Befunden. Im Weitern trifft zu, dass der rheumatologischen Expertin der Abklärungsstelle die im rheumatologisch-orthopädischen Gutachten des Dr. med. B._ vom 1. Juli 2002 erwähnten Bilder nicht vorgelegen hatten. Es besteht indessen kein Grund zur Annahme, dass der vom damaligen Administrativgutachter gestützt darauf erhobene und schriftlich festgehaltene Befund, u.a. eine bereits 1995 bestandene LWK4-Fraktur, nicht mit dem Bild übereinstimmte. Unter diesen Umständen kann nicht gesagt werden, das Gutachten des ärztlichen Begutachtungszentrums X._ sei in Unkenntnis wesentlicher medizinischer Vorakten erstellt worden und insofern nicht beweiskräftig.
4.2.3.2 Zum Bericht des medizinischen Instituts R._ hat die Vorinstanz festgestellt, bei dessen Ausführungen handle es sich um eine reine Aktenwürdigung. Es seien keine Untersuchungen durchgeführt worden. Die Ärzte des regionalen ärztlichen Dienstes der IV-Stelle hätten die Kritik in den wesentlichen Punkten nachvollziehbar widerlegt. Im Übrigen stimme die durch die früheren Gutachter Dres. med. B._, M._ und K._ erhobene medizinische Ausgangslage mit den Angaben der Gutachter des ärztlichen Begutachtungszentrums X._ im Wesentlichen überein. Der Beschwerdeführer bestreitet diese Feststellungen nicht. Unter diesen Umständen kann aber nicht von einer unhaltbaren Beweiswürdigung gesprochen werden und es verletzt auch sonst nicht Bundesrecht, wenn die Vorinstanz der Beurteilung des medizinischen Instituts R._ vom 30. Juni 2008 keine die Beweiskraft des Gutachtens des ärztlichen Begutachtungszentrums X._ vom 13. Dezember 2007 mindernde Bedeutung beigemessen hat.
4.2.4 Der Beschwerdeführer rügt sodann, die Festsetzung der Arbeitsfähigkeit gestützt auf das Gutachten des ärztlichen Begutachtungszentrums X._ vom 13. Dezember 2007 auf zwei resp. fünf Jahre zurück sei unzulässig, und zwar umso mehr, als sie von der Einschätzung im Gutachten des Dr. med. B._ vom 1. Juli 2002 abweiche. Die klinische Untersuchung könne nicht so weit zurückreichen, zumal die Rheumatologin des ärztlichen Begutachtungszentrums X._ die vom damaligen Administrativgutachter erhobenen Befunde, insbesondere die LWK4-Fraktur und die weiteren Pathologien der unteren Wirbelsäule nicht zur Kenntnis genommen, jedenfalls im Gutachten nicht erwähnt habe. Dr. med. B._ hatte in seiner ersten Expertise vom 1. Juli 2002 und auch in der zweiten vom 2. August 2005 die Arbeitsfähigkeit aus rheumatologischer Sicht auf 70 % beziffert. Demgegenüber besteht gemäss Einschätzung der Rheumatologin des ärztlichen Begutachtungszentrums X._ eine Arbeits- und Leistungsfähigkeit von 80 %.
4.2.4.1 Die Vorinstanz hat festgestellt, die Einschätzungen der Arbeitsfähigkeit (jeweils 20 % aus somatischer und psychiatrischer Sicht) der Gutachter des ärztlichen Begutachtungszentrums X._ fänden in den weiteren medizinischen Unterlagen ihre Stütze. Dass die von Dr. med. B._ attestierten 70 % etwas zu tief ausgefallen seien, legten die Experten nachvollziehbar dar, wobei die Diskrepanz nur minimal sei. Zudem habe Dr. med. M._ ein psychisches Leiden von versicherungsrechtlicher Relevanz verneint und ein klar aggravatorisch dargestelltes Zustandsbild mit einem generellen "Nicht-mehr-können" im Vordergrund gesehen. Es bestünden keine Anhaltspunkte dafür, dass diese Einschätzungen nicht beweistauglich sein sollten. Dr. med. B._ habe im zweiten Gutachten vom 2. August 2005 u.a. ausgeführt, dass die objektiven Befunde der katastrophierend dargestellten Beschwerden und die subjektive Wahrnehmung mehr denn je auseinanderklaffen würden und dies wesentlich mit der zwischenzeitlich zunehmend belastend erlebten familiären und ökonomischen Situation in Verbindung stehen dürfte.
4.2.4.2 Entgegen der Auffassung der Vorinstanz stützen die medizinischen Akten, insbesondere das Gutachten des Dr. med. B._ vom 1. Juli 2002, die Beurteilung des ärztlichen Begutachtungszentrums X._ nicht in einer für die Frage der Arbeitsfähigkeit entscheidenden Weise. Der körperliche Gesundheitszustand hat sich seither eher verschlechtert. Im Gutachten des ärztlichen Begutachtungszentrums X._ vom 13. Dezember 2007 wurden neu unter den Diagnosen mit Auswirkung auf die Arbeitsfähigkeit u.a. ein Zustand nach stabiler LWK1-Fraktur ventral nach Sturz am 25. Mai 2007, degenerative Veränderungen mit konzentrischen Bandscheibenhernien L3/4 und L4/5 mit möglicher Affektion der Wurzel L4 und L5 rezessal ohne Anhalt für radikuläre Symptomatik sowie eine Osteoporose erwähnt. Die LWK1-Fraktur war in der Zwischenzeit zwar verheilt. Bei der rheumatologischen Untersuchung fand sich jedoch ein deutlicher Druckschmerz im Bereich der Fraktur, wobei die frakturbedingte kyphotische Fehlhaltung für einen Teil der Beschwerdesymptomatik verantwortlich gemacht wurde. Weiter hielt die Rheumatologin des ärztlichen Begutachtungszentrums X._ fest, im Unterschied zu den früheren Untersuchungen lasse sich jetzt im Lumbalbereich ein morphologisch fassbares Korrelat für die angegebenen Beschwerden finden. Die Schmerzschilderung sei weitest gehend adäquat und korreliere gut mit dem klinisch und radiologisch erhobenen Befunden.
4.2.4.3 Bei der Begutachtung durch das ärztliche Begutachtungszentrum X._ waren somit aggravatorische Züge, welche bei den früheren Begutachtungen dominiert und bei den Untersuchungen durch Dr. med. B._ das Schmerzverhalten noch stark beeinflusst hatten, in den Hintergrund getreten. Gleichzeitig hatte sich seither der Gesundheitszustand objektiv eher verschlechtert. Unter diesen Umständen war eine höhere Arbeitsfähigkeit aus somatischer Sicht als im Gutachten des Dr. med. B._ vom 1. Juli 2002, welchem gemäss Vorinstanz ebenfalls Beweiswert zukommt, nicht zu erwarten und nicht ohne weiteres plausibel. Das kantonale Gericht hätte daher nach dem Grundsatz der freien Beweiswürdigung (E. 4.1.1) eingehender begründen müssen, weshalb der Beurteilung im Gutachten des ärztlichen Begutachtungszentrums X._ der Vorzug zu geben ist, und durfte sich nicht damit begnügen zu sagen, die Experten legten nachvollziehbar dar, dass die vom damaligen Administrativgutachter angegebenen 70 % etwas zu tief ausgefallen seien.
4.2.4.4 Es sind keine Gründe ersichtlich, für die Zeit vor der Begutachtung durch das ärztliche Begutachtungszentrum X._ nicht auf die - zeitlich näher liegende - Einschätzung der Arbeitsfähigkeit durch Dr. med. B._ abzustellen. Von weiteren Abklärungen sind jedenfalls bis zu diesem Zeitpunkt ohnehin keine neuen verwertbaren Erkenntnisse zu erwarten, weshalb davon abzusehen ist (antizipierte Beweiswürdigung; <ref-ruling> E. 4b S. 94; Urteil 9C_624/2009 vom 7. Oktober 2009 E. 3.1 mit Hinweisen). Somit ist ab dem frühest möglichen Rentenbeginn am 1. Dezember 2001 bis zur klinischen Untersuchung durch die Rheumatologin der medizinischen Abklärungsstelle am 22. Oktober 2007 aus somatischer Sicht von einer Arbeitsfähigkeit von 70 % auszugehen. Für die Zeit danach können die Akten nicht als spruchreif gelten (<ref-ruling> E. 5 S. 150). Es bedarf diesbezüglich einer nochmaligen rheumatologischen Begutachtung.
4.3 Der Beschwerdeführer bestreitet eine Arbeitsunfähigkeit von lediglich 20 % aus psychiatrischer Sicht. Die (eigenmächtige) Feststellung der Vorinstanz, bei der somatoformen Schmerzstörung und der depressiven Symptomatik handle es sich wahrscheinlich gerade nicht um eine Komorbidität und ein Krankheitsgewinn sei nicht zu übersehen, lasse sich nicht auf medizinische Akten stützen.
4.3.1 Die Annahme eines psychischen Gesundheitsschadens im Sinne von <ref-law> sowie Art. 3 Abs. 1 und Art. 6 ATSG setzt grundsätzlich eine lege artis auf die Vorgaben eines anerkannten Klassifikationssystems abgestützte psychiatrische Diagnose voraus (vgl. <ref-ruling>). Entscheidend ist, ob und inwiefern, allenfalls bei geeigneter therapeutischer Behandlung, bei objektiver Betrachtungsweise von der versicherten Person trotz des Leidens willensmässig erwartet werden kann zu arbeiten (<ref-ruling> E. 4b/cc in fine und E. 5a S. 297 ff.). Dies gilt insbesondere auch bei anhaltenden somatoformen Schmerzstörungen im Sinne von ICD-10 F45.4. Umstände, welche bei Vorliegen dieses Krankheitsbildes die Verwertung der verbliebenen Arbeitskraft auf dem Arbeitsmarkt als unzumutbar erscheinen lassen, sind die erhebliche Schwere, Intensität, Ausprägung und Dauer des psychischen Leidens, chronische körperliche Begleiterkrankungen mit mehrjährigem Krankheitsverlauf bei unveränderter oder progredienter Symptomatik ohne längerfristige Remission, sozialer Rückzug, ein verfestigter, therapeutisch nicht mehr angehbarer innerseelischer Verlauf einer an sich missglückten, psychisch aber entlastenden Konfliktbewältigung (primärer Krankheitsgewinn), unbefriedigende Ergebnisse von konsequent durchgeführten Behandlungen (auch mit unterschiedlichem therapeutischem Ansatz) und gescheiterte Rehabilitationsmassnahmen bei vorhandener Motivation und Eigenanstrengung der versicherten Person (<ref-ruling> E. 4.2.2 S. 71; <ref-ruling> E 2.2.3 S. 353 ff.; Urteil 9C_161/2009 vom 18. September 2009 E. 2.2).
Ob eine anhaltende somatoforme Schmerzstörung vorliegt und bejahendenfalls, ob eine psychische Komorbidität oder weitere Umstände gegeben sind, welche die Schmerzbewältigung behindern, betrifft den rechtserheblichen Sachverhalt. Diesbezügliche Feststellungen der Vorinstanz sind somit lediglich unter eingeschränktem Blickwinkel überprüfbar (E. 4.1.2). Dagegen ist frei prüfbare Rechtsfrage, ob eine festgestellte psychische Komorbidität hinreichend erheblich ist und ob einzelne oder mehrere der festgestellten weiteren Kriterien in genügender Intensität und Konstanz vorliegen, um gesamthaft den Schluss auf eine im Hinblick auf eine erwerbliche Tätigkeit nicht mit zumutbarer Willensanstrengung überwindbare Schmerzstörung zu gestatten (SVR 2008 IV Nr. 23, I 683/06 E. 2.2; vgl. auch <ref-ruling> E. 3.2 in fine S. 399; Urteil 9C_161/2009 vom 18. September 2009 E. 3). Die Prüfung schliesst die Beurteilung der Frage ein, inwiefern die ärztliche Einschätzung der psychisch bedingten Arbeitsunfähigkeit invaliditätsfremde Gesichtspunkte (insbesondere psychosoziale und soziokulturelle Belastungsfaktoren; vgl. zu deren Bedeutung für die Frage des invalidisierenden Charakters einer somatoformen Schmerzstörung Urteil 9C_161/2009 vom 18. September 2009 E. 2.2 in fine mit Hinweisen) mitberücksichtigt (BGE <ref-ruling> E. 2.2.5 S. 355 f.).
4.3.2 Im Gutachten des ärztlichen Begutachtungszentrums X._ vom 13. Dezember 2007, auf welches die Vorinstanz abgestellt hat, wurden unter den Diagnosen mit Einfluss auf die Arbeitsfähigkeit eine leichte bis mittelgradige depressive Episode (ICD-10 F32.0, F32.1) sowie eine anhaltende somatoforme Schmerzstörung (ICD-10 F45.4) aufgeführt. Zur Frage der Komorbidität der depressiven Symptomatik machte der psychiatrische Gutachter der Abklärungsstelle keine direkten Aussagen. Immerhin erachtete er die depressiven Symptome trotz deutlicher psychosozialer und emotionaler Belastungsfaktoren als genügend ausgeprägt für die zusätzliche Diagnose einer leichten bis mittelgradigen depressiven Episode. Ebenfalls äusserte sich der Psychiater des ärztlichen Begutachtungszentrums X._ nicht zur Frage eines von der Vorinstanz bejahten sekundären Krankheitsgewinns (vgl. dazu BGE <ref-ruling> E. 3.3.2 S. 359). Indessen bezeichnete der Experte die Störung ausdrücklich nicht als schwer. Ebenfalls sei kein primärer Krankheitsgewinn gegeben und der emotionale Rückzug sei nicht deutlich ausgeprägt. Weiter erwähnte der Psychiater des ärztlichen Begutachtungszentrums X._ das Vorliegen deutlicher psychosozialer Belastungsfaktoren sowie eine unzureichende Einnahme der Antidepressiva. Selbst wenn daher eine psychische Komorbidität bejaht und ein sekundärer Krankheitsgewinn verneint wird, liegen aufgrund dieser fachärztlichen Feststellungen die massgebenden Kriterien nicht in genügender Intensität und Konstanz vor, um daraus schliessen zu können, die somatoforme Schmerzstörung sei zu mehr als 20 % unüberwindlich im Hinblick auf die Ausübung einer erwerblichen Tätigkeit. Unbestritten ist, dass sich diese Einschränkung nicht zusätzlich zur somatisch bedingten Arbeitsunfähigkeit auswirkt.
Entgegen den Vorbringen in der Beschwerde gilt die Einschätzung der Arbeitsfähigkeit von 80 % aus psychiatrischer Sicht auch für die Zeit nach dem Gutachten des ärztlichen Begutachtungszentrums X._ vom 13. Dezember 2007 bis mindestens zum Erlass des Einspracheentscheides vom 19. Dezember 2008. In den später erstellten Berichten der Psychiatrischen Klinik Y._ vom 23. Juli 2008 sowie der Externen Psychiatrischen Dienste vom 30. März 2009 ergeben sich keine objektiven Aspekte, die bei der Begutachtung unerkannt oder ungewürdigt geblieben wären und die Expertise ernsthaft in Frage zu stellen vermöchten (vgl. Urteil 9C_276/2009 vom 24. Juni 2009 E. 4.2.3). Ob die Beweiswürdigungsrichtlinie, wonach der Erfahrungstatsache Rechnung getragen werden kann und soll, dass Hausärzte im Hinblick auf ihre auftragsrechtliche Vertrauensstellung in Zweifelsfällen eher zugunsten ihrer Patienten aussagen (<ref-ruling> E. 3b/cc S. 353), auch auf andere behandelnde Ärzte anwendbar ist, wie die Vorinstanz anzunehmen scheint, kann hier offenbleiben, da sie vorliegend nicht entscheidrelevant ist. Schliesslich ist eine stationäre Behandlung sowenig wie eine Behandlungsbedürftigkeit hinreichend dafür, dass ein voraussichtlich dauerndes invalidisierendes psychisches Leiden gegeben ist (vgl. Urteil I 558/06 vom 25. April 2007 E. 3.2). Aus der allgemeinen Lebenserfahrung, worunter der Beschwerdeführer im Zusammenhang offenbar ein rein medizinisches Krankheitsverständnis zu begreifen scheint, ergibt sich nichts anderes. Eine allfällige Verschlechterung des Gesundheitszustandes nach dem Einspracheentscheid hat im Übrigen in diesem Verfahren unbeachtet zu bleiben (<ref-ruling> E. 2. S. 354; Urteil 9C_561/2007 vom 11. März 2008 E. 5.2.2).
4.4 Somit ist ab 1. Dezember 2001 bis mindestens 22. Oktober 2007 von einer Arbeitsfähigkeit von 70 % in leichten wechselbelastenden Tätigkeiten auszugehen. Für die Zeit danach ist die Sache in Bezug auf die Arbeitsfähigkeit aus somatischer Sicht nicht spruchreif.
5. Der Beschwerdeführer beantragt wie schon im vorinstanzlichen Verfahren einen zusätzlichen Abzug vom Tabellenlohn von 9,1 % für die teilzeitbedingte Lohneinbusse.
5.1 Mit dem Teilzeitabzug soll dem Umstand Rechnung getragen werden, dass teilzeitbeschäftigte Männer statistisch gesehen vergleichsweise weniger verdienen als Vollzeitangestellte (Urteile I 69/07 vom 2. November 2007 E. 5.1 und I 793/06 vom 4. Oktober 2007 E. 2; vgl. auch Urteile 8C_664/2007 vom 14. April 2008 E. 8.3 und I 101/07 vom 3. Januar 2008 E. 6.2).
5.2 Die Vorinstanz hat einen solchen Abzug unter Hinweis auf den vom Bundesamt für Statistik im Juli 2006 herausgegebenen Bericht «Teilzeitarbeit in der Schweiz» abgelehnt. Danach hätten die neuesten Erhebungen gezeigt, dass nicht von einer Lohndiskriminierung der Teilzeiterwerbstätigen gesprochen werden könne (S. 22). Wie es sich damit verhält, kann hier offenbleiben. Selbst ein Abzug vom Tabellenlohn von 19,1 % statt lediglich 10 % änderte nichts am Ergebnis.
Der vorinstanzliche Einkommensvergleich ergibt bei einer Arbeitsfähigkeit von 70 % und im Übrigen unveränderten Berechnungsfaktoren einen Invaliditätsgrad von 43 % ([[Fr. 63'441.65 - Fr. 35'843.57]/ Fr. 63'441.65] x 100 %; zum Runden <ref-ruling>). Bei einem Abzug vom Tabellenlohn von 19,1 % resultiert ein Invaliditätsgrad von 49 %, was ebenfalls Anspruch auf eine Viertelsrente gibt (<ref-law>).
5.3 Zusammenfassend ist festzuhalten, dass der Beschwerdeführer ab 1. Dezember 2001 bis 31. Mai 2007 Anspruch auf eine Viertelsrente und für die Monate Juni bis Oktober 2007 Anspruch auf eine ganze Rente hat (E. 1). Für die Zeit danach wird die IV-Stelle nach ergänzenden Abklärungen (Einholung eines Gutachtens zur Frage der Arbeitsfähigkeit aus somatischer Sicht) neu zu verfügen haben.
6. Der Beschwerdeführer beantragt eine Parteientschädigung für das Einspracheverfahren (<ref-law>). Darüber hat zuerst die IV-Stelle zu verfügen (vgl. Urteil 9C_569/2008 vom 1. Oktober 2008 E. 6.1). Insoweit fehlt es an einem Anfechtungsgegenstand und damit an einer Sachurteilsvoraussetzung (<ref-ruling> E. 1a S. 414).
7. Mit Bezug auf die Kosten- und Entschädigungsfolgen ist der Ausgang des Verfahrens als vollständiges Obsiegen des Beschwerdeführers zu werten. Er hat zwar die Zusprechung einer ganzen Rente ab 1. Dezember 2001 (samt Kinderrenten und eine temporäre Zusatzrente für die Ehefrau) beantragt. Dieses «Überklagen» hatte indessen keinen Einfluss auf den Arbeitsaufwand. Die IV-Stelle hat somit die Gerichtskosten zu tragen (<ref-law>) und dem Beschwerdeführer eine Parteientschädigung zu bezahlen (<ref-law>). Dessen Gesuch um unentgeltliche Rechtspflege ist somit gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird, soweit darauf einzutreten ist, gutgeheissen. Der Entscheid des Verwaltungsgerichts des Kantons Thurgau als Versicherungsgericht vom 29. April 2009 und der Einspracheentscheid der IV-Stelle des Kantons Thurgau vom 19. Dezember 2008 werden aufgehoben und es wird festgestellt, dass der Beschwerdeführer ab 1. Dezember 2001 bis 31. Mai 2007 Anspruch auf eine Viertelsrente und für die Monate Juni bis Oktober 2007 Anspruch auf eine ganze Rente der Invalidenversicherung hat. Für die Zeit danach wird die IV-Stelle nach ergänzenden Abklärungen im Sinne der Erwägungen neu verfügen.
2. Die Gerichtskosten von Fr. 500.- werden der IV-Stelle des Kantons Thurgau auferlegt.
3. Die IV-Stelle des Kantons Thurgau hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2'800.- zu entschädigen.
4. Das Verwaltungsgericht des Kantons Thurgau als Versicherungsgericht hat die Gerichtskosten und die Parteientschädigung für das vorangegangene Verfahren neu festzusetzen.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Thurgau, der Ausgleichskasse des Schweizerischen Baumeisterverbandes und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 30. November 2009
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Fessler