Sachverhalt:
A. Mit Verfügung vom 31. August 2004 verneinte die IV-Stelle Basel-Landschaft den Anspruch des 1965 geborenen B._ auf eine Rente der Invalidenversicherung. Daran hielt sie mit Einspracheentscheid vom 22. Dezember 2004 fest, was das Kantonsgericht Basel-Landschaft, Abteilung Sozialversicherungsrecht, mit Entscheid vom 13. Juli 2005 bestätigte. Mit Urteil vom 15. März 2006 hob das Eidg. Versicherungsgericht Gerichtsentscheid und Einspracheentscheid auf und wies die Sache an die IV-Stelle zurück, damit sie nach ergänzenden Abklärungen im Sinne der Erwägungen über den Rentenanspruch neu verfüge (Verfahren I 689/05). In der Folge liess die IV-Stelle den Versicherten durch die Rheumatologische Klinik des Spitals Y._ sowie das Ärztliche Zentrum X._ untersuchen und begutachten. Mit Verfügung vom 30. Juli 2008 verneinte sie bei einem ermittelten Invaliditätsgrad von 37 % erneut den Anspruch auf eine Rente.
B. Die Beschwerde des B._ wies das Kantonsgericht Basel-Landschaft, Abteilung Sozialversicherungsrecht, mit Entscheid vom 25. März 2009 ab.
C. B._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 25. März 2009 sei aufzuheben und ihm eine Invalidenrente zuzusprechen und nachzuzahlen, eventualiter die Sache an das kantonale Gericht oder die IV-Stelle zwecks weiterer medizinischer Abklärungen und neuer Verfügung zurückzuweisen, unter Gewährung der unentgeltlichen Prozessführung.

Erwägungen:
1. 1.1 Gemäss <ref-law> sind die Rechtsschriften in einer Amtssprache abzufassen und haben die Begehren, deren Begründung mit Angabe der Beweismittel und die Unterschrift zu enthalten (Abs. 1). In der Begründung ist in gedrängter Form darzulegen, inwiefern der angefochtene Entscheid Recht verletzt (Abs. 2 Satz 1).
<ref-law> verlangt, dass sich die Beschwerde führende Person wenigstens kurz mit den Erwägungen des angefochtenen Entscheids auseinandersetzt. Dies ist nicht der Fall, wenn vor Bundesgericht dieselbe Beschwerdebegründung eingereicht wird wie schon im kantonalen Verfahren (<ref-ruling> E. 2.1-2.3 S. 245 ff.; Ur-teil 9C_204/2009 vom 6. Mai 2009 E. 3.1).
1.2 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die unvollständige Feststellung der rechtserheblichen Tatsachen sowie die Nichtbeachtung des Untersuchungsgrundsatzes nach <ref-law> und <ref-law> durch den Versicherungsträger oder das kantonale Versicherungsgericht stellen eine solche Verletzung dar (Urteil 9C_802/2008 vom 22. Dezember 2008 E. 1.1 mit Hinweisen). Der Verzicht auf weitere Abklärungen oder im Beschwerdefall auf Rückweisung der Sache an die Verwaltung zu diesem Zwecke (antizipierte Beweiswürdigung; Urteil 9C_561/2007 vom 11. März 2008 E. 5.2.1) verletzt etwa dann Bundesrecht, wenn der festgestellte Sachverhalt unauflösbare Widersprüche enthält oder wenn eine entscheidwesentliche Tatfrage, wie namentlich Gesundheitszustand und Arbeitsfähigkeit einer versicherten Person, auf unvollständiger Beweisgrundlage beantwortet wird (Urteile 9C_276/2009 vom 24. Juni 2009 E. 3 und 9C_410/2008 vom 8. September 2008 E. 3.3.1 mit Hinweisen).
Im Übrigen ist die Sachverhaltsfeststellung der Vorinstanz - von hier nicht interessierenden Ausnahmen abgesehen - für das Bundesgericht verbindlich, wenn sie nicht offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (Art. 105 Abs. 1 und 2 BGG). Die konkrete Beweiswürdigung ist wie die darauf beruhende Sachverhaltsfeststellung ebenfalls nur unter diesem eingeschränkten Blickwinkel überprüfbar (Urteile 9C_276/2009 vom 24. Juni 2009 E. 3 und 9C_410/2008 vom 8. September 2008 E. 3.3.1).
2. Die Vorinstanz hat gestützt auf die Gutachten des Spitals Y._ vom 25. September/5. Oktober 2006 und des Ärztlichen Zentrums X._ vom 24. April 2008 festgestellt, der Versicherte sei in leichten wechselbelastenden Tätigkeiten zu 80 % arbeitsfähig. Aus somatischer Sicht bestehe keine Einschränkung, aus psychiatrischer Sicht eine solche von 20 %.
3. In der Beschwerde wird gerügt, die vorinstanzliche Annahme einer Arbeitsfähigkeit von 80 % in leichten wechselbelastenden Tätigkeiten beruhe auf einem unvollständig abgeklärten Sachverhalt. Es fehle eine umfassende neurologische Untersuchung mit einer Funktionsmyelographie, wie vom Eidg. Versicherungsgericht im Urteil vom 15. März 2006 angeordnet resp. empfohlen. Ebenfalls hätte die von Dr. med. K._ im Herbst 2008 diagnostizierte Sarkoidose näher abgeklärt werden müssen. Dieses Leiden sei chronisch, habe somit bereits im Zeitpunkt der Begutachtung des Ärztlichen Zentrums X._ im April 2008 bestanden haben müssen, sei damals indessen nicht einmal gefunden worden. Im Weitern sei die Einschätzung des Psychiaters des Ärztlichen Zentrums X._ einer um 20 % eingeschränkten Arbeitsfähigkeit nicht schlüssig. Sie widerspreche auch der Beurteilung des behandelnden Psychiaters. Schliesslich sei der Einfluss der diagnostizierten somatoformen Schmerzstörung auf die Arbeitsfähigkeit nicht genügend abgeklärt worden.
4. 4.1 Das Eidg. Versicherungsgericht hatte in E. 3.2 des Urteils vom 15. März 2006 eine genauere Abklärung der möglichen Ursachen der geklagten Rückenschmerzen aus neurologischer Sicht als erforderlich bezeichnet und in diesem Zusammenhang eine Funktionsmyelographie empfohlen. Die IV-Stelle veranlasste in der Folge keine spezielle neurologische Untersuchung. Dies stellt entgegen der Auffassung des Beschwerdeführers keine Missachtung des Abklärungsauftrages gemäss Urteil vom 15. März 2006 dar und verletzt auch nicht den Untersuchungsgrundsatz. Nach für das Bundesgericht verbindlicher und im Übrigen unbestrittener Feststellung der Vorinstanz schlossen die Ärzte des Spitals Y._ und des Ärztlichen Zentrums X._ aufgrund des klinisch und radiologisch unauffälligen neurologischen Status eine Wurzelkompression und eine Spinalkanalstenose aus, eine Funktionsmyelographie erachteten sie nicht als indiziert. Für die im Bericht des Spitals Y._ vom 11./30. September 2002 noch geäusserte Verdachtsdiagnose einer Claudicatio spinalis und die als möglich bezeichnete Wurzelreizung bei Belastung, welche dem Eidg. Versicherungsgericht in erster Linie abklärungsbedürftig schienen, bestand keine - nicht auch von den rheumatologischen und orthopädischen Fachärzten aufgrund der Akten und im Rahmen der klinischen Untersuchung feststellbare - entsprechende klare neurologische Symptomatik (typischerweise vorübergehende Schmerzen, Lähmungen, Sensibilitätsstörungen, Krämpfe in den Beinen; vgl. Pschyrembel, Klinisches Wörterbuch, 261. Aufl. 2007, S. 351 sowie ALFRED M. DEBRUNNER, Orthopädie. Orthopädische Chirurgie, 4. Aufl. 2002, S. 889). Die klinisch-orthopädische Untersuchung im Sitzen, Stehen, Gehen und Liegen im Rahmen der Begutachtung des Ärztlichen Zentrums X._ ergab auf neurologischer Ebene keine Hinweise für das Vorliegen einer Pathologie im Bereich des peripheren Nervensystems, was eine spinale Kompressionsproblematik oder die Läsion eines grösseren peripheren Nerves weitestgehend ausschliessen liess (Gutachten vom 24. April 2008). Mit der Beurteilung der Ärzte des Spitals Y._ und des Ärztlichen Zentrums X._ im Einklang steht, dass nach unbestrittener Feststellung der Vorinstanz der behandelnde Neurologe Dr. med. K._ in seinen Berichten vom 14. und 15. September 2007 keine neurologische Ursache der Rückenbeschwerden bezeichnete (und eine solche auch differentialdiagnostisch nicht in Betracht zog, wie ergänzend anzufügen ist), namentlich eine Wurzelkompression verneinte und auch keine spezielle Untersuchung wie namentlich eine Funktionsmyelographie empfahl. Unter diesen Umständen durften IV-Stelle und kantonales Gericht in pflichtgemässer antizipierter Beweiswürdigung auf eine Abklärung durch einen Neurologen verzichten und gestützt auf die vorhandenen medizinischen Akten eine neurologische Ursache der geklagten Rückenschmerzen verneinen. Die Argumentation in der Beschwerde übersieht, dass eine (halbinvasive) diagnostische Massnahme stets eine medizinische Indikation voraussetzt, worin der Grund liegt, dass das Eidg. Versicherungsgericht im Urteil vom 15. März 2006 eine Funktionsmyelographie empfohlen, aber nicht verbindlich angeordnet hat.
4.2 Die Vorbringen betreffend Sarkoidose, Arbeitsfähigkeit aus psychiatrischer Sicht und somatoforme Schmerzstörung (E. 3) stimmen praktisch wortwörtlich mit denjenigen in der vorinstanzlichen Beschwerde und der nachträglichen Eingabe vom 18. März 2009 überein. Es wird nicht geltend gemacht, das kantonale Gericht sei - in Verletzung von <ref-law> (Urteil 1B_61/2008 vom 3. April 2008 E. 2.2) - auf wesentliche Argumente in diesen Rechtsschriften nicht eingegangen. Insoweit genügt die Beschwerde den (minimalen) Anforderungen an die Begründung gemäss <ref-law> nicht (E. 1.1) und es ist darauf nicht näher einzugehen.
5. Die vorinstanzliche Invaliditätsbemessung durch Einkommensvergleich (<ref-law> in Verbindung mit <ref-law>) ist nicht weiter angefochten. Es besteht kein Anlass zu einer näheren Prüfung (vgl. <ref-ruling> E. 1b und 2c S. 415 ff.; <ref-ruling> E. 4a S. 53). Der vorinstanzliche Entscheid verletzt Bundesrecht nicht.
6. Der Beschwerdeführer hat als unterliegende Partei grundsätzlich die Gerichtskosten zu tragen (<ref-law>). Seinem Gesuch um unentgeltliche Rechtspflege kann jedoch entsprochen werden (<ref-law>; <ref-ruling> E. 4a S. 202). Es wird indessen ausdrücklich auf <ref-law> hingewiesen, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten hat, wenn sie später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt, indes einstweilen auf die Gerichtskasse genommen.
3. Advokatin Dr. Helena Hess, Muttenz, wird als unentgeltliche Rechtsvertreterin des Beschwerdeführers für das bundesgerichtliche Verfahren mit Fr. 2000.- aus der Gerichtskasse entschädigt.
4. Dieses Urteil wird den Parteien, dem Kantonsgericht Basel-Landschaft, Abteilung Sozialversicherungsrecht, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 22. Juli 2009
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Fessler