Sachverhalt:
A. Mit Einspracheentscheid vom 16. April 2004 verneinte die IV-Stelle Bern in Bestätigung ihrer Verfügung vom 6. November 2003 den Anspruch des 1943 geborenen S._ auf eine Rente der Invalidenversicherung, was das Verwaltungsgericht des Kantons Bern mit Entscheid vom 3. September 2004 bestätigte. Mit Urteil I 666/04 vom 7. Juni 2005 hob das Eidgenössische Versicherungsgericht beide Erkenntnisse auf und wies die Sache an die IV-Stelle zurück, damit sie nach erfolgter Abklärung im Sinne der Erwägungen über den Rentenanspruch neu verfüge.
Am 14. November 2005 sowie am 24. November 2005 und 10. Januar 2006 wurde S._ durch Frau Dr. med. L._, Spezialärztin FMH für Neurochirurgie, und Dr. med. H._, Psychiatrie und Psychotherapie FMH, interdisziplinär untersucht und begutachtet. Mit Verfügung vom 15. Februar 2006 verneinte die IV-Stelle erneut den Anspruch auf eine Invalidenrente. Daran hielt sie mit Einspracheentscheid vom 12. Dezember 2006 fest, wobei sie dem Versicherten die unentgeltliche Rechtsverbeiständung bewilligte.
B. Die von S._ dagegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, mit Entscheid vom 26. Mai 2008 gut. Es hob den Einspracheentscheid vom 12. Dezember 2006 mit der Feststellung auf, es bestehe ab 1. Dezember 2000 Anspruch auf eine Viertelsrente der Invalidenversicherung (Dispositiv-Ziff. 1); die Parteientschädigung setzte es auf pauschal Fr. 3000.- fest (Dispositiv-Ziff. 4).
C. S._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit den Rechtsbegehren, der Entscheid vom 26. Mai 2008 und der Einspracheentscheid vom 12. Dezember 2006 seien aufzuheben, ihm eine ganze Rente zuzusprechen sowie die Parteikosten für das Einspracheverfahren und das erstinstanzliche Beschwerdeverfahren festzusetzen, unter Gewährung der unentgeltlichen Prozessführung.
Die IV-Stelle beantragt die Abweisung der Beschwerde. Kantonales Gericht und Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.
Erwägungen:
1. 1.1 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Eine solche Rechtsverletzung stellen insbesondere eine unvollständige (gerichtliche) Feststellung der rechtserheblichen Tatsachen und die Nichtbeachtung des Untersuchungsgrundsatzes nach Art. 61 lit. c ATSG durch das kantonale Versicherungsgericht dar (Urteil 9C_534/2007 vom 27. Mai 2008 E. 1 mit Hinweisen; vgl. auch BGE 133 IV 293 E. 3.4.2 S. 295 f.).
1.2 Das Bundesgericht legt seinem Urteil - von hier nicht interessierenden Ausnahmen abgesehen - den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (Art. 105 Abs. 2 BGG), und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Die Rüge einer rechtsfehlerhaften Sachverhaltsfeststellung darf sich grundsätzlich nicht darauf beschränken, den bestrittenen Feststellungen des kantonalen Gerichts den nach eigener Auffassung richtigen Sachverhalt gegenüberzustellen oder die eigene Beweiswürdigung zu erläutern. Vielmehr ist hinreichend genau angeben, inwiefern die vorinstanzlichen Feststellungen rechtswidrig oder mit einem klaren Mangel behaftet sind. Eine diesen Anforderungen nicht genügende (appellatorische) Kritik ist unzulässig (Urteile 9C_570/2007 vom 5. März 2008 E. 4.2 und 9C_688/2007 vom 22. Januar 2008 E. 2.3).
1.3 Einem ärztlichen Bericht ist (voller) Beweiswert zuzuerkennen, wenn er für die streitigen Belange umfassend ist, auf allseitigen Untersuchungen beruht, auch die geklagten Beschwerden berücksichtigt und in Kenntnis der Vorakten (Anamnese) abgegeben worden ist, wenn die Beschreibung der medizinischen Situation und Zusammenhänge einleuchtet und die Schlussfolgerungen des Arztes begründet sind (BGE 125 V 351 E. 3a S. 352; Urteil 9C_55/2008 vom 26. Mai 2008 E. 4.2).
2. Das kantonale Gericht hat festgestellt, aufgrund der interdisziplinären Beurteilung der Dres. med. L._ und H._ (Gutachten vom 24. November 2005 und 11. Januar 2006 mit ergänzenden Berichten vom 17. und 20. März 2007) sei der Versicherte aus somatischer und psychischer Sicht in Tätigkeiten mit Tragen und Heben von Gewichten bis 10 kg, regelmässigem Positionswechsel in einem relativ neutralen Umfeld ohne intensive Kontakte mit Frauen zu 80 % arbeits- und leistungsfähig. Gemäss der Schweizerischen Lohnstrukturerhebung 2000 des Bundesamtes für Statistik könnte er in einer einfachen und repetitiven Tätigkeit (Anforderungsniveau des Arbeitsplatzes 4) im privaten Sektor bei einer betriebsüblichen Arbeitszeit von 41,8 Stunden in der Woche und einem Abzug vom Tabellenlohn nach BGE 126 V 75 von 15 % trotz der Behinderung ein Einkommen von Fr. 37'835.20 erzielen (vgl. BGE 129 V 472 E. 4.2.1 S. 476, 124 V 321). Bei einem nicht beanstandeten Valideneinkommen von Fr. 68'754.- ergebe sich ein Invaliditätsgrad von 45 % und somit ein Anspruch auf eine Viertelsrente (Art. 28 Abs. 1 IVG).
3. Der Beschwerdeführer bestreitet den Beweiswert der Gutachten der Dres. med. L._ und H._ vom 24. November 2005 und 11. Januar 2006 samt ergänzenden Berichten vom 17. und 20. März 2007. Die Begründung ist indessen nicht stichhaltig. Insbesondere besteht kein Widerspruch zum Urteil des Eidg. Versicherungsgerichts I 666/04 vom 7. Juni 2005. In diesem Entscheid wurde die Arbeitsfähigkeit aus somatischer Sicht, insbesondere als Landschaftsgärtner, als nicht hinreichend abgeklärt bezeichnet und die Zumutbarkeit des zuletzt ausgeübten Berufs als Behindertenbetreuer aus psychischen Gründen verneint oder zumindest als fraglich erachtet. Diesen Feststellungen widerspricht die Einschätzung einer Arbeitsfähigkeit von 50 % als Landschaftsgärtner durch Dr. med. L._ nicht. Sodann verneinte auch Dr. med. H._ die schon vom ersten psychiatrischen Gutachter Dr. med. O._ bezweifelte Zumutbarkeit der Betreuung Behinderter, insbesondere behinderter Frauen.
Den Beweiswert der psychiatrischen Expertise vom 11. Januar 2006 und ergänzendem Bericht vom 20. März 2007 wird auch nicht etwa durch den Umstand gemindert, dass Dr. med. H._ den Bericht des behandelnden Psychiaters Dr. med. C._ vom 17. März 2006 nicht berücksichtigte. Dieser Bericht wurde erst nach der Begutachtung (Untersuchungen vom 24. November 2005 und 10. Januar 2006) erstellt. Jedenfalls kann die medizinische Situation bis 11. Januar 2006 als hinreichend abgeklärt gelten und die darauf gestützten vorinstanzlichen Feststellungen sind nicht offensichtlich unrichtig und somit für das Bundesgericht verbindlich (E. 1.2). Aus dem Bericht des Dr. med. C._ vom 17. März 2006 ergeben sich im Übrigen keine neuen oder im Rahmen der Begutachtung unerkannt gebliebenen objektiven Gesichtspunkte, welche bei der Beurteilung von Gesundheitszustand und Arbeitsfähigkeit nicht berücksichtigt wurden und deren Schlüssigkeit in Frage zu stellen vermöchten. Die diesbezüglichen Vorbringen in der Beschwerde sind unzulässige appellatorische Kritik am vorinstanzlichen Entscheid (E. 1.2): Es wird geltend gemacht, mit seinem Bericht vom 17. März 2006 ergänze der behandelnde Arzt seinen Bericht vom 3. Oktober 2004, welchen das Eidg. Versicherungsgericht im Urteil vom 7. Juni 2005 nicht als Parteigutachten bezeichnet habe. Er beschreibe ausführlich die Störung der Persönlichkeitsentwicklung und komme zum Schluss, es bestehe eine Arbeits- und Erwerbsunfähigkeit von 100 %. Der mit der Beschwerde eingereichte Bericht des Dr. med. C._ vom 24. Juni 2008 ist unbeachtlich (Art. 99 Abs. 1 BGG). Unbegründet ist schliesslich der Einwand, die Gutachter äusserten sich nicht zu den konkret noch möglichen Tätigkeiten. Die entsprechenden Gutachtensangaben sind durchaus aussagekräftig und zeigen auf, was dem Beschwerdeführer physisch und psychisch noch zugemutet werden darf.
4. Im Weitern wird die Rüge, die trotz gesundheitlicher Beeinträchtigung zumutbaren Verweisungstätigkeiten seien nicht hinreichend konkretisiert, lediglich im Rahmen des von der IV-Stelle angenommenen Anforderungsniveaus des Arbeitsplatzes 3 (Einspracheentscheid vom 12. Dezember 2006) erhoben. Die diesbezüglichen Vorbringen in der Beschwerde münden in die Feststellung, dieses Arbeitsmarktsegment falle ausser Betracht. Davon ist aber auch die Vorinstanz ausgegangen. Sodann macht der Beschwerdeführer zwar geltend, legt aber nicht näher dar, inwiefern ihm eine (einfache und repetitive) Tätigkeit vom Anforderungsniveau 4 gesundheitlich bedingt nicht zumutbar sein soll. Sein Argument, er sei gebildet und intelligent und er habe sich vom Landschaftsgärtner zum Sozialpädagogen umschulen lassen, sodass ihm eine solche Tätigkeit nicht zumutbar sei, widerspricht dem Grundsatz der Schadenminderungspflicht (BGE 113 V 22 E. 4a S. 28). Im Übrigen verkennt der Beschwerdeführer, dass das trotz der gesundheitlichen Beeinträchtigung zumutbarerweise erzielbare Einkommen bezogen auf einen ausgeglichenen Arbeitsmarkt zu ermitteln ist. Ein solcher Arbeitsmarkt ist gekennzeichnet durch ein gewisses Gleichgewicht zwischen Angebot und Nachfrage nach Arbeitskräften und weist einen Fächer verschiedenster Tätigkeiten auf und zwar sowohl bezüglich der dafür verlangten beruflichen und intellektuellen Voraussetzungen wie auch hinsichtlich des körperlichen Einsatzes (BGE 110 V 273 E. 4b S. 276; ZAK 1991 S. 321 E. 3b; Urteil 9C_418/2008 vom 17. September 2008 E. 3.2.1). Ebenfalls nicht begründet wird, inwiefern der Umstand, dass der Beschwerdeführer in der zuletzt ausgeübten Tätigkeit in der Behindertenbetreuung durchschnittlich 40 Stunden in der Woche gearbeitet hatte, dagegen spricht, beim Invalideneinkommen von einer wöchentlichen Arbeitszeit von 41,8 Stunden auszugehen (vgl. BGE 124 V 321 E. 3b/aa in fine S. 323). Abgesehen davon entspricht das aus medizinischer Sicht zumutbare Arbeitspensum von 80 % rund 33,5 Stunden und wäre somit auch im zeitlichen Rahmen von lediglich 40 Wochenstunden erwerblich voll verwertbar (vgl. Urteil 9C_213/2008 vom 14. August 2008 E. 3.1). Mit Bezug auf die Höhe des Abzugs vom Tabellenlohn schliesslich legt der Beschwerdeführer nicht dar, inwiefern der vorinstanzliche Abzug von 15 % auf einer rechtsfehlerhaften Ermessensausübung beruht (BGE 132 V 393 E. 3.3 S. 399 in fine).
5. Die vorinstanzliche Invaliditätsbemessung wird im Übrigen nicht bestritten und es besteht insoweit kein Anlass zu einer näheren Prüfung. Der Beschwerdeführer hat somit Anspruch auf eine Viertelsrente.
6. 6.1 Der Beschwerdeführer rügt, das kantonale Gericht hätte ihm eine Parteientschädigung für das Einspracheverfahren zusprechen müssen. Diese Rüge ist unbegründet. Abgesehen davon, dass ein entsprechender Antrag in der vorinstanzlichen Beschwerde fehlte, hat die IV-Stelle die mit Bezug auf die Anspruchsberechtigung - zu Recht (BGE 132 V 200 E. 4.1 in fine S. 201) - unbestrittene Entschädigung festzusetzen.
6.2 Im Weitern wird die Parteientschädigung für das kantonale Verfahren von pauschal Fr. 3000.- (inkl. Auslagen und Mehrwertsteuer) beanstandet. Die Entschädigung sei gemäss Honorarrechnung vom 26. Februar 2008 auf Fr. 4323.40 festzusetzen. Die Vorinstanz hat die Kostennote der Rechtsvertreterin des Versicherten aufgrund deren Vorkenntnisse aus den früheren Verfahren in dieser Sache sowie im Vergleich zu ähnlich gelagerten Fällen als zu hoch erachtet und eine Entschädigung von insgesamt Fr. 3000.- zugesprochen.
6.2.1 Die Höhe der Parteientschädigung für das Verfahren vor dem kantonalen Versicherungsgericht richtet sich in den Schranken des Bundesrechts (Art. 61 lit. g ATSG) nach kantonalem Recht, dessen Anwendung vom Bundesgericht nur auf Willkür hin überprüft wird. Eine Entschädigung ist dann willkürlich, wenn sie eine Norm oder einen klaren und unumstrittenen Rechtsgrundsatz offensichtlich schwer verletzt, sich mit sachlichen Gründen schlechthin nicht vertreten lässt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (SVR 2002 ALV Nr. 3 S. 6 E. 4a [C 130/99]; vgl. auch BGE 129 I 8 E. 2.1 S. 9 und BGE 125 V 408 E. 3a S. 409, je mit Hinweisen). Zudem muss nicht nur die Begründung, sondern auch das Ergebnis unhaltbar sein (BGE 132 V 13 E. 5.1 S. 17; Urteil 9C_791/2007 vom 22. Januar 2008 E. 3.1 und 3.3 in fine).
6.2.2 Der Beschwerdeführer macht insoweit zu Recht geltend, dass sich das vorangegangene Verfahren aufgrund ergänzender Abklärungen durch die Verwaltung (vgl. BGE 127 V 228) in die Länge zog und ein zweiter Schriftenwechsel durchgeführt wurde. Diese Umstände allein lassen jedoch die vorinstanzliche Festsetzung der Parteientschädigung nicht als willkürlich erscheinen, zumal sich aus der Vernehmlassung der IV-Stelle und den ergänzenden Berichten der Dres. med. L._ und H._ vom 17. und 20. März 2007 keine wesentlichen neuen Gesichtspunkte ergaben, welche eine aufwändige Replik erforderten.
7. Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer grundsätzlich die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Seinem Gesuch um unentgeltliche Rechtspflege kann jedoch entsprochen werden (Art. 64 BGG; BGE 125 V 201 E. 4a S. 202). Es wird indessen ausdrücklich auf Art. 64 Abs. 4 BGG hingewiesen, wonach die begünstigte Partei der Gerichtskasse Ersatz zu leisten hat, wenn sie später dazu in der Lage ist.
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt, indes einstweilen auf die Gerichtskasse genommen.
4. Fürsprecherin Jasmin Brechbühler, Bern, wird als unentgeltliche Anwältin des Beschwerdeführers bestellt und es wird ihr für das bundesgerichtliche Verfahren aus der Gerichtskasse eine Entschädigung von Fr. 2000.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, der Ausgleichskasse des Kantons Bern und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 1. Oktober 2008
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Meyer Fessler