Sachverhalt:
A. Der 1967 geborene H._ ersuchte im Mai 2008 die Invalidenversicherung um eine Rente. Mit Verfügung vom 1. Februar 2011 verneinte die IV-Stelle Bern nach durchgeführtem Vorbescheidverfahren einen Rentenanspruch.
B. In Gutheissung der Beschwerde des H._ hob das Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, mit Entscheid vom 27. Juli 2011 die angefochtene Verfügung auf und sprach dem Versicherten mit Wirkung ab 1. Februar 2009 eine Viertelsrente zu.
C. H._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Rechtsbegehren, der Entscheid vom 27. Juli 2011 sei aufzuheben und ihm eine Dreiviertelsrente ab 1. Februar 2009 zuzusprechen.
Die IV-Stelle beantragt die Abweisung der Beschwerde. Kantonales Gericht und Bundesamt für Sozialversicherungen haben auf eine Vernehmlassung verzichtet.
Erwägungen:
1. Die Vorinstanz hat in Bezug auf das einzig umstrittene Valideneinkommen festgestellt, es fehlten hinreichend konkrete Anhaltspunkte für die Annahme, dass der Beschwerdeführer heute als Bauführer arbeiten würde, wenn er nicht invalid geworden wäre. Insbesondere werde im Bericht der Regionalstelle für berufliche Eingliederung vom 29. Oktober 1990 ausgeführt, er habe nach erfolgreicher Beendigung des Unterrichts an der Berufsschule im Juni noch nicht mit seiner Weiterbildung zum Bauführer oder Techniker begonnen. Die Vorinstanz bestimmte daher das Valideneinkommen nach Massgabe des ohne gesundheitliche Beeinträchtigung erzielbaren Lohnes als Maurer bzw. Tiefbauzeichner, und zwar auf der Grundlage der Schweizerischen Lohnstrukturerhebung 2008 des Bundesamtes für Statistik (grundlegend BGE 124 V 321). Es resultierte ein maximales Validen-einkommen von Fr. 81'324.25 für 2009.
2. In der Beschwerde wird eine offensichtlich unrichtige Sachverhaltsfeststellung durch die Vorinstanz gerügt (Art. 97 Abs. 1 und Art. 105 Abs. 1 und 2 BGG). Was zur Begründung vorgebracht wird, ist indessen nicht stichhaltig:
2.1 Es ist unbestritten, dass der Beschwerdeführer nach der Ausbildung zum Tiefbauzeichner die Maurerlehre begann mit dem Ziel, über die Stufen Polier und Bauführer die Baumeister-Prüfung abzulegen (Fragebogen für den Arbeitgeber vom 29. November 1989). Im selben Sinne hatte er sich auch in der Anmeldung vom 28. Juli 1989 zum Bezug von Eingliederungsmassnahmen beruflicher Art geäussert. Mit Schreiben vom 8. Januar 1990 sodann hatte er die X._ um eine Ausnahmebewilligung für die Teilnahme an den Aufnahmeprüfungen an die Bauführerschule im November ersucht. Dabei wies er darauf hin, er könne krankheitsbedingt in der nach einem Unterbruch wieder aufgenommenen Zusatzlehre als Maurer nur einen theoretischen Teilabschluss erreichen, weshalb er den Aufnahmebedingungen nicht "gerecht" werde.
Da die Aufnahmeprüfungen erst im November 1990 stattfanden, konnte der Beschwerdeführer im Oktober 1990 die Bauführerschule noch gar nicht begonnen haben. Dementsprechend wurde im Bericht der Regionalstelle für berufliche Eingliederung vom 29. Oktober 1990 richtig festgehalten, er habe seine Weiterbildung zum Bauführer oder Techniker noch nicht angefangen. Daraus allein lässt sich somit entgegen der Auffassung der Vorinstanz nichts Entscheidendes zu Ungunsten des Beschwerdeführers ableiten in dem Sinne, er habe nach Beendigung des Unterrichts an der Berufsschule im Juni 1990 entgegen seinen früheren Äusserungen die Bauführerschule nicht (mehr) besuchen wollen.
2.2 Die entscheidende Frage, weshalb es nicht dazu kam, hat die Vorinstanz - wie schon die IV-Stelle - nicht näher abgeklärt. Entgegen der Auffassung des Beschwerdeführers verletzt dies den Untersuchungsgrundsatz nach Art. 61 lit. c ATSG nicht. Der Grund, weshalb er die Bauführerschule nicht besuchte, ist zwar eine rechtserhebliche und damit grundsätzlich abklärungsbedürftige Tatsache (Urteil 9C_999/ 2010 vom 14. Februar 2011 E. 5.1.1). Diesbezüglich musste indessen der Beschwerdeführer am besten Bescheid wissen, weshalb es im Rahmen seiner Mitwirkungspflicht bei der Sachverhaltsabklärung an ihm gelegen wäre, sachdienliche Dokumente einzureichen oder entsprechende Beweisanträge zu stellen.
Der Beschwerdeführer hat ein Schreiben der X._ vom 29. Januar 1990 eingereicht, womit seine "Anfrage vom 8.ds. betreffend Aufnahmeprüfung in die Bauführerschule" abschlägig beantwortet wurde. Dieses Dokument ist nach dem Gesagten ein unzulässiges neues Beweismittel, das ausser Betracht zu bleiben hat (SVR 2011 EL Nr. 6 S. 17, 9C_972/2009 E. 4.2; Urteil 9C_697/2011 vom 16. November 2011 E. 2.2). Damit ist aber der im Wesentlichen auf das neue Vorbringen gestützten Rüge eines offensichtlich unrichtig festgestellten Sachverhalts der Boden entzogen. Weiters ist der vorinstanzliche Entscheid nicht angefochten, was zur Abweisung der Beschwerde führt.
3. Dem Ausgang des Verfahrens entsprechend hat grundsätzlich der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Seinem Gesuch um unentgeltliche Prozessführung kann jedoch entsprochen werden (Art. 64 BGG). Es wird indessen ausdrücklich auf Art. 64 Abs. 4 BGG hingewiesen, wonach er der Gerichtskasse Ersatz zu leisten hat, wenn er später dazu in der Lage ist. Soweit der Beschwerdeführer auch um unentgeltliche Verbeiständung nachsucht, ist diesem Begehren nicht stattzugeben, da die Voraussetzungen hiefür nicht gegeben sind (vgl. BGE 135 I 1).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird gutgeheissen und es wird dem Beschwerdeführer Fürsprecherin M._ vom Rechtsdienst Integration Handicap als Rechtsbeistand beigegeben.
3. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt, indes einstweilen auf die Gerichtskasse genommen.
4. Fürsprecherin M._ wird aus der Gerichtskasse eine Entschädigung von Fr. 2'000.- ausgerichtet.
5. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 31. Juli 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Fessler