Sachverhalt:
A. Mit Verfügungen vom 26. Mai 2009 und 6. Januar 2010 sprach die Kantonale Ausgleichskasse Glarus Z._ Ergänzungsleistungen (EL) von monatlich Fr. 703.- ab 1. Mai 2009 und Fr. 730.- ab 1. Januar 2010 zu, wogegen dieser jeweils Einsprache erhob.
Am 3. März 2010 reichte Z._ beim Verwaltungsgericht des Kantons Glarus Beschwerde ein, welche er in der Folge als Rechtsverzögerungsbeschwerde gegen das Untätigsein der Ausgleichskasse verstanden haben wollte.
Mit Verfügung vom 4. Januar 2011 sprach die Ausgleichskasse Z._ EL von Fr. 748.- im Monat ab 1. Januar 2011 zu, wogegen dieser ebenfalls Einsprache erhob.
Mit Einspracheentscheid vom 2. Februar 2011 setzte die Ausgleichskasse die EL auf Fr. 865.- (Mai 2009), Fr. 854.- (1. Juni bis 31. Dezember 2009), Fr. 885.- (1. Januar bis 31. Dezember 2010) und Fr. 902.- (ab 1. Januar 2011) fest. Dagegen erhob Z._ Beschwerde.
B. Mit Entscheid vom 18. Mai 2011 trat das glarnerische Verwaltungsgericht auf die Rechtsverzögerungsbeschwerde vom 3. März 2010, soweit nicht gegenstandslos geworden, nicht ein (Dispositiv-Ziffer 1) und wies die Beschwerde gegen den Einspracheentscheid vom 2. Februar 2011 ab (Dispositiv-Ziffer 2), ebenso das Gesuch um unentgeltliche Rechtspflege und Verbeiständung im Verfahren betreffend Rechtsverzögerung, soweit nicht gegenstandslos geworden (Dispositiv-Ziffer 5).
C. Z._ führt Beschwerde, mit welcher er Rechtsverweigerung und -verzögerung sowie die Rückweisung der Sache an die Vorinstanz zur Neuberechnung der Ergänzungsleistung für die Zeit vom 1. Mai 2009 bis 31. Dezember 2011 beantragt.
Ausgleichskasse und kantonales Gericht schliessen auf Abweisung der Beschwerden. Das Bundesamt für Sozialversicherungen (BSV) hat keinen Antrag gestellt.
D. Z._ hat sich in weiteren Eingaben zur Sache geäussert und vor Ort am Bundesgericht Einsicht in die Akten genommen.

Erwägungen:
1. Die Vorinstanz hat einlässlich begründet, weshalb der Vorwurf der Rechtsverzögerung durch die Ausgleichskasse nicht stichhaltig ist, auch kein aktuelles Rechtsschutzinteresse an der Feststellung einer solchen Rechtsverletzung besteht und die Rechtsverzögerungsbeschwerde ohnehin gegenstandslos geworden ist. Der Beschwerdeführer setzt sich mit den diesbezüglichen Erwägungen im angefochtenen Entscheid nicht auseinander. Auf die Beschwerde ist daher insoweit mangels genügender Begründung nicht einzutreten (Art. 41 Abs. 1 und 2 BGG; <ref-ruling> E. 1.4.1 S. 254). Sodann wird die vorinstanzliche Abweisung des Gesuchs um unentgeltliche Rechtspflege für das Rechtsverzögerungsbeschwerdeverfahren sowie das dispositivmässig nicht festgehaltene Nichteintreten - mangels Anfechtungsgegenstand - auf das Gesuch um unentgeltliche Rechtspflege für das Einspracheverfahren nicht substanziiert gerügt und es ist demzufolge auch darauf nicht weiter einzugehen.
2. In der Sache rügt der Beschwerdeführer einzig, die Vorinstanz habe in Verletzung von Art. 10 Abs. 3 lit. b ELG und der einschlägigen Steuergesetzgebung des Kantons Glarus bei der EL-Berechnung ab 1. Mai 2009 die Summe aus Hypothekarzinsen und Gebäudeunterhaltskosten von Fr. 12'144.- resp. Fr. 12'051.- ab 1. Januar 2011 lediglich in der Höhe des Eigenmietwertes der selbstbewohnten Liegenschaft von Fr. 9'120.- gemäss der rechtskräftigen kantonalen Steuerveranlagung 2009 vom 14. Oktober 2010 als Ausgaben anerkannt. Massgebend sei jedoch der Brutto-Mietertrag der Liegenschaft ("Normmietwert") gemäss Art. 18 Abs. 3 der kantonalen Verordnung vom 22. November 2000 über die Bewertung der Grundstücke (GstBV; GS VI C/1/4), welcher auch die Höhe der anrechenbaren Gebäudeunterhaltskosten nach Art. 2 Abs. 2 der Verordnung vom 23. Januar 2001 über den Abzug der Kosten von Liegenschaften des Privatvermögens (GS VI C/1/6) bestimme. Laut den rechtskräftigen Schätzungsverfügungen vom 20. Juni 2002, 15. Dezember 2009 und 26. Juli 2010 belaufe sich der Brutto-Mietertrag der Liegenschaft auf Fr. 20'550.- (2009), Fr. 17'000.- (2010) und Fr. 15'200.- (2011). Der Pauschalabzug für die Gebäudeunterhaltskosten betrage 20 % davon, somit Fr. 4'110.- (2009), Fr. 3'400.- (2010) und Fr. 3'040.- (2011). Die effektiven Hypothekarzinsen hätten sich auf Fr. 12'292.- (2009), Fr. 11'201.- (2010) und Fr. 12'742.- (2011) belaufen. Bei den Ausgaben seien daher Hypothekarzinsen und Gebäudeunterhaltskosten von insgesamt Fr. 16'402.- (2009), Fr. 14'601.- (2010) und Fr. 15'782.- (2011) anzuerkennen, was zu um Fr. 7'282.- (1. Mai bis 31. Dezember 2009), Fr. 5'481.- (1. Januar bis 31. Dezember 2010) und Fr. 6'080.- (1. Januar bis 31. Dezember 2011) höheren jährlichen Ergänzungsleistungen führe.
3. Die Vorinstanz hat der Überprüfung der EL-Berechnung der Ausgleichskasse im streitigen Punkt die rechtskräftige Veranlagung 2009 vom 14. Oktober 2010 und die Schätzungsverfügung vom 26. Juli 2010 zugrunde gelegt, was der Beschwerdeführer nicht substanziiert als bundesrechtswidrig rügt. Es besteht auch im Rahmen der Rechtsanwendung von Amtes wegen (<ref-law>) kein Grund zu Weiterungen. Im Übrigen hat die Vorinstanz ausdrücklich eine Neuberechnung der Ergänzungsleistung bei veränderten wirtschaftlichen Verhältnissen aufgrund der Steuerveranlagung 2010 vorbehalten.
In der Schätzungsverfügung vom 26. Juli 2010 wurde ein Mietwert des selbstbewohnten Einfamilienhauses von Fr. 15'200.- und ein Eigenmietwert von Fr. 9'120.- (60 % von Fr. 15'200.-) angegeben. In der Veranlagung 2009 vom 14. Oktober 2010 wurde bei den Einkünften ein Liegenschaftsertrag von Fr. 9'120.- entsprechend dem Eigenmietwert des Einfamilienhauses berücksichtigt. Zum Abzug zugelassen wurden u.a. Schuldzinsen von Fr. 11'201.- sowie Unterhalts- und Verwaltungskosten von pauschal 20 % des Ertrages aus Liegenschaften in der Höhe des Eigenmietwertes von Fr. 1'824.-. Die Vorinstanz verweist in diesem Zusammenhang auf Art. 2 Abs. 2 der Verordnung vom 23. Januar 2001 über den Abzug der Kosten von Liegenschaften des Privatvermögens (in Verbindung mit Art. 30 Abs. 5 des Steuergesetzes vom 7. Mai 2000 [StG; GS VI C/1/1]), auf welche Bestimmung sich auch der Beschwerdeführer beruft.
4. Die Vorinstanz verweist zur Begründung, weshalb Hypothekarzinsen und Gebäudeunterhaltskosten höchstens im Umfang des Eigenmietwertes von Fr. 9'120.- anrechenbar sind, wovon auch das BSV ausgeht, auf Art. 10 Abs. 3 lit. b ELG.
4.1 Bei allen (zu Hause oder in Heimen oder Spitälern lebenden) Personen werden zudem als Ausgaben anerkannt, u.a. Gebäudeunterhaltskosten und Hypothekarzinse bis zur Höhe des Bruttoertrages der Liegenschaft (Art. 10 Abs. 3 lit. b ELG).
4.2 Ausgangspunkt jeder Auslegung bildet der Wortlaut. Ist der Text nicht klar und sind verschiedene Interpretationen möglich, muss nach seiner wahren Tragweite gesucht werden unter Berücksichtigung aller Auslegungselemente. Abzustellen ist dabei namentlich auf die Entstehungsgeschichte, auf den Zweck der Norm, die ihr zugrunde liegenden Wertungen und ihre Bedeutung im Kontext mit anderen Bestimmungen. Die Materialien sind zwar nicht unmittelbar entscheidend, dienen aber als Hilfsmittel, um den Sinn der Norm zu erkennen. Das Bundesgericht hat sich bei der Auslegung von Erlassen stets von einem Methodenpluralismus leiten lassen und nur dann allein auf das grammatische Element abgestellt, wenn sich daraus zweifelsfrei die sachlich richtige Lösung ergab (<ref-ruling> E. 5.1 S. 26; <ref-ruling> E. 2.2 S. 81; <ref-ruling> E. 4.1 S. 252; <ref-ruling> E. 5.1 S. 193). Sind mehrere Auslegungen möglich, ist jene zu wählen die den verfassungsrechtlichen Vorgaben am besten entspricht. Eine verfassungskonforme Auslegung findet dabei im klaren Wortlaut und Sinn einer Gesetzesbestimmung ihre Schranken (<ref-ruling> E. 3 S. 154; <ref-ruling> E. 6b/bb S. 322; je mit Hinweisen).
4.2.1 Der Wortlaut von Art. 10 Abs. 3 lit. b ELG (auch in der französischen und italienischen Textfassung: "... les frais d'entretien des bâtiments et les intérêts hypothécaires, jusqu'à concurrence du rendement brut de l'immeuble", "... spese di manutenzione di fabbricati e interessi ipotecari, fino a concorrenza del ricavo lordo dell'immobile") wirft vorab die Frage auf, ob die Schranke des Bruttoertrages der Liegenschaft für die Gebäudeunterhaltskosten und die Hypothekarzinsen zusammen oder nur für Letztere gilt. Nach allgemeinem Sprachverständnis sind unter dem Begriff Bruttoertrag der Liegenschaft die betreffenden Einkünfte ohne Berücksichtigung des für deren Erzielung notwendigen finanziellen Aufwandes (Gewinnungskosten) zu verstehen. Dazu zählen Hypothekarzinsen und Gebäudeunterhaltskosten. Mit der Begrenzung des Abzugs auf die Höhe des Bruttoertrages der Liegenschaft sodann sollten nach dem Willen des Gesetzgebers Missbräuche verhindert werden (vgl. Botschaft vom 21. November 1984 betreffend die zweite Revision des Bundesgesetzes über die Ergänzungsleistungen zur AHV und IV [ELG], BBl 1984 I 107 Ziff. 21.10.2; vgl. auch Botschaft vom 20. November 1996 über die 3. Revision des Bundesgesetzes über die Ergänzungsleistungen zur AHV und IV [3. EL-Revision], BBl 1997 I 1205 Ziff. 212.31). Ein darüber hinausgehender Abzug liefe auf eine nicht mehr auf die Sicherung des Existenzbedarfs gerichtete und damit zweckwidrige Bezahlung von Vermögensschulden hinaus (Erwin Carigiet/Uwe Koch, Ergänzungsleistungen zur AHV/IV, 2. Aufl. 2009, S. 171; Ralph Jöhl, Ergänzungsleistungen zur AHV/IV, in: Soziale Sicherheit, SBVR Bd. XIV, 2. Aufl. 2007, S. 1732 Rz. 142). Das wäre aber der Fall, wenn lediglich der Abzug von Hypothekarzinsen durch den Bruttoertrag der Liegenschaft begrenzt würde. Diese Schranke gilt somit für die Gebäudeunterhaltskosten und die Hypothekarzinsen zusammen (a.A. anscheinend Urs Müller, Rechtsprechung des Bundesgerichts zum Sozialversicherungsrecht, Bundesgesetz über Ergänzungsleistungen zur Alters-, Hinterlassenen- und Invalidenversicherung, 2. Aufl. 2006, N. 277 und 280 zu Art. 3b aELG).
4.2.2 Aus gesetzessystematischer Sicht ist von Bedeutung, dass Art. 10 Abs. 3 lit. b ELG nicht danach differenziert, ob der EL-Ansprecher die in seinem Eigentum stehende Liegenschaft selber bewohnt oder nicht. Aus der Entstehungsgeschichte dieser Norm ergeben sich keine Anhaltspunkte, dass der Gesetzgeber den Begriff "Bruttoertrag der Liegenschaft" je nach Sachverhalt anders verstanden haben wollte.
4.2.3 Hat der EL-Ansprecher sein Haus oder seine Wohnung vermietet, stellen die Mietzinserträge Einkünfte aus unbeweglichem Vermögen nach Art. 11 Abs. 1 lit. b ELG dar, und zwar im Umfang des Bruttoertrages (Jöhl, a.a.O., S. 1781 Rz. 206; vgl. auch Rz. 3433.03 der Wegleitung über die Ergänzungsleistungen zur AHV und IV [WEL; ab 1. April 2011 gültige Fassung], wonach der ortsübliche Mietzins massgebend ist, wenn der vertraglich vereinbarte offensichtlich darunter liegt). Diesen anrechenbaren Einnahmen entspricht somit der den Abzug von Hypothekarzinsen und Gebäudeunterhaltskosten begrenzende Bruttoertrag der Liegenschaft nach Art. 10 Abs. 3 lit. b ELG. Bewohnt der EL-Ansprecher selber seine Liegenschaft, stellt der Mietwert der eigenen Wohnung Einkünfte aus unbeweglichem Vermögen gemäss Art. 11 Abs. 1 lit. b ELG dar. Er entspricht dem im Wohnsitzkanton geltenden steuerlichen Mietwert der Liegenschaft (in der Regel bei Drittvermietung erzielbare Mietzinseinnahmen), vor einer allfälligen prozentualen Kürzung wegen Selbstnutzung (Art. 12 Abs. 1 ELV; BGE 9C_501/2011 / 9C_508/2011 vom 19. Dezember 2011; vgl. auch SVR 2010 EL Nr. 3 S. 7, 9C_376/2009). Aus Gründen der Gleichbehandlung mit Personen, die ihre Liegenschaft vermietet haben und anderswo wohnen, ist der Bruttoertrag der Liegenschaft nach Art. 10 Abs. 3 lit. b ELG diesem Mietwert gleichzusetzen.
4.2.4 Es verletzt daher Art. 10 Abs. 3 lit. b ELG, bei im eigenen Haus oder in der eigenen Wohnung lebenden EL-Ansprechern den Abzug der Hypothekarzinsen und Gebäudeunterhaltskosten auf den allenfalls wegen Selbstnutzung gekürzten steuerlichen (Eigen-)Mietwert zu begrenzen. Vorliegend entspricht somit der Bruttoertrag der Liegenschaft im Sinne dieser Bestimmung dem Mietwert, welcher bei Vermietung an Dritte erzielt wird, resp. dem marktkonformen, erzielbaren Mietwert nach Art. 18 Abs. 2 der kantonalen Verordnung vom 22. November 2000 über die Bewertung der Grundstücke (GstBV; GS VI C/1/4).
4.3 Im Sinne des Vorstehenden wird die Ausgleichskasse die Ergänzungsleistung für den Zeitraum vom 1. Mai 2009 bis 31. Dezember 2011 neu berechnen und über den EL-Anspruch verfügen. Dabei wird die Ausgleichskasse der Rechtsprechung gemäss erwähntem BGE 9C_501/2011 /9C_508/2011 betreffend Art. 12 Abs. 1 ELV Rechnung zu tragen haben. Nicht zu prüfen ist hier, ob die für 2009 und 2010 anrechenbaren Hypothekarzinsen höher sind als die in der EL-Berechnung angegebene Summe von Fr. 10'320.-, wie die Vorinstanz aufgrund der in der Veranlagung 2009 vom 14. Oktober 2010 ausgewiesenen Schuldzinsen von Fr. 11'201.- angenommen hat.
5. Bei diesem Ausgang des Verfahrens hat die Ausgleichskasse die Gerichtskosten zu tragen (<ref-law>). Das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege ist demzufolge gegenstandslos. Sein Begehren um Zusprechung einer Parteientschädigung ist abzuweisen, da die Voraussetzungen hiefür bei Prozessführung in eigener Sache nicht gegeben sind (<ref-law>; Urteil 2C_807/2008 vom 19. Juni 2009 E. 4.3 mit Hinweisen; Seiler/von Werdt/Güngerich, Bundesgerichtsgesetz [BGG], 2007, N. 16 zu <ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen, soweit darauf einzutreten ist. Der Entscheid des Verwaltungsgerichts des Kantons Glarus vom 18. Mai 2011, soweit den Anspruch auf Ergänzungsleistungen ab 1. Mai 2009 betreffend, und der Einspracheentscheid der Kantonalen Ausgleichskasse Glarus vom 2. Februar 2011 werden aufgehoben. Die Sache wird an die Verwaltung zurückgewiesen, damit sie im Sinne der Erwägungen verfahre.
2. Die Gerichtskosten von Fr. 500.- werden der Kantonalen Ausgleichskasse Glarus auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Glarus und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 23. Dezember 2011
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Der Gerichtsschreiber: Fessler