Erwägungen:
1. X._ erhob am 29. September 2010 Beschwerde an das Verwaltungsgericht des Kantons Bern gegen den Entscheid der Steuerrekurskommission des Kantons Bern vom 31. August 2010 betreffend Erlass der Kantons- und Gemeindesteuern 2007 (Ablehnung des Erlassgesuchs durch die Steuerverwaltung der Einwohnergemeinde Bern). Mit Urteil der Einzelrichterin vom 29. April 2011 stellte das Verwaltungsgericht des Kantons Bern fest, dass eine "2. Erlassverfügung" der Steuerverwaltung der Einwohnergemeinde Bern vom 3. November 2010 nichtig sei, da sie während der Hängigkeit des Rechtsmittelverfahrens und damit bei offensichtlich fehlender Zuständigkeit ergangen sei; im Übrigen wies das Verwaltungsgericht die Beschwerde ab.
Mit Eingabe vom 19. Mai 2011 erklärt X._ dem Bundesgericht, er wolle zu seiner "jetzigen Situation Stellung nehmen." Unter Hinweis auf verschiedene Kopien zu seiner "Krankengeschichte und Abrechnungen und Abzahlung 2009" erklärt er, es sei ihm nicht möglich, weitere Steuern abzuzahlen.
2. Das angefochtene Urteil hat den Erlass von Steuern zum Gegenstand. Gemäss <ref-law> ist die Beschwerde in öffentlich-rechtlichen Angelegenheiten unzulässig gegen Entscheide über die Stundung und den Erlass von Abgaben. Damit steht als bundesrechtliches Rechtsmittel vorliegend nur die subsidiäre Verfassungsbeschwerde zur Verfügung (<ref-law>), worauf das Verwaltungsgericht in der Rechtsmittelbelehrung hingewiesen hat. Mit der Verfassungsbeschwerde kann bloss die Verletzung von verfassungsmässigen Rechten gerügt werden (<ref-law>). Entsprechende Rügen bedürfen spezieller Geltendmachung und Begründung (<ref-law>). Der Beschwerdeführer nennt kein verfassungsmässiges Recht, das durch das angefochtene Urteil verletzt worden sein könnte. Die Beschwerde enthält mithin keine hinreichende Begründung (<ref-law>), und es ist darauf mit Entscheid des Einzelrichters im vereinfachten Verfahren gemäss <ref-law> nicht einzutreten.
Ergänzend bleibt festzuhalten, dass der Beschwerde auch im Eintretensfall kein Erfolg beschieden wäre; es ist namentlich im Lichte von E. 5 des angefochtenen Urteils nicht ersichtlich, inwiefern das Verwaltungsgericht gegen dem Beschwerdeführer zustehende verfassungsmässige Rechte verstossen haben könnte.
Entsprechend dem Verfahrensausgang wären die bundesgerichtlichen Kosten dem Beschwerdeführer aufzuerlegen (Art. 66 Abs. 1 erster Satz BGG); indessen rechtfertigen es die Umstände, ausnahmsweise auf die Erhebung von Kosten zu verzichten (Art. 66 Abs. 1 zweiter Satz BGG).

Demnach erkennt der Präsident:
1. Auf die Beschwerde wird nicht eingetreten.
2. Es werden keine Kosten erhoben.
3. Dieses Urteil wird den Verfahrensbeteiligten und dem Verwaltungsgericht des Kantons Bern schriftlich mitgeteilt.
Lausanne, 27. Mai 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Feller