Sachverhalt:
A. Mit Vertrag vom 27. Mai/12. Juni 1999 mietete B._ (Beschwerdegegner) von der Rechtsvorgängerin von A._ (Beschwerdeführer) eine 2 1/2-Zimmerwohnung in C._ zu einem Mietzins von Fr. 481.-- netto. Für Heiz-/Warmwasserkosten waren monatliche Akonto-Zahlungen von Fr. 60.-- und für Betriebskosten solche von Fr. 109.-- vereinbart. Der schriftliche Mietvertrag enthält in der Rubrik unmittelbar vor der Unterschrift folgende Regelung:
"Mehrere Mieter haften für die Pflichten aus dem Mietvertrag solidarisch. Für die Miete gelten die Bestimmungen dieses Vertrages. Änderungen oder Ergänzungen sind durch schriftliche Nachträge zu diesem Mietvertrag zu vereinbaren. Integrierenden Bestandteil dieses Mietvertrages bilden ferner folgende, dem Mieter ausgehändigte und von den Parteien ausdrücklich anerkannte Beilagen: Allg. Bedingungen Ausg. 1999; Hausordnung Ausg. 1/99; Vereinbarung Sicherheitsleistung."
Beim Abschluss des Mietvertrages wurden dem Beschwerdegegner die Allgemeinen Bedingungen zum Mietvertrag für Wohnräume (AVB), Ausgabe Januar 1999 ausgehändigt. Diese sehen in Ziffer 16 betreffend die Nebenkosten eine Regelung vor, welche in lit. d unter dem Titel "Übrige Betriebskosten" bestimmt:
"Sind im Mietvertrag Betriebskosten-Akontozahlungen vereinbart, sind - sofern nicht ausdrücklich etwas anderes vereinbart wurde - die nachstehenden Positionen, soweit sie für die entsprechende Liegenschaft anfallen, nicht im Nettomietzins inbegriffen und bilden Gegenstand einer separaten Betriebskostenabrechnung:
- Hauswartung
- Allgemeinstrom
- Wasserverbrauch, Wasserbehandlung, Abwasser, Kanalreinigung
- Gasverbrauch (wenn keine separaten Zähler vorhanden sind)
- Kehrichtabfuhr, Containerreinigung
- Kabelfernseh- und -Radiogebühren inkl. Urheberrechtsgebühr
- Kosten für Bewachung und Brandschutz
- Pflege von Garten, Umgebung und Pflanzentrögen
- Serviceabonnemente für Lift, Maschinen, Geräte und Anlagen
- 3 % Verwaltungskosten zuzüglich MWST."
Für die Perioden 1999/2000, 2000/2001 und 2001/2002 beglich der Beschwerdegegner die Nebenkostenabrechnungen, welche Betriebskosten enthielten, anstandslos. Seither nimmt er den Standpunkt ein, die Pflicht des Mieters zur Übernahme der Betriebskosten, wie sie in den AVB aufgelistet werden, sei nicht gültig vereinbart worden. Er müsse daher zusätzlich zum Mietzins nur noch Warmwasser und Strom bezahlen.
B. Mit Klage vom 24. April 2006 beantragte der Beschwerdeführer dem Gerichtspräsidenten des Gerichtskreises III Aarberg-Büren-Erlach, es sei festzustellen, dass die Parteien für die vom Beschwerdegegner gemietete 2 1/2-Zimmerwohnung, abgesehen von Heiz- und Warmwasserkosten gültig Betriebskosten von Fr. 109.-- akonto pro Monat vereinbart haben und demzufolge die monatlichen Nebenkosten Fr. 60.-- akonto für Heiz- und Warmwasserkosten und Fr. 109.-- akonto für Betriebskosten betragen. Der Gerichtspräsident wies die Klage am 20. April 2007 ab. Die vom Beschwerdeführer erhobene Appellation hat der Appellationshof, 2. Zivilkammer, des Obergerichts des Kantons Bern am 21. August 2007 abgewiesen.
C. Der Beschwerdeführer erhebt Beschwerde in Zivilsachen, mit der er die Aufhebung des Urteils des Obergerichts vom 21. August 2007 und die Gutheissung der im kantonalen Verfahren gestellten Feststellungsbegehren verlangt.
Der Beschwerdegegner schliesst auf Abweisung der Beschwerde und beantragt für das Verfahren vor Bundesgericht die Gewährung der unentgeltlichen Rechtspflege unter Beiordnung von Rechtsanwältin Clivia Wullimann als unentgeltliche Rechtsbeiständin. Das Obergericht verzichtet auf eine Vernehmlassung.

Erwägungen:
1. Die Vorinstanz beziffert den Streitwert auf Fr. 26'160.-- (Fr. 109 x 12 x 20). Damit ist in der vorliegenden mietrechtlichen Streitigkeit der für Beschwerde in Zivilsachen erforderliche Streitwert von Fr. 15'000.-- gegeben (<ref-law>). Auf die form- und fristgerecht eingereichte Beschwerde ist daher einzutreten.
2. 2.1 Gemäss <ref-law> hat der Mieter die Nebenkosten nur zu bezahlen, wenn er dies mit dem Vermieter besonders vereinbart hat. Diese Bestimmung bringt zum Ausdruck, dass die Kosten grundsätzlich vom Vermieter zu tragen sind. Der Mieter hat nur für diejenigen Nebenkosten aufzukommen, die im Vertrag eindeutig und genau bezeichnet werden (<ref-ruling> E. 2a/aa S. 462; Urteil 4C.24/2002 vom 29. April 2002 E. 2.1, publ. in mp 2002 S. 164, je mit Hinweisen). Der Hinweis auf einen standardisierten Vertragszusatz wie die "Allgemeinen Bedingungen zum Mietvertrag für Wohnräume" genügt nicht. Dem Mieter kann nicht zugemutet werden, sich erst aufgrund einer sorgfältigen Konsultation der Vertragsbedingungen ein Bild zu machen, welche Nebenkosten von ihm zu tragen sind. Vielmehr hat er Anspruch darauf, dass ihm nur diejenigen Nebenkosten überbunden werden, die im Vertrag eindeutig und genau bezeichnet werden. Nur wenn die allgemeinen Vertragsbedingungen eine Konkretisierung der im Mietvertrag bereits zu Lasten des Mieters ausgeschiedenen Nebenkosten bedeuten, kann daraus unter Umständen auf deren Übernahme durch den Mieter geschlossen werden (Urteil 4C.250/2006 vom 3. Oktober 2006, E. 1.1, publ. in mp 2006 S. 274; Urteil 4P.323/2006 vom 21. März 2007 E. 2.1).
2.2 Die Vorinstanz gab die zu <ref-law> ergangene Rechtsprechung wieder und prüfte den Mietvertrag der Parteien in diesem Lichte. Sie erwog, auf der ersten Seite des Mietvertrages, wo unter Ziffer 2 der Betrag der monatlichen Akontozahlung für die Betriebskosten festgelegt würde, finde sich kein Verweis auf die AVB. Ein solcher Verweis stehe erst auf der nächsten Seite, ohne dass dabei speziell auf die Betriebskosten Bezug genommen würde. Bei den AVB handle es sich um ein zehnseitiges Werk mit Inhaltsverzeichnis, welches sich ab Seite 7 auf eineinhalb Seiten mit den Nebenkosten auseinandersetze, wo sich die Bestimmungen zu den Betriebskosten unter lit. d fänden. Die Aufzählung der Positionen sei grundsätzlich abschliessend, zeige jedoch dem Mieter nicht auf, welche davon tatsächlich auf ihn zuträfen und welche nicht. Vor Antritt des Mietobjekts sei einem Mieter kaum möglich, sich ohne Rückfragen beim Vermieter ein Bild davon zu machen, welche der Betriebskostenpositionen bei ihm kostenwirksam würden. Unter diesen Umständen könne nicht angenommen werden, der Beschwerdegegner habe im Zeitpunkt des Vertragsschlusses genau gewusst, welche Betriebskosten er zu übernehmen habe. Einen entsprechenden Beweis habe der Beschwerdeführer nicht erbracht, und ein solcher liege auch nicht in der vorbehaltlosen Bezahlung der Abrechnungen der ersten drei Jahre. Der Beschwerdegegner verhalte sich auch nicht rechtsmissbräuchlich, wenn er erst danach die betreffende Zahlungspflicht bestreite.
2.3 Der Beschwerdeführer hält dafür, entgegen der Meinung der Vorinstanz sei die von den Parteien getroffene Nebenkostenabrede klar, übersichtlich und eindeutig. Auch die allgemeinen Vertragsbedingungen seien übersichtlich dargestellt und mit einem Inhaltsverzeichnis versehen, in welchem sich jeder Leser sofort zurecht finde und welches auf das Thema "Nebenkosten" in Ziffer 16 auf den Seiten 7-9 hinweise. Ziffer 16 sei unter den Buchstaben a bis d in die Untertitel Akontozahlung, Abrechnung; Pauschalen; Heizungs- und Warmwasserkosten sowie in "übrige Betriebskosten" gegliedert, womit die Einzelheiten der Nebenkosten klar und deutlich formuliert seien.
2.4 Mit diesen Vorbringen vermag der Beschwerdeführer nicht gegen die Rechtsauffassung der Vorinstanz aufzukommen. Zunächst ist festzuhalten, dass der Empfänger des vorformulierten Vertrages, selbst wenn er entsprechend dem Hinweis auf dessen Seite 2 die Allgemeinen Bedingungen zum Mietvertrag für Wohnräume konsultiert, nicht auf den Ausdruck "Betriebskosten" stösst. Um zu begreifen, was unter "Betriebskosten akonto" zu verstehen ist, hilft ihm das Inhaltsverzeichnis also nicht weiter. Dass er die Betriebskosten unter der Rubrik "Nebenkosten" (Ziffer 16 AVB) zu suchen hat, scheint nicht ohne Weiteres auf. Hinzu kommt, dass die genannte Ziffer 16 auf Seite 7 unten beginnt und zunächst definiert, was "Nebenkosten" sind, nämlich "das Entgelt für die Aufwendungen der Vermieterin oder eines Dritten für Leistungen, die mit dem Gebrauch der Mietsache zusammenhängen und nicht im Nettomietzins enthalten sind." Auf der nächsten Seite wird erläutert, dass Nebenkosten als Pauschal- oder Akontozahlungen vereinbart werden können und durch den Mieter direkt zu bezahlen sind, wenn sie ihm von einem Werk oder Amt (inkl. Kabelnetz) in Rechnung gestellt und im Vertrag nicht aufgeführt werden. Es folgt ein längerer Passus über Akontozahlungen und deren Abrechnung, die hier nicht interessiert, sowie über Pauschalen. Erst nach einer Definition der Heizungs- und Warmwasserkosten folgt auf Seite 8 unten die einschlägige Regelung über die Betriebskosten mit der erwähnten Aufzählung auf Seite 9. Damit ist belegt, dass es bereits einiger Ermittlungsschritte bedarf, damit der Mieter überhaupt erst zur Aufzählung der Betriebskosten in den AVB vorstösst. Dabei wird vorausgesetzt, dass er auf den Gedanken gekommen ist, dass er die AVB konsultieren muss, um zu erfahren, was es mit dem Betriebskosten-Akonto auf sich hat. Alsdann muss er diese vollständig bis auf Seite 8 durchlesen, um erstmals auf Seite 8 zuunterst dem Begriff "Betriebskosten" zu begegnen. Eine derartige sorgfältige Konsultation der Vertragsbedingungen ist aber dem Mieter nach der vorstehend angeführten Rechtsprechung des Bundesgerichts nicht zuzumuten.
2.5 Nichts anderes gilt entgegen der Auffassung des Beschwerdeführers mit Blick auf die Regelung in Art. 16 lit. d AVB, dass im Mietvertrag vereinbarte Betriebskosten-Akontozahlungen, sofern nicht ausdrücklich etwas anderes vereinbart worden sei, die nachstehenden Positionen seien, soweit sie für die entsprechende Liegenschaft anfallen würden. Mit dieser doppelt bedingten Regelung werden individuelle und allgemein für sämtliche Mieter gültige Abreden auf kaum mehr durchschaubare Weise vermengt. Der entscheidende Punkt, welche der nachstehenden Positionen für den Vertragspartner anfallen, bleibt unklar. Mit dem Verweis auf die entsprechende Liegenschaft erfolgt gewissermassen eine Rückverweisung auf die individuelle Abrede, die aber ihrerseits fehlt. So war gemäss der zutreffenden Bemerkung der Vorinstanz mangels einer vertraglichen Präzisierung für den Beschwerdegegner namentlich nicht erkennbar, ob für die Liegenschaft, in der sich die gemietete Wohnung befindet, Kosten für Bewachung und Brandschutz entstehen. Unter diesen Umständen stellt die Einschränkung, "soweit sie [die Positionen] für die entsprechende Liegenschaft anfallen" keine Konkretisierung der Betriebskosten in den AVB dar, die nach der Rechtsprechung des Bundesgerichts in gewissen Fällen zulässig sein kann. Der Einwand, dass für den Mieter kein Nachteil entsteht, wenn er nicht sämtliche aufgelisteten Betriebskostenpositionen zu übernehmen hat, verfängt nicht, weil ihm nicht vermittelt wird, welche Kosten ihm tatsächlich überbürdet werden. Dem Beschwerdeführer vermag auch sein Argument, gewisse Kosten könnten ja in Zukunft anfallen, nicht zu helfen, da damit im Abschlusszeitpunkt keine klare Vereinbarung gegeben ist. Zusammenfassend ergibt sich, dass der Beschwerdegegner in diesem Zeitpunkt nicht ohne besondere Anstrengungen erkennen konnte, welche der an sich von der Vermieterschaft zu tragenden Nebenkosten er zu übernehmen hat. Demnach ist eine Verletzung von <ref-law> offensichtlich zu verneinen.
3. Nach dem Gesagten erweist sich die Beschwerde insgesamt als unbegründet und ist abzuweisen. Damit wird der Beschwerdeführer als unterliegende Partei kosten- und entschädigungspflichtig (Art. 66 Abs. 1 und 68 Abs. 2 BGG). Das vom Beschwerdegegner gestellte Gesuch um unentgeltliche Rechtspflege behält unter diesen Umständen nur Bedeutung für den Fall, dass sich die Parteientschädigung als uneinbringlich erweisen sollte. Da die Bedürftigkeit des Beschwerdegegners ausgewiesen ist und er im Prozess obsiegt, wird ihm die unentgeltliche Rechtspflege in dem Sinne gewährt, dass ihm die vom Beschwerdeführer geschuldete Parteientschädigung bei Uneinbringlichkeit von der Gerichtskasse zu ersetzen ist.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen. Bei Uneinbringlichkeit wird ihm dieser Betrag von der Bundesgerichtskasse ausgerichtet.
4. Dieses Urteil wird den Parteien und dem Obergericht des Kantons Bern, Appellationshof, 2. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 6. Dezember 2007
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Corboz Gelzer