Sachverhalt: A. Mit Vertrag vom 27. Mai/12. Juni 1999 mietete B._ (Beschwerdegegner) von der Rechtsvorgängerin von A._ (Beschwerdeführer) eine 2 1/2-Zimmerwohnung in C._ zu einem Mietzins von Fr. 481.-- netto. Für Heiz-/Warmwasserkosten waren monatliche Akonto-Zahlungen von Fr. 60.-- und für Betriebskosten solche von Fr. 109.-- vereinbart. Der schriftliche Mietvertrag enthält in der Rubrik unmittelbar vor der Unterschrift folgende Regelung: "Mehrere Mieter haften für die Pflichten aus dem Mietvertrag solidarisch. Für die Miete gelten die Bestimmungen dieses Vertrages. Änderungen oder Ergänzungen sind durch schriftliche Nachträge zu diesem Mietvertrag zu vereinbaren. Integrierenden Bestandteil dieses Mietvertrages bilden ferner folgende, dem Mieter ausgehändigte und von den Parteien ausdrücklich anerkannte Beilagen: Allg. Bedingungen Ausg. 1999; Hausordnung Ausg. 1/99; Vereinbarung Sicherheitsleistung." Beim Abschluss des Mietvertrages wurden dem Beschwerdegegner die Allgemeinen Bedingungen zum Mietvertrag für Wohnräume (AVB), Ausgabe Januar 1999 ausgehändigt. Diese sehen in Ziffer 16 betreffend die Nebenkosten eine Regelung vor, welche in lit. d unter dem Titel "Übrige Betriebskosten" bestimmt: "Sind im Mietvertrag Betriebskosten-Akontozahlungen vereinbart, sind - sofern nicht ausdrücklich etwas anderes vereinbart wurde - die nachstehenden Positionen, soweit sie für die entsprechende Liegenschaft anfallen, nicht im Nettomietzins inbegriffen und bilden Gegenstand einer separaten Betriebskostenabrechnung: - Hauswartung - Allgemeinstrom - Wasserverbrauch, Wasserbehandlung, Abwasser, Kanalreinigung - Gasverbrauch (wenn keine separaten Zähler vorhanden sind) - Kehrichtabfuhr, Containerreinigung - Kabelfernseh- und -Radiogebühren inkl. Urheberrechtsgebühr - Kosten für Bewachung und Brandschutz - Pflege von Garten, Umgebung und Pflanzentrögen - Serviceabonnemente für Lift, Maschinen, Geräte und Anlagen - 3 % Verwaltungskosten zuzüglich MWST." Für die Perioden 1999/2000, 2000/2001 und 2001/2002 beglich der Beschwerdegegner die Nebenkostenabrechnungen, welche Betriebskosten enthielten, anstandslos. Seither nimmt er den Standpunkt ein, die Pflicht des Mieters zur Übernahme der Betriebskosten, wie sie in den AVB aufgelistet werden, sei nicht gültig vereinbart worden. Er müsse daher zusätzlich zum Mietzins nur noch Warmwasser und Strom bezahlen. B. Mit Klage vom 24. April 2006 beantragte der Beschwerdeführer dem Gerichtspräsidenten des Gerichtskreises III Aarberg-Büren-Erlach, es sei festzustellen, dass die Parteien für die vom Beschwerdegegner gemietete 2 1/2-Zimmerwohnung, abgesehen von Heiz- und Warmwasserkosten gültig Betriebskosten von Fr. 109.-- akonto pro Monat vereinbart haben und demzufolge die monatlichen Nebenkosten Fr. 60.-- akonto für Heiz- und Warmwasserkosten und Fr. 109.-- akonto für Betriebskosten betragen. Der Gerichtspräsident wies die Klage am 20. April 2007 ab. Die vom Beschwerdeführer erhobene Appellation hat der Appellationshof, 2. Zivilkammer, des Obergerichts des Kantons Bern am 21. August 2007 abgewiesen. C. Der Beschwerdeführer erhebt Beschwerde in Zivilsachen, mit der er die Aufhebung des Urteils des Obergerichts vom 21. August 2007 und die Gutheissung der im kantonalen Verfahren gestellten Feststellungsbegehren verlangt. Der Beschwerdegegner schliesst auf Abweisung der Beschwerde und beantragt für das Verfahren vor Bundesgericht die Gewährung der unentgeltlichen Rechtspflege unter Beiordnung von Rechtsanwältin Clivia Wullimann als unentgeltliche Rechtsbeiständin. Das Obergericht verzichtet auf eine Vernehmlassung.