Sachverhalt: A. Die Beschwerdeführer bilden die Erbengemeinschaft des am 7. Februar 1992 verstorbenen A._. Dieser schloss am 24. Dezember 1980 mit L._ (Beschwerdegegner) einen öffentlich beurkundeten Baurechtsvertrag ab, mit welchem dem Beschwerdegegner ein selbständiges und dauerndes Baurecht an der Liegenschaft Parzelle Nr. X._, Grundbuch Uttwil, eingeräumt wurde. Der Beschwerdegegner hatte gemäss dem Vertrag das Recht, auf dem belasteten Grundstück ein Wohnhaus zu errichten und den nicht überbauten Teil des Grundstücks frei zu benützen. Als Dauer des Baurechts vereinbarten die Parteien 100 Jahre mit einem Fristenlauf vom 1. Januar 1981 bis 31. Dezember 2080. Hinsichtlich des Baurechtszinses vereinbarten die Parteien Folgendes: "Der Baurechtsberechtigte bezahlt dem jeweiligen Grundeigentümer einen jährlichen Baurechtszins von CHF 1'846.20, d.h. CHF 1.70 pro m2, zahlbar jährlich im Voraus auf den 1. Januar. (...). Jährlich wird ein Preisvergleich nach Index-Punkten vorgenommen. Der Baurechtszins von CHF 1.70 pro m2 entspricht dem Index für Konsumentenpreise am 1. Oktober 1980 = 109.5 Punkte (September 1977 = 100 Punkte). Für die Berechnung des jeweiligen neuen Baurechtszinses gilt jeweils der Indexstand am 1. Oktober vor der Fälligkeit." Im Jahr 2008 betrug der solchermassen ermittelte Baurechtszins für die massgebliche Grundstücksfläche von 1'086 m2 jährlich CHF 3'303.15. B. B.a Am 26. Juni 2008 erhoben die Beschwerdeführer beim Bezirksgericht Arbon Klage mit dem Begehren, es sei der Baurechtsvertrag zwischen den Parteien betreffend die Parzelle Nr. X._ aufzuheben, eventuell sei der Baurechtszins auf der Basis des derzeitigen Gesamtverkehrswerts des Grundstücks von Fr. 377'000.-- anzupassen und die Anpassung im Grundbuch anzumerken. Mit Urteil vom 3. November 2008 wies das Bezirksgericht Arbon die Klage mit der Begründung ab, dass die Parteien im Zeitpunkt des Vertragsabschlusses mit der Bodenpreisentwicklung der letzten Jahre vernünftigerweise hätten rechnen können. Der Vertrag könne mithin nicht gestützt auf die Grundsätze der clausula rebus sic stantibus angepasst werden. B.b Die gegen das Urteil des Bezirksgerichts erhobene Berufung wies das Obergericht des Kantons Thurgau mit Urteil vom 15. Oktober 2009 ab. C. Mit Beschwerde in Zivilsachen beantragen die Beschwerdeführer dem Bundesgericht, es seien das erstinstanzliche Urteil des Bezirksgerichts Arbon und das Berufungsurteil des Obergerichts des Kantons Thurgau aufzuheben und es sei die Klage im Sinne der klägerischen Rechtsbegehren vor der ersten Instanz gutzuheissen; eventuell sei das angefochtene Berufungsurteil aufzuheben und die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Der Beschwerdegegner schliesst in seiner Vernehmlassung auf Abweisung der Beschwerde, soweit darauf einzutreten ist. Die Vorinstanz beantragt, die Beschwerde sei abzuweisen.