Sachverhalt: A. A.a Im Mai 2007 schlossen B. Y._ (Beschwerdeführerin 2) und ihr Ehemann D. Y._ mit C. Z._ (Beschwerdegegner) einen als "Darlehensvertrag" bezeichneten Vertrag. Der Vertrag war am 8. Mai 2007 vom Ehepaar Y._ und am 11. Mai 2007 vom Beschwerdegegner unterzeichnet worden und lautet wie folgt: "Hiermit bestätigt der Darlehensnehmer C. Z._ [...] von Darlehensgeber D. und B. Y._ ein Darlehen in der Höhe von Fr. 35'000.00 erhalten zu haben. Der Darlehensnehmer verpflichtet sich, das Darlehen in 10 monatlichen Raten von je Fr. 3'500.00 bis zum 5. Mai 2008 zurückzuzahlen. Die erste Rückzahlung erfolgt am 5. August 2007. Eine vorzeitige Rückzahlung ist jederzeit möglich. C. Z._ verpflichtet sich das Darlehen mit 6% zu verzinsen. Der angerechnete Zins ist jeweils mit den monatlichen Raten zu entrichten." A.b Da der Beschwerdegegner keine Ratenzahlungen leistete, setzte das Ehepaar Y._ die ersten sechs Raten der Monate August 2007 bis und mit Januar 2008 in der Höhe von insgesamt Fr. 21'000.-- in Betreibung. Der gegen den zugestellten Zahlungsbefehl erhobene Rechtsvorschlag des Beschwerdegegners wurde durch den Einzelrichter des Kreisgerichts Gaster-See (heute: See-Gaster) beseitigt. Es ist nicht bekannt, ob diese Betreibung fortgesetzt wurde. A.c Da die verbleibenden vier Raten der Monate Februar bis Mai 2008 in der Höhe von insgesamt Fr. 14'000.-- ebenfalls unbezahlt blieben, setzte das Ehepaar Y._ auch diesen Betrag in Betreibung. Erneut erhob der Beschwerdegegner Rechtsvorschlag gegen den Zahlungsbefehl. Während der Hängigkeit des daraufhin eingeleiteten Rechtsöffnungsverfahren verstarb D. Y._. Am 5. November 2008 erklärte der Willensvollstrecker A. X._ (Beschwerdeführer 1), das Verfahren namens der Erbengemeinschaft, bestehend aus der Beschwerdeführerin 2 und E. R._, fortzuführen. Mit Entscheid vom 3. Dezember 2008 beseitigte der Einzelrichter des Kreisgerichts Gaster-See den Rechtsvorschlag des Beschwerdegegners und erteilte den Beschwerdeführern die provisorische Rechtsöffnung. B. B.a Am 6. April 2009 erhob der Beschwerdegegner beim Kreisgericht See-Gaster Klage mit dem Begehren, es sei die Forderung der Beschwerdeführer in der Höhe von Fr. 14'000.--, für welche diese die provisorische Rechtsöffnung erhalten hatten, sowie die im Rechtsöffnungsverfahren entstandene Forderung der Beschwerdeführer in der Höhe von Fr. 1'070.--, bestehend aus den Zahlungsbefehlskosten, den Gerichtskosten und der Parteientschädigung, abzuerkennen. Mit Entscheid vom 23. April 2010 hiess der Einzelrichter des Kreisgerichts See-Gaster die Klage teilweise gut und aberkannte die Forderung der Beschwerdeführer in der Höhe von Fr. 14'000.--. B.b Gegen diesen Entscheid erhoben die Beschwerdeführer mit Eingabe vom 7. Juli 2010 Berufung an das Kantonsgericht St. Gallen mit dem Begehren, es sei das Urteil des Einzelrichters des Kreisgerichts See-Gaster vom 23. April 2010 aufzuheben und die Aberkennungsklage des Beschwerdegegners abzuweisen. Mit Entscheid vom 23. Dezember 2010 wies das Kantonsgericht St. Gallen die Berufung ab und bestätigte den erstinstanzlichen Entscheid. C. Mit subsidiärer Verfassungsbeschwerde vom 31. Januar 2011 beantragen die Beschwerdeführer dem Bundesgericht, es sei das Urteil des Kantonsgerichts St. Gallen vom 23. Dezember 2010 aufzuheben und die Aberkennungsklage des Beschwerdegegners abzuweisen. Der Beschwerdegegner schliesst in seiner Vernehmlassung auf Abweisung der Beschwerde, soweit darauf einzutreten ist. Gleichzeitig beantragt er die Gewährung der unentgeltlichen Rechtspflege samt Verbeiständung für das bundesgerichtliche Verfahren. Die Vorinstanz hat auf eine Vernehmlassung verzichtet. D. Mit Präsidialverfügung vom 1. März 2011 wurde das Gesuch der Beschwerdeführer um Gewährung der aufschiebenden Wirkung abgewiesen.