Sachverhalt: A. Mit Entscheid vom 16. November 2010 erteilte der Einzelrichter des Kreisgerichts Werdenberg-Sarganserland Y._ in der von diesem gegen X._ (Beschwerdeführer) angehobenen Betreibung Nr. xxx des Betreibungsamtes Buchs auf Verwertung eines Grundpfandes für Fr. 127'274.30 nebst Zins und Betreibungskosten provisorische Rechtsöffnung. Eine diesbezügliche Aberkennungsklage des Beschwerdeführers, mit der er die Feststellung des Nichtbestands der Forderung und des Grundpfandrechts verlangte, hiess das Kreisgericht Werdenberg-Sarganserland mit Entscheid vom 20. Oktober 2011 gut. Dagegen gelangte Y._ mit Berufung an das Kantonsgericht St. Gallen und beantragte, den Entscheid des Kreisgerichts aufzuheben und die Klage abzuweisen. Am 15. Dezember 2011 stellte der Beschwerdeführer das Gesuch, es sei ihm im Berufungsverfahren die unentgeltliche Rechtspflege zu gewähren. Die Präsidentin des Kantonsgerichts wies dieses Gesuch mit Entscheid vom 1. Februar 2012 ab, weil sie das Rechtsbegehren des Beschwerdeführers als aussichtslos betrachtete. Sie kam zum Schluss, auf die Aberkennungsklage könne voraussichtlich wegen Versäumung der Klagefrist nach Art. 83 Abs. 2 SchKG nicht eingetreten werden und die Klage könne voraussichtlich auch nicht als negative Feststellungsklage nach Art. 85a SchKG entgegen genommen werden. B. Der Beschwerdeführer erhob gegen diesen Entscheid am 7. März 2012 Beschwerde in Zivilsachen mit den Anträgen, diesen aufzuheben und dem Beschwerdeführer für das hängige Berufungsverfahren vor Kantonsgericht die unentgeltliche Rechtspflege zu bewilligen sowie ihm Rechtsanwalt Reto Fischer als unentgeltlichen Rechtsbeistand beizuordnen. Eventuell sei die Sache zur Neubeurteilung an die Vorinstanz zurückzuweisen. Gleichzeitig ersuchte er um Gewährung der unentgeltlichen Rechtspflege für das bundesgerichtliche Verfahren unter Beigabe eines unentgeltlichen Rechtsbeistands. Mit Verfügung vom 21. Juni 2012 wurde dem Beschwerdeführer für das bundesgerichtliche Verfahren die unentgeltliche Rechtspflege bewilligt und ihm Rechtsanwalt Reto Fischer als Rechtsbeistand beigegeben. Die Präsidentin des Kantonsgerichts verzichtete auf eine Vernehmlassung zur Beschwerde.