Sachverhalt:
A. Mit Urteil vom 25. Juni 2010 verpflichtete der Bezirksgerichtsausschuss Plessur in teilweiser Gutheissung einer Forderungsklage Y._ (Beschwerdegegner), X._ (Beschwerdeführer) Fr. 6'783.25 nebst 5 % Zins seit dem 6. November 2004 zu bezahlen. Grundlage der Klage war eine Schuldanerkennung des Beschwerdegegners über Fr. 8'000.-- nebst Zins, gestützt auf welche der Beschwerdeführer zwei Betreibungen eingeleitet hatte. Die Versuche, provisorische Rechtsöffnung zu erlangen, scheiterten an Gegenforderungen, welche der Beschwerdegegner jeweils zur Verrechnung stellte. Die kantonale Beschwerde, in welcher der Beschwerdeführer den Entscheid des Bezirksgerichts mit Bezug auf die zur Verrechnung gestellten Gegenforderungen sowie den Zinssatz der anerkannten Forderung kritisierte, wies das Kantonsgericht von Graubünden mit Urteil vom 11. Januar 2011 ab.
B. Vor Bundesgericht thematisiert der Beschwerdeführer nur noch die Verzinsung der anerkannten Forderung, für welche die kantonalen Instanzen für das erste Jahr 10 % gemäss der Schuldanerkennung angenommen hatten und danach den gewöhnlichen Verzugszins von 5 %. Er beantragt mit subsidiärer Verfassungsbeschwerde im Wesentlichen, den Beschwerdegegner zu verpflichten, ihm Fr. 8'000.-- zuzüglich 10 % Zins seit 25. Oktober 1994, abzüglich der zwischenzeitlich geleisteten Zinsen von Fr. 1'800.-- sowie der verrechnungsweise geltend gemachten Parkplatzmiete von Fr. 3'895.-- und der Abschleppkosten von Fr. 250.-- zu bezahlen. Der Beschwerdegegner und das Kantonsgericht schliessen auf Abweisung der Beschwerde, soweit darauf einzutreten sei.

Erwägungen:
1. Der Beschwerdegegner ist der Auffassung, das Rechtsbegehren sei ungenügend beziffert. Es sei nicht Sache des Gerichts, den geforderten Betrag auszurechnen. Aus dem Antrag wird indessen klar, in welchem Punkt und in welchem Umfang der Bescherdeführer den angefochtenen Entscheid zu seinen Gunsten abgeändert haben will. Damit genügt der Antrag den bundesgerichtlichen Bestimmtheitsanforderungen (<ref-ruling> E. 2 S. 236 f.).
2. Der Beschwerdeführer behauptet, die Parteien hätten vereinbart, die anerkannte Schuld von Fr. 8'000.-- sei für die gesamte Dauer mit 10 % zu verzinsen und nicht nur für das erste Jahr, wie die kantonalen Instanzen angenommen hatten. Er stützt sich für seine Argumentation einerseits auf die vom Beschwerdegegner unterzeichnete Schuldanerkennung und andererseits auf ein mit der Schuldanerkennung im Wesentlichen übereinstimmendes nicht unterzeichnetes Schriftstück, auf dem unten handschriftlich die Zinsbetreffnisse nicht nur für das erste Jahr, sondern auch für die Folgejahre mit Fr. 800.-- pro Jahr aufgeführt werden, sowie auf einen der Rechtsöffnungsentscheide, gemäss welchem der Beschwerdegegner im Rechtsöffnungsverfahren anerkannt habe, die handschriftlichen Zinsbetreffnisse angefügt zu haben. Vor diesem Hintergrund erachtet der Beschwerdeführer die Annahme der kantonalen Instanzen, die Parteien hätten nur für das erste Jahr einen Zins von 10 % vereinbart, als willkürlich.
2.1 Willkürlich ist ein Entscheid nach konstanter Rechtsprechung nicht schon dann, wenn eine andere Lösung ebenfalls vertretbar erscheint oder gar vorzuziehen wäre. Das Bundesgericht hebt einen kantonalen Entscheid wegen Willkür vielmehr nur auf, wenn er nicht nur in der Begründung, sondern auch im Ergebnis offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft (<ref-ruling> E. 4.1 S. 133; <ref-ruling> E. 2.1 S. 9; je mit Hinweisen).
2.2 Bei der Schuldanerkennung (wie auch bei dem nicht unterzeichneten Schriftstück) handelt es sich um vorgedruckte Formulare, die handschriftlich ergänzt wurden. Die Schuldanerkennung ist oben auf den 25. 10. 94 datiert, gefolgt von Namen und Adressen der Parteien, wobei der Schuldner bestätigt, dem Gläubiger
"den Betrag von:
Franken Fr. 8'000.--
Inklusive Verzugszins 10 % seit 25. 10. 94 Fr. 800.--
Plus Inkassospesen Fr. --------
_
Total Fr. 8'800.--
zu schulden. ... ".
Es folgen die Anerkennung dieser Schuld samt Zahlungsversprechen und die Zahlungsmodalitäten. Der Schuldner verpflichtete sich insbesondere, die Schuld bis am "5. 1. 95" vollumfänglich zu bezahlen. Insoweit stimmt die Schuldanerkennung mit Ausnahme von für den Streitfall nicht wesentlichen Abweichungen mit dem nicht unterzeichneten Schriftstück überein, welches oben zusätzlich den Stempel "Eingegangen 25. Okt. 1994" trägt. Die Schuldanerkennung ist unten rechts unter der Rubrik "Unterschrift der Schuldners:" vom Beschwerdegegner unterzeichnet, während unten links unter "Datum:" der "25. 10. 95" eingesetzt wurde. Im nicht unterzeichneten Schriftstück sind die Felder "Unterschrift des Schuldners:" und "Datum:" dagegen leer. Darunter wird handschriftlich als Grundschuld der Kredit von Fr. 8'000.-- vom 25.10.94 angegeben und danach der Zins und die Zinsperioden für die ersten 6 Jahre aufgelistet, wobei die Höhe des Zinses jeweils Fr. 800.-- beträgt.
2.3 Der Beschwerdeführer ist der Auffassung, bei der Datierung der Schuldanerkennung neben der Unterschrift auf den 25. 10. 95 müsse es sich um ein Missverständnis handeln, was sich aus dem Eingangsstempel des nicht unterzeichneten Schriftstücks sowie der Terminierung der Rückzahlungsfrist ergebe, wonach die Schuld bis zum 5. 1. 95 vollumfänglich zu bezahlen sei. Wäre die Schuldanerkennung tatsächlich erst am 25. Oktober 1995 unterzeichnet worden, wäre ein Rückzahlungsdatum aus der Vergangenheit vereinbart worden, was sinnwidrig sei und im Gegensatz zum eingangs erwähnten Datum der Schuldanerkennung stehe. Diese sei offensichtlich bereits am 25. Oktober 1994 unterzeichnet worden. Davon ausgehend sei die Zinsregelung "10% seit 25. 10. 94" klar und unmissverständlich unbefristet und gelte darum über das irrtümlich gesetzte Datum vom 25. 10. 95 hinaus.
2.4 In der Schuldanerkennung wird die Zinshöhe mit 10 % angegeben und für die Zinsen ein Betrag von Fr. 800.--, entsprechend einem Jahreszins, zum Totalbetrag hinzugerechnet, welchen sich der Schuldner zurückzuzahlen verpflichtet. Als Rückzahlungstermin wird der 1. 5. 95 genannt. Da die Zinsen ab dem 25. 10. 94 laufen, war im Rückzahlungszeitpunkt indessen noch nicht der volle Jahreszins geschuldet. Unter dieser Voraussetzung wäre nicht nachvollziehbar, weshalb Fr. 800.-- zum Schuldentotal gerechnet werden, statt dem wesentlich tieferen Zinsbetreffnis bis zum Rückzahlungstermin. Wären dagegen am angegeben Rückzahlungstermin tatsächlich Fr. 800.-- als Zins geschuldet, ergäbe dies einen Zinsfuss von weit mehr als 10 % und wäre nicht nachvollziehbar, weshalb die Schuldanerkennung diesen Zinsfuss nennt. Wurde die Schuldanerkennung aber tatsächlich erst am 25. Oktober 1995 unterzeichnet, ergibt die Aufnahme der Fr. 800.-- in das Schuldentotal einen Sinn, da in diesem Zeitpunkt bei einem Zinsfuss von 10 % exakt dieser Betrag geschuldet war. Entgegen der Auffassung des Beschwerdeführers ist somit durchaus nicht offensichtlich, dass die Datierung der Unterschrift auf einem Versehen beruht. Die Annahme des Beschwerdeführers beseitigt zwar die Inkonsistenz zwischen dem Unterzeichnungsdatum und dem Rückzahlungstermin, sie führt aber zu neuen Ungereimtheiten zwischen dem Rückzahlungsdatum und dem in der Schuldanerkennung angegeben Total, welches einen Zinsenlauf von einem Jahr voraussetzt.
2.5 Das nicht unterzeichnete Schriftstück scheint zwar darauf hinzudeuten, dass die Parteien bei Gewährung des Darlehens am 25. Oktober 1994 ins Auge gefasst haben, den Zinsfuss von 10 % nicht nur für das erste Jahr gelten zu lassen. Da dieses Schriftstück aber nicht unterzeichnet wurde, ist es im Ergebnis nicht offensichtlich unhaltbar, für die Festsetzung der Pflichten des Schuldners nicht darauf abzustellen. Daher kann offen bleiben, ob die handschriftlichen Zusätze wirklich vom Beschwerdegegner stammen und welche Bedeutung seinem Zugeständnis im Rechtsöffnungsverfahren zukommt, wobei die diesbezüglichen appellatorischen Ausführungen des Beschwerdeführers den Begründungsanforderungen (Art. 106 Abs. 2 i.V.m. <ref-law>) ohnehin nicht genügen. Auch eine Berücksichtigung des Schriftstücks würde nichts zu Gunsten des Beschwerdeführers ändern. Wurde es mit allen Zusätzen tatsächlich bereits am 25. Oktober 1994 erstellt, was der Eingangsstempel nahelegt, aber nicht beweist, hätten die Parteien schon in diesem Zeitpunkt den vereinbarten Rückzahlungstermin missachtet, indem sie mit einem Zinsenlauf von bis zu sechs Jahren rechneten. Kam aber dem Rückzahlungstermin keine Bedeutung zu, wäre auch denkbar, dass die Parteien in der Schuldanerkennung den ursprünglichen Rückzahlungstermin belassen haben, obwohl die Unterzeichnung erst danach erfolgte, nämlich am 25. Oktober 1995, wie in der Schuldanerkennung vermerkt.
2.6 Insgesamt ist zwar denkbar, dass die Schuldpflicht entsprechend dem nicht unterzeichneten Schriftstück hätte festgelegt werden sollen. Es ist aber ebenso möglich, dass dieses Schriftstück nicht unterzeichnet wurde, weil keine entsprechende Einigung zustande kam. Angesichts der dargelegten Inkonsistenzen der Schuldanerkennung ist es im Ergebnis nicht offensichtlich unhaltbar, den Nachweis, dass ein Zins von 10 % geschuldet ist, nur für das erste Jahr mit dem in der Schuldanerkennung explizit ausgewiesenen Betrag von Fr. 800.-- für erbracht zu halten und im Übrigen den gesetzlichen Verzugszins zur Anwendung zu bringen.
3. Da es dem Beschwerdeführer nicht gelingt, den angefochtenen Entscheid als im Ergebnis willkürlich auszuweisen, ist die Beschwerde abzuweisen, soweit angesichts der weitgehend appellatorischen Begründung überhaupt darauf einzutreten ist. Dem Ausgang des Verfahrens entsprechend wird der Beschwerdeführer kosten- und entschädigungspflichtig.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 1'500.-- werden dem Beschwerdeführer auferlegt.
3. Der Beschwerdeführer hat den Beschwerdegegner für das bundesgerichtliche Verfahren mit Fr. 2'500.-- zu entschädigen.
4. Dieses Urteil wird den Parteien und dem Kantonsgericht von Graubünden, II. Zivilkammer, schriftlich mitgeteilt.
Lausanne, 23. Mai 2011
Im Namen der I. zivilrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Der Gerichtsschreiber:
Klett Luczak