Sachverhalt: A. Mit Vollmacht vom September 2011 mandatierte A._ Rechtsanwalt B._ mit der Wahrung seiner Interessen. Letzterer stellte im Dezember 2014 Rechnung für eine Akonto-Zahlung über Fr. 12'312.--, welche noch im selben Jahr bezahlt wurde. Am 10. Februar 2016 erfolgte eine detaillierte Rechnung über Fr. 17'152.25, wobei nach Abzug der genannten Akontozahlung ein noch zu bezahlender Saldo von Fr. 4'840.25 resultierte. Dieser wurde von A._ nicht beglichen. In der Folge ersuchte Rechtsanwalt B._ - nachdem eine Entbindung vom Anwaltsgeheimnis durch A._ nicht zustande kam - die Aufsichtskommission über die Rechtsanwälte des Kantons Graubünden mit Eingabe vom 22. September 2016 um entsprechende Entbindung, um das Honorarinkasso vorzunehmen. Die Aufsichtskommission beschloss am 18. November 2016 die Entbindung von Rechtsanwalt B._ vom Anwaltsgeheimnis. Die von A._ gegen diesen Beschluss erhobene Beschwerde wurde vom Verwaltungsgericht des Kantons Graubünden mit Urteil vom 9. März 2017 abgewiesen. B. A._ (Beschwerdeführer) gelangt mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 9. Mai 2017 gegen das Urteil des kantonalen Verwaltungsgerichts an das Bundesgericht. Er beantragt die Aufhebung des vorinstanzlichen Urteils unter Kostenfolgen zulasten des Staates sowohl für das vorinstanzliche wie auch das bundesgerichtliche Verfahren. Um Letzteres wird auch für den Fall ersucht, dass die Beschwerde abgewiesen werden sollte. Rechtsanwalt B._ (Beschwerdegegner) beantragt mit Beschwerdeantwort vom 15. Juni die Abweisung der Beschwerde, soweit darauf eingetreten werden könne, unter Kosten- und Entschädigungsfolge. Das Verwaltungsgericht des Kantons Graubünden beantragt in seiner Vernehmlassung die Abweisung der Beschwerde, soweit darauf einzutreten sei, während die Aufsichtskommission über die Rechtsanwälte des Kantons Graubünden (nachfolgend "Aufsichtskommission") auf eine Vernehmlassung verzichtet hat.