Sachverhalt: A. X._ bestand nach vier Jahren Schule in der Berufsklasse der Musikhochschule des Konservatoriums Freiburg die Ausscheidungsprüfung im April 2008. Diese berechtigte ihn zur Abschlussprüfung, welche - als öffentlich vorgetragener Klaviervortrag - er am 26. Juni 2008 nicht bestand. Der Grund lag darin, dass er sich in einem Zustand eines offensichtlichen Unwohlseins und einer emotionalen Blockade befand. Die Prüfungskommission entschied danach, dass X._ die Prüfung im Oktober 2008 unter Ausschluss der Öffentlichkeit wiederholen könne. Am 13. Oktober 2008 bestand dieser das Examen, was ihm durch die Aushändigung des von der Kommission unterzeichneten Protokolls mitgeteilt wurde. Mit Schreiben vom 14. Oktober 2008 wurde ihm bestätigt, dass er die Ausbildung zum Lehrdiplom erfolgreich bestanden habe. B. Der Direktor des Konservatoriums beantragte Ende November 2008 bei der für die Ausstellung der Diplome zuständigen Direktion für Erziehung, Kultur und Sport des Kantons Freiburg (nachfolgend: EKSD), X._ kein Diplom auszustellen, da der Klaviervortrag nicht öffentlich erfolgt sei. In der Folge verweigerte diese am 2. März 2009 die Ausstellung des Diploms. Die dagegen erhobene Verwaltungsgerichtsbeschwerde war erfolglos. C. Vor Bundesgericht beantragt X._, das Urteil des Kantonsgerichts Freiburg, I. Verwaltungsgerichtshof, vom 1. Dezember 2009 aufzuheben und die EKSD anzuweisen, dem Beschwerdeführer das Lehrdiplom innert einer Frist von 10 Tagen seit Eröffnung des Entscheides des Bundesgerichts auszustellen. Er macht im Wesentlichen eine Verletzung des Grundsatzes von Treu und Glauben nach Art. 9 BV geltend. Mit separater Eingabe beantragt der Beschwerdeführer die unentgeltliche Rechtspflege, die Befreiung von der Bezahlung der Gerichtskosten sowie die Bestellung seines Rechtsvertreters zum amtlichen Rechtsbeistand. Sowohl das Kantonsgericht des Kantons Freiburg, I. Verwaltungsgerichtshof, als auch die EKSD beantragen unter Verzicht auf eine Stellungnahme, die Beschwerde abzuweisen.