Sachverhalt: A. X._ trat im August 2010 im Kanton Zug zur schriftlichen Anwaltsprüfung in den Fächern Zivilrecht, Strafrecht und Beurkundungsrecht an. Am 14. September 2010 teilte ihm die Anwaltsprüfungskommission des Kantons Zug (nachfolgend: Prüfungskommission) mit, die Prüfungen im Strafrecht und im Beurkundungsrecht seien als ungenügend beurteilt worden und daher zu wiederholen. B. Nach Absolvierung der schriftlichen Wiederholungsprüfungen Anfang März 2011 eröffnete die Prüfungskommission X._ am 28. März 2011, dass die Prüfung im Beurkundungsrecht erneut als ungenügend beurteilt worden sei, weshalb er abzuweisen sei und erst nach Ablauf von zwei Jahren ein erneutes Gesuch um Zulassung stellen könne. Die von X._ dagegen erhobene Beschwerde wies das Obergericht des Kantons Zug, II. Beschwerdeabteilung, mit Urteil vom 17. August 2011 ab, soweit es darauf eintrat. C. Mit Verfassungsbeschwerde vom 23. September 2011 beantragt X._, das Ergebnis der schriftlichen Anwaltsprüfung im Beurkundungsrecht sei als genügend zu beurteilen und die Prüfungskommission sei anzuweisen, ihn zur mündlichen Prüfung zuzulassen; eventualiter sei das vorinstanzliche Urteil aufzuheben und die Sache zur Neubeurteilung im Sinne der Erwägungen an die Vorinstanz zurückzuweisen. Das Obergericht verzichtet auf eine Vernehmlassung und beantragt die Abweisung der Beschwerde, soweit darauf einzutreten sei. Die Prüfungskommission schliesst in ihrer Vernehmlassung vom 12. Januar 2012 auf Abweisung der Beschwerde, während X._ mit Replik vom 30. Januar 2012 an seinen Anträgen samt Begründung festhält. Mit Verfügung vom 31. Oktober 2011 hat die II. öffentlich-rechtliche Abteilung das Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege mangels prozessualer Bedürftigkeit abgewiesen.