Sachverhalt:
A. A._ beschwerte sich am 8. Dezember 2009 bei der Aufsichtsbehörde des Kantons Schaffhausen über das Anwaltswesen über Rechtsanwalt X._ und machte geltend, dieser habe als sein Rechtsvertreter im Zusammenhang mit einer zivilrechtlichen Streitigkeit u.a. die Berufsregeln verletzt.
B. Mit Entscheid vom 7. Februar 2011 verwarnte die Aufsichtsbehörde des Kantons Schaffhausen über das Anwaltswesen X._ im Sinn von Art. 17 Abs. 1 lit. a des Bundesgesetzes vom 23. Juni 2000 über die Freizügigkeit der Anwältinnen und Anwälte (Anwaltsgesetz, BGFA; SR 935.61). Zur Begründung hielt sie insbesondere fest, X._ habe dadurch, dass er A._ auf dessen Verlangen nicht umgehend eine detaillierte Abrechnung habe zukommen lassen, gegen die Berufsregel von Art. 12 lit. i BGFA verstossen. Der begründete Entscheid wurde X._ und A._ zugestellt.
Die gegen diesen Entscheid von X._ erhobene Verwaltungsgerichtsbeschwerde wies das Obergericht des Kantons Schaffhausen am 6. Januar 2012 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 6. Februar 2012 stellt X._ folgende Anträge: Die Ziff. 1 bis 3 des Entscheids des Obergerichts des Kantons Schaffhausen vom 6. Januar 2012 seien aufzuheben, der Entscheid der Aufsichtsbehörde des Kantons Schaffhausen über das Anwaltswesen vom 7. Februar 2011 und die gegen den Beschwerdeführer ausgefällte Verwarnung seien aufzuheben; eventualiter sei eine formlose Ermahnung auszusprechen, und es sei die Unrechtmässigkeit der Eröffnung der Entscheide des Obergerichts des Kantons Schaffhausen vom 6. Januar 2012 und der Aufsichtsbehörde des Kantons Schaffhausen über das Anwaltswesen vom 7. Februar 2011 an den Anzeigeerstatter festzustellen.
Das Obergericht des Kantons Schaffhausen verzichtet auf eine Stellungnahme. Die Aufsichtsbehörde des Kantons Schaffhausen über das Anwaltswesen verweist in ihrer Stellungnahme auf die Erwägungen der kantonalen Entscheide und macht zusätzliche Ausführungen zur Beschwerde. Mit Eingabe vom 11. April 2012 nimmt X._ zur Eingabe der Aufsichtsbehörde des Kantons Schaffhausen über das Anwaltswesen Stellung.
Mit Präsidialverfügung vom 6. März 2012 wurde der Beschwerde antragsgemäss die aufschiebende Wirkung zuerkannt.
Erwägungen:
1. 1.1 Das Anwaltsgesetz, welches neben den Berufspflichten (Art. 12 f. BGFA) insbesondere auch das Disziplinarrecht (Art. 17 ff. BGFA) abschliessend regelt, ist Teil des Bundesverwaltungsrechts. Damit unterliegt das angefochtene Urteil, bei dem es sich um einen kantonal letztinstanzlichen Endentscheid handelt (vgl. Art. 86 Abs. 1 lit. d und Art. 90 BGG), der Beschwerde in öffentlich-rechtlichen Angelegenheiten (Art. 82 lit. a BGG). Da keiner der Ausschlussgründe von Art. 83 BGG Anwendung findet, ist dieses Rechtsmittel zulässig (vgl. Urteil des Bundesgerichts 2C_344/2007 vom 22. Mai 2008 E. 1). Soweit mit der Beschwerde die Aufhebung des Entscheids der Aufsichtsbehörde des Kantons Schaffhausen über das Anwaltswesen vom 7. Februar 2011 verlangt wird, kann darauf nicht eingetreten werden. Der erstinstanzliche Entscheid ist durch das Urteil des Obergerichts ersetzt worden (Devolutiveffekt) und gilt als inhaltlich mitangefochten (BGE 134 II 142 E. 1.4 S. 144).
1.2 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann unter anderem geltend gemacht werden, der angefochtene Entscheid verletze Bundesrecht - inklusive Bundesverfassungsrecht -, Völkerrecht sowie kantonale verfassungsmässige Rechte (Art. 95 BGG). Das Bundesgericht legt seinem Urteil den von der Vorinstanz festgestellten Sachverhalt zugrunde (Art. 105 Abs. 1 BGG). Die Feststellung des Sachverhalts kann nur gerügt bzw. vom Bundesgericht von Amtes wegen berichtigt oder ergänzt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht (Art. 97 Abs. 1 BGG bzw. Art. 105 Abs. 2 BGG). Eine entsprechende Rüge, welche rechtsgenüglich substanziiert vorzubringen ist (Art. 42 Abs. 2 BGG; vgl. BGE 133 II 249 E. 1.4.3 S. 254), setzt zudem voraus, dass die Behebung des Mangels sich für den Ausgang des Verfahrens als entscheidend erweist (Art. 97 Abs. 1 BGG).
2. Der Beschwerdeführer macht geltend, der angefochtene Entscheid sei von einer nicht ordentlich zusammengesetzten Kammer gefällt worden und daher zufolge Verletzung von Art. 30 Abs. 1 BV aufzuheben. Er verweist in diesem Zusammenhang auf Art. 48 Abs. 1 und Art. 39 Abs. 3 des Justizgesetzes vom 9. November 2009 des Kantons Schaffhausen (JG; SHR 173.200), wonach das Obergericht die verwaltungsgerichtlichen Angelegenheiten in Kammern, bestehend aus drei Personen, oder durch eine Einzelrichterin bzw. einen Einzelrichter beurteilt. Er führt aus, die Aufforderung zur Beschwerdeverbesserung sei im Namen eines Einzelrichters ergangen; in der Folge habe jedoch das Obergericht den Entscheid in Kammerbesetzung gefällt, ohne dass dem Beschwerdeführer diese veränderte Zuständigkeit mitgeteilt worden wäre. Zudem habe in der bei Verwaltungsgerichtsbeschwerden mit ungerader Nummer vorgesehenen Besetzung anstelle von B._ die ordentliche Oberrichterin C._ mitgewirkt. Der Beschwerdeführer habe somit nicht wissen können, in welcher Zusammensetzung die Kammer entscheiden würde, so dass die allfällige Stellung eines Ausstandsbegehrens vereitelt worden sei.
Aus den Ausführungen des Beschwerdeführers ergibt sich in keiner Weise, inwiefern durch die Mitwirkung der Oberrichterin C._ die Kammer gesetzes- bzw. verfassungswidrig besetzt gewesen sein soll. Art. 30 Abs. 1 BV gewährt kein unmittelbares Recht auf vorgängige Mitteilung des Spruchkörpers. Ein derartiges Recht wäre im kantonalen Prozessrecht vorzusehen; sein Bestehen wird aber vorliegend nicht geltend gemacht. Im Übrigen hat der Beschwerdeführer keine Ausstandsgründe vorgebracht. Die Rüge erweist sich somit als unbegründet.
3. Der Beschwerdeführer macht weiter eine Verletzung des Anspruchs auf ein faires Verfahren geltend. Er begründet dies im Wesentlichen damit, drei der vier am Entscheid vom 7. Februar 2011 der Aufsichtsbehörde beteiligten Personen würden dem Gericht angehören, welches den Entscheid vom 6. Januar 2012 gefällt habe.
Das Bundesgericht hat hinsichtlich einer vergleichbaren Konstellation entschieden, die Tatsache, dass Richter den Entscheid eines Gremiums zu überprüfen haben, an dessen Fällung Personen mitgewirkt haben, mit denen zusammen sie in derselben Kollegialbehörde als Richter tätig sind, vermöge für sich allein noch nicht Befangenheit zu bewirken und zum Verlust der Unabhängigkeit zu führen (Urteil 2A.295/2003 vom 3. Juni 2004 E. 1.2). Der Beschwerdeführer bringt nichts vor, das nahelegen würde, von dieser Rechtsprechung abzuweichen. Nach der konstanten Rechtsprechung des Bundesgerichts genügt auch blosse Kollegialität der urteilenden Richter nicht, um zum Verlust der Unabhängigkeit der Rechtsmittelinstanz zu führen. Sofern nicht im Einzelfall zusätzliche Elemente hinzutreten, die objektiv nachvollziehbare Zweifel an der Unbefangenheit einzelner Mitglieder der Rechtsmittelbehörde aufkommen lassen, kann diese demnach grundsätzlich als unabhängige Gerichtsinstanz betrachtet werden (Urteil 2C_665/2010 vom 24. Mai 2011 E. 2.1). Das Recht auf ein faires Verfahren im Sinn von Art. 30 Abs. 1 BV ist demnach nicht verletzt worden.
4. Gemäss Art. 17 Abs. 1 BGFA kann die kantonale Aufsichtsbehörde über die Anwältinnen und Anwälte bei Verletzung des Anwaltsgesetzes die in lit. a bis e dieser Bestimmung aufgeführten Disziplinarmassnahmen anordnen.
4.1 Vorliegend ist unbestritten, dass der Beschwerdeführer sein Honorar im Mandatsverhältnis mit dem Auftraggeber A._ nach Zeitaufwand bemessen hat. Des Weiteren ist unbestritten, dass er in seiner Honorarrechnung vom 16. April 2007 festhielt, er verzichte der Einfachheit halber darauf, sämtliche Arbeitsvorgänge im Einzelnen aufzuführen, sich jedoch bereit erklärte, dem Auftraggeber auf Wunsch eine Detailfaktura zukommen zu lassen. Sodann ist ebenfalls unbestritten, dass der Auftraggeber am 20. April 2007 die Honorarrechnung bezahlte und am 15. Juni 2008 erstmals eine Detaillierung verlangte, sowie dass der Beschwerdeführer die Honorarrechnung in einer Besprechung vom 25. August 2009 detaillierte.
4.2 Der Beschwerdeführer macht in diesem Zusammenhang geltend, die Vorinstanz habe den Sachverhalt unrichtig festgestellt, indem sie mit Stillschweigen bzw. ohne jede nachvollziehbare Begründung den Inhalt der Aktennotiz vom 25. August 2009 übergehe, wonach der Anzeigeerstatter erklärt haben soll, die Sache sei für ihn "erledigt" und derselbe habe auf eine Detaillierung verzichtet. Nachdem die Vorinstanz in ihrem Entscheid davon ausgeht, dass die Detaillierung der Honorarrechnung am besagten 25. August 2009 erfolgte, ist der Einwand des Beschwerdeführers gegenstandslos.
4.3 Die Vorinstanz hat die gegen den Beschwerdeführer verhängte Sanktion (Verwarnung) mit der Begründung geschützt, indem er der Pflicht, seine Honorarrechnung zu detaillieren, zumindest während mehr als einem Jahr nicht nachgekommen sei, habe er gegen die Berufsregel von Art. 12 lit. i BGFA verstossen.
4.3.1 Gemäss Art. 12 lit. i BGFA klären die Anwälte ihre Klientschaft bei Übernahme des Mandates über die Grundsätze ihrer Rechnungsstellung auf und informieren sie periodisch oder auf Verlangen über die Höhe des geschuldeten Honorars. Diese Regel findet sich im Wesentlichen auch in Art. 18 Abs. 3 der Schweizerischen Standesregeln vom 10. Juni 2005 und in Ziff. 3.4 des Code de déontologie des avocats européens vom 28. Oktober 1988 [in der Fassung vom 20. August 2007]).
Die Vorinstanz hat festgestellt, aus der Regelung von Art. 12 lit. i BGFA fliesse noch keine Pflicht des Anwalts, in jedem Fall von sich aus detailliert Rechnung zu stellen. Dies ändere jedoch nichts daran, dass der Klient jederzeit eine detaillierte Rechnung verlangen könne und der Anwalt unter Umständen seine Pflichten nach Art. 12 lit. i BGFA verletze, wenn er dieser Aufforderung nicht nachkomme.
4.3.2 Den Ausführungen der Vorinstanz kann gefolgt werden. Auftragsrechtlich verwirkt der Auftraggeber mit der Begleichung der Honorarforderung seine Ansprüche auf Rechenschaftsablegung über die Geschäftsführung und auf Ablieferung allenfalls aus dem Mandat zugekommener Sachen (vgl. dazu Art. 400 Abs. 1 OR) nicht. In Bezug auf die Frage der Detaillierung der Honorarrechnung muss dies umso mehr gelten, als die Vorschriften des BGFA eher strenger sind als die privatrechtlichen Vorschriften (WALTER FELLMANN, in: Kommentar zum Anwaltsgesetz, 2. Aufl. 2011, N. 171a zu Art. 12 BGFA). Demgemäss hat der Auftraggeber mit der Bezahlung der Rechnung nicht auf die Detaillierung derselben verzichtet. Der Auftraggeber kann auch nach erfolgter Bezahlung des Honorars noch ein legitimes Interesse an der Detaillierung der Rechnung haben, beispielsweise im Hinblick auf ein weiteres Mandat bei demselben Rechtsanwalt oder zum Vergleich mit Honoraren anderer Anwälte. Indem der Beschwerdeführer der Aufforderung des Auftraggebers nach Detaillierung der Honorarrechnung erst nach mehr als einem Jahr nachgekommen ist, hat er gegen die Berufsregel des Art. 12 lit. i BGFA verstossen.
4.4 Die Aussprechung einer Verwarnung, der mildesten Disziplinarstrafe nach Art. 17 Abs. 1 BGFA, erweist sich daher als gerechtfertigt. Die Beschwerde ist diesbezüglich abzuweisen.
5. Der Beschwerdeführer rügt im Weiteren, dem Antragssteller seien zu Unrecht der angefochtene Entscheid sowie der Entscheid der Aufsichtsbehörde des Kantons Schaffhausen über das Anwaltswesen eröffnet worden, und beantragt, es sei die Widerrechtlichkeit der Eröffnung dieser Entscheide festzustellen.
5.1 Gemäss Art. 7a Abs. 1 lit. c des Gesetzes vom 20. September 1971 über den Rechtsschutz in Verwaltungssachen (Verwaltungsrechtspflegegesetz; SHR 172.200) kann, wer ein schutzwürdiges Interesse hat, von der zuständigen Behörde verlangen, dass diese mittels einer Verfügung über Realakte die Widerrechtlichkeit von Handlungen feststellt. Der Beschwerdeführer hatte in Bezug auf die Eröffnung des erstinstanzlichen Entscheids kein derartiges Begehren bei der Beschwerdegegnerin gestellt; auch vor der Vorinstanz stellte er diesbezüglich keinen Antrag. Demgemäss konnte die Vorinstanz über die Rechtmässigkeit der Eröffnung dieses Entscheids nicht befinden, so dass es vor Bundesgericht an einem Anfechtungsgegenstand fehlt. Hinsichtlich des erstinstanzlichen Entscheids ist daher auf den Antrag nicht einzutreten.
5.2 In Bezug auf den angefochtenen Entscheid hat der Beschwerdeführer im Lauf des vorinstanzlichen Verfahrens beantragt, der (noch zu fällende) Entscheid sei dem Anzeiger nicht zur Kenntnis zu bringen und nicht öffentlich aufzulegen. Die Vorinstanz wies diesen Antrag im Wesentlichen ab und ordnete die schriftliche Eröffnung des Entscheids an den Anzeiger an. Es ist zu prüfen, ob die Vorinstanz die Rechtmässigkeit der Eröffnung des angefochtenen Entscheids an den Anzeiger zu Recht bejaht hat.
5.3 Nach Art. 34 Abs. 1 BGFA regeln die Kantone das Verfahren. Gemäss Art. 9 des Gesetzes des Kantons Schaffhausen vom 17. Mai 2004 über das Anwaltswesen (SHR 173.800; nachfolgend: Anwaltsgesetz/SH) richtet sich das Verfahren vor der Aufsichtsbehörde, unter Vorbehalt der Bestimmungen des Anwaltsgesetzes/SH, sinngemäss nach Art. 35 ff. des Verwaltungsrechtspflegegesetzes. Betreffend die vorliegend zu beurteilende Frage enthält das Anwaltsgesetz/SH keine Regelung.
Die Vorinstanz stützt sich bei ihrem Schluss, wonach der Entscheid des Obergerichts auch dem Anzeiger zu eröffnen sei, auf Art. 47 Abs. 1 des Verwaltungsrechtspflegegesetzes. Ergänzend führt die Vorinstanz aus, auch Art. 7 des Justizgesetzes vom 9. November 2009 (JG; SHR 173.200) sowie Art. 31 des Verwaltungsrechtspflegegesetzes würden eine Mitteilung an den Anzeiger einer Aufsichtsbeschwerde vorsehen.
5.3.1 Vorab ist darauf hinzuweisen, dass die Anzeige nach Art. 10 des Anwaltsgesetzes/SH keine klassische Aufsichtsanzeige darstellt. Während diese jeweils gegen eine Behörde gerichtet ist, zielt die Anzeige nach Art. 10 des Anwaltsgesetzes/SH auf die Einleitung eines Disziplinar- oder Patententzugsverfahren gegen eine Rechtsanwältin oder einen Rechtsanwalt. Somit handelt es sich um eine Aufsichtsanzeige gegen eine Privatperson in einem reglementierten Bereich.
Art. 9 des Anwaltsgesetzes/SH verweist nicht auf Art. 31 des Verwaltungsrechtspflegegesetzes mit dem Randtitel "Aufsichtsbeschwerde", sondern auf Art. 35 ff. des Verwaltungsrechtspflegegesetzes im Abschnitt "Das verwaltungsgerichtliche Verfahren". Diese gesetzgeberische Entscheidung ist zu respektieren mit der Folge, dass Art. 31 des Verwaltungsrechtspflegegesetzes nicht zur Anwendung kommt. Ebenfalls nicht einschlägig ist Art. 7 JG, welcher die Aufsichtsanzeige gegen Justiz- und Strafverfolgungsbehörden regelt. Es ist daher mit der Vorinstanz auf Art. 47 Abs. 1 des Verwaltungsrechtspflegegesetzes abzustellen. Gemäss dieser Bestimmung ist der Entscheid des Obergerichts zu begründen und den am Verfahren Beteiligten schriftlich mitzuteilen. Die Vorinstanz hat den Anzeiger als Verfahrensbeteiligten qualifiziert und ihm den begründeten Entscheid eröffnet.
5.3.2 Der Beschwerdeführer rügt die Auslegung der Vorinstanz als willkürlich und rechtsungleich. Zudem werde mit der Eröffnung des Entscheids auch Art. 17 BGFA verletzt, da der Anzeigeerstatter nicht am Verfahren nach BGFA beteiligt sei.
Soweit der Beschwerdeführer im Zusammenhang mit der Entscheideröffnung eine Verletzung von Art. 17 BGFA rügt, kann ihm nicht gefolgt werden, enthält doch diese Bestimmung keinerlei verfahrensrechtliche Regelungen, sondern liegt die Regelung des Verfahrens, wie bereits erwähnt, in der Kompetenz der Kantone.
Der Beschwerdeführer zeigt nicht auf, inwiefern eine Rechtsungleichheit vorliegen sollte. Zu prüfen bleibt damit, ob die von der Vorinstanz vorgenommene Auslegung von Art. 47 Abs. 1 VRG als willkürlich zu bezeichnen ist.
Nach der ständigen Praxis des Bundesgerichts liegt Willkür in der Rechtsanwendung vor, wenn der angefochtene Entscheid offensichtlich unhaltbar ist, mit der tatsächlichen Situation in klarem Widerspruch steht, eine Norm oder einen unumstrittenen Rechtsgrundsatz krass verletzt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Dass eine andere Lösung ebenfalls als vertretbar oder gar zutreffender erscheint, genügt nicht (BGE 137 I 1 E. 2.4 S. 5; 133 I 149 E. 3.1 S. 153; 131 I 467 E. 3.1 S. 473 f.).
Im vorliegenden Fall erscheint es nicht willkürlich im Sinn der bundesgerichtlichen Rechtsprechung, dass die Vorinstanz den Anzeiger unter den Begriff "die am Verfahren Beteiligten" subsumiert hat. Im Gegensatz zu dem, was der Beschwerdeführer vorbringt, hat der Anzeiger dadurch auch nicht die Rechte (und Pflichten) einer Partei. Dies ergibt sich schon daraus, dass das Verwaltungsrechtspflegegesetz im Zusammenhang mit der Gewährung des rechtlichen Gehörs und mit der Kostenauflage den Begriff "Parteien" verwendet (vgl. Art. 46 und Art. 48 Abs. 3 des Verwaltungsrechtspflegegesetzes).
Zu beachten ist in diesem Zusammenhang zudem, dass nach Art. 30 Abs. 3 BV Gerichtsverhandlung und Urteilsverkündung öffentlich sind, wobei das Gesetz Ausnahmen vorsehen kann. Grundsätzlich wird diesem Anspruch Genüge getan, wenn das Urteil bzw. der ausgefällte Entscheid bei einer der Öffentlichkeit zugänglichen Kanzlei aufgelegt wird, wo jedermann, der ein berechtigtes Interesse glaubhaft machen kann, den vollständigen Text einsehen oder sich gegen eine allfällige Gebühr eine Kopie erstellen lassen kann. Ein weitergehender Anspruch, insbesondere auf Zustellung einer Kopie besteht nicht (vgl. Urteil 6B_508/2007 vom 18. Februar 2008 E. 2 mit Hinweisen). Gehen jedoch die kantonalen Behörden, wie im vorliegenden Fall, über die Erfüllung dieser grundsätzlichen Ansprüche hinaus und stellen einem Anzeiger, dessen berechtigtes Interesse zum vorneherein vermutet werden darf, gestützt auf eine anwendbare Verfahrensbestimmung eine Kopie zu, so ist auf jeden Fall nicht ersichtlich, inwiefern dies als willkürlich qualifiziert werden könnte. Auch der Beschwerdeführer vermag dies nicht aufzuzeigen, weshalb sich die Rüge als unbegründet erweist.
Es ist somit festzustellen, dass die Zustellung des vorinstanzlichen Entscheids an den Anzeiger vor dem Willkürverbot standhält. Der Beschwerdeführer macht keine Verletzung kantonaler verfassungsrechtlicher Bestimmungen geltend, so dass sich diesbezügliche Weiterungen erübrigen.
6. Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf einzutreten ist. Bei diesem Ausgang des Verfahrens wird der unterliegende Beschwerdeführer kostenpflichtig (Art. 65 und Art. 66 Abs. 1 BGG). Parteientschädigungen sind nicht geschuldet (Art. 68 Abs. 1 und 3 BGG).
Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Verfahrensbeteiligten und dem Obergericht des Kantons Schaffhausen schriftlich mitgeteilt.
Lausanne, 18. Juni 2012
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Zünd
Die Gerichtsschreiberin: Genner