Sachverhalt: A. Dr. med. Y._ betreibt in A._ ein Zentrum für Fusschirurgie. Kurz nach der Eröffnung seiner Praxis stellte er im Dezember 1999 ein Gesuch um Befreiung von der Notfalldienstpflicht, welches letztinstanzlich am 28. Oktober 2003 durch die Gesundheits- und Fürsorgedirektion des Kantons Bern (nachfolgend: Gesundheits- und Fürsorgedirektion) abgewiesen wurde. Da Y._ der Notfalldienstpflicht in der Folge nicht nachkam, verpflichtete ihn der mit der Organisation des ärztlichen Notfalldienstes betraute Verein X._ mit Schreiben vom 4. Mai 2004 zur Zahlung von ausserordentlichen Beiträgen von Fr. 15'000.-- für den Zeitraum vom 1. Januar 2002 bis zum 31. Dezember 2004. Die Gesundheits- und Fürsorgedirektion hob die "Verfügung" des Verein X._ auf Beschwerde von Y._ hin auf, da der Verein X._ nicht zum Erlass von Verfügungen zuständig sei, was vom Verwaltungsgericht des Kantons Bern mit Urteil vom 21. Januar 2005 bestätigt wurde. B. Am 17. Februar 2005 beantragte der Verein X._ dem Kantonsarztamt Bern, Y._ sei zu verpflichten, dem Verein X._ eine Ersatzabgabe für die Nichterfüllung der Notfalldienstpflicht in der Höhe von Fr. 15'000.-- zuzüglich Zins zu 5 % seit 4. Mai 2004 zu bezahlen. Das Kantonsarztamt Bern wies dieses Gesuch am 23. Mai 2008 ab. Die Gesundheits- und Fürsorgedirektion wies die dagegen erhobene Beschwerde des Verein X._ am 23. Dezember 2010 ab. Die gegen diesen Entscheid erhobene Beschwerde wies das Verwaltungsgericht des Kantons Bern mit Urteil vom 20. Dezember 2011 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten vom 24. Januar 2012 beantragt der Verein X._ dem Bundesgericht, Ziff. 1 und 3 des Urteils des Verwaltungsgerichts des Kantons Bern vom 20. Dezember 2011 aufzuheben und die Sache zur neuen Entscheidung an die Vorinstanz zurückzuweisen. Y._ beantragt die Abweisung der Beschwerde, soweit darauf eingetreten werden könne. Das Verwaltungsgericht des Kantons Bern beantragt die Abweisung der Beschwerde. Die Gesundheits- und Fürsorgedirektion sowie das Kantonsarztamt verzichten auf eine Vernehmlassung. Mit Schlussbemerkungen hält der Verein X._ an seinem Antrag fest.