Sachverhalt: A. X._ ist praktizierender Arzt im Kanton Solothurn. Nebst der regulären Tätigkeit in seiner Praxis arbeitete er mit dem Betreiber einer Internetplattform zusammen, welche insbesondere dem internationalen Vertrieb von rezeptpflichtigen Medikamenten an Privatpersonen diente. Im Auftrag des Betreibers prüfte X._ Rezeptanfragen, welche über diese Internetplattform eingereicht wurden und stellte gegebenenfalls ein Rezept aus, welches dann an eine in die Vertriebsstruktur eingebundene Versandapotheke weitergeleitet wurde. Als Basis für die Prüfung der Rezeptanfrage diente X._ jeweils ein vom Patienten online ausgefüllter Gesundheitsfragebogen. Wegen des Verdachts auf Widerhandlung gegen das Betäubungsmittelgesetz eröffnete die Staatsanwaltschaft des Kantons Solothurn gegen X._ ein Strafverfahren und führte am 21. Oktober 2010 eine Hausdurchsuchung in seiner Praxis durch. Am 22. November 2010 eröffnete das Departement des Innern des Kantons Solothurn zudem ein Disziplinarverfahren gegen ihn. Die von X._ beantragte Sistierung des Disziplinarverfahrens bis zum Abschluss des Strafverfahrens lehnte das Departement ab und mit Verfügung vom 8. August 2011 belegte es ihn mit einer Disziplinarbusse von Fr. 9'000.--. Es lastete X._ an, in der Zeit von September 2007 bis Mai 2008 mehr als 9000 Rezepte für verschreibungspflichtige Medikamente einzig gestützt auf den elektronisch übermittelten Fragebogen ausgestellt zu haben, was eine Verletzung der Pflicht zur sorgfältigen und gewissenhaften Ausübung des Arztberufs darstelle. B. Gegen die Verfügung des Departements des Innern beschwerte sich X._ ohne Erfolg beim Verwaltungsgericht des Kantons Solothurn: Dieses wies die Beschwerde mit Urteil vom 12. Juli 2012 ab. C. Mit Eingabe vom 14. September 2012 führt X._ Beschwerde in öffentlich-rechtlichen Angelegenheiten beim Bundesgericht. Er beantragt die Aufhebung des Urteils des Verwaltungsgerichts vom 12. Juli 2012 und die Rückweisung der Angelegenheit an die Vorinstanz. Das Departement des Innern sowie das Verwaltungsgericht des Kantons Solothurn schliessen auf Abweisung der Beschwerde.