Sachverhalt: A. Der Arzt Dr. Y._ verweigerte am 26. Mai 2012 die medizinische Untersuchung von X._, weil er an diesem Tag in einer anderen Gemeinde Notfalldienst leistete. Er verwies ihn an den für ihn zuständigen Notfallarzt. In der Folge gelangte X._ mit Schreiben vom 30. Mai 2012 an das Departement Finanzen und Gesundheit des Kantons Glarus und stellte verschieden Begehren im Zusammenhang mit diesem Vorkommnis. Er erhob den Antrag, es sei festzustellen, dass Dr. Y._ gegen seine Berufspflichten verstossen habe und dieser sei anzuweisen, ihm künftig Notfalldienst zu gewähren. Eventuell seien die übrigen Ärztinnen und Ärzte des Kantons, allenfalls auch das Kantonsspital zu verpflichten, ihn im Notfall zu behandeln. Schliesslich beantragte X._, Dr. Y._ sei eine Busse aufzuerlegen. Am 6. August 2012 wies das Departement die Eingabe ab, soweit es darauf eintrat. B. Eine gegen diesen Entscheid gerichtete Beschwerde wies der Regierungsrat des Kantons Glarus am 18. Dezember 2012 ab; er interpretierte die Eingabe vom 30. Mai 2012 teils als Aufsichtsanzeige, teils als Gesuch um Erlass einer Verfügung und befand, X._ habe kein Recht, behördlich feststellen zu lassen, in welcher Weise ein Arzt seine Berufspflichten erfülle, und im Aufsichtsverfahren komme ihm keine Parteistellung zu. Mit Urteil vom 24. April 2013 wies das Verwaltungsgericht eine Beschwerde von X._ gegen den regierungsrätlichen Entscheid ebenfalls ab. Es begründete dies damit, dem Entscheid des Departements Finanzen und Gesundheit komme kein Verfügungscharakter zu, weshalb dagegen kein Rechtsmittel gegeben sei. Im Aufsichtsverfahren komme dem Anzeiger sodann keine Parteistellung zu. C. X._ (Beschwerdeführer) führt mit Eingabe vom 14. Mai 2013 gegen dieses Urteil beim Bundesgericht "Beschwerde in öffentlich-rechtlichen Angelegenheit und Rechtsverweigerungsbeschwerde". Er stellt die Anträge, den Entscheid des Verwaltungsgerichts des Kantons Glarus aufzuheben und die Sache zur materiellen Behandlung an dieses zurückzuweisen (Ziff. 1), zudem sei festzustellen, dass Dr. Y._ am 26. Mai 2012 gegen seine Berufspflichten gemäss Art. 34 Abs. 1 Gesundheitsgesetz des Kantons Glarus verstossen und dem Beschwerdeführer den Notfalldienst verweigert habe (Ziff. 2), schliesslich sei das Departement anzuhalten, dafür zu sorgen, dass Dr. Y._ in Zukunft den Notfalldienst wieder verfassungs- bzw. gesetzeskonform leiste (Ziff. 3). Der Beschwerdeführer wirft dem Verwaltungsgericht (Vorinstanz) eine Verletzung des rechtlichen Gehörs, Willkür, Ermessensunter- und -überschreitung, überspitzten Formalismus, einen Verstoss gegen Treu und Glauben sowie weiterer Bestimmungen der BV und der EMRK vor. Es wurden weder ein Schriftenwechsel noch Instruktionsmassnahmen angeordnet.