Sachverhalt:
A. G._ war ab 1984 als Lehrer beim Kanton Basel-Stadt angestellt. Am 22. August 2006 verfügte die Anstellungsbehörde die ordentliche Kündigung des Anstellungsverhältnisses mit der Begründung, G._ habe der Weisung, sich einer vertrauensärztlichen Untersuchung zu unterziehen, nicht Folge geleistet. Der Ausschuss des Appellationsgerichts des Kantons Basel-Stadt als Verwaltungsgericht (nachfolgend: Verwaltungsgericht) hob diese Verfügung und den sie bestätigenden Entscheid der Personalrekurskommission des Kantons Basel-Stadt (nachfolgend: Personalrekurskommission) vom 12. März 2007 aus formellen Gründen auf und wies die Sache im Sinne der Erwägungen an die Anstellungsbehörde zurück (Entscheid vom 18. Dezember 2007).
In der Folge unterzog sich G._ einer vertrauensärztlichen Untersuchung durch den Kantonsarzt, nicht aber einer durch diesen empfohlenen und am 4. Juni 2008 durch die Anstellungsbehörde unter Androhung der Kündigung bei Nichtbefolgung angeordneten psychiatrischen Untersuchung. Mit Verfügung vom 3. September 2008 sprach die Anstellungsbehörde, nachdem G._ bereits freigestellt worden war, die ordentliche Kündigung des Anstellungsverhältnisses per 31. Januar 2009 aus. Begründet wurde dies damit, G._ habe eine schwere Pflichtverletzung begangen, indem er der Weisung, sich der psychiatrischen Untersuchung zu unterziehen, nicht Folge geleistet habe. Hinzu komme, dass G._ Blogs veröffentliche, deren Inhalt den Ruf der vorgesetzten Dienststellen schädige. G._ erhob Rekurs bei der Personalrekurskommission. Diese bestätigte die Kündigungsverfügung mit der Begründung, die Weigerung, sich wie angewiesen durch einen Psychiater untersuchen zu lassen, stelle eine schwere Pflichtverletzung dar. Diese rechtfertige bereits die Kündigung des Anstellungsverhältnisses. Ob der weitere Vorhalt betreffend Rufschädigung gerechtfertigt sei, könne offenbleiben (Entscheid vom 27. Januar 2009).
B. Den von G._ hiegegen eingereichten Rekurs wies das Verwaltungsgericht mit Entscheid vom 15. Oktober 2009 ab.
C. G._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten und subsidiäre Verfassungsbeschwerde erheben mit dem Rechtsbegehren, es sei der kantonale Entscheid und somit auch die Kündigung vom 3. September 2008 aufzuheben und festzustellen, dass der Beschwerdeführer weiterhin in einem ungekündigten Arbeitsverhältnis als Lehrer stehe. Weiter wird darum ersucht, der Beschwerde die aufschiebende Wirkung zuzuerkennen.
Der Kanton Basel-Stadt äussert sich nur zur aufschiebenden Wirkung und verzichtet im Übrigen auf eine Vernehmlassung.
D. Mit Verfügung vom 21. Juni 2010 hat das Bundesgericht das Gesuch betreffend aufschiebende Wirkung abgewiesen.

Erwägungen:
1. Gegen den angefochtenen Entscheid steht die Beschwerde in öffentlich-rechtlichen Angelegenheiten offen (<ref-law>). Die übrigen Voraussetzungen für das Eintreten auf die Beschwerde (wie Legitimation, formale Anforderungen an die Beschwerdeschrift) sind ebenfalls erfüllt.
Infolge Zulässigkeit der Beschwerde in öffentlich-rechtlichen Angelegenheiten bleibt kein Raum für die ebenfalls erhobene subsidiäre Verfassungsbeschwerde (<ref-law>), auf welche demnach nicht einzutreten ist.
2. 2.1 Die Beschwerde kann wegen Rechtsverletzung gemäss Art. 95 und Art. 96 BGG erhoben werden. Der angefochtene Entscheid stützt sich in der Sache auf kantonales Recht. Als Beschwerdegrund kommt im Wesentlichen die Verletzung von Bundesrecht, insbesondere von verfassungsmässigen Rechten der Bundesverfassung in Frage (<ref-law>). Die Anwendung des kantonalen Rechts als solches bildet nicht Beschwerdegrund. Überprüft werden kann insoweit nur, ob der angefochtene Entscheid auf willkürlicher Gesetzesanwendung beruht oder ob das Gesetz oder seine Anwendung sonstwie gegen übergeordnetes Recht verstossen (vgl. <ref-ruling> E. 1.2.1 S. 251 f.; Urteil 8C_123/2009 vom 18. Januar 2010 E. 2). Hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht gilt eine qualifizierte Rügepflicht. Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet worden ist (<ref-law>; <ref-ruling> E. 1.4.1 S. 53, auch zum Folgenden). Wird eine Verletzung des Willkürverbots geltend gemacht, muss im Einzelnen dargelegt werden, inwiefern der angefochtene Erlass an einem qualifizierten und offensichtlichen Mangel leidet.
2.2 Nach der Rechtsprechung ist eine Entscheidung willkürlich, wenn sie eine Norm oder einen klaren und unumstrittenen Rechtsgrundsatz offensichtlich schwer verletzt, sich mit sachlichen Gründen schlechthin nicht vertreten lässt oder in stossender Weise dem Gerechtigkeitsgedanken zuwiderläuft. Das Bundesgericht hebt einen Entscheid jedoch nur auf, wenn nicht bloss die Begründung, sondern auch das Ergebnis unhaltbar ist. Willkürliche Rechtsanwendung liegt zudem nicht schon vor, wenn eine andere Lösung vertretbar oder sogar vorzuziehen wäre (<ref-ruling> E. 5.4 S. 148; <ref-ruling> E. 3.1 S. 153 mit Hinweisen).
3. Die gegenüber dem Beschwerdeführer ausgesprochene Kündigung wird damit begründet, dieser habe der Anweisung, sich einer vertrauensärztlichen (psychiatrischen) Untersuchung zu unterziehen, nicht Folge geleistet und dadurch eine schwere Pflichtverletzung begangen.
4. § 30 Abs. 2 des Personalgesetzes des Kantons Basel-Stadt vom 17. November 1999 (nachfolgend: Personalgesetz oder PG) regelt die ordentliche Kündigung des Arbeitsverhältnisses durch die Anstellungsbehörde nach Ablauf der Probezeit. Gemäss lit. d der Bestimmung kann die Anstellungsbehörde die Kündigung aussprechen, wenn die Mitarbeiterin oder der Mitarbeiter die vertraglichen oder gesetzlichen Pflichten wiederholt missachtet oder eine schwere Pflichtverletzung begangen hat.
Gemäss § 21 können Mitarbeiterinnen und Mitarbeiter verpflichtet werden, sich einer vertrauensärztlichen Untersuchung zu unterziehen.
5. Das kantonale Gericht hat zunächst erkannt, vor einer Kündigung wegen schwerer Pflichtverletzung müsse keine Bewährungsfrist im Sinne von § 30 Abs. 3 PG angesetzt werden.
Gemäss § 30 Abs. 3 PG kann eine Kündigung durch die Anstellungsbehörde gemäss (dem hier nicht interessierenden, ungenügende Leistungen betreffenden) Abs. 2 lit. c und bei wiederholter Pflichtverletzung gemäss Abs. 2 lit. d nur ausgesprochen werden, wenn der Mitarbeiterin oder dem Mitarbeiter eine angemessene Bewährungsfrist eingeräumt worden ist. Dies ist gemäss dem hier angefochtenen Entscheid so zu verstehen, dass das Erfordernis der Bewährungsfrist nur beim ersten der in Abs. 2 lit. d geregelten Kündigungstatbestände gilt, nicht aber bei dem der schweren Pflichtverletzung.
Die Beschwerde enthält keine Vorbringen, wonach diese Beurteilung als willkürlich zu betrachten sei oder sonstwie gegen höherrangiges Recht verstossen soll. Geltend gemacht wird, das kantonale Gericht sei zu Unrecht davon ausgegangen, eine Bewährungsfrist sei bereits mit dem vorangegangenen Gerichtsentscheid vom 18. Dezember 2007 angesetzt worden. Dabei wird übersehen, dass die Vorinstanz dies nur ergänzend angeführt hat. Ihre hauptsächliche - und nicht in Frage gestellte - Beurteilung besteht darin, dass beim hier zur Diskussion stehenden Kündigungstatbestand keine Bewährungsfrist erforderlich ist.
6. Das kantonale Gericht hat im Weiteren erkannt, die Anstellungsbehörde habe den Beschwerdeführer in formell korrekter Weise angewiesen, sich einer vertrauensärztlichen psychiatrischen Untersuchung zu unterziehen.
Nach Auffassung des Beschwerdeführers ist diese Beurteilung in verschiedener Hinsicht willkürlich.
6.1 Geltend gemacht wird zunächst, die angeordnete psychiatrische Untersuchung greife in den Kernbereich der Persönlichkeitsrechte ein, weshalb die entsprechende Anweisung in Verfügungsform hätte ergehen müssen. Dies gelte erst recht, wenn berücksichtigt werde, dass die Anordnungen gemäss § 24 Abs. 2 PG, welche weniger weit gingen, als Verfügung zu erlassen seien.
Die Vorinstanz hat hiezu erwogen, die angeordnete Untersuchung tangiere zwar die Persönlichkeitsrechte des Arbeitnehmers. Diese Massnahme sei aber in § 21 PG vorgesehen, und zwar ohne, dass das Gesetz bestimme, die entsprechende Anordnung habe in Verfügungsform zu ergehen. Es verhalte sich anders, als bei den in § 24 Abs. 2 PG genannten Anordnungen, welche gemäss dem ausdrücklichen Gesetzeswortlauf als Verfügung zu erlassen seien. Die betroffene Person könne zudem die Zulässigkeit der Weisung vorfrageweise durch das Gericht prüfen lassen, wenn die Anstellungsbehörde aus deren Nichtbefolgung Rechtsfolgen abgeleitet habe. Damit sei auch der Rechtsweg gewährleistet. Es sei überdies daran zu erinnern, dass sich auch ein öffentlich-rechtliches Dienstverhältnis dadurch charakterisiere, dass der Arbeitgeber Weisungsbefugnis besitze.
Diese Beurteilung beruht auf einer willkürfreien Anwendung des kantonalen Rechts. Die Vorinstanz hat namentlich die nach Personalgesetz geltende Unterscheidung zwischen Massnahmen mit und ohne Verfügungscharakter zutreffend dargelegt und in nicht zu beanstandender Weise gewürdigt. Hervorzuheben ist auch, dass die vom Beschwerdeführer erwähnten Massnahmen gemäss § 24 Abs. 2 PG - es handelt sich um die Erteilung eines Verweises sowie um die Änderung des Aufgabengebiets am selben oder an einem anderen Arbeitsplatz - bereits eine Rechtsfolge mit direktem Einfluss auf das Arbeitsverhältnis bestimmen. Gleiches gilt im Übrigen für die Kündigung, die fristlose Auflösung des Arbeitsverhältnisses und für Abfindungen, für die das Gesetz ebenfalls die Verfügungsform vorsieht (§ 40 Abs. 1 PG). Demgegenüber dient die vertrauensärztliche Untersuchung erst der Abklärung, ob eine - das Arbeitsverhältnis beeinflussende - Regelung erforderlich sei. Es ist nicht ersichtlich begründet, inwiefern diese gesetzliche Differenzierung und deren Auslegung durch das kantonale Gericht willkürlich sein oder gegen übergeordnetes Recht verstossen soll.
Alleine der Umstand, dass eine ärztliche Untersuchung die Persönlichkeitsrechte berührt, bedingt ebenfalls nicht, dass ihre Anordnung in Verfügungsform ergeht. Es ist etwa daran zu erinnern, dass im Bundesrecht der Anordnung einer medizinischen Begutachtung durch den Sozialversicherer kein Verfügungscharakter zukommt (<ref-ruling>; vgl. zudem BGE 8C_699/2009 vom 22. April 2010 E. 4 zur entsprechenden Regelung unter der Herrschaft des am 1. Januar 2007 in Kraft getretenen <ref-law>). In der Beschwerde wird denn auch nicht dargetan, gestützt auf welche kantonale oder übergeordnete Rechtsgrundlage die hier zur Diskussion stehende Anordnung hätte als Verfügung erlassen werden müssen. Entsprechendes ergibt sich namentlich weder aus dem Personalgesetz noch aus dem Gesetz betreffend die Organisation des Regierungsrates und der Verwaltung des Kantons Basel-Stadt vom 22. April 1976 (nachfolgend: OG/BS) oder aus dem kantonalen Gesetz über die Verfassungs- und Verwaltungsrechtspflege vom 14. Juni 1928 (VRPG). Ob sich ein solches Formerfordernis gegebenenfalls auf § 38a OG/BS stützen liesse, braucht nicht beantwortet zu werden, ist diese Bestimmung doch erst am 29. November 2009 und damit nach dem hier zu beurteilenden Zeitraum in Kraft getreten.
6.2 Ein weiteres Vorbringen des Beschwerdeführers geht dahin, die Anordnung der psychiatrischen Untersuchung hätte nicht durch die Anstellungsbehörde, sondern durch den Kantonsarzt erlassen werden müssen. Dieser Einwand kann unter Hinweis auf die vorinstanzlichen Erwägungen ohne Weiterungen als unbegründet betrachtet werden.
6.3 Geltend gemacht wird schliesslich, dem Beschwerdeführer hätte zur Person des die Untersuchung vornehmenden Arztes und zur Fragestellung an diesen das rechtliche Gehör gewährt werden müssen.
Dieser Einwand vermag den angefochtenen Entscheid ebenfalls nicht in Frage zu stellen. Dem Beschwerdeführer war spätestens aufgrund der entsprechenden Anordnung der Anstellungsbehörde bekannt, wer die Untersuchung durchführen würde. Das kantonale Gericht hat sodann zutreffend erwogen, der Auftrag an den Arzt und damit die an diesen gerichtete Fragestellung habe die Abklärung der Arbeitsfähigkeit beinhaltet. Das entspreche der Funktion der vertrauensärztlichen Untersuchung und sei für den Beschwerdeführer auch klar ersichtlich gewesen. Es wird in der Beschwerde nicht dargetan und ist auch sonst nicht ersichtlich, inwiefern dies willkürlich sein soll oder welche Rechtsgrundlage einen weitergehenden Orientierungsanspruch zu stützen vermöchte. Der Beschwerdeführer begründet im Übrigen auch nicht, inwiefern gegenüber dem von der Anstellungsbehörde bezeichneten Facharzt ein gesetzlicher Ausstandsgrund bestanden haben soll. Ein solcher Ausstandsgrund liesse sich nicht aus dem Vorbringen herleiten, der Beschwerdeführer habe aufgrund von Eingriffen der Anstellungsbehörde in seine persönliche Freiheit zu Recht gewisse Bedenken gegenüber der Unabhängigkeit des von dieser Behörde aufgebotenen Psychiaters anbringen dürfen.
Wenn die Vorinstanz die Anordnung der Untersuchung als formell korrekt beurteilt hat, ist dies daher auch unter diesem Gesichtspunkt nicht zu beanstanden.
7. Das kantonale Gericht ist im Weiteren zum Ergebnis gelangt, die angeordnete vertrauensärztliche psychiatrische Untersuchung sei geboten gewesen. Dass der Beschwerdeführer der Anordnung nicht Folge geleistet habe, sei unter den gegebenen Umständen als schwere Pflichtverletzung zu betrachten, welche die Auflösung des Anstellungsverhältnisses rechtfertige.
Der Beschwerdeführer erachtet diese Beurteilung als willkürlich. Im Einzelnen ergibt sich Folgendes:
Der Beschwerdeführer erachtet diese Beurteilung als willkürlich. Im Einzelnen ergibt sich Folgendes:
7.1 7.1.1 Die Vorinstanz hat erwogen, schon im vorangegangenen Gerichtsverfahren habe festgestanden, dass eine vertrauensärztliche Abklärung sachlich gerechtfertigt sei. Die in der Folge durchgeführte Exploration durch den Kantonsarzt habe, wie dieser schlüssig darlege, gezeigt, dass eine psychiatrische Abklärung der Arbeitsfähigkeit erforderlich sei. Der Kantonsarzt sehe sich ausserstande, die Arbeitsfähigkeit umfassend und nach allen Seiten zu beurteilen. Er sei dezidiert der Ansicht, dass ein Facharzt für Psychiatrie sich zu diesem Punkt zu äussern habe und dass der vom Beschwerdeführer beigebrachte Bericht des Psychiaters Dr. med. W._ (vom 5. Juli 2007) keine ausreichende Basis darstelle, um die Arbeitsfähigkeit beurteilen zu können. Damit der Beschwerdeführer arbeiten dürfe, hätte der Kantonsarzt positiv die Arbeitsfähigkeit bestätigen müssen. Dazu habe sich der Arzt aber nicht imstande gesehen. Abzuklären sei, ob der Beschwerdeführer angesichts seines schon während Jahren beobachteten und nun noch zugespitzt an den Tag getretenen Verhaltens in der Lage sei, den Lehreralltag, welcher verschiedene massive Belastungssituationen mit sich bringe, zu bewältigen. Dass der Beschwerdeführer in den vorangegangenen Belastungssituationen keine adäquaten Verarbeitungsstrategien entwickelt habe, bestätige sogar Dr. med. W._, der davon schreibe, dass "irreparable Schäden vor allem beim Expl. entstanden seien". In der Zwischenzeit habe sich die Situation keineswegs beruhigt, sondern im Gegenteil verschärft, wovon die verschiedenen Bewältigungsversuche des Beschwerdeführers zeugten. Nebst der langen Reihe von "Gegnern" falle auf, dass immer mehr auch die nahestehenden Personen ins feindliche Lager gestellt würden, so z.B. die damalige Freundin des Beschwerdeführers, die ehemals gute Arbeitskollegin, aber auch der Vater. Wenn die Anstellungsbehörde bei dieser Sachlage auf der Durchführung der Abklärung beharrt habe, sei dies sachlich gerechtfertigt.
7.1.2 In der Beschwerde wird eingewendet, bereits die im früheren kantonalen Gerichtsverfahren beurteilte Anordnung einer vertrauensärztlichen Untersuchung sei nicht erforderlich und unverhältnismässig gewesen. Das gelte erst recht für die hier zur Diskussion stehende Anordnung einer psychiatrischen Abklärung, welche als schikanös zu betrachten sei und gegen Treu und Glauben verstosse.
Sämtliche hiefür angegebenen Gründe (der Beschwerdeführer verweist insbesondere auf verschiedene, von ihm beanstandete Verhaltensweisen seitens der Vorgesetzten, auf seines Erachtens ungerechtfertigte Vorwürfe, auf die erfolgte Zusprechung einer Genugtuung und auf den Rückhalt, welchen er von einem Teil der Schülereltern erfahre) vermögen indessen nicht, die vorinstanzliche Beurteilung als willkürlich erscheinen zu lassen. Massgebend ist, ob genügend Anhaltspunkte dafür bestanden, die Arbeitsfähigkeit sei durch eine psychische Problematik in Frage gestellt und bedürfe daher fachärztlicher Abklärung. Das kantonale Gericht hat dies und auch die Verhältnismässigkeit der Massnahme in nicht unhaltbarer Weise bejaht. Es hat dabei namentlich auf die Aussagen des Kantonsarztes abgestellt und die aktenkundigen Begleitumstände, einschliesslich der Aussagen des Dr. med. W._, mitberücksichtigt. Entgegen der in der Beschwerde vertretenen Auffassung hat sich der Kantonsarzt hiebei auch auf eigene Beobachtungen von psychischen Auffälligkeiten stützen können. Er erwähnte im Bericht vom 18. April 2008 u.a., dass der Beschwerdeführer während der vertrauensärztlichen Exploration vom 14. April 2008 mehrmals durch kurze, aber heftige aggressive Ausbrüche gegenüber dem Vater, der ihn bei der Abklärung begleitete, auffiel. Entscheidend ist aber ohnehin nicht, ob der Kantonsarzt selber eine psychiatrische Diagnose zu stellen vermochte, sondern ob er eine fachärztliche psychiatrische Untersuchung für erforderlich erachtete. Dies hat der Kantonsarzt gestützt auf seine eigenen Feststellungen und die Aktenlage in nachvollziehbarer Weise bejaht und begründet. Er legte dabei auch überzeugend dar, weshalb er die vorhandenen medizinischen Berichte, einschliesslich desjenigen des Dr. med. W._ nicht für genügend erachtete, um den psychischen Gesundheitszustand und dessen Auswirkungen auf die Arbeitsfähigkeit verlässlich beurteilen zu können. Wenn das kantonale Gericht auf diese kantonsärztlichen Einschätzungen abgestellt hat, ist dies nicht willkürlich.
Sämtliche hiefür angegebenen Gründe (der Beschwerdeführer verweist insbesondere auf verschiedene, von ihm beanstandete Verhaltensweisen seitens der Vorgesetzten, auf seines Erachtens ungerechtfertigte Vorwürfe, auf die erfolgte Zusprechung einer Genugtuung und auf den Rückhalt, welchen er von einem Teil der Schülereltern erfahre) vermögen indessen nicht, die vorinstanzliche Beurteilung als willkürlich erscheinen zu lassen. Massgebend ist, ob genügend Anhaltspunkte dafür bestanden, die Arbeitsfähigkeit sei durch eine psychische Problematik in Frage gestellt und bedürfe daher fachärztlicher Abklärung. Das kantonale Gericht hat dies und auch die Verhältnismässigkeit der Massnahme in nicht unhaltbarer Weise bejaht. Es hat dabei namentlich auf die Aussagen des Kantonsarztes abgestellt und die aktenkundigen Begleitumstände, einschliesslich der Aussagen des Dr. med. W._, mitberücksichtigt. Entgegen der in der Beschwerde vertretenen Auffassung hat sich der Kantonsarzt hiebei auch auf eigene Beobachtungen von psychischen Auffälligkeiten stützen können. Er erwähnte im Bericht vom 18. April 2008 u.a., dass der Beschwerdeführer während der vertrauensärztlichen Exploration vom 14. April 2008 mehrmals durch kurze, aber heftige aggressive Ausbrüche gegenüber dem Vater, der ihn bei der Abklärung begleitete, auffiel. Entscheidend ist aber ohnehin nicht, ob der Kantonsarzt selber eine psychiatrische Diagnose zu stellen vermochte, sondern ob er eine fachärztliche psychiatrische Untersuchung für erforderlich erachtete. Dies hat der Kantonsarzt gestützt auf seine eigenen Feststellungen und die Aktenlage in nachvollziehbarer Weise bejaht und begründet. Er legte dabei auch überzeugend dar, weshalb er die vorhandenen medizinischen Berichte, einschliesslich desjenigen des Dr. med. W._ nicht für genügend erachtete, um den psychischen Gesundheitszustand und dessen Auswirkungen auf die Arbeitsfähigkeit verlässlich beurteilen zu können. Wenn das kantonale Gericht auf diese kantonsärztlichen Einschätzungen abgestellt hat, ist dies nicht willkürlich.
7.2 7.2.1 Die Vorinstanz ist zum Ergebnis gelangt, der Beschwerdeführer habe, indem er der Weisung, sich einer vertrauensärztlichen psychiatrischen Untersuchung zu unterziehen, nicht nachgekommen sei, eine derart schwere Pflichtverletzung begangen, dass der Anstellungsbehörde die Weiterführung des Arbeitsverhältnisses nicht mehr zuzumuten sei. Mit der angeordneten Untersuchung hätte in für den Beschwerdeführer erkennbarer Weise dessen Arbeitsfähigkeit abgeklärt werden sollen. Es sollte also geprüft werden, ob der Beschwerdeführer in der Lage sei, seine zentrale Pflicht als Arbeitnehmer des Kantons zu erfüllen. Wenn er sich dieser Abklärung verweigere, sei dies von der Schwere her gleichbedeutend mit der Arbeitsverweigerung. Denn durch die Weigerung zerstöre er das Vertrauen des Arbeitgebers in seine Loyalität und Kooperationsbereitschaft. Der Beschwerdeführer habe im Übrigen, u.a. über Blogs, offenbart, dass er seinerseits kein Vertrauen mehr in die vorgesetzten Stellen und den Staat habe. Es sei schleierhaft, wie er sich dennoch wieder in diesem System zurechtfinden wolle.
7.2.2 Der Beschwerdeführer wendet ein, die Weisung sei unrechtmässig gewesen, weshalb er ihr keine Folge habe leisten müssen. Dieser Einwand ist nicht begründet. Die Anordnung der psychiatrischen Untersuchung ist nach dem zuvor Gesagten als rechtmässig zu betrachten. Geltend gemacht wird weiter, die Vorinstanz habe zu Unrecht erwogen, die Weiterführung des Anstellungsverhältnisses sei dem Arbeitgeber aufgrund kritischer Äusserungen der Blogs und des verlorenen Vertrauens des Beschwerdeführers nicht zumutbar gewesen. Das hat das kantonale Gericht aber auch nicht so entschieden. Es hat die Kündigung vielmehr mit der Weigerung des Beschwerdeführers, sich der angeordneten Abklärung zu unterziehen, begründet. Nicht stichhaltig ist auch der Einwand, durch die erfolgte Freistellung sei der Beschwerdeführer nicht mehr verpflichtet gewesen, Weisungen des Arbeitgebers zu befolgen. Das kantonale Gericht hat zutreffend erwogen, die Freistellung sei mit dem Zweck erfolgt, den Beschwerdeführer nicht mehr im Schuldienst zu beschäftigen, bevor nicht klar gewesen sei, ob er dessen Herausforderungen und Anforderungen standhalte. Er wäre daher gehalten gewesen, bei den diesbezüglichen Abklärungen mitzuwirken, zumal er weiterhin angestellt gewesen sei und Lohn bezogen habe.
Die erwähnten Einwände sind mithin nicht geeignet, den vorinstanzlichen Entscheid als willkürlich erscheinen zu lassen. Gleiches gilt für die Vorbringen betreffend ein auf eine CD aufgenommenes und in einer Abschrift davon festgehaltenes Gespräch des Beschwerdeführers mit einem Notfallpsychiater. Dieses Gespräch wurde im Übrigen, entgegen der in der Beschwerde vertretenen Auffassung, vom kantonalen Gericht nicht als massgeblich betrachtet.
Der Beschwerdeführer beanstandet sodann, die Vorinstanz habe sich mit den von ihm erhobenen Mobbingvorwürfen nicht auseinandergesetzt und damit seinen Anspruch auf rechtliches Gehör verletzt. Das kantonale Gericht hat indessen die Mobbingthematik berücksichtigt und in nicht willkürlicher Weise gewürdigt. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten ist somit in allen Teilen unbegründet.
8. Die Kosten des Verfahrens sind vom unterliegenden Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Auf die Verfassungsbeschwerde wird nicht eingetreten.
2. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten wird abgewiesen.
3. Die Gerichtskosten von Fr. 3'000.- werden dem Beschwerdeführer auferlegt.
4. Dieses Urteil wird den Parteien und dem Appellationsgericht des Kantons Basel-Stadt als Verwaltungsgericht schriftlich mitgeteilt.
Luzern, 3. August 2010
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Ursprung Lanz