Sachverhalt:
A. X._ führt in A._ das Einzelunternehmen Y._. Seit 1999 ist er im Besitz einer Bewilligung zur Lehrlingsausbildung im Beruf "kaufmännische Angestellte" gemäss der inzwischen aufgehobenen bundesrätlichen Verordnung vom 7. November 1979 über die Berufsbildung (aBBV, AS 1979 1712), welche durch die gleichnamige Verordnung vom 19. November 2003 (BBV, SR 412.101) abgelöst worden ist.
B. Anfangs 2008 bewarb sich die Schülerin Z._ bei X._ für einen Ausbildungsplatz als Kauffrau. Nach einem ersten Vorstellungsgespräch erhielt sie eine Absage mit der Option, sich nochmals zu bewerben, falls sie bis im Mai 2008 keine andere Lehrstelle gefunden haben sollte. Da dies der Fall war, wandte sich Z._ erneut an X._; die beiden trafen sich am Donnerstag, 29. Mai 2008 für ein zweites Vorstellungsgespräch.
Am Samstag, 31. Mai 2008 um 21.24 Uhr erhielt Z._ von X._ folgende Kurzmitteilung (SMS) auf ihr Mobiltelefon:
Hallo z._ wie geht es dir? ;-) Hast du zeit und laune mit mir morgen sonntag an den see baden zu gehen? Wir könnten dann unter 4 augen unsere besprechung fortsetzen..? wenn du lust hast mit mir den sonntag am wasser zu verbringen, hole ich dich am bahnhof ab? L. G. Koni
Z._ zeigte diese Mitteilung ihrem damaligen Lehrer und ihren Eltern. Am 4. Juni 2008 berichtete der Schulleiter der Sekundarschule B._ dem Mittelschul- und Berufsbildungsamt (MBA) des Kantons Zürich über den Vorfall, worauf das Amt am 17. Juni 2008 X._ zu einem vorgesehenen Widerruf der Bildungsbewilligung das rechtliche Gehör gewährte. X._ äusserte sich schriftlich und stellte dem Amt Anzeigen wegen "Rufmords" und "Verleumdung" in Aussicht.
C. Nachdem das MBA weitere Sachverhaltsabklärungen durchgeführt hatte (namentlich am 21. Oktober 2008 eine persönliche Befragung von Z._ und am 21. Januar 2009 ein Gespräch mit X._ in dessen Lehrbetrieb), widerrief das Amt mit Verfügung vom 14. Mai 2009 die Bildungsbewilligung "in Bezug auf weibliche Lernende" und beliess sie "unter der Auflage, nur männliche Lernende anzustellen". Zur Begründung führte das Amt im Wesentlichen aus, X._ sei eine für einen Berufsbildner untolerierbare "Grenzüberschreitung" vorzuwerfen, die als "sexuelle Belästigung und damit als Diskriminierung aufgrund des Geschlechts gemäss Gleichstellungsgesetz zu qualifizieren" sei. Ihm fehlten daher mit Bezug auf weibliche Lernende die persönlichen Voraussetzungen als Berufsbildner. Die Aufhebung dieser Beschränkung könne allerdings in Aussicht gestellt werden, wenn wieder genügend Gewähr geboten werde, dass seinem Betrieb auch weibliche Lernende anvertraut werden könnten.
Der von X._ hiegegen erhobene Rekurs bei der Bildungsdirektion des Kantons Zürich blieb erfolglos, und mit Entscheid vom 24. März 2010 wies das Verwaltungsgericht des Kantons Zürich die gegen den Direktionsentscheid vom 21. Dezember 2009 erhobene Beschwerde ebenfalls ab.
D. Mit Eingabe vom 26. April 2010 führt X._ "Beschwerde" beim Bundesgericht mit den sinngemässen Anträgen, den Entscheid des Verwaltungsgerichts aufzuheben und ihm - dem Beschwerdeführer - die Bildungsbewilligung ohne Einschränkungen zu belassen.
Das kantonale Mittelschul- und Berufsbildungsamt hat auf eine Stellungnahme verzichtet. Die Bildungsdirektion des Kantons Zürich schliesst auf Abweisung der Beschwerde. Das Verwaltungsgericht des Kantons Zürich verzichtet auf Vernehmlassung, ebenso das Eidgenössische Volkswirtschaftsdepartement.

Erwägungen:
1. Angefochten ist ein letztinstanzlicher kantonaler Endentscheid, der sich auf das Bundesgesetz vom 13. Dezember 2002 über die Berufsbildung (BBG, SR 412.10) bzw. die zugehörige Verordnung vom 19. November 2003 (BBV, SR 412.101) stützt. Er erging mithin in Anwendung von eidgenössischem öffentlichem Recht. Da kein Ausschlussgrund nach Massgabe von <ref-law> gegeben ist, steht dagegen die Beschwerde in öffentlich-rechtlichen Angelegenheiten gemäss <ref-law> offen. Der Beschwerdeführer ist hierzu legitimiert (<ref-law>).
2. 2.1 Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Nach <ref-law> ist jedoch in der Begründung in gedrängter Form darzulegen, inwiefern der angefochtene Akt Recht verletzt. Das Bundesgericht prüft die Verletzung von Grundrechten und von kantonalem und interkantonalem Recht nur insoweit, als eine solche Rüge in der Beschwerde vorgebracht und begründet worden ist (<ref-law>). Dabei genügen appellatorische Kritik und die blosse Gegenüberstellung der eigenen Sichtweise grundsätzlich nicht (vgl. <ref-ruling> E. 1.4.2 S. 254). Soweit die vorliegende Beschwerde diesen Anforderungen nicht genügt und sich in appellatorischer Kritik erschöpft, ist darauf nicht einzutreten.
2.2 Das Bundesgericht legt sodann seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Die Feststellung des Sachverhaltes kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Im Bereich der Beweiswürdigung steht dem Sachgericht ein erheblicher Ermessensspielraum zu (<ref-ruling> E. 4b S. 40). Das Bundesgericht greift auf Beschwerde hin nur ein, wenn das Sachgericht sein Ermessen missbraucht, insbesondere offensichtlich unhaltbare Schlüsse zieht, erhebliche Beweise übersieht oder solche willkürlich ausser Acht lässt (vgl. <ref-ruling> E. 2.1; <ref-ruling> E. 2.1; <ref-ruling> E. 4b S. 40; <ref-ruling> E. 1b S. 30).
3. 3.1 Der Beschwerdeführer macht geltend, es könne nicht angehen, dass ein unbescholtener Mitbürger wegen einem "angeblich zweideutigen privaten SMS verurteilt" bzw. "ohne rechtsgültige Beweise" abgeurteilt werde. Weder liege eine sexuelle Belästigung noch eine Persönlichkeitsverletzung vor, die habe bewiesen werden können. Die Angelegenheit hätte in einem direkten Gespräch geklärt werden können; stattdessen aber lasse das MBA "gleich eine Verfügung gegen mich raus! Ohne mich angehört zu haben!". Weiter moniert er, die drei anderen Lehrtöchter, die bei ihm die Lehrzeit verbracht hätten, seien entgegen seinem ausdrücklichen Antrag nicht befragt worden. Mit diesen Einwänden rügt er eine Verletzung seines Anspruchs auf rechtliches Gehör (<ref-law>). Weiter rügt er, die "masslosen Behauptungen und Unterstellungen" entbehrten "jeglicher Begründung und Beweisführung" und macht damit sinngemäss eine offensichtlich unrichtige Sachverhaltsermittlung und willkürliche Beweiswürdigung geltend.
3.2 Diese Rügen sind unbegründet:
3.2.1 Wie das Verwaltungsgericht zutreffend erwogen hat, wurde dem Beschwerdeführer von den Vorinstanzen das Akteneinsichtsrecht gewährt und konnte er mehrmals zu allen Akten Stellung nehmen. Mit dem Beschwerdeführer selber hat vor dem Erlass der angefochtenen Verfügung zudem ein persönliches Gespräch stattgefunden (vgl. vorne lit. C). Sein Einwand, das kantonale Amt habe gegen ihn verfügt, ohne ihn angehört zu haben, erscheint daher klar aktenwidrig.
3.2.2 Nach der Rechtsprechung kann das Gericht das Beweisverfahren schliessen, wenn die Beweisanträge eine nicht erhebliche Tatsache betreffen oder offensichtlich untauglich sind oder wenn es aufgrund bereits abgenommener Beweise seine Überzeugung gebildet hat und ohne Willkür in vorweggenommener Beweiswürdigung annehmen kann, dass seine Überzeugung durch weitere Beweiserhebungen nicht geändert würde (<ref-ruling> E. 5.3 S. 236 f. mit Hinweisen).
Der Beschwerdeführer bestreitet den Wortlaut, das Datum und die Uhrzeit der an Z._ gesandten Kurzmitteilung nicht. Inwiefern eine Befragung der anderen drei Lehrtöchter, die bei ihm ihre Lehrzeit absolviert hatten, die rechtliche Würdigung dieses an sich unbestrittenen Sachverhalts beeinflussen könnte, ist weder dargetan noch ersichtlich. Daher durfte nach dem Gesagten auf die Einvernahme der genannten drei Personen verzichtet werden, ohne in Willkür zu verfallen.
3.2.3 Der Beschwerdeführer wiederholt vor allen Instanzen - auch vor Bundesgericht -, er habe Z._ privat gekannt. Es gebe keinen einzigen Beweis, dass sich die Kurznachricht auf die Lehrstelle beziehe. Vielmehr habe er Z._ rein privat getroffen und die an sie gesandte Nachricht habe rein privaten Charakter. Wenn er aber jeweils "Entlastung" von den Vorwürfen verlangt habe, seien solche Vorbringen im unfairen und parteiischen Verfahren "allesamt nicht berücksichtigt" worden. Vielmehr werde ihm jetzt noch fehlende Mitwirkung unterstellt.
Es trifft zu, dass die Behörden den Sachverhalt grundsätzlich von Amtes wegen untersuchen müssen. Der Untersuchungsgrundsatz wird aber durch die Mitwirkungspflicht der Parteien relativiert. Diese kommt naturgemäss gerade für solche Tatsachen zum Tragen, die eine Partei besser kennt als die Behörden und die ohne ihre Mitwirkung gar nicht oder nicht mit vernünftigem Aufwand erhoben werden können (vgl. <ref-ruling> E. 2b S. 365). Das Verwaltungsgericht hat dies nicht übersehen. Es stellte aber zur Recht fest, dass der Beschwerdeführer es unterlassen hatte, seine Vorbringen in irgendeiner Weise zu belegen. Seinen Vorbringen gegenüber stehen die übrigen Indizien (etwa der enge zeitliche Zusammenhang zwischen dem Vorstellungsgespräch und der Kurzmitteilung, die Aussagen von Z._ selber oder der formelle Stil, den sie beim Abfassen ihrer E-Mails an X._ betreffend das zweite Vorstellungsgespräch verwendet hatte, die alle nicht auf einen rein privaten Charakter der genannten Mitteilung hindeuten. Dass das Verwaltungsgericht bei dieser Indizienlage einen Zusammenhang der Kurzmitteilung mit dem Vorstellungsgespräch angenommen hat, ist unter diesen Umständen nicht zu beanstanden; diese Sachverhaltsfeststellung ist nicht offensichtlich unrichtig, und von willkürlicher Beweiswürdigung kann nicht die Rede sein.
3.3 In materieller Hinsicht ist das Verwaltungsgericht zunächst zutreffend davon ausgegangen, dass die kantonale Behörde die Bildungsbewilligung widerruft, wenn Berufsbildnerinnen und Berufsbildner die gesetzlichen Voraussetzungen nicht (mehr) erfüllen oder ihre Pflicht verletzen (Art. 11 Abs. 1 BBV, <ref-law>). Es hat sodann die sich - namentlich aus dem Obligationenrecht (OR [vgl. etwa Urteil 2C_103/2008 vom 30. Juni 2008] und aus dem Bundesgesetz vom 24. März 1995 über die Gleichstellung von Mann und Frau (Gleichstellungsgesetz, GlG; SR 151.1, vgl. insbesondere Art. 4) - ergebenden Pflichten eines Berufsbildners richtig dargestellt, ebenso die bundesgerichtliche Rechtsprechung zur sexuellen Belästigung (vgl. etwa <ref-ruling> und Urteile 2A.404/2006 vom 9. Februar 2007 bzw. 4D_88/2009 vom 18. August 2009).
3.3 In materieller Hinsicht ist das Verwaltungsgericht zunächst zutreffend davon ausgegangen, dass die kantonale Behörde die Bildungsbewilligung widerruft, wenn Berufsbildnerinnen und Berufsbildner die gesetzlichen Voraussetzungen nicht (mehr) erfüllen oder ihre Pflicht verletzen (Art. 11 Abs. 1 BBV, <ref-law>). Es hat sodann die sich - namentlich aus dem Obligationenrecht (OR [vgl. etwa Urteil 2C_103/2008 vom 30. Juni 2008] und aus dem Bundesgesetz vom 24. März 1995 über die Gleichstellung von Mann und Frau (Gleichstellungsgesetz, GlG; SR 151.1, vgl. insbesondere Art. 4) - ergebenden Pflichten eines Berufsbildners richtig dargestellt, ebenso die bundesgerichtliche Rechtsprechung zur sexuellen Belästigung (vgl. etwa <ref-ruling> und Urteile 2A.404/2006 vom 9. Februar 2007 bzw. 4D_88/2009 vom 18. August 2009).
3.4 3.4.1 Vorliegend stellt sich nicht in erster Linie die Frage, ob die an Z._ gesandte Kurznachricht (SMS) als sexuelle Belästigung zu qualifizieren ist oder nicht. Entscheidend sind vielmehr die nachfolgenden Überlegungen:
3.4.2 Gemäss <ref-law>, welcher aufgrund von <ref-law> in Verbindung mit Art. 14 Abs. 1 Satz 2 und Art. 24 Abs. 3 lit. d BBG vorliegend anwendbar ist, hat der Arbeitgeber im Arbeitsverhältnis die Persönlichkeit des Arbeitgebers zu achten und zu schützen. Das Bundesgericht erinnerte in seiner Rechtsprechung bereits daran, dass dieses Prinzip im Rahmen der Lehrverträge eine besondere Bedeutung hat (vgl. Urteil 2C_529/2010 vom 8. Oktober 2010). In diesem Bereich verlangt der Persönlichkeitsschutz der auszubildenden Jugendlichen - die in der Regel zum ersten Mal im Berufsleben stehen und sich in einem speziellen Abhängigkeitsverhältnis befinden - besondere Aufmerksamkeit (Urteile 2C_ 715/2009 vom 16. Juni 2010, E. 3.2.3, und 2C_103/2008 vom 30. Juni 2008, E. 6.2). Es ist deshalb unerlässlich, dass sich der Lehrmeister auf die eigentliche Berufsausbildung konzentriert und sein Verhalten den Lernenden gegenüber und in Bezug auf die Berufsethik vorbildlich bleibt (Urteil 2C_529/2010 vom 8. Oktober 2010, E. 4.3).
3.4.3 Nach den Sachverhaltsfeststellungen des Verwaltungsgerichts haben sich Z._ und der Beschwerdeführer am Donnerstag, 29. Mai 2008 zu einer Unterredung im Hinblick auf einen Ausbildungsplatz getroffen. Obwohl an diesem Tag noch kein Lehrvertrag zustande gekommen war, schlug der Beschwerdeführer - zumindest aus der Sicht von Z._ eventuell ihr zukünftiger Ausbildner - der Jugendlichen vor, am Sonntag, 1. Juni 2008 mit ihm an den See baden zu gehen; dies im Wissen darum, dass die Betroffene auf der Suche nach einer Lehrstelle war und Mühe hatte, eine solche zu finden (vgl. vorne lit. B). Mit diesem Verhalten missbrauchte der Beschwerdeführer seine beherrschende Position, in der er sich der (potentiell) Auszubildenden gegenüber befand. Die Behörden haben darauf zu achten, dass nur geeignete Berufsbildner zugelassen werden (Art. 24 in Verbindung mit <ref-law>). Es ist demnach nicht entscheidend, ob die Pflichtverletzung im Rahmen des Ausbildungsverhältnisses oder noch vor Vertragsabschluss erfolgte. Der in Form eines SMS an Z._ übermittelte Vorschlag des Beschwerdeführers, das Berufs- und Privatleben schon vor dem Abschluss eines Lehrvertrages zu vermischen, zeigt ein Verhalten, das für einen Berufsbildner absolut unangebracht erscheint.
3.5 Der vom Mittelschul- und Berufsbildungsamt des Kantons Zürich verfügte und vom Verwaltungsgericht geschützte Widerruf der Bildungsbewilligung in Bezug auf weibliche Lernende erweist sich aus den eben genannten Gründen deshalb auch nicht als unverhältnismässig.
4. Nach dem Gesagten ist die Beschwerde abzuweisen, soweit darauf eingetreten werden kann.
Bei diesem Ausgang wird der Beschwerdeführer kostenpflichtig (Art. 65/66 BGG). Parteientschädigungen sind nicht geschuldet (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 2'000.-- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird dem Beschwerdeführer, dem Mittelschul- und Berufsbildungsamt, der Bildungsdirektion und dem Verwaltungsgericht des Kantons Zürich, 4. Kammer, sowie dem Eidgenössischen Volkswirtschaftsdepartement schriftlich mitgeteilt.
Lausanne, 10. Mai 2011
Im Namen der II. öffentlich-rechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Der Gerichtsschreiber:
Zünd Klopfenstein