Faits: A. Depuis 2006, X._ exploite trois boutiques de vêtements à l'enseigne A._, à Lausanne. Le 8 septembre 2006, la Direction générale de l'enseignement postobligatoire du canton de Vaud (ci-après: la Direction générale) a autorisé X._ à former deux apprentis gestionnaires du commerce de détail. Cette autorisation a cependant été octroyée à "titre expérimental", dans le sens où la Direction générale surveillerait plus étroitement X._ que d'autres entreprises formatrices. Depuis l'octroi de l'autorisation, X._ a licencié trois apprentis. B._ et C._ avaient cependant antérieurement pris contact avec le commissaire professionnel de l'époque, D._, pour se plaindre que leurs apprentissages ne se passaient pas bien et qu'elles désiraient changer de place. Quant au licenciement de E._, il a été en particulier motivé par une bagarre qui a eu lieu dans le magasin auquel l'apprenti avait été affecté, altercation qu'il n'était pas parvenu, seul, à faire cesser. Parmi tous les apprentis engagés par X._, aucun n'est jusqu'à présent parvenu à obtenir un diplôme professionnel. Des problèmes d'encadrement récurrents ont été portés à la connaissance des autorités cantonales compétentes; ils ont notamment été constatés lors de visites par le commissaire professionnel et exposés à X._. Ainsi, l'apprenti F._, encore en formation auprès de X._, a débuté son apprentissage le 1er août 2008 et a vu, en moins d'une année, se succéder trois personnes pour assurer le suivi de sa formation. Si la dernière formatrice en date, G._, dispose des qualifications et compétences pour mener à bien ce suivi, sa seule présence n'a pas été retenue comme suffisante pour garantir l'encadrement des deux apprentis actuellement employés dans deux boutiques différentes. Entre autres éléments, F._ a reconnu qu'il était parfois seul dans la boutique à laquelle il était affecté; l'apprenti H._ ne disposait d'aucun formateur diplômé alors même qu'il avait besoin d'un encadrement serré, notamment en raison d'un absentéisme important aux cours; et G._ a admis qu'elle courait d'une boutique à l'autre pour s'occuper des apprentis. Par ailleurs, X._ étant fréquemment en voyage professionnel, il a reconnu ne pas pouvoir assumer seul la tâche de former des apprentis. X._ a en outre commis des erreurs administratives, en particulier dans le domaine des cotisations et prélèvements sociaux (prime d'assurance-maladie, 2ème pilier LPP) ou concernant l'engagement de H._ en préapprentissage, engagement qui n'avait pas été accompagné par un contrat écrit et qui n'a pas été porté à la connaissance de l'autorité compétente. X._ s'est également vu reprocher un comportement inadéquat face aux jeunes personnes dont il assurait la formation. Il lui est arrivé de faire preuve d'une attitude à la fois affective et trop paternaliste ne lui permettant pas de fixer un cadre professionnel et disciplinaire clair à ses apprentis. Alors qu'elle était apprentie, I._ a affirmé, ce que l'intéressé a contesté, que X._ l'avait complimentée sur ses fesses et ses seins en l'invitant à essayer des vêtements, qu'il avait placé sa main sur son genou en s'approchant d'elle et qu'il l'avait invitée à boire un verre avec lui pour la Saint-Valentin. Quant à l'apprentie K._, âgée alors d'à peine 16 ans, X._ a finalement admis avoir entretenu des rapports sexuels consensuels avec elle. B. Par décision du 23 juin 2009, le directeur général de l'enseignement postobligatoire a retiré à X._ son autorisation de former des apprentis gestionnaires du commerce de détail dans ses boutiques A._, avec effet immédiat. Le 24 juillet 2009, X._ a contesté cette décision auprès de la Cour de droit administratif et public du Tribunal cantonal vaudois (ci-après le Tribunal cantonal), dont le juge instructeur a refusé de lever la requête en retrait de l'effet suspensif formée par la Direction générale, par décision du 24 septembre 2009. Par arrêt du 27 mai 2010, le Tribunal cantonal a rejeté le recours et confirmé la décision du 23 juin 2003. C. Agissant par la voie du recours en matière de droit public, X._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du Tribunal cantonal vaudois du 27 mai 2010 et de dire, principalement, qu'il est autorisé à continuer de former un(e) apprenti(e) dans ses boutiques, subsidiairement, qu'il est autorisé à continuer de former un apprenti masculin dans ses boutiques, plus subsidiairement, que la cause est renvoyée à l'autorité intimée pour nouvelle instruction sur la possibilité de maintenir l'autorisation du recourant de continuer à former un apprenti, le cas échéant masculin, dans ses boutiques, avant de statuer à nouveau. X._ invoque la violation du droit fédéral et cantonal en matière de formation professionnelle, ainsi que celle des art. 8, 9, 29 al. 2 et 5 al. 2 Cst. Il demande par ailleurs l'octroi de l'effet suspensif, afin d'éviter aux apprentis de perdre leur place de formation. Le Tribunal cantonal se réfère aux considérants de l'arrêt querellé et renonce à déposer une réponse au recours. La Direction générale conclut, avec suite de frais, au refus de l'effet suspensif et au rejet du recours.