Faits: A. X._, né en 1950, a exercé la profession de physiothérapeute dès 1976. Depuis l'obtention de son diplôme de « Master en ostéopathie D.O » en 1998, il exploite un cabinet privé au Centre médical Y._, à Z._. Le 2 septembre 2005, A._, née le 25 juin 1992, s'est rendue, avec sa mère, au Centre médical Y._, en raison de douleurs occasionnées par une chute sur le coccyx lors d'un cours de gymnastique. La doctoresse B._ a examiné A._ en présence de sa mère et a diagnostiqué une lésion du coccyx. Elle a présenté à la patiente et à sa mère deux alternatives thérapeutiques: ne faire aucun traitement ou procéder à une manipulation par toucher rectal pour repositionner le coccyx. Elle a précisé qu'elle ne procédait pas elle-même à cette intervention, mais qu'elle connaissait, à Y._, un ostéopathe qui la pratiquait. Conformément au souhait de la mère de l'intéressée, la doctoresse a sollicité l'intervention de X._. Celui-ci a procédé, le jour même, une réduction endo-rectale pour corriger la position du coccyx de A._, en présence de sa mère. Il a effectué une première manipulation, puis en a fait une deuxième après avoir constaté, sur la radiographie, que la première n'avait pas eu l'effet escompté. X._ a lui-même admis que la patiente avait crié sans discontinué et que, crispée en permanence, elle n'avait à aucun moment coopéré, mais il avait considéré ce manque de collaboration comme une réaction normale chez une jeune fille qui avait mal. Pour sa part, la patiente a déclaré qu'elle avait supplié l'ostéopathe, pendant les deux manipulations, de cesser le traitement, mais qu'il n'en avait pas tenu compte. A l'issue de la deuxième manipulation, il a cependant proposé à la patiente et à sa mère de poursuivre le traitement le lendemain, après avoir revu la situation avec la doctoresse B._. A._ et sa mère ne sont toutefois pas retournées au Centre médical Y._. B. Le 6 septembre 2005, la mère de la patiente s'est plainte auprès de la Société Vaudoise de Médecine, en critiquant la prise en charge médicale de sa fille le 2 septembre 2005. Le 17 mars 2006, le Chef du Département de la santé et de l'action sociale (ci-après: le Chef du Département) a ouvert une enquête envers X._, le Conseil de santé estimant qu'il y avait suspicion de défaut de consentement libre et éclairé. Le Conseil de santé a entendu les parties les 6 et 30 octobre 2006, soit plus d'une année après la survenance des faits, ainsi que la doctoresse B._ le 8 janvier 2007. Lors d'une séance du 23 avril 2007, il a retenu qu'au vu du caractère particulier de l'intervention, pratiquée sur une adolescente, X._ aurait dû pendre en compte l'avis de la patiente. Le Conseil de la santé a ainsi conclu à ce qu'une amende disciplinaire de 1'500 fr. soit prononcée à l'encontre de l'intéressé. Par décision du 10 mai 2007, le Chef du Département a infligé une amende de 1'500 fr. à X._. C. Statuant sur le recours de X._, le Tribunal administratif vaudois l'a rejeté, par arrêt du 29 novembre 2007, et a confirmé la décision du 10 mai 2007. Il a estimé que la jeune patiente était capable de discernement au moment des faits et qu'elle n'avait pas donné son consentement libre et éclairé aux soins prodigués par le recourant. L'ostéopathe reconnaissait du reste lui-même que sa patiente avait la capacité de discernement nécessaire, puisqu'il avait affirmé que si la jeune fille s'était présentée seule, sans sa mère, à son cabinet et avait crié comme elle l'avait fait, il aurait renoncé à une intervention, mais qu'en l'espèce, sa mère l'y avait encouragé. Les premiers juges ont ainsi admis que le recourant aurait dû respecter la volonté de la patiente, même si elle s'opposait à celle de sa mère. Ce dernier n'avait donc pas su apprécier la situation correctement et aurait dû interrompre le traitement, au vu des réactions de la patiente qui refusait manifestement de poursuivre le traitement. Par conséquent, en lui infligeant une amende disciplinaire de 1'500 fr. l'autorité intimée n'avait ni excédé, ni abusé de son pouvoir d'appréciation. D. X._ forme un recours en matière de droit public et demande au Tribunal fédéral, sous suite de frais et dépens, d'admettre son recours et de le mettre au bénéfice d'un non-lieu, subsidiairement de renvoyer la cause au Chef du Département, voire au Tribunal administratif, pour nouvelle décision dans le sens des considérants. Le Tribunal administratif, devenu Cour de droit administratif et de droit public du Tribunal cantonal vaudois depuis le 1er janvier 2008, a renoncé à déposer une réponse. Le Chef du Département conclut implicitement au rejet du recours. Il souligne qu'il a été établi que A._ possédait une capacité de discernement suffisante lorsqu'elle avait demandé avec vigueur l'arrêt du traitement intrusif, douloureux et non nécessaire, pratiqué sans sédation appropriée. Son refus devait donc être pris en compte par le praticien.