Faits:
A. X._ exerce comme médecin psychiatre et psychothérapeute, à Genève. Spécialisé en sexologie clinique, il enseigne dans divers établissements, a publié plusieurs articles et donné des conférences dans ce domaine.
En juillet 2006, il a été consulté par A._, divorcée depuis 2003 de B._, duquel elle avait eu trois enfants, nés en 1997 et 2001. Celle-ci nourrissait de graves craintes au sujet de la conduite de son ex-mari à l'égard de leurs enfants, dont celui-ci avait la garde conjointe. Elle sollicitait du Dr X._ un avis spécialisé sur la dangerosité physique et psychique de son ex-mari vis-à-vis des enfants, qu'elle avait l'intention de produire dans le cadre des procédures civile et pénale l'opposant à ce dernier. En raison des relations conflictuelles existant entre les époux, cet examen ne pourrait avoir lieu qu'à l'insu de B._ et se fonderait essentiellement sur des notes manuscrites de l'intéressé, qu'elle remettrait au Dr X._. Ces notes avaient été rédigées une vingtaine d'années auparavant dans le cadre d'un suivi psychothérapeutique et portaient sur des faits relevant de la plus stricte intimité de B._ (rêves et fantasmes).
Par lettre du 11 juillet 2006, X._ a accepté ce mandat. Le 29 août 2006, il a rendu un rapport intitulé: "Expertise en sexologie à propos d'écrits et de comportements conjugaux et familiaux de M. B._" (act. 4 pce 1). L'expertise se basait "pour l'essentiel sur l'entier des notes manuscrites de M. B._ dans le cadre de traitements psychothérapeutiques suivis d'août 1986 à mai 1989"; elle reposait aussi sur un résumé de vie conjugale de Mme A._, les rapports d'audition des enfants du 3 mars 2006, établis dans le cadre de la loi fédérale sur l'aide aux victimes d'infractions, un rapport d'enquête en limitation de l'autorité parentale du droit de garde et du droit de visite du 20 mars 2006, une note manuscrite de Mme A._ rapportant un dialogue avec l'un de ses enfants, une note dactylographiée de celle-ci décrivant les faits l'ayant inquiétée, ainsi qu'un rapport au juge de paix rédigé par deux psychologues du 26 avril 2006, tous documents lui ayant été remis par sa mandante.
Le Dr X._ précisait que l'étude tiendrait compte de "l'intérêt des enfants C._ et D._, nés le 16 décembre 1997, et E._, né le 10 mars 2001, le but n'étant pas de les séparer de leur père, mais, si cela s'avérait nécessaire au travers des informations mises à disposition du spécialiste, de permettre de les protéger adéquatement de lui, le temps jugé nécessaire à ce qu'ils puissent le faire eux-mêmes". Au terme de son analyse, il concluait que M. B._ n'offrait "de loin pas toutes les garanties de protection de ses enfants et de capacité à jouer correctement son rôle de père". Les limites de M. B._ se situaient sur trois plans distincts et faisaient courir des risques cumulatifs aux enfants:
- premièrement un risque de passages à l'acte de type inceste parent-enfant était très clairement présent;
- deuxièmement, l'érotisation manifeste par M. B._ des châtiments corporels, constituait un risque de dérapage certain, potentiellement très nuisible au développement des enfants;
- troisièmement, une composante impulsive/compulsive était aussi plus que fortement probable, rendant très aléatoire et fragile le contrôle que M. B._ pouvait avoir sur lui-même dans les deux domaines précédents.
En conclusion, le Dr X._ suggérait "fermement que jusqu'à un âge approprié des enfants leur permettant de se protéger eux-mêmes (intelligence formelle et capacité de discernement suffisante, c'est-à-dire en général vers 15 à 16 ans) une protection des visites à leur père soit systématiquement appliquée".
B. Le 26 septembre 2006, B._ a déposé une dénonciation à l'encontre du Dr X._ auprès de la Commission de surveillance des professions de la santé et des droits des patients du canton de Genève (ci-après: la Commission de surveillance). Il contestait les affirmations et conclusions prises dans le rapport d'expertise du 29 août 2006, en relevant que ce praticien ne l'avait jamais vu et s'était basé sur des notes personnelles rédigées vingt ans auparavant dans le cadre de sa psychothérapie, que son ex-épouse lui avait subtilisées dans un esprit de vengeance. Il a notamment produit deux rapports d'examens psychiatriques établis les 22 juin et 19 septembre 2006 par le Dr F._, ainsi qu'une expertise du Prof. G._ du 11 septembre 2006. Ces praticiens, tous deux psychiatres et psychothérapeutes, contestaient les conclusions du rapport du Dr X._ et réprouvaient sa méthode d'analyse. Par la suite, il a également produit l'expertise judiciaire du 2 octobre 2006 établie par le Dr H._, psychiatre et psychothérapeute d'enfants et d'adolescents, dont seules les pages 37 à 40 et 43 à 44 ont été versées à la procédure. Ces pages de l'expertise ont été communiquées à X._ le 20 novembre 2009; la Commission de surveillance a ensuite refusé, le 7 décembre 2009, la demande de l'intéressé tendant à prendre connaissance des pages non versées au dossier, qu'elle a estimé couvertes par l'art. 45 de la loi genevoise sur la procédure administrative du 12 septembre 1985 (LPA; RSGE E 5 10).
Par décision du 17 décembre 2009, la Commission de surveillance a infligé à X._ un blâme et une amende de 5'000 fr., en application de l'art. 110 al. 2 et 3 de l'ancienne loi sur les professions de la santé du 11 mai 2001 (aLPS), en vigueur jusqu'au 31 août 2006, moment où les faits incriminés s'étaient déroulés. Elle a notamment retenu qu'au vu de la méthode de travail adoptée par l'intéressé et du caractère péremptoire des conclusions formulées dans son rapport 29 août 2006, la faute commise était grave, d'autant plus qu'il n'avait jamais fait preuve d'un esprit critique sur son travail.
C. Saisi d'un recours de X._ contre cette décision, le Tribunal administratif du canton de Genève l'a admis partiellement, par arrêt du 16 novembre 2010. Il a ainsi confirmé la décision attaquée en tant qu'elle infligeait un blâme au recourant et l'a annulée pour le surplus, au motif que la loi fédérale sur les professions médicales universitaires du 23 juin 2006 (LPMéd; RS 811.11) ne permettait pas de cumuler le blâme et l'amende. La juridiction cantonale a cependant relevé qu'il s'agissait d'une sanction extrêmement clémente au vu de la faute commise.
D. X._ forme un recours en matière de droit public auprès du Tribunal fédéral et conclut, sous suite de frais et dépens, à l'annulation de l'arrêt du Tribunal administratif du 16 novembre 2010.
Le Tribunal administratif, devenu la Chambre administrative de la Cour de justice depuis le 1er janvier 2011, se réfère au dispositif et aux considérants de son arrêt. De son côté, la Commission de surveillance a déposé des observations détaillées, au terme desquelles elle conclut au rejet du recours dans la mesure où il est recevable et à la confirmation de l'arrêt attaqué, sous suite de frais et dépens.

Considérant en droit:
1. 1.1 Le recours est dirigé contre un jugement final (art. 90 LTF) rendu dans une cause de droit public (cf. art. 82 let. a LTF) par un tribunal cantonal supérieur (art. 86 al. 1 let. d et al. 2 LTF), sans que l'on se trouve dans l'un des cas d'exceptions mentionnés par l'art. 83 LTF. Déposé en outre dans le délai (art. 46 al. 1 let. c et 100 al. 1 LTF) et en la forme (art. 42 LTF) prévus par la loi, par le recourant qui est atteint par la décision entreprise et a un intérêt digne de protection à son annulation ou à sa modification (art. 89 al. 1 LTF), il est en principe recevable comme recours en matière de droit public.
1.2 Le recourant conclut toutefois uniquement à l'annulation de l'arrêt attaqué, sans préciser sur quels points portent les modifications demandées. Comme la LTF confère au Tribunal fédéral la compétence, quel que soit le type de recours, de statuer lui-même sur le fond (art. 107 et 117 LTF), les conclusions ne peuvent en principe plus être exclusivement cassatoires (FLORENCE AUBRY GIRARDIN, Commentaire de la LTF, n. 17 ad art. 42 LTF). Celles-ci peuvent néanmoins faire l'objet d'une interprétation destinée à en saisir la portée réelle. Dans ce cadre, on peut déduire de la longue motivation développée par le recourant que celui-ci demande au Tribunal fédéral de l'exempter de toutes sanctions disciplinaires relatives aux faits qui lui ont été reprochés par la Commission de surveillance, de sorte que son recours est recevable au regard de l'art. 42 al. 1 LTF (<ref-ruling> consid. 1 p. 414 confirmé sous l'empire de la LTF: arrêt 2C_777/2009 du 21 avril 2010 consid. 1.2, in SJ 2010 I p. 516).
2. 2.1 Saisi d'un recours en matière de droit public, le Tribunal fédéral examine librement la violation du droit fédéral, qui comprend les droits de nature constitutionnelle (cf. art. 95 let. a et 106 al. 1 LTF), sous réserve des exigences de motivation figurant à l'art. 106 al. 2 LTF. Il y procède en se fondant sur les faits constatés par l'autorité précédente (cf. art. 105 al. 1 LTF), à moins que ces faits n'aient été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (cf. art. 105 al. 2 LTF). La notion de "manifestement inexacte" de l'art. 97 LTF correspond à celle d'arbitraire de l'art. 9 Cst. (<ref-ruling> consid. 2.1 p. 450 ; <ref-ruling> consid. 7.1 p. 398). Le recourant doit ainsi expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui qui est contenu dans l'acte attaqué. En particulier, le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (cf. <ref-ruling> consid. 3 p. 104; <ref-ruling> consid. 5.2.2 p. 322; <ref-ruling> consid 1.4 p. 400 et les arrêts cités).
2.2 Une décision est arbitraire lorsqu'elle contredit clairement la situation de fait, qu'elle viole gravement une norme ou un principe juridique clair et indiscuté ou qu'elle heurte d'une manière choquante le sentiment de la justice et de l'équité. A cet égard, le Tribunal fédéral ne s'écarte de la solution retenue par l'autorité cantonale de dernière instance que si elle apparaît insoutenable, en contradiction manifeste avec la situation effective, adoptée sans motifs objectifs ou en violation d'un droit certain. De plus, il ne suffit pas que les motifs de l'arrêt attaqué soient insoutenables, encore faut-il que ce dernier soit arbitraire dans son résultat. Il n'y a en outre pas arbitraire du seul fait qu'une autre solution que celle de l'autorité intimée paraît concevable, voire préférable (<ref-ruling> consid. 4 p. 560; <ref-ruling> consid. 3.1 p. 266, 140 consid. 5.4 p. 148).
3. Le recourant conteste tout d'abord la compétence de la Commission de surveillance qui lui a infligé un blâme et une amende de 5'000 fr., cette dernière sanction n'étant au demeurant plus litigieuse, puisqu'elle a été annulée par le Tribunal administratif.
3.1 La loi genevoise sur la santé du 7 avril 2006 (LS; RSGE K 1 03), ainsi que la loi genevoise sur la commission de surveillance des professions de la santé et des droits des patients, également du 7 avril 2006 (LComPS; RSGE K 3 03), sont entrées en vigueur le 1er septembre 2006.
Selon l'art. 34 al. 2 LComPS, les affaires introduites avant l'entrée en vigueur de la loi et pendantes devant les commissions de surveillance de la santé et des activités médicales, ainsi que devant le conseil de surveillance psychiatrique, sont instruites et jugées par ces autorités. La commission de surveillance des professions de la santé et des droits des patients ne peut pas en être saisie. Elle connaît en revanche de toutes les demandes, plaintes, dénonciations et recours déposés postérieurement à l'entrée en vigueur de la loi et relevant de celle-ci (art. 34 al. 1er LComPS).
3.2 Il est l'espèce constant que la plainte à l'origine du présent litige a été déposée le 25 septembre 2006, soit après l'entrée en vigueur des nouvelles lois, mais que les faits à l'origine de cette plainte se sont produits avant, puisqu'ils portent sur le rapport du recourant du 29 août 2006. Comme l'a admis le Tribunal administratif, l'art. 34 al. 1 LComPS a pour seule fonction d'aménager le transfert de compétence des anciennes institutions à la nouvelle Commission de surveillance, mais ne règle pas la question du droit applicable. On ne saurait dès lors suivre le raisonnement du recourant, selon lequel la Commission de surveillance ne disposait d'aucune base légale pour sanctionner son comportement, le rapport incriminé datant du 29 août 2006, puisqu'elle n'était pas compétente pour appliquer l'ancienne loi sur la santé du 11 mai 2001 (aLS; act. 4 pce 29), en vigueur jusqu'au 31 août 2006. Les juges cantonaux ont donc relevé à juste titre que l'interprétation faite par le recourant de l'art. 34 LComPS reviendrait à exempter de toutes sanctions administratives les professionnels de la santé ayant commis des infractions sous l'empire de l'ancienne loi sur la santé, lorsqu'une dénonciation intervient à partir du 1er septembre 2006. Cette solution n'a certainement pas été voulue par le législateur, dont l'intention a toujours été de sanctionner les professionnels de la santé soumis à une surveillance, dans l'intérêt des patients, que ce soit dans l'ancienne loi sur la santé (cf. art. 108 aLS) ou la nouvelle loi (cf. art. 127 LS). Les sanctions énumérées dans ces dispositions sont les mêmes et sont également contenues à l'art. 43 al. 1 LPméd. Contrairement à ce que soutient le recourant, il ne peut y avoir un vide juridique uniquement parce que les faits incriminés ont été commis sous l'ancien droit et que la plainte à son encontre a été déposée après le 1er septembre 2006, date de l'entrée en vigueur des nouvelles lois. Le fait que la Commission de surveillance s'est basée sur l'art. 110 al. 2 aLS pour sanctionner le comportement du recourant est ainsi sans pertinence. Au demeurant, la juridiction cantonale, appliquant le principe de la lex mitior, s'est fondée sur l'art. 43 al. 1 LPMéd pour annuler l'amende.
3.3 Le Tribunal administratif pouvait dès lors retenir sans arbitraire que l'art. 34 LComPS permettait à la nouvelle Commission de surveillance des professions de la santé et des droits des patients d'instruire la plainte de M. B._, déposée après le 1er septembre 2006.
4. Le recourant se plaint ensuite d'une violation de son droit d'être entendu dans la mesure où il n'a pas eu accès à l'entier de l'expertise du Dr H._, dont seules les pages 37 à 40 et 43 à 44 lui ont été communiquées par la Commission de surveillance, le 20 novembre 2009 seulement.
4.1 Le droit de consulter le dossier est un aspect du droit d'être entendu garanti par l'art. 29 al. 2 Cst. (<ref-ruling> consid. 3.2 p. 494). Il comprend entre autres le droit pour l'intéressé de prendre connaissance du dossier (<ref-ruling> consid. 2b p. 10), de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, de produire des preuves, d'obtenir qu'il soit donné suite à ses offres de preuves, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat (<ref-ruling> consid. 3.2 p. 494; <ref-ruling> consid. 2c p. 578 s.; <ref-ruling> consid. 3a p. 436). Le droit de consulter le dossier doit aussi pouvoir s'exercer lorsque les pièces du dossier ne sont pas de nature à influencer la décision à rendre. Il ne suffit donc pas, pour refuser la consultation d'un acte dans une procédure déterminée, de déclarer que le document en cause est sans importance pour l'issue de la procédure. Il faut plutôt laisser à la partie qui en demande la consultation de juger elle-même de la pertinence de cet acte (<ref-ruling> consid. 3.2 p. 389, confirmé récemment in arrêt 1C_88/2011 du 15 juin 2011, consid. 3.4). Le droit de consulter le dossier n'est toutefois pas absolu et peut être limité dans la mesure où l'intérêt public, l'intérêt de tiers ou l'intérêt du requérant lui-même exigent que tout ou partie des documents soient tenus secrets (<ref-ruling> consid. 2b p. 10/11; <ref-ruling> consid. 2b p. 155).
Au vu de cette jurisprudence, la Commission de surveillance devait en principe communiquer au recourant l'expertise du Dr H._ du 2 octobre 2006 dès réception. Reste à déterminer si, comme l'a admis le Tribunal administratif, elle pouvait se fonder sur le droit cantonal pour justifier sa manière de procéder en fonction des intérêts en présence.
4.2 Selon l'art. 45 al. 1 LPA, l'autorité cantonale peut interdire la consultation du dossier si l'intérêt public ou des intérêts privés prépondérants l'exigent. Une pièce dont la consultation est refusée à une partie ne peut toutefois être utilisée à son désavantage que si l'autorité lui en a communiqué par écrit le contenu essentiel se rapportant à l'affaire et lui a donné en outre l'occasion de s'exprimer et de proposer les contre-preuves (art. 45 al. 3 LPA). Cette disposition permet donc, comme l'admet la jurisprudence précitée découlant de l'art. 29 al. 2 Cst., de restreindre la consultation des pièces, lorsqu'il apparaît que l'intérêt public à sauvegarder ou les intérêts privés de tiers à ne pas divulguer une information les concernant sont plus importants que le droit d'une partie à avoir accès à toutes les pièces de la procédure. Une telle exception au droit de consulter le dossier doit cependant être appliquée de manière restrictive. Elle est aussi limitée par l'art. 45 al. 3 LPA qui reprend les exigences du droit d'être entendu si l'autorité cantonale entend se fonder sur une pièce dont la consultation a été refusée.
En l'espèce, le Tribunal administratif a retenu que le recourant avait eu la possibilité de se prononcer sur les pages de l'expertise qui le concernaient, de sorte qu'il n'y avait ni violation du droit d'être entendu, ni restriction au droit de consulter le dossier au sens de l'art. 45 LPA. Le recourant ne conteste pas qu'il a pu se déterminer sur les pages du rapport qui lui ont été transmises le 20 novembre 2009, de sorte que cette communication n'est pas tardive. En outre, il n'a pas recouru immédiatement contre la décision de la Commission de surveillance du 7 décembre 2009 lui refusant la consultation de l'entier de l'expertise, comme le permet l'art. 45 al. 4 LPA. Le recourant ne mentionne d'ailleurs aucun élément qui aurait été retenu contre lui dans l'arrêt attaqué et dont il n'aurait pas eu connaissance avant de pouvoir répondre. Il n'a certes pas pu vérifier le bien fondé du choix des pages qui lui ont été transmises par la Commission de surveillance et fait toutes sortes de suppositions sur les éléments en sa faveur qu'il aurait pu trouver dans les pages non communiquées. Son raisonnement ne saurait toutefois être suivi, dès lors que l'autorité intimée a clairement dit qu'il s'agissait uniquement de sauvegarder les intérêts de tiers qui étaient mentionnés dans l'expertise du Dr H._. Eu égard au caractère éminemment confidentiel de la pièce en cause, elle était donc en droit de ne pas lui soumettre les pages qui n'avaient aucun lien avec la procédure concernant le psychiatre. Le fait que le recourant soit soumis au secret professionnel ou que le plaignant ait produit lui-même l'expertise du Dr H._, sans se prévaloir de la confidentialité, ne modifie donc nullement la protection des intérêts à laquelle les tiers, en particulier les enfants C._, D._ et E._, ont droit. Au surplus, dans ses observations sur le présent recours, la Commission de surveillance n'admet pas que sa décision ait été fondée "quasi exclusivement" sur l'expertise du Dr H._, comme le soutient le recourant, puisqu'elle disposait de l'appréciation de deux autres psychiatres, et qu'elle comporte en son sein de nombreux professionnels de la santé, dont plusieurs psychiatres (cf. art. 3 al. 2 LComPS).
Dans ces conditions, le grief de violation du droit d'être entendu ne peut qu'être rejeté.
5. 5.1 Le recourant reproche au Tribunal administratif d'avoir procédé à une appréciation insoutenable des faits en retenant qu'il aurait rédigé son rapport uniquement pour servir de preuve dans le cadre des procédures civile et pénale pendantes entre M. B._ et son ex-épouse et en se prononçant sur le contenu du matériel documentaire auquel il a eu accès. Il qualifie également de totalement arbitraire l'appréciation négative que la juridiction cantonale a émise au sujet de sa méthodologie et les conséquences qu'elle en a tirées.
5.2 Comme on l'a vu (supra consid. 2.1), la notion de "manifestement inexacte" de l'art. 97 LTF correspond à celle d'arbitraire de l'art. 9 Cst. En outre, le Tribunal fédéral fait preuve de retenue lorsque se posent des questions d'ordre technique ou d'appréciation (<ref-ruling> consid. 4.4 p. 199 et les arrêts cités). Il est donc exclu que le Tribunal fédéral examine les différentes approches scientifiques que le recourant développe au sujet de la possibilité de procéder à des expertises en l'absence de la personne expertisée, ainsi que les directives médicales auxquelles il se réfère. Les griefs tirés de l'atteinte à la liberté d'opinion et la liberté de la science qu'il formule à ce propos sont dès lors sans pertinence.
Au demeurant, le fondement même de la méthode utilisée par le recourant n'est pas en cause. En effet, si le fait de s'être prononcé sur le comportement de M. B._ sans avoir rencontré ce dernier lui a été reproché, c'est uniquement en raison du contexte de l'examen auquel il a procédé, dans un climat particulièrement conflictuel entre sa patiente et son ex-époux. Comme il l'a lui-même mentionné dans son rapport du 29 août 2006, il savait que son avis lui était demandé, alors que des procédures judiciaires étaient pendantes, et que Mme A._ allait en faire usage dans ce cadre. Il ne saurait maintenant prétendre qu'il s'agissait uniquement d'éclairer celle-ci sur les craintes qu'elle avait au sujet de l'attitude de son ex-mari vis-à-vis de ses enfants. Le titre de son rapport du 26 août 2006: "Expertise en sexologie à propos d'écrits et de comportements conjugaux et familiaux de M. B._", démontre aussi que ce rapport n'était pas un simple avis donné à sa patiente, mais était bien destiné à être utilisé dans le cadre des procédures judiciaires en cours. Le recourant a également fait une confiance totalement disproportionnée aux notes et renseignements que Mme A._ lui a donnés et a même accepté que lui soient remises les notes manuscrites de M. B._, rédigées dans le cadre d'un suivi thérapeutique datant d'une vingtaine d'années, notes qui avaient été soustraites à l'intéressé par sa patiente. Sur ce point, les experts consultés ont été unanimes pour juger ce procédé "très discutable sur le plan scientifique comme sur le plan éthique" (cf. par exemple, rapport du Dr F._ du 19 septembre 2006). Cette attitude est d'autant moins compréhensible que le recourant savait d'avance qu'il ne lui serait pas possible de confronter l'intéressé avec les renseignements unilatéraux et partiaux que lui fournissait sa patiente, ni de réactualiser des notes qui avaient été prises dans un cadre tout à fait spécial, plus de vingt ans auparavant, et n'étaient dès lors pas utilisables pour apprécier le danger actuel que pouvait représenter le père pour ses enfants. A elle seule, cette façon d'agir n'est pas admissible, quels que soient les arguments invoqués pour la justifier. Il faut aussi rappeler que, dans son rapport du 29 août 2006, le recourant a formulé des conclusions très négatives sur M. B._, qui auraient pu avoir pour conséquence que celui-ci perde la garde de ses enfants, alors que toutes les expertises postérieures ont infirmé ces conclusions et que la garde des enfants a même été confiée au père à titre provisoire par le Service de protection de la jeunesse du canton de Vaud. Sans connaître le suivi thérapeutique et la situation actuelle de l'intéressé, le recourant est également allé jusqu'à suggérer "qu'une évaluation sexologique soit effectuée par un spécialiste capable d'évaluer la santé sexuelle de M. B._, dans toutes ses composantes, y compris celle de la fonction d'excitation sexuelle et son développement". Cette suggestion était donc loin d'être anodine dans le contexte en cause, puisqu'il y a lieu de rappeler que l'élément déterminant pour la valeur probante d'un avis médical n'est ni l'origine du moyen de preuve, ni sa désignation comme rapport ou comme expertise, mais bel et bien son contenu (<ref-ruling> consid. 3a p. 352; arrêt 9C_885/2007 du 15 septembre 2008, consid. 1.3, in Plädoyer 2008/6 p. 78).
5.3 Il s'ensuit que la juridiction cantonale n'a pas apprécié les faits de façon arbitraire, ni retenu des éléments insoutenables pour qualifier le comportement du recourant. Reste à déterminer si la sanction prononcée est justifiée par rapport à la faute commise.
6. Le Tribunal administratif a estimé que les faits reprochés au recourant devaient être qualifiés d'agissement professionnel incorrect au sens de l'art. 108 al. 2 let. b aLPS, en vigueur au moment où ces faits se sont produits. Il n'a toutefois pas appliqué cette disposition, mais le nouveau droit, en vertu de la lex mitior.
6.1 La loi fédérale sur les professions médicales universitaires du 23 juin 2006, entrée en vigueur le 1er septembre 2007, a pour but d'unifier le droit disciplinaire en prévoyant des mesures uniformes en cas de violation des obligations professionnelles (cf. Message du 3 décembre 2004, FF 2005 p. 212). Sous le titre "devoirs professionnels", l'art. 40 let. a LPMéd contient une disposition générale imposant aux personnes exerçant une profession médicale universitaire à titre indépendant d'exercer leur activité "avec soin et conscience professionnelle", sans plus de précision. L'art. 43 LPMéd énumère ensuite les mesures disciplinaires possibles en cas de violation des devoirs professionnels qui vont de l'avertissement (let. a) à l'interdiction définitive de pratiquer (let. e). Plus sévère que l'avertissement, le blâme (let. b) constate expressément le manquement aux devoirs et le réprimande (BORIS ETTER, Medizinalberufgesetz, 2006, n. 13 ad art. 43, p. 137). Le Tribunal administratif s'est fondé sur l'art. 43 LPMéd qu'il a jugé plus favorable à l'art. 110 aLPS prévoyant expressément que l'amende pouvait être cumulée avec le blâme (al. 3). L'art. 43 al. 3 LPMéd dispose en effet que l'amende ne peut être prononcée en plus de l'interdiction de pratiquer à titre indépendant, ce qui, selon les premiers juges, excluait a contrario le cumul de l'amende et d'une autre sanction disciplinaire, telle le blâme.
Le principe de la lex mitior prévu à l'art. 2 al. 2 CP étant applicable par analogie en matière de sanctions disciplinaires, (cf. arrêt 2A.448/2003 du 3 août 2008, consid. 1.4), on ne peut faire grief au Tribunal administratif d'en avoir fait usage, dès lors que, selon son interprétation de l'art. 43 al. 3 LPMéd, le nouveau droit ne permet pas de cumuler le blâme et l'amende comme le prévoyait expressément l'art. 117 al. 2 aLSP. Compte tenu de l'interdiction de la reformatio in pejus (cf. art. 107 al. 1 LTF; arrêt 2C_788/2010 du 18 mai 2011, consid. 4.4), il n'y a au surplus pas lieu de vérifier le bien-fondé de cette interprétation. En revanche, il convient d'examiner si le blâme infligé au recourant est justifié, celui-ci soutenant qu'il n'a violé aucune prescription légale, et par conséquent aucun devoir professionnel.
6.2 Comme on l'a vu (supra consid. 5), l'ensemble des circonstances dans lesquelles le recourant a rédigé son rapport du 29 août 2006 constitue bien un manquement aux obligations professionnelles du médecin, qu'il soit qualifié d'agissement professionnel incorrect au sens de l'art. 108 al. 2 let. b aLSP ou d'activité exercée sans le soin et la conscience professionnelle nécessaires, ainsi que l'exige l'art. 40 al. 1 let. a LPMéd. Malgré l'absence d'intention de porter un quelconque préjudice à M. B._ alléguée par le recourant, il a en effet été établi que celui-ci n'a pas pris les précautions que l'on peut attendre d'un médecin-psychiatre pour qualifier le comportement sexuel d'un tiers. Il a ainsi tiré des conclusions hâtives des notes transmises par l'ex-épouse, conclusions qui étaient manifestement de nature à nuire à M. B._ (cf. jurisprudence précitée: <ref-ruling> consid. 3a p. 352 et arrêt 9C_885/2007, consid. 1.3) et qui ont été ensuite démenties par tous les autres experts psychiatres consultés. Le contexte particulier qui a motivé la rédaction du rapport du 29 août 2006 ne saurait dès lors servir à exempter le recourant de toute sanction.
6.3 La mesure disciplinaire doit toutefois respecter le principe de la proportionnalité (art. 5 al. 2 Cst.) qui exige que le moyen choisi soit propre à atteindre le but fixé, au regard des intérêts privés et publics en présence (<ref-ruling> consid. 5.2 p. 438; <ref-ruling> consid. 3e p. 44; BORIS ETTER, op. cit., n.18 ad art. 43). Comme l'ont relevé les autorités cantonales, le recourant n'a jamais remis en cause sa façon de travailler, alors même que son comportement violait les règles les plus élémentaires de sa profession. Le prononcé d'un seul blâme dans le contexte retenu ne viole manifestement pas la proportionnalité, une sanction plus sévère, telle une amende prononcée par la Commission de surveillance, aurait du reste pu paraître acceptable.
7. Au vu de ce qui précède, le recours doit être rejeté dans la mesure de sa recevabilité, avec suite de frais à la charge du recourant (art. 66 al. 1 LTF et 65 al. 2 LTF).
Aucun dépens ne sera alloué à la Commission de surveillance qui a procédé dans le cadre de ses attributions officielles (art. 68 al. 3 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué au mandataire du recourant, à la Commission de surveillance des professions de la santé et des droits des patients du canton de Genève et à la Chambre administrative de la Cour de justice du canton de Genève.
Lausanne, le 30 juillet 2011
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président: La Greffière:
Zünd Rochat