Faits :
A.
A.a. A._, né le 20 juillet 1969, a obtenu un diplôme fédéral de médecin de la faculté d'Oran, puis le titre de médecin spécialiste FMH en urologie. Le Département de la santé, des affaires sociales et de la culture du canton du Valais (ci-après: le Département de la santé) lui a délivré une autorisation de pratiquer la médecine à titre indépendant en juillet 2008. Il exploite son propre cabinet depuis 2010. L'intéressé est marié et père de trois filles nées en 2004, 2007 et 2014.
Le 28 novembre 2014, à la suite de la dénonciation d'une patiente, le Département de la santé a décidé de mesures provisionnelles urgentes à l'encontre d'A._: celui-ci avait l'obligation immédiate de ne soigner ses patientes qu'en la présence, à tout instant, de son assistante.
Par jugement du 4 juin 2018, A._ a été condamné, pour actes d'ordre sexuel commis sur une personne incapable de discernement ou de résistance, à une peine privative de liberté de deux ans avec sursis durant un délai d'épreuve de quatre ans assorti d'une règle de conduite l'obligeant à procéder aux consultations de patientes uniquement en présence d'un/une assistant/e. L'intéressé devait également verser, à titre de tort moral, 7'000 fr. aux deux patientes qui avaient porté plainte. Les juges pénaux ont retenu qu'A._ avait agi à l'insu de ses patientes alors que, couchées les jambes relevées, elles ne voyaient pas les gestes et l'attitude du médecin. Dans le premier cas, A._ avait introduit deux doigts dans le vagin, puis le rectum de sa patiente, qui était sous l'effet de deux cachets de Temesta destinés à calmer son angoisse lors de la consultation; celle-ci avait ressenti de violentes douleurs, avait les yeux fermés et pleurait; puis, le médecin avait embrassé sa cuisse gauche, tout en palpant son clitoris. Dans le second cas, l'intéressé avait introduit deux doigts dans le vagin de sa patiente qui était installée dans la chaise gynécologique, puis, celle-ci se plaignant de douleurs, il avait embrassé les lèvres vaginales; il avait ensuite enlevé ses gants et poursuivi le toucher vaginal tout en écartant les lèvres du sexe afin de voir le clitoris. Les juges ont estimé qu'A._ avait agi dans le but d'assouvir ses pulsions sexuelles; de plus, il avait contacté ces deux personnes pour leur proposer une compensation financière en échange du retrait de leur plainte respective.
En date du 22 novembre 2018, la Commission de surveillance des professions de la santé du canton du Valais (ci-après: la Commission de surveillance) a rendu un préavis selon lequel A._ avait commis une faute professionnelle grave en profitant de son statut de médecin pour abuser de la confiance de ses patientes lors du contrôle de leurs parties intimes. Elle a proposé au Département de la santé d'interdire à l'intéressé de pratiquer pendant deux ans et de lui enjoindre d'être suivi par un psychiatre chargé d'évaluer la possibilité de reprendre une activité, puis, une fois celle-ci recommencée, d'obliger A._ à informer ses assistantes de la mesure ordonnée par l'autorité pénale, afin qu'elles confirment la stricte application de celle-ci.
Le Département de la santé a, par décision du 12 février 2019, prononcé le retrait de l'autorisation de pratiquer d'A._ pour une durée d'un an assorti d'une amende de 4'000 fr., ainsi que l'obligation, durant les trois ans à compter de la reprise de son activité, de ne soigner ses patientes qu'en la présence d'un/e assistant/e. Il a retenu que les actes commis étaient graves, que le médecin avait nié les faits et même tenté d'acheter le silence des deux victimes et que les agissements en cause avaient affecté psychologiquement ces deux personnes.
A.b. Le Conseil d'État du canton du Valais (ci-après: le Conseil d'Etat) a, le 4 septembre 2019, rejeté le recours d'A._ à l'encontre de cette décision.
B.
Par arrêt du 25 mai 2020, la Cour de droit public du Tribunal cantonal du canton du Valais (ci-après: le Tribunal cantonal) a également rejeté le recours d'A._ à l'encontre de la décision du 4 septembre 2019 du Conseil d'État. Il a en substance jugé que le droit d'être entendu de celui-ci avait été violé dans la mesure où le préavis de la Commission de surveillance ne lui avait été transmis que lors de l'instruction de la cause devant le Conseil d'État, mais que cette violation avait été guérie; en outre, le principe ne bis in idem n'était pas enfreint par les sanctions prononcées dans les procédures disciplinaire et pénale; finalement, la décision respectait le principe de proportionnalité.
C.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral, sous suite de frais et dépens, d'annuler l'arrêt du 25 mai 2020 du Tribunal cantonal et, partant, d'annuler toute mesure d'interdiction de pratiquer la médecine.
Le Département de la santé, ainsi que Conseil d'État concluent au rejet du recours. Le Tribunal cantonal a renoncé à se déterminer.

Considérant en droit :
1.
Le recours en matière de droit public, déposé en temps utile (<ref-law>) et en la forme prévue (<ref-law>) à l'encontre d'un arrêt final rendu par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF) par l'intéressé qui a la qualité pour recourir (<ref-law>), est recevable (art. 82 let. a et 90 LTF).
2.
Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>), sous réserve des cas prévus à l'<ref-law>. La partie recourante ne peut critiquer les constatations de fait que si celles-ci ont été établies de façon manifestement inexacte - notion qui correspond à celle d'arbitraire - ou en violation du droit au sens de l'<ref-law> et si la correction du vice est susceptible d'influer sur le sort de la cause (<ref-law>; <ref-ruling> consid. 2 p. 190; <ref-ruling> consid. 6 p. 358). Conformément à l'<ref-law>, elle doit expliquer de manière circonstanciée en quoi ces conditions seraient réalisées. A défaut, il n'est pas possible de tenir compte d'un état de fait qui diverge de celui qui est contenu dans l'acte attaqué (cf. <ref-ruling> consid. 2 p. 190; <ref-ruling> consid. 5.1 p. 356).
3.
Dans un premier grief, invoquant les art. 29 Cst. et 6 CEDH, le recourant se plaint d'une violation de son droit d'être entendu. Il relève que le dossier déposé par le Département de la santé devant le Conseil d'État était incomplet car il ne contenait pas le préavis du 22 novembre 2018 de la Commission de surveillance. Celui-ci n'aurait été versé à la procédure que le 20 août 2019 à la demande de l'autorité chargée de l'instruction, puis transmis au recourant. Selon l'intéressé, un second échange d'écritures aurait alors dû être ordonné, afin qu'il puisse se prononcer sur le préavis en cause.
3.1. Conformément aux art. 29 al. 2 Cst. et 6 CEDH, les parties ont le droit d'être entendues. Ce droit comprend, pour une partie à un procès, le droit de prendre connaissance de toute argumentation présentée au tribunal et de se déterminer à son propos, que celle-ci contienne ou non de nouveaux éléments de fait ou de droit, et qu'elle soit ou non concrètement susceptible d'influer sur le jugement à rendre. Il appartient en effet aux parties, et non au juge, de décider si une prise de position ou une pièce nouvellement versée au dossier contient des éléments déterminants qui appellent des observations de leur part. Toute prise de position ou pièce nouvelle versée au dossier doit dès lors être communiquée aux parties pour leur permettre de décider si elles veulent ou non faire usage de leur faculté de se déterminer (<ref-ruling> consid. 4.1.1 p. 52; <ref-ruling> consid. 3.2 p. 191; <ref-ruling> consid. 2.1 p. 485). Le droit de répliquer n'impose pas à l'autorité judiciaire l'obligation de fixer un délai à la partie pour déposer d'éventuelles observations. Elle doit seulement lui laisser un laps de temps suffisant, entre la remise des documents et le prononcé de sa décision, pour qu'elle ait la possibilité de déposer des observations si elle l'estime nécessaire (<ref-ruling> consid. 4.1.1 p. 52; <ref-ruling> consid. 2.4 p. 487). A cet égard, le Tribunal fédéral considère qu'un délai inférieur à dix jours ne suffit pas à garantir l'exercice du droit de répliquer, tandis qu'un délai supérieur à vingt jours permet, en l'absence de réaction, d'inférer qu'il a été renoncé au droit de répliquer. En d'autres termes, une autorité ne peut considérer, après un délai de moins de dix jours depuis la communication d'une détermination à une partie, que celle-ci a renoncé à répliquer et rendre sa décision (cf. arrêt 5A_17/2020 du 20 mais 2020 consid. 3.2.2 et les références citées).
3.2. Le dossier produit par le Département de la santé devant le Conseil d'État ne contenait effectivement pas le préavis du 22 novembre 2018 de la Commission de surveillance. Celui-ci n'a été produit que le 5 août 2019, lors de l'instruction de la cause devant le Conseil d'Etat; il a été transmis au recourant le 20 août 2019. Le Conseil d'Etat a rendu sa décision le 4 septembre 2019.
A l'instar des juges précédents, il faut considérer qu'il n'était pas impératif que la communication de la pièce en cause soit assortie d'un délai pour déposer d'éventuelles observations. En effet, comme susmentionné, s'il est du devoir d'un tribunal de garantir aux parties un droit effectif à la réplique dans chaque cas particulier, il peut suffire de communiquer une prise de position sans fixer de délai pour des déterminations, si on peut attendre de la partie qu'elle prenne position immédiatement sans y avoir été invitée. Or, en l'espèce, il faut relever d'une part que le recourant était représenté par un mandataire dont on pouvait attendre qu'il fasse parvenir une réplique à l'autorité concernée s'il l'estimait nécessaire; il a eu, pour se faire, une quinzaine de jours, puisque le préavis du 22 novembre 2018 de la Commission de surveillance lui a été transmis le 20 août 2019 et que le Conseil d'État a rendu sa décision le 4 septembre 2019. D'autre part, comme le relève l'arrêt attaqué, la lettre accompagnant la pièce en cause précisait "l'instruction est en principe close par la présente communication, sauf application de l'art. 23 al. 2 LPJA". Selon cette disposition cantonale, l'autorité prend en considération les allégations importantes qu'une partie a avancées en temps utile et les allégations tardives qui paraissent décisives. Ainsi, l'autorité compétente a attiré l'attention du recourant sur le fait qu'il pouvait produire des observations. En conséquence de ce qui précède, le droit d'être entendu du recourant n'a pas été violé.
4.
Le recourant invoque une violation du principe ne bis in idem, mais ne mentionne aucune disposition à cet égard. Selon lui, la mesure du 12 février 2019 du Département de la santé aux termes de laquelle d'une part il lui est interdit de pratiquer la médecine pendant une année et d'autre part il lui est fait l'obligation, durant les trois ans à compter de la reprise de son activité, de ne soigner ses patientes qu'en la présence d'un/e assistant/e fait double emploi avec la décision de mesures provisionnelles urgentes du 28 novembre 2014 du Département de la santé, ainsi qu'avec la mesure pénale qui est "de même nature".
4.1. Le principe ne bis in idem est un corollaire de l'autorité de chose jugée. Il appartient avant tout au droit pénal fédéral matériel et interdit qu'une personne soit poursuivie deux fois pour les mêmes faits (<ref-ruling> consid. 10.1 p. 155; <ref-ruling> consid. 2b p. 466; arrêt 2C_907/2018 du 2 avril 2019 consid. 4.4). Il découle en outre implicitement de la Constitution fédérale, à savoir des art. 8 al. 1 et 29 al. 1 Cst. (<ref-ruling> consid. 2.1 p. 365). Ce principe est garanti également par les art. 4 ch. 1 du Protocole additionnel n° 7 à la CEDH (RS 0.101.07) et 14 al. 7 Pacte ONU II (RS 0.103.2), qui interdisent aux juridictions d'un même Etat de poursuivre ou de punir pénalement quelqu'un en raison d'une infraction pour laquelle il a déjà été acquitté ou condamné par un jugement définitif. L'autorité de chose jugée et le principe ne bis in idem supposent qu'il y ait identité de l'objet de la procédure, de la personne visée et des faits retenus (<ref-ruling> consid. 10.5 p. 157; cf. aussi arrêt 2C_78/2019 du 20 septembre 2019 consid. 7.1 et les références citées).
La qualification juridique de la procédure en droit interne ne saurait être le seul critère pertinent pour l'applicabilité du principe ne bis in idem au regard de l'art. 4 ch. 1 du Protocole n° 7. Les termes "procédure pénale" de cette disposition doivent être interprétés à la lumière des principes généraux applicables aux expressions "accusation en matière pénale" ("criminal charge") et "peine" ("penalty") figurant respectivement à l'art. 6 et à l'art. 7 CEDH (arrêt Sergueï Zolotoukhine c. Russie du 10 février 2009 [requête n° 14939/03], § 53; cf. également arrêt A et B c. Norvège du 15 novembre 2016 [requêtes nos 24130/11 et 29758/11], § 24 et les arrêts cités). Ainsi, pour que le principe ne bis in idem s'applique, une mesure administrative doit avoir un caractère pénal (<ref-ruling> consid. 2 p. 347). Selon une jurisprudence constante de la Cour européenne des droits de l'hom me (ci-après: la CourEDH), l'existence ou non d'une "accusation en matière pénale" doit s'apprécier sur la base de trois critères alternatifs: la qualification juridique de l'infraction selon le droit national (cf. consid. 4.2.1), la nature de l'infraction (cf. consid. 4.2.2) ou le type et/ou la gravité de la sanction (cf. consid. 4.2.3) (ces critères dits «critères Engel» découlent de l'arrêt Engel et autres c. Pays-Bas du 8 juin 1976 [requêtes nos 5100/71, 5101/71; 5102/71; 5354/72; 5370/72]; cf. <ref-ruling> consid. 3.4 p. 252; <ref-ruling> consid. 3.2.1 p. 388; <ref-ruling> consid. 2.2.2 p. 78).
Le Tribunal fédéral s'est penché sur d'éventuelles violations du principe ne bis in idem notamment dans le cadre des procédures en matière de retrait de permis et a conclu que la double procédure pénale et administrative prévue par la loi fédérale du 19 décembre 1958 sur la circulation routière (LCR; RS 741.01) respectait ce principe (<ref-ruling> consid. 2.4 p. 369 s.). De même, la Cour de céans a jugé que la décision de révoquer un permis de séjour à la suite d'une infraction pénale, qui a valu à l'intéressé une condamnation pénale, ne constitue pas une double peine et ne viole pas ledit principe (arrêts 2C_459/2013 du 21 octobre 2013 consid. 4 et 2C_432/2011 du 13 octobre 2011 consid. 3.3). Il en va, généralement, de même s'agissant des amendes prononcées dans le cadre d'une procédure disciplinaire à l'encontre d'avocats ou de médecins (<ref-ruling> consid. 2 p. 347: amende se montant à 5'000 fr. infligée à un avocat; arrêt 2C_5/2008 du 2 avril 2008 consid. 5, non publié in <ref-ruling>: amende s'élevant à 1'500 fr. infligée à un médecin; cf. également <ref-ruling> consid. 2.3 p. 319; <ref-ruling> consid. 2a) aa) p. 230; <ref-ruling> consid. 2 p. 419 ss; <ref-ruling> consid. 3 p. 380).
4.2. Il convient d'examiner ce qu'il en est en l'espèce, à savoir lorsqu'un médecin pratiquant sous sa propre responsabilité fait l'objet d'une sanction disciplinaire prenant la forme d'une interdiction de pratiquer pendant une année, alors qu'il a déjà été condamné pénalement pour les mêmes faits.
Il sied de noter en préambule que, contrairement à ce qu'invoque le recourant, les mesures provisionnelles urgentes lui imposant de ne soigner ses patientes qu'en la présence, à tout instant, de son assistante ne sont pas pertinentes dans le cadre de ce grief, puisque par définition de telles mesures ne produiront plus d'effet une fois que la décision faisant l'objet du présent litige sera entrée en force.
4.2.1. En droit interne, les sanctions prévues à l'art. 43 de la loi fédérale du 23 juin 2006 sur les professions médicales universitaires (loi sur les professions médicales, LPMéd; RS 811.11), dont l'interdiction de pratiquer, relèvent du droit disciplinaire. Les autorités compétentes en la matière sont des autorités administratives: ainsi, la sanction litigieuse a été prononcée par le Département de la santé sur la base d'une instruction menée par la Commission de surveillance qui a rendu un préavis adressé audit département. Par la suite, la Cour de droit public du Tribunal cantonal respectivement du tribunal de céans étaient compétentes pour traiter de la présente affaire, c'est-à-dire des autorités judiciaires administratives et pas pénales.
4.2.2. En ce qui concerne la nature de la cause, il est relevé que les sanctions disciplinaires de l'<ref-law> ne sont susceptibles de toucher que les membres de différentes professions médicales, c'est-à-dire les médecins, les médecins-dentistes, les chiropraticiens, les pharmaciens et les vétérinaires (cf. <ref-law>). Ces sanctions ne concernent pas les citoyens en général. En outre, bien que les faits qui ont induit la procédure disciplinaire constituent également un délit pénal, ceux qui ont été retenus contre le recourant dans la procédure disciplinaire ont trait uniquement à une violation d'un devoir professionnel du médecin, à savoir celui qui consiste à exercer son activité avec soin et conscience professionnelle (<ref-law>). Le fait qu'un comportement donné pouvant induire une sanction disciplinaire, en vertu du droit administratif, réunisse également les éléments matériels constitutifs d'une infraction pénale ne suffit pas à considérer une personne comme étant "accusée d'une infraction" pénale ("criminal charge" [cf. consid. 4.1 supra]; cf. arrêt de la CourEDH Müller-Hartburg c. Autriche du 19 février 2013 [requête n° 47195/06], § 44; décision finale sur la recevabilité de la CourEDH Moullet c. France du 13 septembre 2007 [requête n° 27521/04], sous ch. 2 let. a; cf., en relation avec l'<ref-law>, arrêt 2C_907/2018 du 2 avril 2019 consid. 5).
De plus, les sanctions disciplinaires de l'<ref-law>, à l'instar de celles infligées à tout membre d'une profession libérale soumise à la surveillance de l'État, ont principalement pour but de maintenir l'ordre dans la profession, d'en assurer le fonctionnement correct, d'en sauvegarder le bon renom et la confiance des citoyens envers cette profession, ainsi que de protéger le public contre ceux de ses représentants qui pourraient manquer des qualités nécessaires. Elles visent à amener la personne sanctionnée à adopter à l'avenir un comportement conforme aux exigences de la profession et à rétablir le fonctionnement correct de celle-ci (cf. <ref-ruling> consid. 3.3 p. 356; arrêt 2C_922/2018 du 13 mai 2019 consid. 6.2.2). Ce but a également pour effet de protéger le public de façon indirecte (arrêt 2C_897/2015 du 25 mai 2016 consid. 5.2 et l'arrêt cité).
4.2.3. Finalement, au regard du type et de la gravité de la sanction potentielle, il est constaté que la sanction disciplinaire la plus lourde pouvant être infligée selon l'<ref-law>, qui doit être prise en considération à côté de la sanction effectivement imposée (cf. arrêt Müller-Hartburg c. Autriche susmentionné, § 46), est l'interdiction définitive de pratiquer sous propre responsabilité professionnelle pour tout ou partie du champ d'activité (let e).
La CourEDH a déjà jugé que le blâme, l'interdiction temporaire de pratiquer ou le retrait d'une autorisation de pratiquer en tant qu'avocat représentaient des sanctions typiques du droit disciplinaire (arrêt Müller-Hartburg c. Autriche susmentionné, § 47); en particulier, elle a estimé que le retrait définitif de l'autorisation de pratiquer, en dépit de la gravité d'une telle sanction, ne permettait pas de la qualifier de pénale dans sa nature, compte tenu notamment du fait que la loi nationale en cause permettait de requérir, après trois ans, une nouvelle inscription au registre des avocats (arrêt Müller-Hartburg c. Autriche susmentionné, § 48). Il ne saurait en aller différemment en matière médicale. De plus, in casu, l'interdiction de pratiquer n'a pas été prononcée de façon définitive mais seulement pour une année. Partant, on ne saurait considérer que cette sanction revêt un caractère pénal au sens de l'art. 6 CEDH.
4.3. Il découle des considérations qui précèdent que le recourant, en tant qu'il lui a été interdit de pratiquer sous propre responsabilité pendant une année, n'a pas fait l'objet d'une "accusation en matière pénale" au sens de l'art. 6 par. 1 CEDH.
4.4. L'intéressé s'est également vu imposer l'obligation, durant les trois ans à compter de la reprise de son activité, de ne soigner ses patientes qu'en la présence d'un/e assistant/e. Cette mesure, à l'inverse de l'interdiction provisoire de pratiquer, n'est pas une sanction disciplinaire. Les sanctions disciplinaires pouvant être prises à l'encontre d'un médecin [cf. <ref-law>] sont en effet énumérées de façon exhaustive à l'art. 43 al. 1 et 3 LPMéd; les cantons ne peuvent en prévoir d'autres (<ref-ruling> consid. 3.3 p. 356) et la mesure litigieuse n'y figure pas. Celle-ci relève de l'<ref-law> qui permet d'assortir l'autorisation de pratiquer sous propre responsabilité de restrictions, ainsi que de charges pour autant que de telles mesures soient nécessaires pour garantir la fiabilité des soins médicaux et leur qualité; des dispositions cantonales peuvent être édictées dans le cadre de cette disposition (<ref-ruling> consid. 3.2 p. 355). A l'image du retrait de l'autorisation de pratiquer de l'<ref-law> (cf. arrêt 2C_907/2018 susmentionné consid. 5), les restrictions et charges de l'<ref-law> constituent une mesure purement administrative et ne présentent en aucun cas un caractère pénal.
4.5. Il découle des éléments susmentionnés que le grief relatif à la violation du principe ne bis in idem tombe à faux.
4.6. Il sied néanmoins de souligner ici que, comme susmentionné, les mesures administratives touchant à l'autorisation de pratiquer doivent être distinguées des sanctions disciplinaires (cf. arrêts 2C_907/2018 du 2 avril 2019 consid. 6.2; 2C_316/2018 du 19 décembre 2018 consid. 5.1; 2C_853/2013 du 17 juin 2014 consid. 7.5). La loi sur les professions médicales les traite séparément (cf. art. 37 et 38 LPMéd, ainsi que <ref-law>) et utilise des termes différents à cet égard, mentionnant le "retrait" de l'autorisation pour la mesure administrative (<ref-law>) et l'"interdiction" de pratiquer pour la sanction (cf. art. 43 al. 1 let. d et e LPMéd). L'autorité compétente pour les prononcer n'est d'ailleurs pas forcément la même - en Valais, les deux types de décisions sont du ressort du Département de la santé, sous réserve des cas de peu de gravité pour les sanctions disciplinaires qui peuvent être prononcées par la Commission de surveillance des professions de la santé (cf. art. 64 et 82 de la loi valaisanne du 14 février 2008 sur la santé [LS; RS/VS 800.1]). Cette distinction a son importance, notamment en ce qui concerne la publicité du registre des professions médicales universitaires qui est tenu par le Département fédéral de l'intérieur (cf. <ref-law>) et qui sert, notamment, à l'information et à la protection des patients (cf. <ref-ruling> consid. 4.2 p. 359). Les mesures disciplinaires ne peuvent être consultées que par les autorités. Il en va différemment des autorisations de pratiquer, leur refus ou leur retrait, qui sont accessibles au public, à l'exclusion toutefois des motifs concernant ce refus ou retrait (art. 53 al. 1 et 4 LPMéd). Il est dès lors important de pouvoir discerner à quel type de procédure on a affaire. Au regard de ces éléments, il apparaît inadéquat de prononcer, à l'instar de ce qui a été fait dans la présente affaire, une mesure administrative et une sanction disciplinaire dans une seule et même décision; il conviendrait que chacune d'entre elles fasse l'objet d'une décision distincte. Ce point éclairci, il ne se justifie pas, in casu, de partiellement admettre le recours à cet égard, puisque l'autorité compétente est pour les deux décisions prononcées le Département de la santé.
5.
Le recourant s'en prend à la proportionnalité de la sanction émise en tant que celle-ci implique l'interdiction de pratiquer pour une durée d'une année.
5.1. Le principe de la proportionnalité (cf. art. 5 al. 2 Cst.) exige qu'une mesure restrictive soit apte à produire les résultats escomptés (règle de l'aptitude) et que ceux-ci ne puissent être atteints par une mesure moins incisive (règle de la nécessité); en outre, il interdit toute limitation allant au-delà du but visé et exige un rapport raisonnable entre celui-ci et les intérêts publics ou privés compromis (principe de la proportionnalité au sens étroit, impliquant une pesée des intérêts [<ref-ruling> consid. 5.6.3 p. 412; <ref-ruling> consid. 3.5.1 p. 84]). Il peut être invoqué directement et de manière autonome par la voie du recours en matière de droit public (<ref-ruling> consid. 5.3.2 p. 7).
En matière de sanction disciplinaire, le choix de la nature et de la quotité de la sanction doit être approprié au genre et à la gravité de la violation des devoirs professionnels et ne pas aller au-delà de ce qui est nécessaire pour assurer les buts d'intérêt public recherchés. A cet égard, l'autorité doit tenir compte en premier lieu d'éléments objectifs, à savoir des conséquences que la faute a entraînées sur le bon fonctionnement de la profession en cause, et de facteurs subjectifs, tels que la gravité de la faute, ainsi que les mobiles et les antécédents de l'intéressé (<ref-ruling> consid. 2b p. 232; <ref-ruling> consid. 13c p. 121; arrêt 2C_922/2018 du 13 mai 2019 consid. 6.6.2).
Les autorités compétentes disposent ainsi d'un large pouvoir d'appréciation dans la fixation d'une sanction disciplinaire prévue par la loi sur les professions médicales. Par analogie avec le droit pénal, le Tribunal fédéral, qui examine l'ensemble de la question d'office (<ref-law>), n'intervient que lorsque l'autorité cantonale a fait un usage insoutenable de la marge de manoeuvre que lui accorde le droit fédéral (cf. <ref-ruling> consid. 1.2 p. 319; <ref-ruling> consid. 5.6 p. 61; <ref-ruling> consid. 2.1 p. 19 s.).
5.2. En l'espèce, la sanction prise à l'encontre du recourant est apte à atteindre le but que représente la protection de la santé publique: l'intéressé, empêché de pratiquer, puis, par la suite, ne pouvant recevoir des patientes qu'en la présence d'un/e assistant/e ne sera, en effet, plus à même de commettre des actes d'ordre sexuel sur celles-ci.
5.3. Concernant le critère de la nécessité, le recourant fait grief au Tribunal cantonal de ne pas avoir examiné si une mesure moins incisive pouvait atteindre l'objectif d'intérêt public visé. Il suggère une mesure imposant une présence de surveillance "interne et féminine" ou alors l'interdiction de recevoir une clientèle féminine, voire de limiter l'interdiction de pratiquer à six mois.
Selon les faits de l'arrêt attaqué, qui lient la Cour de céans (cf. <ref-law>), les actes commis par le recourant doivent être qualifiés de graves. Ils ont, de plus, été commis sur deux patientes. Une d'entre elles était sous l'effet de calmants dont un des comprimés avait été administré par le recourant lui-même (<ref-law>). Il a profité de sa position de médecin, du rapport de dépendance caractérisant la relation avec les patients, ainsi que de la vulnérabilité des deux victimes pour assouvir ses pulsions sexuelles. Les agissements de l'intéressé ont notamment eu des répercussions psychologiques sur celles-ci, à savoir un stress post-traumatique pour l'une notamment et des angoisses attestées psychiatriquement accompagnées de crises de boulimie pour l'autre (<ref-law>). En outre, le recourant a longtemps nié les faits qui lui sont reprochés et a même persisté devant l'instance précédente à évoquer des contradictions dans les événements et des zones d'ombre. L'intéressé démontre de la sorte qu'il n'a toujours pas conscience de la gravité des actes qu'il a commis, sans mentionner l'absence de regrets. Il faut ajouter à cela qu'il a tenté d'acheter le silence de ses victimes. Dans ces circonstances, seule une sanction impliquant la cessation temporaire de son activité, qui lui fera réaliser la gravité de ses actes et adopter un comportement conforme à ses devoirs professionnels, est à même d'atteindre l'objectif de protection de la santé de futures patientes. Cela d'autant plus que la spécialisation du recourant, à savoir l'urologie, requiert un contact physique avec les parties intimes de celles-ci. Le recourant estime qu'une interdiction de six mois serait plus judicieuse. Le Tribunal fédéral constate ici que la Commission de surveillance avait suggéré, dans son préavis du 22 novembre 2018, une interdiction de pratiquer de deux ans. Le Département de la santé ne l'a pas suivi et a fixé celle-ci à une année. Au regard de cet élément, ainsi que de la jurisprudence du Tribunal fédéral en la matière, récapitulée par le Département de la santé dans sa décision du 12 février 2019, la Cour de céans ne saurait considérer que les juges précédents ont fait un usage insoutenable de la marge de manoeuvre que leur accorde le droit fédéral quant à la fixation de la durée de l'interdiction de pratiquer.
Il découle de ce qui précède que le Tribunal cantonal a respecté le critère de la nécessité dans le choix de la sanction prononcée à l'encontre de l'intéressé.
5.4. Du point de vue de la pesée des intérêts, le recourant reproche aux juges précédents d'avoir confirmé la sanction prononcée par le Département de la santé, en se méprenant sur sa situation économique.
Il est vrai que la subsomption de l'autorité précédente quant à la situation économique du recourant semble en partie reposer sur des suppositions. Cela étant, le recourant ne se plaint pas d'une constatation manifestement inexacte des faits à ce sujet (cf. consid. 2) et ne fait qu'évoquer la dette qui grèverait son bien immobilier pour plus d'un million de francs et ses charges familiales, sans fournir de plus amples informations sur sa situation financière. Il est certain qu'une interdiction de pratiquer pendant une année a un impact important sur toute situation économique. Celui-ci est néanmoins atténué, lorsque, comme c'est le cas du recourant, le médecin pratique son métier depuis de nombreuses années. Sans mésestimer l'importance des conséquences financières de cette sanction, il faut considérer que l'intérêt public en cause doit prévaloir. A cet égard, il est souligné que l'art. 43 al. 1 let. d LPMéd permet une interdiction de pratiquer pouvant aller jusqu'à six ans. Partant, le grief relatif à la violation du principe de proportionnalité doit être écarté.
6.
Il découle de ce qui précède que le recours est rejeté.
Succombant, le recourant doit supporter les frais judiciaires (<ref-law>). Il n'est pas alloué de dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, ainsi qu'au Conseil d'Etat et au Tribunal cantonal du canton du Valais, Cour de droit public.
Lausanne, le 28 décembre 2020
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Jolidon