Faits :
A.
A.a. Le 11 janvier 2008, le notaire A._ a instrumenté un acte constitutif de six cédules hypothécaires au porteur totalisant 10'000'000 fr. en 2ème rang et grevant six lots de la PPE "B._" (ci-après: la PPE), sise à C._ et appartenant à D._ SA, en faveur de la société E._, dont le siège est aux Pays-Bas et dont l'ayant-droit économique est F._, ressortissant hollandais; cette opération était destinée à garantir un prêt de E._ en faveur de la holding détenant D._ SA et d'une autre compagnie, toutes deux néerlandaises. Les six lots de la PPE, qui représentaient une surface d'appartements de 963 m 2, étaient déjà grevés de six cédules se montant 4'200'000 fr., de sorte que le montant total des gages atteignait 14'200'000 fr. Finalement, selon un contrat du 14 janvier 2008, le prêt a été octroyé à des sociétés chypriote et néerlandaise. Après que A._ eut adressé, le 21 janvier 2008, une réquisition d'inscription de l'acte constitutif des cédules au Conservateur du Registre foncier du Pays d'Enhaut (ci-après: le Registre foncier), celui-ci l'a informé qu'il était possible que ledit acte soit assujetti à la loi fédérale du 16 décembre 1983 sur l'acquisition d'immeubles par des personnes à l'étranger (ci-après: LFAIE ou la loi sur l'acquisition d'immeubles par des personnes à l'étranger; RS 211.412.41); la réquisition d'inscription était suspendue dans l'attente d'une décision de la Commission foncière du canton de Vaud, section II (ci-après: la Commission foncière).
Le 21 février 2008, A._ a ainsi requis de la Commission foncière qu'elle constate que la constitution des six cédules hypothécaires n'était pas soumise à autorisation; il précisait que F._ était domicilié en Suisse, selon une attestation communale qu'il annexait, et en déduisait que l'opération ne tombait pas sous le coup de la loi sur l'acquisition d'immeubles par des personnes à l'étranger. Dans sa réponse, ladite commission a indiqué que les explications fournies ne permettaient pas d'exclure l'application de l'art. 4 al. 1 let. g LFAIE; des informations supplémentaires étaient nécessaires; le notaire n'ayant pas réagi à ce courrier, la Commission foncière l'a relancé les 25 juillet et 23 septembre 2008, en vain.
Le 20 février 2008, A._ a instrumenté deux actes de vente de lots de la PPE, par lesquels D._ SA cédait le lot 5 à B._ Six SA, dont l'ayant-droit économique était G._, ressortissant néerlandais, pour le prix de 1'650'000 fr. et le lot 6 à B._ Cinq SA, dont l'ayant-droit économique était F._, pour un montant de 1'500'000 fr. Dans ces deux actes, le notaire attestait qu'aucune personne étrangère ne détenait une influence prépondérante sur les acheteuses au sens de la loi sur l'acquisition d'immeubles par des personnes à l'étranger. Les deux actes ont été déposés au Registre foncier le 21 février 2008 et retirés le 4 mars 2008, les personnes susmentionnées souhaitant acquérir ces biens immobiliers en leur nom propre, biens qu'ils n'ont finalement pas achetés.
Par actes du 1er octobre 2008, A._ a instrumenté la vente par D._ SA des lots 1 et 2 de la PPE, respectivement des lots 3 et 4. Les deux actes ne mentionnaient que les gages hypothécaires de premier rang. Ils ne faisaient pas état des cédules de deuxième rang instrumentées le 11 janvier 2008 et dont l'inscription était alors toujours en suspens au Registre foncier. Le 27 novembre 2008, D._ SA a retiré la réquisition d'inscription au Registre foncier de l'acte constitutif des cédules hypothécaires du 11 janvier 2008.
A.b. A._ a été condamné par ordonnance pénale du 16 mars 2011 à une amende de 6'000 fr. pour avoir fourni des informations incomplètes au Registre foncier s'agissant de la société E._. Au terme de la procédure, le Tribunal fédéral a considéré que le comportement de l'intéressé n'était pas suffisamment caractérisé pour tomber sous le coup de la loi sur l'acquisition d'immeubles par des personnes à l'étranger; il a renvoyé la cause à la Cour d'appel pénale du Tribunal cantonal du canton de Vaud, afin qu'elle prononce l'acquittement de celui-ci (cause 6B_622/2013).
A.c. La Chambre des notaires du canton de Vaud (ci-après: la Chambre des notaires) a, par décision du 24 janvier 2017, prononcé une amende de 10'000 fr. à l'encontre du notaire. Elle s'est pour cela fondée sur le rapport de l'enquêteur qu'elle avait mandaté; celui-ci avait consulté le dossier pénal et ceux du notaire; il avait également auditionné l'intéressé.
B.
Par arrêt du 3 avril 2019, la Cour de droit administratif et public du Tribunal cantonal du canton de Vaud (ci-après: le Tribunal cantonal) a rejeté le recours de A._. Elle a jugé que l'action disciplinaire n'était pas prescrite et que cette procédure ne violait pas le principe ne bis in idem. A._ avait violé plusieurs dispositions de la loi topique sur le notariat: en substance, le caractère insolite et risqué de l'opération, aux ramifications internationales manifestes, aurait dû attirer l'attention de l'intéressé et le conduire à faire preuve d'une vigilance accrue au regard de la loi sur l'acquisition d'immeubles par des personnes à l'étranger; celui-ci avait fait preuve d'une légèreté, d'un manque de rigueur et d'une insouciance inquiétants au regard des intérêts et des sommes en jeu; il avait instrumenté des actes ne contenant pas toutes les informations nécessaires à sauvegarder les intérêts de chacune des parties; dans les deux actes déposés au Registre foncier le 21 février 2008, le notaire attestait expressément qu'aucune personne étrangère ne détenait une influence prépondérante sur l'acheteuse au sens de ladite loi, alors que tant G._ que F._ étaient, au moment de la signature de l'acte, des "personnes à l'étranger"; A._ avait gravement failli à ses obligations professionnelles. L'amende infligée était adéquate.
C.
Agissant par la voie du recours en matière de droit public, A._ demande au Tribunal fédéral, sous suite de frais et dépens, de réformer l'arrêt du 3 avril 2019 du Tribunal cantonal en ce sens que la décision de la Chambre des notaires est annulée et l'amende de 10'000 fr. est supprimée et de mettre les frais de l'enquête à la charge du canton de Vaud; subsidiairement, d'annuler l'arrêt attaqué.
La Chambre des notaires, ainsi que le Tribunal cantonal concluent au rejet du recours.
Par ordonnance du 4 juin 2019, le Président de la IIe Cour de droit public a déclaré que la demande d'effet suspensif était sans objet.

Considérant en droit :
1.
Le recours en matière de droit public, déposé en temps utile (<ref-law>) et en la forme prévue (<ref-law>) à l'encontre d'un arrêt final (<ref-law>) rendu, dans une cause de droit public (<ref-law>) par une autorité cantonale de dernière instance (art. 86 al. 1 let. d LTF), par l'intéressé qui a la qualité pour recourir (<ref-law>), est recevable.
2.
Le Tribunal fédéral n'examine la violation de droits fondamentaux ainsi que celle de dispositions de droit cantonal et intercantonal, que si le grief a été invoqué et motivé par le recourant (<ref-law>). Cette disposition reprend le principe d'allégation selon lequel l'acte de recours doit, sous peine d'irrecevabilité, contenir un exposé succinct des droits constitutionnels ou des principes juridiques violés et démontrer, par une argumentation précise, en quoi consiste la violation; de même, le recourant doit citer les dispositions du droit cantonal dont il se prévaut et démontrer en quoi ces dispositions auraient été appliquées arbitrairement ou d'une autre manière contraire au droit (<ref-ruling> consid. 1.2.2 p. 286; <ref-ruling> consid. 2.1 p. 272; <ref-ruling> consid. 1.3 p. 41).
3.
3.1. Sur plus de onze pages, le recourant se plaint de la violation de son droit d'être entendu (art. 29 al. 2 Cst.) à de très nombreux égards. Toutefois, la lecture du mémoire démontre que, sous réserve de quelques points qui relèvent effectivement du droit d'être entendu et qui seront traités ci-dessous (consid. 4), l'intéressé s'en prend essentiellement à la constatation des faits, voire à l'appréciation juridique des faits (et soulève donc une question de droit), par les juges précédents. Tel est notamment le cas de savoir s'il a été ou non à l'origine de la demande de retrait de la réquisition de l'acte constitutif des cédules hypothécaires litigieuses du 27 novembre 2008 et si les actes instrumentés comportaient des indications incomplètes voire fausses; il en va de même de la raison qui a poussé le juge d'instruction pénal à ouvrir une enquête en Suisse.
3.2. Le Tribunal fédéral ne peut revoir les faits établis par l'autorité précédente que si ceux-ci l'ont été de manière manifestement inexacte (<ref-law>), à savoir de façon arbitraire (art. 9 Cst; sur cette notion, cf. <ref-ruling> consid. 2.3.1 p. 244) et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause. Le recourant doit démontrer dans son écriture que ces conditions sont réalisées, en exposant de manière circonstanciée (<ref-law>; cf. consid. 2) que les faits retenus l'ont été d'une manière absolument inadmissible, et non seulement discutable ou critiquable, et que les conditions d'une exception prévue par l'<ref-law> sont réalisées (<ref-ruling> consid. 1.3.1 p. 253).
La motivation du mémoire ne satisfait pas à ces exigences. Dans celui-ci, l'intéressé plaide à nouveau sa cause et conteste l'établissement des faits, comme il le ferait en procédure d'appel. Il en présente sa propre version, sans démontrer ni même prétendre que les faits tels qu'établis par la cour cantonale l'auraient été de manière manifestement inexacte ou arbitraire. Le Tribunal fédéral statuera dès lors sur les faits tels que constatés dans l'arrêt attaqué.
4.
Le recourant reproche au Tribunal cantonal de ne l'avoir pas interpellé sur plusieurs éléments retenus dans l'arrêt entrepris.
4.1. Tel qu'il est garanti à l'art. 29 al. 2 Cst., le droit d'être entendu comprend notamment le droit pour l'intéressé de s'exprimer sur les éléments pertinents avant qu'une décision ne soit prise touchant sa situation juridique, le droit de consulter le dossier, de produire des preuves pertinentes, d'obtenir qu'il soit donné suite à ses offres de preuves pertinentes, de participer à l'administration des preuves essentielles ou à tout le moins de s'exprimer sur son résultat, lorsque cela est de nature à influer sur la décision à rendre (<ref-ruling> consid. 4.1 p. 170 s.; <ref-ruling> consid. 5.3 p. 17; <ref-ruling> consid. 3.4.1 p. 72; <ref-ruling> consid. 3.2 p. 272).
4.2. L'intéressé allègue tout d'abord que les juges précédents auraient dû l'interpeller, afin qu'il puisse expliquer la raison pour laquelle il s'était écoulé dix mois entre la réquisition d'inscription des cédules hypothécaires (le 21 janvier 2008) et le retrait de celle-ci (le 27 novembre suivant).
Des éléments relatifs à ce point (dates des actes instrumentés, informations afférentes aux conditions dans lesquelles les cédules ont été constituées et le retrait de la demande d'inscription a été effectué, etc.) figurent dans le dossier puisqu'ils avaient déjà fait l'objet, outre de l'instruction pénale, du rapport de l'enquêteur mandaté par la Chambre des notaires. Le recourant pouvait donc s'exprimer sur la période en cause dans son recours et expliquer pourquoi dix mois s'étaient écoulés entre les deux actes litigieux devant le Tribunal cantonal. Il ne fait au demeurant pas valoir que cette autorité aurait fondé l'arrêt entrepris, à son détriment, sur des faits qui ne ressortaient pas du dossier et sur lesquels il n'aurait pas pu se prononcer. Avec son grief, l'intéressé oublie que la procédure litigieuse est régie par la maxime inquisitoire, qui prévaut en particulier en droit public, qui oblige les autorités compétentes à définir les faits pertinents et à prendre en considération d'office l'ensemble des pièces pertinentes qui ont été versées au dossier.
4.3. Le recourant reproche, de plus, au Tribunal cantonal d'avoir retenu qu'il avait attesté, dans les deux actes de vente instrumentés le 20 février 2008, que ni G._ ni F._, ayants droit économiques des sociétés B._ Six SA respectivement B._ Cinq SA, n'exerçaient une influence prépondérante sur les sociétés acheteuses au sens de la loi sur l'acquisition d'immeubles par des personnes à l'étranger, alors que ces deux personnes physiques étaient, au moment de la signature de l'acte, des "personnes à l'étranger" au sens de ladite loi. Or, dans sa décision du 18 septembre 2018, la Chambre des notaires ne lui aurait pas fait grief de s'être fondé sur une attestation de domicile délivrée par la commune concernant ces personnes. Si elle entendait se fonder sur des faits qui ne lui avaient pas été reprochés par ladite chambre, l'autorité précédente aurait dû l'interpeller, afin qu'il puisse développer des moyens de faits et de droit à l'encontre de ces nouvelles charges.
Le Tribunal cantonal a effectivement "constaté en précision, respectivement en complément des considérants" de la décision du 18 septembre 2018 de la Chambre des notaires que le recourant avait expressément attesté, dans les deux actes de vente instrumentés le 20 février 2008, qu'aucune personne étrangère ne détenait une influence prépondérante, au sens de la loi sur l'acquisition d'immeubles par des personnes à l'étranger, sur les acquéresses, à savoir B._ Six SA et B._ Cinq SA, alors que tant G._ que F._, ayants droit respectifs de chacune de ces deux sociétés, étaient, au moment de la signature de l'acte de vente, des "personnes à l'étranger" selon ladite loi. Le Tribunal cantonal a retenu que ces éléments constituaient une violation de l'obligation de véracité de l'art. 39 de la loi vaudoise du 29 juin 2004 sur le notariat (ci-après: LNo ou la loi sur le notariat; RS/VD 187.11), voire de l'obligation de renseigner correctement les parties de l'art. 43 LNo.
Comme le souligne le recourant, la Chambre des notaires n'avait pas retenu ces faits à l'encontre de celui-ci. La décision du 18 septembre 2018 de cette autorité ne contient pas d'informations relatives à la situation légale du séjour de G._ et de F._ en Suisse, si ce n'est celles fournies par le recourant. Le Tribunal cantonal a complété l'état de fait à ce sujet à l'aide des procès-verbaux des 15 septembre 2009 et 22 septembre 2010 transcrivant les auditions de l'intéressé par le juge d'instruction. Or, ces pièces figuraient en annexe du rapport de l'enquêteur mandaté par la Chambre des notaires qui a été notifié au recourant par celle-ci en date du 28 novembre 2016. Dès lors que ces documents faisaient partie du dossier, les juges précédents pouvaient se fonder sur des faits qu'ils contenaient, à savoir des déclarations de l'intéressé lui-même, et qui étaient en conséquence connus de celui-ci, sans devoir l'interpeller au préalable. De même, celui-ci pouvait se prononcer sur cet élément dans son recours devant le Tribunal cantonal. Il est au surplus noté que les juges précédents, s'ils ont retenu les faits en cause à l'encontre du recourant, n'ont pas augmenté le montant de l'amende infligée en conséquence.
4.4. Il est encore souligné que, dans la mesure où le recourant s'en prend à la procédure devant la Chambre des notaires, il méconnaît le principe de l'effet dévolutif complet auprès du Tribunal cantonal selon lequel l'arrêt de cette autorité se substitue aux prononcés antérieurs (<ref-ruling> consid. 1.2 p. 543).
Quant aux reproches adressés au Tribunal cantonal qui a refusé de donner suite à des offres de preuves, il ne faut pas oublier que ce droit requiert que le fait à prouver soit pertinent et que le moyen de preuve proposé soit nécessaire pour constater ce fait (ATF <ref-ruling> consid. 4.1 p. 72; <ref-ruling> consid. 2.3 p. 222), ce que le recourant ne démontre nullement.
5.
Selon le recourant, le principe de célérité (art. 29 al. 1 Cst.; <ref-ruling> consid. 3.2 p. 489; <ref-ruling> consid. 4.4 p. 277; <ref-ruling> consid. 1.1 p. 409) aurait été violé: il mentionne que la procédure aurait duré presque douze ans et fonde son argumentation tant sur le déroulement de la procédure pénale que sur celui de la procédure administrative; la conséquence de cette violation devrait être l'abandon de toute sanction.
Outre que l'objet de la contestation de la présente cause ne concerne que la procédure disciplinaire, à l'exclusion de la procédure pénale, il est rappelé au recourant qu'il lui appartenait, en application du principe de la bonne foi (art. 5 al. 3 Cst.), d'entreprendre ce qui était en son pouvoir pour que l'autorité fasse diligence, que ce soit en l'invitant à accélérer la procédure ou en recourant, le cas échéant, pour retard injustifié (<ref-ruling> consid. 5.2 p. 332), démarches auxquelles l'intéressé ne prétend pas, et a fortiori démontre encore moins, avoir procédé.
En outre, dès que l'autorité a statué, le justiciable perd en principe tout intérêt juridique à faire constater un éventuel retard; or, l'intéressé n'explique pas non plus en quoi un intérêt à faire constater un éventuel retard à statuer subsisterait, alors que les juges précédents ont rendu leur arrêt.
Partant, le grief relatif à la violation du principe de célérité est rejeté.
6.
Le recourant invoque une violation du principe ne bis in idem, sans toutefois mentionner de dispositions légales à cet égard. Selon lui, lorsque, comme en l'espèce, l'enquête disciplinaire est intimement liée à la procédure pénale, que l'autorité disciplinaire a suspendu la procédure en attendant que la cause pénale soit jugée et que ladite autorité a ouvert l'enquête disciplinaire compte tenu de la condamnation pénale du 16 mars 2011 à une amende de 6'000 fr. pour violation de l'<ref-law>, il ne serait plus possible de dissocier les deux procédures. Partant, dès lors qu'il a été acquitté pénalement par arrêt du 6 février 2014 du Tribunal fédéral (cause 6B_622/2013) la procédure disciplinaire devrait être abandonnée.
6.1. L'autorité précédente a correctement exposé la jurisprudence relative au principe ne bis in idem (<ref-ruling> consid. 10.1 p. 155; <ref-ruling> consid. 2.1 p. 365; cf. également arrêts 2C_907/2018 du 2 avril 2019 consid. 4.4; 2C_751/2014 du 23 février 2015 consid. 5.1 et 5.2), qui découle implicitement de la Constitution fédérale, notamment quant à son application dans des procédures relevant du droit administratif, de sorte qu'il y est renvoyé.
6.2. La mesure disciplinaire prononcée à l'encontre du recourant est une mesure administrative. Pour que le principe ne bis in idem s'applique, cette mesure administrative devrait présenter un caractère pénal. Or, le Tribunal fédéral a déjà jugé qu'une simple amende disciplinaire, notamment en ce qui concerne les avocats, ne possède pas un tel caractère (<ref-ruling> consid. 2 p. 347: amende se montant à 5'000 fr. infligée à un avocat; arrêt 2C_5/2008 du 2 avril 2008 consid. 5, non publié in <ref-ruling>: amende s'élevant à 1'500 fr. infligée à un médecin; cf. également <ref-ruling> consid. 2.3 p. 319; <ref-ruling> consid. 2 p. 419 ss). Il ne saurait en aller différemment dans le présent cas pour une amende se montant à 10'000 fr prononcée à l'égard d'un notaire. Le fait que la Chambre des notaires se soit basée sur la condamnation du recourant en première instance pour ouvrir son enquête ne signifie pas qu'elle n'aurait pas fait de même si celui-ci avait été acquitté à ce moment-là, puisque, comme démontré dans la présente affaire, les mêmes faits peuvent conduire d'une part à la libération d'un chef d'accusation sur le plan pénal et d'autre part à une mesure disciplinaire.
Au regard de ce qui précède, le moyen relatif à la violation du principe ne bis in idem tombe à faux.
7.
Le recourant présente des griefs relatifs au droit cantonal, à savoir les art. 98 et 99 al. 2 LNo traitant de la faute disciplinaire et de la prescription, comme s'il s'agissait de droit fédéral. Dans son argumentation, le recourant se contente de critiquer la décision attaquée de la même façon qu'il le ferait en instance d'appel. Il énumère les faits et les arguments qui, selon lui, auraient dû aboutir à constater que la procédure disciplinaire était prescrite respectivement qu'il n'avait pas commis de faute ou, s'il fallait arriver à la conclusion qu'il avait tout de même enfreint les dispositions de la loi sur le notariat, que la sanction, à savoir une amende de 10'000 fr. était infondée. Il se limite donc à opposer son opinion à celle de l'autorité précédente. Or, dans la mesure où la fonction du Tribunal fédéral n'est pas d'assurer une application conforme du droit cantonal (sous réserve des exceptions énoncées à l'art. 95 let. c, d et e LTF), lorsqu'un recourant veut se plaindre de l'application du droit cantonal, il doit faire valoir que la mauvaise application de ce droit constitue une violation du droit fédéral, en particulier qu'elle est arbitraire au sens de l'art. 9 Cst. (<ref-ruling> consid. 4.3 p. 521/522; <ref-ruling> consid. 2.3 p. 466) et il lui appartient d'invoquer ce grief et de le motiver de manière précise (<ref-law>; cf. consid. 2) : l'acte de recours doit contenir un exposé succinct des droits violés et préciser en quoi consiste la violation (<ref-ruling> consid. 3.2 p. 579; <ref-ruling> consid. 1.3 p. 41). Le mémoire ne remplissant pas ces conditions, il ne sera pas entré en matière sur ces griefs.
8.
Au regard de ce qui précède, le recours doit être rejeté.
Succombant, le recourant doit supporter les frais judiciaires (<ref-law>). Il n'y a pas lieu d'allouer des dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté.
2.
Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3.
Le présent arrêt est communiqué au mandataire du recourant, à la Chambre des notaires et au Tribunal cantonal du canton de Vaud, Cour de droit administratif et public.
Lausanne, le 6 décembre 2019
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
La Greffière : Jolidon