Faits : A. A.a. Par testament du 24 février 1993 établi devant notaire, X._ (le disposant) a attribué l'usufruit sur tous ses biens à son épouse B.X._ et à son fils adoptif unique A.X._, l'usufruit de ce dernier étant postérieur à celui de son épouse. Le disposant instituait héritiers les descendants de A.X._; si, au décès du disposant, A.X._ n'avait pas de descendant, était instituée héritière une fondation hospitalière sise à.... Hors part et par substitution fidéicommissaire réduite au surplus, le disposant léguait à son épouse la part de copropriété pour une demie de leur immeuble situé à La Tour-de-Peilz et une somme de 500'000 fr., l'héritier appelé étant le ou les descendants de son fils et, à défaut, la fondation précitée. Au décès de son épouse, les biens restants de ce legs seraient grevés de l'usufruit en faveur de son fils jusqu'au décès de celui-ci, à titre de charge. Le disposant désignait en qualité d'exécuteur testamentaire l'expert-comptable Y._, qui est président du conseil d'administration de Z._, Société fiduciaire d'études et d'expertises comptables SA (ci-après: Z._ SA). Le 20 décembre 1993, le disposant a modifié le testament précité. Après avoir rappelé que, par remise de dette du même jour, il libérait A.X._ d'une dette de 1'400'000 fr. plus intérêts contractée par celui-ci envers lui suite à la vente de 200 actions d'une société anonyme, le disposant dispensait son fils de tout rapport successoral pour cette remise de dette pour autant qu'il ne remette pas en cause le testament du 24 février 1993. X._ est décédé le 28 juin 1994 à.... Sa succession, inventoriée à la valeur réelle de 15'532'311 fr.41, était composée d'actifs privés, notamment d'immeubles estimés à plus de 11'000'000 fr., et d'actifs commerciaux constitués d'une raison individuelle et de parts de trois sociétés en nom collectif (SNC) dont les associés exploitaient des établissements publics. L'exécuteur testamentaire Y._ a mandaté Z._ SA et l'avocat-conseil H._ pour une partie des tâches liées à la gestion de la succession. Au sein de Z._ SA, le comptable W._, qui en est administrateur, a assuré ladite gestion. Il a été retenu que W._, plus proche collaborateur de A.X._ depuis plus de 30 ans, s'était occupé totalement des affaires du défunt à partir du début des années huitante. L'exécuteur testamentaire a chargé le notaire I._ d'établir la liquidation du régime matrimonial des époux X._. Le 13 janvier 1995, Y._ a transmis à la Justice de paix du cercle de la Tour-de-Peilz les inventaires au 28 juin 1994 des actifs et des dettes de B.X._, des actifs du de cujus ainsi que des dettes matrimoniales et frais funéraires usuels avec les pièces justificatives; ces documents ont été transmis à A.X._ le 17 janvier 1995. En réponse à un courrier de A.X._ à propos de ces inventaires, l'avocat H._ lui a répondu le 25 janvier 1995 notamment que l'exécuteur testamentaire s'était conformé strictement aux exigences légales, que toutes les pièces justificatives dont la production était demandée se trouvaient au Greffe de la justice de paix et que l'exécuteur testamentaire établirait ses notes d'honoraires au fur et à mesure de son activité, en tenant compte de ceux dus aux tiers qui le conseillaient, au tarif recommandé par la Chambre des experts-comptables, aucun prélèvement de ce chef n'ayant été opéré à ce jour. A.b. Se plaignant avec virulence que l'exécuteur testamentaire ne répondait pas à des questions essentielles à propos de l'état de la succession de son père, A.X._ a mandaté en décembre 1995 l'expert-comptable J._ pour examiner les comptes de ladite succession, lequel a déposé un rapport le 4 juin 1996 et une note explicative le 6 août 1996. Selon l'expert privé, certains reproches devaient être faits " en général " à l'exécuteur testamentaire Y._: les modes d'estimation utilisés par celui-ci pour les immeubles et les participations (valeur fiscale au lieu de la valeur vénale) modifiaient considérablement la valeur d'inventaire; certains actifs étaient qualifiés hâtivement de biens propres revenant à l'épouse du défunt; le fait de ne pas fixer une indemnité, ou du moins de ne pas délimiter les frais à rembourser à cette dernière et à des tiers, avait entraîné le remboursement de frais injustifiés. L'expert privé a encore relevé seize " points particuliers " qui avaient contribué à son sens à diminuer de façon notoire la part de A.X._ à la succession de son père. Par décision du 8 juillet 1996, la justice de paix a nommé le notaire K._ en qualité d'administrateur officiel de la succession du défunt. Le 18 novembre 1996, Y._ a adressé à la succession de X._ une facture de 114'100 fr., TVA et débours compris, pour les travaux exécutés en qualité d'exécuteur testamentaire de juillet 1995 à octobre 1996; d'après un décompte, Y._ et W._ avaient consacré 471 heures aux opérations en question, 49 heures ayant été dédiées à des activités de secrétariat. Le même jour, Z._ SA a envoyé à la succession précitée deux factures de 43'200 fr. et 39'700 fr., TVA et débours inclus, pour les tâches de gestion afférentes à deux établissements publics. Egalement le 18 novembre 1996, Z._ SA a adressé à B.X._ une facture de 6'200 fr., comprenant la TVA et les débours, pour des tâches réalisées à son profit entre mars 1995 et octobre 1996. Aucune de ces notes n'a été réglée. Il a été retenu que Y._ et Z._ SA ont dressé les comptes de la succession pour l'année 1996 et ont établi une balance des comptes au 31 janvier 1997; ils ont remis l'ensemble de ces documents à l'administrateur officiel le 13 février 1997. A.c. Le 14 juin 1996, A.X._ a déposé plainte pénale contre sa mère, Y._, W._ et deux tiers, les tenant responsables d'une diminution injustifiée du patrimoine de la succession. A leur tour, Y._ et W._ ont déposé plainte pénale contre A.X._ pour dénonciation calomnieuse. Tous les faits dénoncés ont abouti en 2000 et 2001 à la délivrance d'ordonnances de non-lieu, confirmées sur recours. A.d. L'administrateur officiel K._ ayant invoqué, par pli du 4 décembre 1996 envoyé à la justice de paix, l'extrême difficulté à accomplir la tâche confiée, qui nécessitait des compétences qu'il n'était pas certain de posséder, ainsi que des problèmes de santé, cette autorité, sur sa proposition, a désigné, par décision du 14 mai 1997, en qualité d'administrateur officiel de la succession et en remplacement de K._, l'associé de ce dernier, soit le notaire L._. Par courrier du 13 mars 1997, Y._ a informé le Président du Tribunal civil du district de Vevey qu'il avait décidé irrévocablement de se démettre de sa mission d'exécuteur testamentaire. Par une nouvelle facture du 18 juin 1997, Y._ a réclamé à la succession de X._ la somme de 46'000 fr., TVA et débours compris, pour ses activités d'exécuteur testamentaire opérées entre novembre 1996 et mai 1997, représentant 186 heures, auxquelles s'ajoutaient 28,5 heures de secrétariat. Toutes les opérations ainsi facturées étaient postérieures à la nomination de K._ comme administrateur officiel. Toujours le 18 juin 1997, Z._ SA a facturé à ladite succession 7'100 fr., TVA et débours inclus, pour les opérations de novembre 1996 à mai 1997 concernant un des établissements publics gérés en SNC. Derechef, ces factures n'ont pas été acquittées. A.e. B.X._ est décédée le 20 septembre 1997 à.... L'héritière instituée par feu X._ a répudié la succession par déclaration du 22 décembre 1997, de sorte que A.X._ est devenu l'unique héritier de ses parents. A.f. Le 15 janvier 1998, Z._ SA a facturé à la succession de B.X._ un montant de 10'800 fr., TVA et débours compris, pour les travaux exécutés pour le compte de la précitée de novembre 1996 à décembre 1997. Cette note n'a pas été réglée. Le 29 janvier 1998, l'avocat H._ a adressé à l'exécuteur testamentaire une note d'honoraires de 8'500 fr. Cette facture a été payée le 2 février 1998. Le 30 janvier 1998, Y._ et Z._ SA ont établi, à l'intention de la succession de feu X._, des récapitulatifs des montants leur restant dus. Les sommes mentionnées dans ces récapitulatifs n'ont pas été payées. Le 21 février 2002, Z._ SA a facturé à la succession de feu X._ un montant de 6'225 fr. pour les heures consacrées à celle-ci du 1er juin 1997 au décès le 20 septembre 1997 de B.X._. Cette note n'a pas été réglée. B. B.a. Par demande du 28 février 2002 déposée auprès de la Cour civile du Tribunal cantonal vaudois, Y._ et Z._ SA (demandeurs) ont conclu principalement à ce que A.X._ (défendeur) verse à Y._ un montant de 168'600 fr., plus intérêts à 5% l'an dès le 13 mars 1997, et à Z._ SA un montant de 113'225 fr., avec intérêts à 5% l'an dès le 18 novembre 1996 sur 89'100 fr., dès le 18 juin 1997 sur 7'100 fr., dès le 20 septembre 1997 sur 6'225 fr. et dès le 15 janvier 1998 sur 10'800 fr. Subsidiairement, les demandeurs ont conclu, avec solidarité entre eux, au versement par le défendeur de la somme de 281'825 fr. plus intérêts à 5% l'an à partir des dates et sur les sommes indiquées à titre principal ou, encore plus subsidiairement, du montant qui sera fixé en justice. Par décision incidente du 28 août 2002, le Juge instructeur a admis la requête d'appel en cause du défendeur et l'a autorisé à appeler en cause W._. Le défendeur a conclu au rejet de la demande; reconventionnellement, il a conclu à la condamnation des demandeurs et de l'appelé en cause à lui payer, solidairement ou chacun pour la part que justice dira, la somme de 1'624'240 fr. plus intérêts à 5% l'an dès le 1er janvier 1995. L'appelé en cause W._ a conclu au rejet de la reconvention du défendeur, lui opposant une créance en tort moral en compensation de toutes ses prétendues créances. Les demandeurs ont conclu au rejet des conclusions reconventionnelles du défendeur. Par ordonnance sur preuves du 18 avril 2005, le juge instructeur a confié une expertise judiciaire à M._, expert-comptable diplômé, qui a déposé son rapport le 15 janvier 2007. A propos des notes d'honoraires des demandeurs, cet expert a retenu qu'elles reflétaient le temps passé sur les dossiers et que le tarif horaire correspondait aux normes tarifaires de la Chambre fiduciaire suisse en ce qui concernait le responsable du dossier; rappelant que certains travaux auraient pu être exécutés par des collaborateurs moins qualifiés, il a affirmé qu'il était dans l'impossibilité de se prononcer sur le temps nécessaire à l'exécution de chaque tâche réalisée dans le cadre de la succession. Au sujet de l'analyse de la gestion de l'exécuteur testamentaire, l'expert M._ a estimé que la complexité des dossiers et un contexte difficile (situation économique de la branche, maladie d'un gérant, travaux immobiliers) avaient engendré une diminution importante du patrimoine de la succession entre juin 1994 et décembre 1996 (perte de 529'110 fr. sur les actifs commerciaux, résultat déficitaire de 77'420 fr. pour les immeubles); sans répondre précisément à la question du dommage subi par le défendeur, l'expert a affirmé que l'exécuteur testamentaire avait payé trop facilement des frais et une rente à l'épouse du défunt, provoquant une réduction considérable et très rapide des liquidités; le temps mis pour établir l'inventaire de la succession (près de sept mois) avait en outre entraîné du retard dans la liquidation du régime matrimonial. Une seconde expertise judiciaire a été confiée à N._, réviseur agréé et expert fiscal auprès de Fiduciaire O._. Cet expert a déposé son rapport le 23 avril 2010, puis un complément le 28 janvier 2013. Concernant l'analyse des notes d'honoraires, l'expert N._ a déclaré qu'il était tout à fait normal que l'exécuteur testamentaire ait délégué une partie des tâches à Z._ SA et qu'il avait été judicieux pour lui de s'adjoindre les services de l'avocat H._, dont la facture n'était pas exagérée; chaque intervenant avait noté le genre de travail accompli et le nombre d'heures consacrées à chaque client, enregistrées au niveau du quart d'heure sans être arrondies à une unité supérieure; compte tenu de l'ampleur de la succession, l'expert a considéré que le temps consacré à l'exécution du mandat était justifié et que les factures d'honoraires étaient fondées. A propos de l'analyse de la gestion de l'exécuteur testamentaire, l'expert a retenu qu'il était faux de reprocher aux demandeurs d'avoir géré les biens de la succession de manière catastrophique; l'exécuteur testamentaire ne pouvait pas être tenu responsable des pertes subies par les SNC; le rapport de l'expert privé J._, qui contenait du reste des erreurs et inexactitudes, ne démontrait pas que la succession avait été mal gérée par l'exécuteur testamentaire; la ponction de 1'445'000 fr. effectuée sur les liquidités de la succession correspondait aux prélèvement justifiés de B.X._ et aux factures payées par la succession, si bien qu'elle avait été utilisée uniquement pour des opérations entrant dans le cadre de la gestion de la succession, cela dans les limites des pouvoirs de l'exécuteur testamentaire, lequel n'avait pas géré les actifs de la succession au préjudice des héritiers. Par jugement du 3 décembre 2014, dont les considérants ont été communiqués le 1er décembre 2015, la Cour civile a condamné le défendeur à payer au demandeur Y._ la somme de 242'501 fr.20 avec intérêts à 5% l'an dès le 2 mars 2002 et à la demanderesse Z._ SA la somme de 30'053 fr.80 avec intérêts à 5% l'an dès la même date. B.b. Saisie d'un appel du défendeur, qui ne reprenait que ses conclusions libératoires, la Cour d'appel civile du Tribunal cantonal vaudois, par arrêt du 3 mai 2016, l'a rejeté dans la mesure de sa recevabilité et a confirmé le jugement attaqué. C. A.X._ exerce un recours en matière civile au Tribunal fédéral. Il conclut principalement à la réforme de l'arrêt cantonal en ce sens que les conclusions des demandeurs sont entièrement rejetées; subsidiairement, il requiert l'annulation de l'arrêt entrepris, la cause étant retournée à la cour cantonale pour nouvelle décision dans le sens des considérants. L'appelé en cause fait valoir, par simple lettre, qu'il n'est plus intéressé par l'instance fédérale, l'arrêt cantonal étant devenu définitif et exécutoire en ce qui le concerne. Par lettre adressée au Tribunal fédéral, le recourant a confirmé que l'appelé en cause n'est pas concerné par son recours en matière civile. Les intimés, par lettre d'une page et demie, proposent le rejet du recours en tant qu'il est recevable. Par ordonnance présidentielle du 22 novembre 2016, la demande d'effet suspensif du recourant a été rejetée.