Faits:
A. A.a Par contrat du 19 février 1999, A._ SA, société anonyme ayant son siège à J._ (VD), s'est engagée à produire exclusivement pour X._ Sàrl, société à responsabilité limitée ayant son siège à K._ (GE), des produits cosmétiques ethniques, par quoi il faut entendre des produits destinés à des gens de couleur et ayant pour effet d'éclaircir la peau; il est prévu une interdiction de concurrence à charge de A._ SA, valable encore pendant une année après l'extinction du rapport contractuel.
Le contrat contient une clause pénale ainsi libellée:
"Le fournisseur qui, pendant la durée du contrat, ne respecte pas la clause d'exclusivité et de non-concurrence telle qu'elle est exposée au paragraphe IV chiffre 1 du présent contrat et qui, ainsi, produit, livre ou vend des produits cosmétiques à des clients actuels ou potentiels de l'acheteur ou bien à un concurrent de l'acheteur, sera tenu de payer à ce dernier une pénalité correspondant à un montant de CHF 100'000.-- (Cent mille francs suisses).
Le paiement de la pénalité ainsi définie ne dispense pas pour autant le fournisseur de son obligation de respecter la clause de non-concurrence prévue par le présent contrat. Toute action pour des dommages-intérêts demeure expressément réservée.
Le fournisseur qui, après la cessation du présent contrat, viole son obligation de non-concurrence et qui, de la sorte, produit, livre ou vend des produits cosmétiques, tels que désignés par le présent contrat, à des clients actuels ou potentiels de l'acheteur ou encore à des tiers concurrents de celui-ci, sera tenu de verser la peine conventionnelle de CHF 100'000.--, toute réclamation pour des dommages-intérêts demeurant expressément réservée".
Le contrat a été conclu pour une durée indéterminée, chacune des parties pouvant y mettre un terme moyennant un délai de résiliation de six mois pour la fin d'une année.
A.b Par lettre du 8 février 2000, X._ Sàrl a résilié le contrat de production conclu avec A._ SA pour son plus prochain terme, à savoir le 31 décembre 2000, invoquant des retards et des problèmes de qualité.
En automne 2000, X._ Sàrl a découvert sur le marché américain divers produits ethniques réalisés en application de ses formules et commercialisés soit sous des marques qu'elle possédait, soit sous d'autres appellations.
Une enquête pénale a révélé que A._ SA avait continué de fabriquer des produits après la résiliation, lesquels avaient été exportés aux États-Unis.
Par lettre du 17 avril 2001, X._ Sàrl a mis en demeure A._ SA de lui verser, dans un délai au 1er mai 2001, la somme de 100'000 fr. correspondant à la peine conventionnelle prévue au contrat.
A.c Y._, qui détenait 63% du capital-actions de A._ SA, en était président du conseil d'administration. Pendant plusieurs mois, il en était le seul administrateur. Par décision du 26 avril 1999, le préposé au Registre du commerce du district d'Aigle a dissous d'office la société et Y._ en a été désigné comme l'unique liquidateur.
La société a été déclarée en faillite le *** 2002, faillite qui a été suspendue faute d'actifs puis clôturée. La société a été radiée du registre du commerce selon publication dans la Feuille des avis officiels du *** 2004.
Il n'est pas établi que la masse en faillite de A._ SA ou des créanciers agissant en tant que cessionnaires des droits de la masse aient exercé une action en responsabilité contre les administrateurs de la société, en particulier contre Y._.
Y._ a fait l'objet de deux condamnations pénales en relation avec ces circonstances, l'une pour violation de la loi sur la protection des marques et contravention au code vaudois de procédure pénale et l'autre pour abus de confiance, diminution effective de l'actif au préjudice des créanciers, violation de l'obligation de tenir une comptabilité et infraction par négligence à la loi fédérale sur la protection des eaux.
Les statuts d'une nouvelle société dénommée B._ Sàrl, ayant son siège à C._ (VS), ont été adoptés le 12 septembre 2001. Le but social de cette nouvelle société correspond largement à celui de A._ SA et Y._ en est associé gérant.
B. Par demande du 16 août 2001 adressée au Tribunal cantonal vaudois, X._ Sàrl et X._ Inc. (une société ayant son siège à D._ qui apparaît ici en tant que titulaire du droit aux marques) ont ouvert action contre A._ SA en liquidation, Y._, E._ AG et F._.
En cours de procédure, la société A._ SA en liquidation a été mise hors de cause. A la suite d'une transaction, la société E._ AG et F._ ont également été mis hors de cause. Le procès s'est donc poursuivi entre les deux demanderesses et le défendeur Y._.
En dernier lieu, les demanderesses ont conclu à ce qu'il soit fait interdiction à Y._, sous menace des peines prévues par l'art. 292 CP, de fabriquer, de faire fabriquer ou de participer d'une quelconque manière à la mise dans le commerce de produits commercialisés sous les marques G._, H._ et I._. Par ailleurs, elles ont conclu à ce que Y._ soit condamné à leur payer solidairement la somme de 100'000 fr. avec intérêts à 5% l'an dès le 2 mai 2001.
En dernier lieu, le défendeur a conclu au rejet des conclusions prises contre lui.
Statuant en instance cantonale unique par jugement du 18 février 2011, la Cour civile du Tribunal cantonal vaudois est parvenue à la conclusion que les demanderesses n'avaient pas prouvé qu'elles étaient titulaires de la marque H._, laquelle avait été cédée à un tiers puis radiée. La cour cantonale a considéré également qu'il fallait se montrer restrictif au sujet de la marque I._. En revanche, la demande a été admise pour ce qui concerne la marque G._. Quant à la demande portant sur la peine conventionnelle, la cour cantonale a tout d'abord relevé que l'une des demanderesses (X._ Inc.) n'était pas partie au contrat du 19 février 1999 et qu'elle n'avait donc pas la légitimation active en vertu du principe de la relativité des conventions. Pour ce qui est de Y._, il a été constaté qu'il n'avait pas la légitimation passive, puisqu'il n'était pas, dans le contrat du 19 février 1999, le cocontractant de X._ Sàrl et qu'il n'y avait pas lieu d'appliquer la théorie de la transparence (ou Durchgriff). En conséquence, la cour cantonale a fait interdiction à Y._, sous la menace des peines prévues par l'art. 292 CP, de fabriquer, de faire fabriquer ou de participer d'une quelconque manière à la mise dans le commerce de produits commercialisés sous la marque G._; elle a rejeté toutes autres ou plus amples conclusions et a statué sur les frais et dépens.
C. X._ Sàrl et X._ Inc. exercent un recours en matière civile au Tribunal fédéral contre le jugement précité, en précisant qu'il ne porte que sur le rejet de la conclusion tendant au paiement de la peine conventionnelle. Invoquant une violation du principe de la transparence (qui relève du droit fédéral), les recourantes concluent à la réforme du jugement attaqué en ce sens qu'il doit y être ajouté le texte suivant: "Y._ est condamné à verser à X._ Sàrl la somme de CHF 100'000.-- (cent mille francs suisses), avec intérêts à 5% l'an dès le 2 mai 2001". Subsidiairement, les recourantes concluent au renvoi de la cause à la cour cantonale pour fixation des dépens de première instance en fonction de l'arrêt fédéral à intervenir.
L'intimé propose le rejet du recours
Considérant en droit:
1. 1.1 Interjeté par les partie qui ont succombé dans leurs conclusions en paiement et qui ont donc qualité pour recourir (art. 76 al. 1 LTF), dirigé contre un jugement final (art. 90 LTF) rendu en matière civile (art. 72 al. 1 LTF) par un tribunal statuant en instance cantonale unique exigée par le droit fédéral (art. 75 al. 2 let. a LTF; ancien art. 58 al. 3 de la Loi fédérale du 28 août 1992 sur la protection des marques et des indications de provenance (Loi sur la protection des marques; LPM, RS 232 11); art. 5 al. 1 let. a CPC), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
La conclusion litigieuse étant connexe (art. 15 al. 2 CPC) à une prétention relevant du droit des marques pour laquelle le droit fédéral exige une instance cantonale unique, la recevabilité du recours ne requiert pas une valeur litigieuse minimale (art. 74 al. 2 let. b LTF). Même si l'on voulait examiner séparément la conclusion litigieuse (qui ne relève pas du droit des marques), la valeur minimale exigée par l'art. 74 al. 1 let. b LTF serait atteinte.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF.
Le Tribunal fédéral applique d'office le droit dont il peut contrôler le respect (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 135 III 397 consid. 1.4 et l'arrêt cité). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF 135 II 384 consid. 2.2.1 p. 389; 135 III 397 consid. 1.4). Par exception à la règle selon laquelle il applique le droit d'office, le Tribunal fédéral ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire telle que l'entend l'art. 9 Cst. (ATF 137 I 58 consid. 4.1.2 p. 62; 136 II 304 consid. 2.4) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
En l'espèce, les recourantes présentent leur propre résumé des faits, mais n'émettent aucune contestation précise quant à l'état de fait retenu par la cour cantonale. Aucun grief sur les faits n'a donc été formulé avec la précision requise (art. 97 al. 1 LTF; ATF 137 I 58 consid. 4.1.2 p. 62; 136 I 184 consid. 1.2 p. 187). On ne voit d'ailleurs aucun motif de s'écarter d'office des constatations cantonales (cf. art. 105 al. 2 LTF), de sorte que le raisonnement juridique sera mené exclusivement sur la base de celles-ci.
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF).
En l'espèce, le litige est donc réduit à la seule question de la peine conventionnelle, qui est encore demandée par les recourantes.
2. 2.1 La conclusion restée litigieuse tend au paiement d'une peine conventionnelle prévue dans le contrat conclu le 19 février 1999.
Il ne s'agit en aucun cas d'une action en dommages-intérêts, puisque les recourantes ne prétendent pas avoir allégué et prouvé un quelconque dommage.
La prétention restée litigieuse se caractérise comme une action en exécution d'une obligation résultant du contrat passé le 19 février 1999.
Or ce contrat a été conclu entre les sociétés X._ Sàrl et A._ SA. S'agissant de deux sociétés ayant leur siège en Suisse, le contrat ne revêt aucun caractère international (cf. ATF 136 III 142 consid. 3.2 p. 144; 135 III 185 consid. 3.1 p. 188, 562 consid. 3.2 p. 564), de sorte qu'il n'est pas douteux qu'il est soumis au droit suisse.
Selon le principe de la relativité des conventions, le contrat ne déploie en principe ses effets qu'entre les parties.
Il apparaît ainsi d'emblée que l'une des recourantes (la société X._ Inc.) n'est pas partie au contrat et que celui-ci constitue pour elle une res inter alios acta. La société X._ Inc. ne prétend pas être au bénéfice d'une cession de créances (art. 164 CO) ou d'une stipulation pour autrui parfaite (art. 112 al. 2 CO); elle ne soutient pas davantage qu'elle aurait succédé à la société X._ Sàrl dans le cadre d'une fusion ou d'une autre forme de transfert de patrimoine (art. 1 de la Loi fédérale du 3 octobre 2003 sur la fusion, la scission, la transformation et le transfert de patrimoine (loi sur la fusion; LFus, RS 221.301). On ne voit donc pas comment cette société pourrait être titulaire de la créance litigieuse, laquelle résulte exclusivement d'une convention à laquelle elle n'était pas partie.
La demande litigieuse doit donc être rejetée en tant qu'elle émane de X._ Inc.
2.2 Le principe de la relativité des conventions implique aussi que l'intimé, qui n'est pas partie au contrat du 19 février 1999, n'est pas non plus le débiteur de la prestation convenue.
Certes, l'intimé a été actionnaire de la société A._ SA. La société anonyme est cependant une personne morale distincte de ses membres et les actionnaires ne sont pas personnellement responsables des dettes sociales (arrêt 4C.455/1995 du 28 mai 1996 consid. 6). La figure juridique de la société anonyme permet à une personne de participer à une activité économique sans risquer la totalité de son patrimoine, les obligations de l'actionnaire étant limitées au paiement des actions qu'il a souscrites, respectivement au paiement du prix d'achat des actions qu'il a acquises d'un tiers (art. 620 al. 2 CO; ATF 108 II 213 consid. 6a p. 215). Il ne saurait être question de faire abstraction de la dualité juridique existant entre la société anonyme et son actionnaire du seul fait que la société est devenue insolvable (ATF 108 II 213 consid. 6b p. 215).
Il est vrai que l'intimé était aussi administrateur, puis liquidateur de la société A._ SA. Un administrateur ou un liquidateur ne doit cependant pas non plus être confondu avec la société anonyme elle-même, qui constitue une personne morale distincte (arrêt 4A_58/2011 du 17 juin 2011 consid. 2.3). Il faut relever ici que les demanderesses ne forment pas une action en dommages-intérêts contre l'administrateur ou le liquidateur qui serait fondée sur l'art. 754 CO, en soutenant qu'il leur aurait causé un dommage direct (art. 754 al. 1 CO) ou qu'elles agissent en tant que cessionnaires des droits de la masse (art. 757 CO). Comme on l'a déjà relevé, la demande n'a pas pour objet un dommage, mais l'exécution d'une prestation en cas de violation de l'interdiction de concurrence, c'est-à-dire le paiement d'une peine convenue dans une clause pénale au sens des art. 160 et 161 CO, en particulier sous la forme de l'art. 161 al. 1 CO.
N'étant pas partie au contrat, l'intimé n'est donc en principe pas le débiteur de la prestation réclamée par X._ Sàrl sur la base de la clause pénale.
2.3 Pour tenter d'échapper à cette conclusion, les recourantes font appel au principe de la transparence (ou Durchgriff), qui relève du droit fédéral.
Selon la théorie de la transparence, on ne peut pas s'en tenir dans tous les cas à l'existence formelle de deux personnes juridiquement distinctes lorsque tout l'actif ou la quasi-totalité de l'actif d'une société anonyme appartient soit directement, soit par personnes interposées, à une même personne, physique ou morale; malgré la dualité de personnes à la forme, il n'existe en réalité pas deux entités indépendantes, du moment que la société est un simple instrument dans la main de son auteur, lequel, économiquement, ne fait qu'un avec elle. On doit dès lors admettre, à certains égards, conformément à la réalité économique, qu'il y a identité de personnes et que les rapports de droit liant l'un lient également l'autre. Ce sera le cas chaque fois que le fait d'invoquer la dualité des sujets constitue un abus de droit ou a pour effet une atteinte manifeste à des intérêts légitimes. Ainsi, l'indépendance juridique entre l'actionnaire unique et la société anonyme ne peut pas être invoquée dans un but qui ne mérite pas la protection de la loi, comme par exemple pour éluder un contrat, une prohibition de concurrence ou encore pour contourner une interdiction (arrêt 4A_58/2011 du 17 juin 2011 consid. 2.4.1; arrêt 4A_384/2008 du 9 décembre 2008 consid. 4.1, in SJ 2009 I p. 424; cf. également: arrêt 5A_175/2010 du 25 mai 2010 consid. 3.3.4; arrêt 4C.15/2004 du 12 mai 2004 consid. 5.2; ATF 112 II 503 consid. 3b p. 506).
L'application du principe de la transparence suppose donc, tout d'abord, qu'il y ait identité des personnes, conformément à la réalité économique, ou, en tout cas, la domination économique d'un sujet de droit sur l'autre. Il faut ensuite que la dualité soit invoquée de manière abusive, c'est-à-dire pour en tirer un avantage injustifié (arrêt 4A_58/2011 du 17 juin 2011 consid. 2.4.1; arrêt 4C.231/1997 du 15 septembre 1998 consid. 2b).
On peut déjà se demander si la première condition est remplie, puisque l'intimé - selon les constatations cantonales qui lient le Tribunal fédéral (art. 105 al. 1 LTF) - détenait le 63% du capital-actions de la société A._ SA, ce qui ne correspond pas à la totalité ou la quasi-totalité du capital-actions comme le requièrent plusieurs arrêts (arrêt 5A_175/2010 du 25 mai 2010 consid. 3.3.4; arrêt 4A_384/2008 du 9 décembre 2008 consid. 4.1, in SJ 2009 I p. 424). Il est vrai cependant qu'il était l'actionnaire majoritaire et l'animateur de la société, puisqu'il a exercé les fonctions d'administrateur unique et de liquidateur unique. La question peut rester indécise, puisque, de toute manière, la seconde condition cumulative n'est manifestement pas remplie.
En effet, il ne ressort pas des constatations cantonales que l'intimé aurait fondé la société anonyme ou conclu le contrat en ayant d'ores et déjà l'intention de concurrencer l'activité économique de X._ Sàrl et d'échapper, grâce à la dualité juridique, à l'obligation de payer la peine conventionnelle. Il apparaît au contraire de l'état de fait que c'est la résiliation du contrat par cette dernière société qui a mis A._ SA dans une situation difficile, de sorte qu'elle a décidé de continuer sa production. Il ressort clairement du contrat que celui-ci est conclu par la société A._ SA et non pas par l'intimé personnellement; à aucun moment - selon les constatations cantonales -, l'intimé n'a tenté de créer une confusion entre la société et lui-même pour en tirer un profit illégitime. Il résulte au contraire de l'état de fait que l'activité économique a clairement et constamment été exercée par la société A._ SA en tant que personne morale distincte. Il n'y a donc aucune trace d'un abus de droit. En réalité, la demande est dirigée contre l'intimé parce que la société A._ SA s'est révélée insolvable. Or, l'incapacité pour une société de payer ses dettes ne suffit pas pour qu'il soit fait application de la théorie de la transparence, même à l'égard d'un actionnaire unique et administrateur unique (CARLO LOMBARDINI, Commentaire romand, Code des obligations II, 2008, n° 33 ad art. 620 CO). En l'absence d'un abus de droit, la dualité juridique reste la règle (ATF 113 II 31 consid. 2c p. 36).
La cour cantonale n'a donc pas violé le droit fédéral en écartant la théorie de la transparence en l'espèce et en constatant que l'intimé n'est pas le débiteur de la peine convenue, faute d'être partie au contrat qui la fonde.
Il ne ressort pas non plus des constatations cantonales que l'intimé aurait repris la dette de la société A._ SA (art. 175 ss CO).
Aussi la cour cantonale est-elle parvenue à juste titre à la conclusion que l'intimé n'est pas le débiteur de la peine conventionnelle qui lui était réclamée et que, faute de légitimation passive, la demande doit être écartée.
Partant, le recours doit être entièrement rejeté.
3. Les frais judiciaires et les dépens sont mis solidairement à la charge des recourantes qui succombent (art. 66 al. 1 et 5; art. 68 al. 1, 2 et 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis solidairement à la charge des recourantes.
3. Les recourantes verseront solidairement à l'intimé une indemnité de 6'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux mandataires des parties et à la Cour civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 30 novembre 2011
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Ramelet