Faits:
A. Au lieu-dit "Z._" à ... (Vaud), d'importants terrains non bâtis se trouvaient en phase d'être classés en zone constructible. Y._ et X._ ont décidé de s'associer en vue d'y réaliser une promotion immobilière. Par acte du 1er juillet 2003, ils ont fondé dans ce but une société à responsabilité limitée, appelée "Z._ Sàrl". Ils sont tous deux associés-gérants de la société, avec pouvoir de signature collective à deux, et possèdent chacun la moitié du capital.
De graves dissensions sont apparues entre les deux associés, chacun déposant une plainte pénale contre l'autre.
L'assemblée générale de la société, fixée au 8 octobre 2010, n'a pas pu être tenue, les deux associés-gérants étant, en raison de leur opposition, dans l'incapacité de désigner un président.
B. Faisant valoir que la société était ainsi paralysée et dans l'impossibilité de faire valoir ses droits dans la procédure pénale dirigée contre X._, Y._ a déposé auprès du Président du Tribunal civil de l'arrondissement de l'Est vaudois, le 15 octobre 2010, une requête dirigée contre la société "Z._ Sàrl" et X._, concluant à la nomination d'un commissaire pour la société.
X._ s'est opposé à la demande et a conclu reconventionnellement à la dissolution de la société et à la désignation d'un liquidateur.
Par jugement dont le dispositif a été communiqué aux parties le 20 janvier 2011, le Président du Tribunal civil de l'arrondissement de l'Est vaudois a admis la requête. Il a nommé A._ en qualité de commissaire pour la société, en précisant que ses compétences seront notamment de faire valoir les droits de la société dans la procédure pénale dirigée contre X._, ainsi que de prendre toutes autres décisions qu'il estimerait nécessaire; il a ajouté que l'avance des frais serait faite par la société "Z._ Sàrl" ou, à défaut, par le requérant Y._, sous réserve du décompte final avec la société. Il a déclaré irrecevables les conclusions reconventionnelles prises par X._, considérant que la question de la dissolution de la société devait être examinée dans un second temps. Il a statué par ailleurs sur les frais et dépens.
Le 7 avril 2011, X._ a interjeté appel contre ce jugement. Selon l'intitulé de son acte, l'appel est dirigé exclusivement contre Y._. X._ a conclu à l'annulation du jugement attaqué et au renvoi de la cause devant la Cour civile du Tribunal cantonal; subsidiairement, il a conclu au rejet de la requête et à l'admission de ses conclusions reconventionnelles; plus subsidiairement encore, il a demandé le rejet de la requête et le renvoi de la cause à la Cour civile du Tribunal cantonal pour statuer sur ses conclusions reconventionnelles.
Y._ a conclu à l'irrecevabilité, subsidiairement au rejet de l'appel.
Par arrêt du 8 juin 2011, la Cour d'appel civile du Tribunal cantonal vaudois a rejeté l'appel dans la mesure où il est recevable, statuant par ailleurs sur les frais et dépens. En substance, la cour cantonale a retenu que X._ n'avait pas dirigé son appel contre la société "Z._ Sàrl" alors que c'était elle qui avait la légitimation passive.
C. X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal du 8 juin 2011. Invoquant l'interdiction de l'arbitraire (art. 9 Cst.), le droit d'être entendu (art. 53 CPC) et le formalisme excessif (art. 29 al. 1 Cst.), il conclut, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité cantonale, subsidiairement au rejet de la requête et à l'admission de ses conclusions reconventionnelles (qu'il reproduit) et, plus subsidiairement, au rejet de la requête et au renvoi de la cause à la Cour civile du Tribunal cantonal vaudois pour statuer sur les conclusions reconventionnelles. Sa requête d'effet suspensif a été rejetée par ordonnance présidentielle du 4 octobre 2011.
La société "Z._ Sàrl", représentée par son commissaire, conclut, avec suite de dépens, au rejet du recours dans la mesure où il est recevable.
Y._ conclut, sous suite de dépens, au rejet du recours dans la mesure où il est recevable.
Le recourant a répliqué.
Considérant en droit:
1. 1.1 Dans les affaires pécuniaires, le recours en matière civile n'est recevable que si la valeur litigieuse s'élève au moins - mis à part les causes relevant du droit du travail et du droit du bail à loyer - à 30'000 fr. (art. 74 al. 1 let. b LTF). Pour qu'une affaire soit considérée comme pécuniaire, il n'est pas nécessaire que la demande tende directement à un paiement ou à une libération de dette; il suffit que le demandeur sollicite une mesure qui, par sa finalité, tend à défendre ses intérêts patrimoniaux (cf. arrêt 4A_165/2010 du 4 juin 2010 consid. 1.1 et les références; à titre d'exemple: ATF 120 II 393 consid. 2 p. 395). Tel est manifestement le cas en l'espèce. Le recours étant dirigé contre une décision finale (art. 90 LTF), la valeur litigieuse doit être déterminée selon les dernières conclusions prises devant l'autorité précédente (art. 51 al. 1 let. a LTF). Lorsque - comme c'est le cas en l'espèce - les conclusions ne tendent pas au paiement d'une somme d'argent déterminée, la valeur litigieuse doit être fixée par appréciation (art. 51 al. 2 LTF). Le recourant expose - sans être contredit - que les deux associés-gérants se sont fait notifier l'un à l'autre des commandements de payer respectivement de 100'000 fr. et de 150'000 fr. On peut donc admettre sans difficulté que les intérêts pécuniaires en jeu dans le sort de cette société à responsabilité limitée atteignent le seuil de 30'000 fr.
Interjeté par la partie qui a succombé dans ses conclusions touchant ses intérêts pécuniaires et qui a donc qualité pour recourir (art. 76 al. 1 LTF), dirigé contre un arrêt final (art. 90 LTF) rendu en matière civile (art. 72 al. 1 LTF) par un tribunal cantonal supérieur statuant sur recours en dernière instance (art. 75 LTF), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 46 al. 1 let. b, 48 al. 1 et 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Il peut donc être formé pour violation d'un droit constitutionnel (ATF 136 I 241 consid. 2.1 p. 247; 136 II 304 consid. 2.4 p. 313).
Le Tribunal fédéral applique d'office le droit dont il peut contrôler le respect (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 137 II 313 consid. 4 p. 317 s.; 135 III 397 consid. 1.4 p. 400). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF 135 II 384 consid. 2.2.1 p. 389; 135 III 397 consid. 1.4).
Par exception à la règle selon laquelle il applique le droit d'office, il ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire (ATF 137 I 58 consid. 4.1.2 p. 62; 137 II 353 consid. 5.1 p. 356) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 137 II 353 consid. 5.1 p. 356; 136 I 184 consid. 1.2 p. 187). Une rectification de l'état de fait ne peut être demandée que si elle est de nature à influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF).
2. 2.1 Selon les constatations cantonales - qui lient le Tribunal fédéral (art. 105 al. 1 LTF) -, l'assemblée générale de la société n'a pas pu être tenue, parce qu'elle n'avait pas de président. Considérant qu'il s'agissait d'une carence dans l'organisation, l'intimé a sollicité du juge, par une requête dirigée contre la société et contre son coassocié, qu'il désigne un commissaire pour la société.
L'absence d'un président constitue, en droit des sociétés, une carence dans l'organisation (PETER/CAVADINI, in Commentaire romand, Code des obligations II, 2008, n° 3 ad art. 731b CO; WATTER/WIESER, in Basler Kommentar, Obligationenrecht II, 3e éd. 2008, n° 6 ad art. 731b CO).
En cas de carence dans l'organisation d'une société à responsabilité limitée, les dispositions du droit de la société anonyme s'appliquent par analogie (art. 819 CO). L'art. 731b CO permet, dans un tel cas, à chaque membre de la société de requérir du juge qu'il prenne les mesures nécessaires, notamment qu'il nomme un commissaire (art. 731b al. 1 CO). L'action doit être dirigée contre la société; si cette dernière n'a pas de représentant, le juge doit préalablement lui désigner un commissaire pour la procédure (WATTER/WIESER, op. cit., n° 14 ad art. 731b CO).
C'est donc à juste titre que l'intimé a dirigé sa requête contre la société et le juge de première instance pouvait donc, sous l'angle de la légitimation passive, statuer sur cette requête.
2.2 Dans la procédure de première instance, le recourant a formé une demande reconventionnelle tendant à la dissolution de la société.
La cour cantonale n'a pas tranché la question de savoir si la demande reconventionnelle était fondée sur l'art. 731b al. 1 ch. 3 CO (applicable par le renvoi de l'art. 819 CO) ou sur l'art. 821 CO (arrêt entrepris p. 8). La question peut effectivement rester ouverte puisque, dans les deux cas, la demande devait être dirigée contre la société (pour l'art. 731b CO: cf. supra consid. 2.1; pour l'art. 821 CO: CHRISTOPHE BUCHWALDER, in Commentaire romand, Code des obligations II, 2008, n° 30 ad art. 821 CO; CHRISTOPH STÄUBLI, in Basler Kommentar, Obligationenrecht II, 3e éd. 2008, n° 22 ad art. 821 CO).
Dès lors que la société était partie à la procédure de première instance, les conclusions reconventionnelles étaient correctement dirigées et le juge pouvait, sous l'angle de la légitimation passive, statuer à leur sujet.
2.3 Le problème actuellement litigieux est né de l'appel interjeté par le recourant, qui n'est dirigé, selon son intitulé, que contre le coassocié, et non pas contre la société.
Le dispositif de la décision de première instance a été envoyé aux parties après l'entrée en vigueur, le 1er janvier 2011, du CPC, de sorte que les voies de recours sont régies par cette loi (art. 405 al. 1 CPC; ATF 137 III 127 consid. 2 p. 130).
Selon l'art. 311 al. 1 CPC, l'appel doit être écrit et motivé. Cette disposition ne régit pas expressément le contenu de l'acte. Il faut cependant admettre qu'il s'agit d'une forme de demande adressée au juge et qu'il faut donc appliquer par analogie les art. 221 et 244 CPC (IVO W. HUNGERBÜHLER, in ZPO - Kommentar, 2011, n° 10 ad art. 311 CPC). On en déduit donc que l'acte d'appel doit contenir la désignation des parties (art. 221 al. 1 let. a et 244 al. 1 let. a CPC; IVO W. HUNGERBÜHLER, op. cit., n°s 12 s. ad art. 311 CPC; REETZ/THEILER, in Kommentar zur Schweizerischen Zivilprozessordnung, 2010, no 33 ad art. 311 CPC).
En l'occurrence, il résulte des constatations cantonales - qui lient le Tribunal fédéral (art. 105 al. 1 LTF) - que l'appelant a satisfait à cette exigence en désignant comme parties lui-même et son coassocié. Il n'a en revanche pas mis en cause la société.
Or, comme on l'a vu, la société avait la légitimation passive aussi bien pour l'action principale tendant à désigner un commissaire que pour l'action reconventionnelle tendant à la dissolution. La question de la légitimation passive relève du droit de fond et ne constitue pas une question formelle (ATF 128 III 50 consid. 2b/bb p. 55; arrêt 4A_79/2010 du 29 avril 2010 consid. 2.1 publié in SJ 2010 I p. 459). L'appel étant mal dirigé, le juge ne pouvait statuer ni sur l'action principale, ni sur l'action reconventionnelle, parce que toute décision prise aurait violé le droit d'être entendu (art. 29 al. 2 Cst.) de la société, qui est directement visée dans ses droits. L'absence de légitimation passive entraîne le rejet de la démarche (cf. les jurisprudences qui viennent d'être citées).
Le rejet de l'appel ne viole donc pas le droit fédéral.
2.4 Le recourant soutient que la cour cantonale a arbitrairement conclu que l'appel n'était dirigé que contre son coassocié, et non pas contre la société.
Selon la jurisprudence, l'arbitraire, prohibé par l'art. 9 Cst., ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable. Le Tribunal fédéral n'annulera la décision attaquée que lorsque celle-ci est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridique indiscuté, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité. Pour qu'une décision soit annulée pour cause d'arbitraire, il ne suffit pas que la motivation formulée soit insoutenable, il faut encore que la décision apparaisse arbitraire dans son résultat (ATF 137 I 1 consid. 2.4 p. 5; 136 I 316 consid. 2.2.2 p. 318 s.; 136 III 552 consid. 4.2 p. 560). S'agissant de l'appréciation des preuves et de l'établissement des faits, la décision attaquée n'est arbitraire que si le juge n'a manifestement pas compris le sens et la portée d'un moyen de preuve, s'il a omis, sans raison sérieuse, de tenir compte d'un moyen important propre à modifier la décision attaquée ou encore si, sur la base des éléments recueillis, il a fait une déduction insoutenable (ATF 136 III 552 consid. 4.2 p. 560; 129 I 8 consid. 2.1 p. 9). Un recourant qui invoque l'arbitraire doit non seulement mentionner ce principe constitutionnel, mais encore expliquer de manière précise, en partant de la décision attaquée, en quoi l'opinion de la cour cantonale serait insoutenable (ATF 134 II 244 consid. 2.2 p. 246).
Le recourant ne conteste pas que l'acte d'appel, dans son intitulé, ne désigne que deux parties, à savoir lui-même et son coassocié. Dès lors que l'arbitraire n'est pas invoqué au sujet de cette constatation, elle doit être tenue pour acquise (art. 106 al. 2 LTF; ATF 137 I 58 consid. 4.1.2 p. 62).
Le recourant fait valoir qu'il a pris des conclusions tendant à la dissolution de la société. Cette dernière n'apparaît cependant que comme un objet de conclusions, et non comme une partie adverse. On ne peut déduire de la formulation des conclusions aucune intention de l'appelant de mettre en cause la société dans la procédure d'appel. Le recourant se réfère aussi à la motivation de son appel, mais il ne cite avec précision (art. 106 al. 2 LTF) aucun passage d'où il résulterait une volonté de sa part de mettre en cause la société dans la procédure d'appel. En réalité, il aurait voulu que le juge d'appel corrige son erreur juridique et désigne lui-même la société comme partie adverse. Aucune disposition ne permet de fonder une telle prétention, qui reviendrait à exclure tout rejet d'une demande pour cause d'absence de légitimation passive.
On ne voit donc pas que la cour cantonale ait arbitrairement constaté que l'appel était dirigé contre le coassocié, et non pas contre la société. Ce grief doit être rejeté.
2.5 Dans le même contexte, le recourant se plaint également d'un formalisme excessif prohibé par l'art. 29 al. 1 Cst.
Le formalisme excessif, que la jurisprudence assimile à un déni de justice contraire à l'art. 29 al. 1 Cst., est réalisé lorsque des règles de procédure sont appliquées avec une rigueur que ne justifie aucun intérêt digne de protection, au point que la procédure devient une fin en soi et empêche ou complique de manière insoutenable l'application du droit. L'excès de formalisme peut résider dans la règle de comportement qui est imposée au plaideur ou dans la sanction qui est attachée à cette règle (ATF 132 I 249 consid. 5 p. 253; cf. aussi: ATF 135 I 6 consid. 2.1 p. 9; 134 II 244 consid. 2.4.2 p. 248).
Il n'y a en soi aucun formalisme excessif à exiger d'un demandeur ou recourant qu'il indique avec précision l'identité des personnes qu'il met en cause (cf. déjà: ATF 80 III 7). Cette mention est nécessaire pour que l'autorité puisse envoyer aux parties une copie de l'acte, les éventuelles convocations, puis le jugement rendu. En désignant ses parties adverses, le demandeur ou recourant détermine ainsi à l'égard de quelle personne il pourrait être, le cas échéant, condamné à payer des dépens. L'exigence de la désignation des parties dans l'acte répond donc à un intérêt légitime.
Le recourant en est d'ailleurs bien conscient, puisqu'il a mentionné, dans l'intitulé de son appel, quelles étaient les parties. Il n'a cependant pas cité la société, perdant de vue que celle-ci avait la légitimation passive. Comme on l'a vu, il ne s'agit pas d'une question de forme, mais de droit de fond. Celui qui dirige mal sa démarche procédurale ne peut qu'être débouté, afin de respecter les droits des personnes qui, sous l'angle matériel, sont les titulaires actifs ou passifs de la prétention en cause.
On ne discerne donc aucun formalisme excessif.
2.6 Le recourant se plaint enfin d'une violation de son droit d'être entendu, sous l'angle du droit à une décision motivée. Il reproche à la cour cantonale de ne pas avoir pris position sur différents griefs qu'il avait soulevés.
Le recourant invoque l'art. 53 al. 1 CPC, qui reproduit la garantie constitutionnelle figurant à l'art. 29 al. 2 Cst. Le contenu d'une décision judiciaire relève cependant plutôt, dans la systématique du CPC, de l'art. 238 CPC. Quoi qu'il en soit, on déduit du droit d'être entendu l'obligation pour l'autorité de motiver sa décision, afin que son destinataire puisse la comprendre et l'attaquer utilement s'il y a lieu (ATF 133 I 270 consid. 3.1 p. 277; 133 III 439 consid. 3.3 p. 445). Le juge n'a cependant pas l'obligation d'exposer et de discuter tous les faits, moyens de preuve et griefs invoqués par les parties; il suffit qu'il mentionne, au moins brièvement, les motifs qui l'ont guidé et sur lesquels il a fondé sa décision, de manière à ce que l'intéressé puisse se rendre compte de la portée de celle-ci et l'attaquer en connaissance de cause (ATF 134 I 83 consid. 4.1 p. 88; 133 III 439 consid. 3.3 p. 445).
En l'espèce, la cour cantonale a clairement expliqué qu'elle ne pouvait examiner ni la demande principale, ni la demande reconventionnelle parce que la société n'était pas partie à la procédure d'appel. Il n'y a donc pas de défaut de motivation.
Il en résulte que la cour cantonale ne pouvait prendre aucune autre décision sans violer le droit d'être entendu de la société, titulaire de la légitimation passive. Il n'y avait donc pas à examiner d'autres griefs et on ne discerne aucune violation du droit à une décision motivée.
3. Il résulte des considérations qui précèdent que le recours doit être rejeté.
Les frais judiciaires et les dépens sont mis à la charge du recourant qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge du recourant.
3. Le recourant versera à chacune des parties intimées une indemnité de 6'000 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton de Vaud, Cour d'appel civile.
Lausanne, le 5 mars 2012
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Klett
Le Greffier: Piaget