Faits: A. Les frères A.X._ et B.X._ ont fondé en 1979 une société en nom collectif, dont ils sont associés chacun à raison de 50%, intitulée SNC Z._, qui a son siège à ... (Vaud) et qui exploite un chantier naval. Pour son activité, l'entreprise utilise un terrain qui n'appartient pas à la société en nom collectif, mais aux deux frères X._, formant entre eux une société simple à parts égales. L'entreprise est actuellement rentable. Les frères X._ ont chacun deux fils. Des dissensions sont apparues entre eux au sujet de la reprise et de la continuation de l'activité du chantier naval par leurs descendants. Le 15 avril 2005, ils ont chargé la société D._ SA d'étudier une solution. Des propositions ont été faites par W._, agissant pour D._ SA, mais elles n'ont pas abouti à un accord. B. Par demande datée du 23 décembre 2005, A.X._ a introduit action devant le Tribunal civil de l'arrondissement de l'Est vaudois, demandant la dissolution et le partage de la société simple, ainsi que la dissolution et la liquidation de la société en nom collectif. Il a invoqué les dissensions internes sérieuses et irrémédiables apparues entre les associés, qui menacent de rendre l'entreprise ingouvernable. B.X._ a demandé à pouvoir continuer l'activité en désintéressant sa partie adverse. Une expertise judiciaire a estimé la valeur de rendement du terrain à 1'655'000 fr., sa valeur vénale à 1'582'380 fr. et sa valeur admise à 1'580'000 fr. Un autre expert, V._, a été chargé d'évaluer la société en nom collectif. Il a proposé la création d'une société anonyme au capital-actions de 400'000 fr., réparti à raison de 200'000 fr. pour chacun des frères; V._ devait fonctionner comme administrateur et recevoir à titre fiduciaire quatre actions pour éviter un blocage; A.X._ devait remettre la moitié de ses actions à chacun de ses fils, tandis que B.X._ remettrait la totalité de ses actions à son fils C.X._, son autre fils n'étant pas intéressé. L'expert a aussi élaboré un projet de cahier des charges. Ses propositions n'ont pas abouti. Le 20 mai 2008, V._y a déposé son rapport, évaluant l'entreprise, en tenant compte du terrain, entre 2'000'000 fr. et 2'200'000 fr. Par jugement du 10 mai 2010, le président du Tribunal civil de l'arrondissement de l'Est vaudois a autorisé B.X._ à continuer les affaires de la société en nom collectif Z._, moyennant la délivrance à A.X._ de ce qui lui revient dans l'actif social; il a fixé à 1'050'000 fr. la valeur de l'actif social revenant à A.X._, incluant la valeur représentée par le partage de la parcelle se trouvant sur la commune de ...; il a ordonné le transfert de cette parcelle à B.X._ et statué sur les frais et dépens. En substance, le premier juge, procédant à une appréciation des preuves apportées, est parvenu à la conviction que B.X._ et son fils avaient fait preuve d'un esprit positif, acceptant les propositions équilibrées qui leur étaient présentées, tandis que A.X._, et dans une moindre mesure ses fils, avaient fait une obstruction systématique, A.X._ voulant partager l'entreprise en trois, à savoir une part pour chacun de ses fils et une part pour le seul fils de B.X._ disposé à reprendre l'entreprise. Statuant sur recours le 11 mai 2011, la Chambre des recours du Tribunal cantonal vaudois, statuant par ailleurs sur les frais et dépens, a confirmé le jugement attaqué sauf sur un point: il a supprimé la phrase du dispositif selon laquelle il était ordonné le transfert de la parcelle à B.X._, pour le motif que ce point avait été ajouté dans le dispositif en violation des règles de procédure. C. A.X._ exerce un recours en matière civile au Tribunal fédéral contre l'arrêt cantonal du 11 mai 2011. Invoquant une transgression de l'art. 112 al. 1 let. b LTF, une violation du droit d'être entendu (art. 29 al. 2 Cst.) et du droit à la preuve (art. 8 CC), l'arbitraire dans l'appréciation des preuves et l'établissement des faits (art. 9 Cst.), ainsi qu'une violation des art. 577, 579 CO et de l'art. 4 CC, il conclut, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué et au renvoi de la cause à la cour cantonale; subsidiairement, il demande à être autorisé (à la place de son frère) à poursuivre l'activité de la société en nom collectif et de fixer la valeur de la part, y compris le partage de la parcelle, qui doit revenir à son frère. Sa requête tendant à faire suspendre l'examen du recours a été refusée par ordonnance présidentielle du 18 octobre 2011. Sa demande d'effet suspensif a été admise par ordonnance présidentielle du 11 novembre 2011. L'intimé a conclu au rejet du recours avec suite de frais et dépens. Les parties ont répliqué et dupliqué.