Faits:
A. Le 25 octobre 2001, le Président du Tribunal d'arrondissement de l'Est vaudois a prononcé la faillite de la société "X._ SA". Le but de cette société était la fabrication et la commercialisation de biscuits, produits de confiserie et spécialités régionales. L'Office des faillites de l'arrondissement de Moudon-Oron (ci-après : l'Office) a traité cette faillite en la forme sommaire.
B. B.a Par courrier du 22 janvier 2002 adressé à l'Office, A._, par le biais de la fiduciaire C._ SA, a proposé de reprendre les actifs mobiliers de la société faillie. Son idée était de poursuivre la production dans les locaux loués par la faillie pour commercialiser, aux niveaux national et international, des biscuits haut de gamme. Il a, quelques jours plus tard, fixé son offre de reprise à 200'000 fr.
B.b Par circulaire du 8 février 2002, l'Office a soumis l'offre de A._ à l'ensemble des créanciers. Cette circulaire mentionnait que, conformément à l'art. 256 al. 2 et 3 LP, la vente ne pouvait avoir lieu qu'avec l'accord des créanciers gagistes et qu'il était loisible aux créanciers chirographaires d'adresser à l'Office une offre supérieure.
Tous les créanciers gagistes ont donné par écrit leur consentement à la réalisation qui était proposée. En revanche, un des créanciers chirographaires, B._, s'est opposé, par courrier du 15 février 2002 adressé à l'Office, à la vente des actifs mobiliers à A._ en faisant valoir que les objets inventoriés valaient plus de 1'500'000 fr.
B.c Le préposé de l'Office a, le 25 février 2002, confirmé par téléphone à A._ que les créanciers gagistes avaient donné leur accord et qu'aucune surenchère n'avait été déposée. Il n'a pas informé son interlocuteur de l'opposition de B._.
Le même jour, A._ a donné son congé à son employeur afin de se consacrer à l'entreprise qu'il allait mettre sur pied.
C. C.a Le 28 février 2002, l'Office a avisé B._ que son opposition à la vente de gré à gré était rejetée.
C.b Quelques jours plus tard, par courrier du 5 mars 2002, il a informé A._ qu'aucune surenchère n'avait été formulée mais qu'une opposition avait été enregistrée.
C.c Le 11 mars 2002, B._ a déposé une plainte à l'autorité de surveillance contre la décision du 28 février 2002. Il demandait qu'il soit ordonné à l'Office de réestimer les objets appartenant à la faillie et de réaliser ces biens par le biais d'enchères publiques.
C.d Parallèlement, l'Office a poursuivi les démarches en vue de la vente des biens de la faillie à A._, sans l'informer de la procédure de plainte. Sur invitation du préposé, A._ a versé à l'Office, le 23 avril 2002, le prix convenu de 200'000 fr.
Le 6 mai 2002, l'Office a établi le procès-verbal de vente, sur lequel était inscrit le 26 avril 2002 comme date de la vente.
D. A la même époque, A._ a mené des discussions avec les propriétaires des locaux pour la reprise du bail commercial. Les négociations n'ont pu aboutir et A._ s'est vu contraint de chercher un nouveau local. Face aux difficultés rencontrées, il s'est adressé à l'Office pour lui demander sa collaboration en expliquant que sa proposition d'achat était liée à la possibilité de reprendre le bail des locaux exploités par la faillie. Dans un courrier du 24 mai 2002, il interdisait à l'Office de disposer du montant de 200'000 fr. et le menaçait de se départir du contrat de vente pour erreur essentielle.
Par courrier du même jour, l'Office lui a opposé une fin de non-recevoir et lui a indiqué que la vente du 26 avril 2002 était définitive.
E. Par prononcé du 3 juin 2002, l'autorité de surveillance a admis la plainte de B._, a ordonné à l'Office de réestimer l'inventaire des objets appartenant à la faillie et de rechercher des amateurs par un appel d'offres.
Le 5 juin 2002, l'Office a donné connaissance à A._ de ce prononcé. Il l'informait que la procédure de réalisation en cours était annulée, que le montant de 200'000 fr. lui serait restitué et qu'il lui serait loisible de formuler une nouvelle offre.
F. A la suite du nouvel appel d'offres, une vente aux enchères privées a eu lieu le 10 octobre 2002; A._ y a finalement obtenu l'adjudication des biens de la faillie pour le prix de 300'000 fr.
Il a pu commencer son activité de production quelques semaines après la vente aux enchères.
G. Par demande du 30 novembre 2005, A._ a ouvert action en paiement contre l'Etat de Vaud pour le montant de 1'159'311 fr. 40, avec intérêt à 5 % l'an dès le 5 mars 2002. L'Etat de Vaud a conclu à sa libération.
A._ reprochait aux autorités de poursuite de ne pas l'avoir informé de la contestation du créancier et ne pas avoir attribué l'effet suspensif à la plainte. Il réclamait en raison de ces manquements le paiement d'un montant de 250'000 fr. à titre de perte de salaire et de 650'000 fr. à titre de manque à gagner. Comme dommage supplémentaire découlant des manquements précités, il faisait valoir qu'il s'était trouvé acculé par les engagements pris en vue de l'exploitation de l'entreprise et contraint d'acquérir finalement le mobilier à un prix excessif de 300'000 fr. au lieu des 200'000 fr. qu'il comptait investir; il demandait le paiement de la différence de 100'000 fr. . Par ailleurs, il reprochait au préposé de l'Office de ne pas lui avoir restitué entre les mois de mai et octobre 2002 le prix payé de 200'000 fr. et réclamait les intérêts dont il avait été privé sur ce montant. Enfin, il alléguait avoir été victime d'une atteinte illicite à sa personnalité dont il serait résulté un tort moral qu'il estimait à 100'000 fr.
Par jugement du 12 février 2009, la Cour civile du Tribunal cantonal vaudois a jugé que les conditions permettant d'engager la responsabilité de l'Etat de Vaud n'étaient pas réalisées et a rejeté l'action. Les motifs sur lesquels elle a fondé le rejet intégral de la demande seront exposés plus loin dans la mesure utile.
Le 20 août 2009, la Chambre des recours du Tribunal cantonal vaudois a rejeté le recours en nullité déposé par le demandeur pour appréciation arbitraire des preuves.
H. Agissant le 14 décembre 2009 par la voie du recours en matière civile, A._ demande au Tribunal fédéral de réformer les décisions de la Cour civile et de la Chambre des recours en ce sens que les conclusions en paiement prises dans sa demande du 30 novembre 2005 soient admises.
Le Tribunal cantonal vaudois a renoncé à se déterminer et l'Etat de Vaud a conclu au rejet du recours.
Considérant en droit:
1. 1.1 Les décisions rendues dans le domaine de la responsabilité du canton selon l'art. 5 LP sont des décisions en matière de poursuite pour dettes et de faillite au sens de l'art. 72 al. 2 let. a LTF (cf. arrêts 5A_359/2010 du 23 août 2010 consid. 1; 5A_54/2008 du 30 avril 2008 consid. 1 et 5A_306/2007 du 19 septembre 2007 consid. 1.1). Le Tribunal fédéral est saisi en temps utile, car le jugement de la Cour civile peut être attaqué en même temps que l'arrêt de la Chambre des recours (art. 100 al. 6 LTF). Introduit pour le surplus dans les formes requises (art. 42 LTF), le recours est en principe recevable.
1.2 Le recours en matière civile peut être formé pour violation du droit fédéral (art. 95 let. a LTF), qui englobe les droits constitutionnels (ATF 133 III 446 consid. 3.1 p. 447, 462 consid. 2.3 p. 466). Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut ainsi admettre le recours pour d'autres motifs que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (ATF 133 III 545 consid. 2.2 p. 550).
Par ailleurs, le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les constatations de l'autorité précédente ont été établies de façon manifestement inexacte - notion qui correspond à celle d'arbitraire au sens de l'art. 9 Cst. (ATF 135 III 127 consid. 1.5 p. 130, 397 consid. 1.5 p. 401; 135 II 145 consid. 8.1 p. 153) - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), et pour autant que la correction du vice soit susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
1.3 Le recours en matière civile est recevable contre les décisions prises par les autorités cantonales de dernière instance (art. 75 al. 1 LTF). Si, pour certains griefs, la décision d'un tribunal cantonal supérieur peut être déférée à une autre autorité judiciaire cantonale, cette décision n'est pas de dernière instance pour ce qui concerne les questions susceptibles de ce recours cantonal; faute d'épuisement des voies de recours cantonales, ces questions ne peuvent pas être soulevées dans le cadre du recours en matière civile interjeté contre la décision du tribunal cantonal supérieur. Elles doivent d'abord faire l'objet du recours cantonal avant de pouvoir être soumises, le cas échéant, au Tribunal fédéral (cf. art. 100 al. 6 LTF).
Il en va ainsi en procédure civile vaudoise. Le jugement rendu par la Cour civile du Tribunal cantonal peut faire l'objet d'un recours en nullité auprès de la Chambre des recours, en particulier pour violation des règles essentielles de la procédure et appréciation arbitraire des preuves (cf. arrêt 4A_495/2007 du 12 janvier 2009 consid. 2.1 et les références). Il s'ensuit que, dans la mesure où il entendait reprocher à la Cour civile d'avoir établi les faits de manière arbitraire dans son jugement du 12 février 2009, le recourant devait formuler ce grief dans le cadre de son recours en nullité cantonal. Il y aura lieu d'examiner, le cas échéant, s'il l'a fait. A défaut, le recours en matière civile serait irrecevable, faute d'épuisement des instances cantonales (art. 75 al. 1 LTF).
2. Le canton répond du dommage causé d'une manière illicite, par les préposés, les employés, leurs auxiliaires, les membres des administrations spéciales de la faillite, les commissaires, les liquidateurs, les autorités de surveillance, les autorités judiciaires ainsi que par la force publique dans l'exécution des tâches que leur attribue la LP (art. 5 al. 1 LP). Le tiers lésé peut rechercher le canton s'il établit l'existence d'un acte illicite, qui peut consister en une action positive ou une omission, d'un dommage ainsi que d'un rapport de causalité entre ces deux éléments (PIERRE-ROBERT GILLIÉRON, Commentaire de la loi fédérale sur la poursuite pour dettes et la faillite, n. 37 ad art. 5 LP). Comme les trois conditions sont cumulatives, il suffit que l'une d'entre elles ne soit pas réalisée pour que la demande doive être rejetée, sans qu'il y ait lieu d'examiner les autres.
La Cour civile a jugé que les autorités de faillite n'avaient commis aucun acte illicite. En ce qui concerne le préposé, elle a estimé qu'aucun manquement ne pouvait lui être reproché au motif qu'il n'avait pas immédiatement informé le recourant de la contestation d'un des créanciers (consid. 4 infra), voire qu'il lui avait communiqué que la vente était définitive (consid. 6 infra). Selon la cour cantonale, le préposé n'avait pas non plus agi de manière illicite en s'abstenant de restituer le prix de 200'000 fr. dès le mois de mai 2002 (consid. 8 infra) et il n'avait pas porté atteinte à la personnalité du recourant (consid. 8 infra). En ce qui concerne les manquements reprochés à l'autorité de surveillance, la Cour civile a considéré qu'elle n'avait pas violé le droit d'être entendu du recourant (consid. 5 infra) ni excédé son pouvoir d'appréciation lors de l'examen relatif à l'effet suspensif de la plainte LP (consid. 7 infra).
3. Le recourant prétend que les constatations de fait procèdent d'une appréciation arbitraire des preuves.
Comme le pouvoir d'examen de la Chambre des recours était limité à l'arbitraire, le Tribunal fédéral examinera librement la manière dont celle-ci a fait usage de sa cognition restreinte, en recherchant, dans le cadre des griefs articulés, si c'est à tort que cette autorité a nié l'arbitraire de l'appréciation critiquée (interdiction de l'arbitraire au carré; cf. ATF 116 III 70 consid. 2b; 112 Ia 350 consid 1; plus récemment, cf. arrêts 4A_495/2007 du 12 janvier 2009, consid. 2.1; 4D_2/2008 du 28 mars 2002, consid. 2.2).
3.1 Le recourant reproche en premier lieu à la Chambre des recours d'avoir constaté de manière arbitraire les faits relatifs aux informations données par le préposé.
Il estime que la cour cantonale aurait dû retenir que le préposé avait donné un renseignement inexact en indiquant, par courrier du 24 mai 2002, que la vente de gré à gré conclue le 26 avril 2002 était définitive. Il est vrai qu'à cette date, la plainte du créancier B._ était pendante; elle a conduit à l'annulation de cette vente, de sorte que l'indication donnée par le préposé, qui connaissait l'existence de la procédure de plainte, était effectivement inexacte. Toutefois, ce fait, comme on le verra (cf. consid. 6 infra) n'a pas d'influence sur l'issue du litige car cette information n'a entraîné aucun dommage pour le recourant.
Le recourant reproche encore à la cour cantonale de n'avoir pas constaté que l'information était lacunaire car le préposé ne l'avait pas informé de l'opposition déposée par le créancier B._. La critique est dénuée de fondement dès lors que l'autorité cantonale a effectivement constaté que l'office n'avait pas renseigné le recourant au sujet de l'opposition du créancier lors du téléphone du 25 février 2002. Les juges précédents ont également retenu que le préposé avait attendu jusqu'au 5 juin 2002 pour informer le recourant de la procédure de plainte. Savoir si l'absence d'information jusqu'à cette date constitue une omission illicite susceptible d'entraîner la responsabilité de l'intimé est une question de droit qui sera examinée ci-dessous (cf. consid. 4).
3.2 Selon le recourant, la cour cantonale aurait dû encore retenir d'une part qu'il avait informé le préposé de son intention d'envoyer sa lettre de démission pour le 31 mai 2002 et, d'autre part, que le préposé connaissait les difficultés liées à la reprise du bail. Or, la Chambre des recours, devant laquelle ces griefs ont été soulevés, les a tous deux écartés au motif que ces constatations n'avaient aucune incidence sur l'issue du litige. Dès lors que le recourant s'abstient de s'en prendre à ces motifs, sa critique est irrecevable (art. 42 al. 2 LTF; ATF 134 II 244 consid. 2.1).
3.3 Le recourant prétend que les juges précédents se sont écartés de l'expertise de manière arbitraire en retenant que, même s'il avait pu prendre possession des biens mobiliers de la faillie après le procès-verbal de vente du 26 avril 2002, il n'aurait pas pu débuter son entreprise à temps pour honorer les commandes de fin d'année parce qu'il ne disposait pas de locaux. Cette critique, qui relève de l'appréciation arbitraire des preuves, est dirigée contre le jugement rendu par la Cour civile. Or, il appartenait au recourant de la formuler dans son recours en nullité cantonal (consid. 1.3 supra). Faute d'avoir épuisé les instances cantonales, son recours est irrecevable sur ce point.
4. Le recourant fait grief à la Cour civile d'avoir nié que le préposé avait agi de manière illicite en ne l'informant pas, lors du téléphone du 25 février 2002, de la contestation du créancier. Dans le cas particulier, la question de l'illicéité peut rester ouverte puisque, comme on va le voir ci-après, à supposer qu'il faille considérer que ce défaut d'information constitue un acte illicite, celui-ci ne serait pas en lien de causalité avec les dommages que le recourant fait valoir (perte de salaire à la suite de la démission, manque à gagner en raison du démarrage tardif de la nouvelle société, acquisition du mobilier à un prix supérieur de 100'000 fr.).
4.1 Selon la jurisprudence du Tribunal fédéral, il y a lieu de distinguer entre la causalité naturelle et la causalité adéquate même si la violation d'une obligation est imputable à une omission (arrêt 4A_464/2008 du 22 décembre 2008 consid. 3.3.1). Pour retenir une causalité naturelle en cas d'omission, il faut admettre par hypothèse que le dommage ne serait pas survenu si l'intéressé avait accompli l'acte omis (ATF 129 III 129 consid. 8; arrêt 4C. 381/2004 du 28 juin 2005 consid. 2.1). Il n'y a un lien de causalité entre le défaut d'information et le dommage que si la partie, en cas d'information correcte, avait pris une décision lui évitant le dommage. Si elle s'était conduite de la même manière, le lien de causalité doit être exclu (STEPHAN HARTMANN, Die vorvertraglichen Informationspflichten und ihre Verletzung, 2001, n° 270). En règle générale, lorsque le lien de causalité hypothétique entre l'omission et le dommage est établi, il ne se justifie pas de soumettre cette constatation à un nouvel examen sur la nature adéquate de la causalité (arrêt 4A_464/2008 du 22 décembre 2008 consid. 3.3.1).
La preuve du lien de causalité naturelle appartient au lésé qui fait valoir son droit à la réparation du dommage (art. 8 CC; ATF 130 III 321 consid. 3.1 p. 323; FRANZ WERRO, La responsabilité civile, 2005, n. 209). En cas d'omission, la jurisprudence n'exige pas une preuve stricte. Il suffit que le juge parvienne à la conviction qu'une vraisemblance prépondérante plaide pour un certain cours des événements (ATF 132 III 311 consid. 3.5; 115 II 449 consid. 6a).
La preuve du lien de causalité naturelle appartient au lésé qui fait valoir son droit à la réparation du dommage (art. 8 CC; ATF 130 III 321 consid. 3.1 p. 323; FRANZ WERRO, La responsabilité civile, 2005, n. 209). En cas d'omission, la jurisprudence n'exige pas une preuve stricte. Il suffit que le juge parvienne à la conviction qu'une vraisemblance prépondérante plaide pour un certain cours des événements (ATF 132 III 311 consid. 3.5; 115 II 449 consid. 6a).
4.2 4.2.1 En l'espèce, il convient d'examiner en premier lieu si un lien de causalité naturelle peut être retenu entre le défaut d'information et la perte de salaire de 250'000 fr. Le recourant prétend que s'il avait eu connaissance de la contestation du créancier, il n'aurait pas démissionné et aurait ainsi évité ce dommage. Le montant réclamé correspond à ce qu'il aurait gagné entre les mois de juin 2002 et novembre 2002 s'il n'avait pas donné prématurément son congé à son employeur.
Il faut se demander s'il apparaît plus vraisemblable que le recourant, s'il avait été averti par le préposé de l'opposition du créancier lors du téléphone du 25 février 2002, se serait abstenu de démissionner. Selon les faits constatés par l'autorité cantonale (art. 105 al. 1 LTF), quelques jours après le téléphone, le recourant a effectivement été informé par courrier du 5 mars 2002 de l'existence d'une opposition formée par un créancier. Il ne ressort pas des faits que le recourant, pourtant assisté d'une fiduciaire, s'en soit inquiété. Il n'a pas non plus protesté auprès de l'Office au motif que cette contestation ne lui avait pas été communiquée plus tôt. Le père et le frère du recourant, le directeur de la fiduciaire ainsi qu'un des employés de la faillie ont tous déclaré que le recourant s'était persuadé, dès le courrier du 5 mars 2002, qu'aucun obstacle ne s'opposait à l'acquisition des biens de la faillie et qu'il allait les obtenir rapidement. A la fin du mois de mars 2002, il a entrepris les démarches en vue d'obtenir un stand d'exposition à D._. A la même époque, il a engagé des frais en vue du rachat de la marque "Y._" et de la création d'un site internet et a fait inscrire la société "X._ SA" au registre du commerce. On voit ainsi que le recourant, informé d'une contestation qui constituait un risque pour l'acquisition du mobilier, a choisi de l'ignorer. Dans ces conditions, il apparaît, selon une vraisemblance prépondérante, qu'il aurait quand même démissionné si, le 25 février 2002, il avait été tenu au courant de la démarche du créancier. Par conséquent, à supposer qu'il y ait eu manquement dans l'absence de communication, il n'y a pas de lien de causalité avec la perte de salaire.
Par surabondance de moyens, on peut encore relever que la perte de salaire résulte du retard pris dans le démarrage de l'entreprise. Or, sur la base des faits retenus, même si la perte de salaire avait pu être causée par le défaut d'information, elle a été provoquée en l'espèce par une autre cause, à savoir l'impossibilité d'obtenir un nouveau bail du propriétaire des locaux (cause dépassante). La première cause (défaut d'information) a été, dans ce sens, « dépassée » par la seconde. Il n'y a donc plus de causalité naturelle entre le dommage allégué et le manquement reproché à l'Office (sur les notions de causalité dépassée et dépassante : ATF 135 V 269 consid. 5.3 et les réf. citées; arrêt 5C.125/2003 du 31 octobre 2003 consid. 3.3). Lorsque le recourant prétend qu'il a ralenti ses efforts pour obtenir des nouveaux locaux dès qu'il a eu connaissance de la plainte et qu'il aurait facilement pu en trouver, il se fonde sur des faits qui ne ressortent pas de l'arrêt attaqué, sans pour autant démontrer que les constatations cantonales aient été entachées d'arbitraire (cf. consid. 3.3).
4.2.2 Il y a lieu d'examiner en second lieu si un lien de causalité naturelle peut être retenu entre le défaut d'information et le manque à gagner de 618'000 fr. Selon le recourant, ce dommage résulte de l'incapacité de l'entreprise à pouvoir honorer les commandes de fin d'année en raison du retard pris dans le démarrage de l'entreprise.
La question est de savoir si le retard et le manque à gagner auraient été évités si le préposé avait informé le recourant de l'existence d'une contestation. Il appartenait au recourant de rendre vraisemblable que s'il avait reçu cette information le 25 février 2002, il aurait pu trouver un moyen pour éviter le retard et commencer la production des biscuits à temps afin d'être prêt pour les commandes de fin d'année, par ex. en se procurant ailleurs un parc de machines similaire. S'agissant de machines spécifiques destinées à la production de biscuits, on peut raisonnablement douter qu'une solution de rechange, rapide et acceptable au niveau économique, eût été possible. En tout état de cause, faute pour le recourant d'avoir rendu vraisemblable qu'il aurait pu éviter le retard et le manque à gagner, il faut admettre qu'il n'y a pas de lien de causalité entre l'acte illicite reproché et le manque à gagner.
En tout état de cause, comme pour la perte de salaire (cf. consid. 4.2.1 supra), il faut relever que ce retard serait survenu en raison d'une autre cause (cause dépassante), en l'occurrence l'absence de locaux disponibles. Le recourant prétend certes qu'il ne s'agissait pas d'un problème de locaux mais de marketing. Il expose qu'il aurait renoncé à entreprendre le marketing en raison de l'incertitude liée à la possibilité d'acquérir les biens mobiliers, ce qui aurait entraîné le manque à gagner. Ces faits ne ressortent toutefois pas du jugement de la Cour civile et le recourant ne démontre pas les avoir introduits régulièrement et en temps utile dans la procédure cantonale. Son argumentation est par conséquent irrecevable (arrêt 5A_338/2010 du 4 octobre 2010 consid. 3.2; arrêt 5A_249/2007 du 12 mars 2008 consid. 4.3; arrêt 4A_290/2007 du 10 décembre 2007 consid. 5.1; cf. à propos de l'art. 55 al. 1 let. c OJ: ATF 115 II 484 consid. 2a et la jurisprudence citée). C'est dire qu'il n'y a pas lieu de s'écarter des constatations de l'autorité cantonale qui a retenu que la causalité naturelle entre le dommage allégué et le défaut d'information avait cessé en raison de l'absence de locaux disponibles.
4.2.3 Le recourant a également réclamé à titre de dommage la différence de prix (100'000 fr.) qu'il a finalement dû débourser pour l'acquisition du mobilier de la faillie par rapport à ce qui avait été convenu lors de la vente du 26 avril 2002.
La cour cantonale a écarté ce poste du dommage au motif, d'une part que le recourant n'avait pas établi avoir été contraint par les circonstances d'acquérir ce mobilier et, d'autre part, que ce dommage était la conséquence directe de la procédure de plainte et des offres supérieures formées par les autres acheteurs intéressés; il ne pouvait être relié à aucun des actes reprochés aux autorités de poursuite. Or, le recourant ne s'en prend pas à cette motivation, de sorte que son recours est irrecevable sur ce point (art. 42 al. 2 LTF; sur les exigences de motivation déduites de cette disposition : ATF 134 II 244 consid. 2.1).
5. Invoquant une violation de l'art. 5 LP, le recourant reproche à la Cour civile de n'avoir pas admis que l'autorité de surveillance avait violé son droit d'être entendu en ne lui communiquant pas la plainte LP déposée le 11 mars 2002 [recours p. 11]. Selon lui, ce manquement a engagé la responsabilité de l'Etat de Vaud.
Pour les motifs exposés au considérant 4.2, cet acte ne saurait entraîner la responsabilité de l'Etat de Vaud faute d'un lien de causalité avec les dommages invoqués. En d'autres termes, à supposer que l'office, à ce stade, ait informé le recourant de l'ouverture de la procédure de plainte, cette information, selon une vraisemblance prépondérante, n'aurait pu éviter les préjudices allégués. Au 11 mars 2002, le recourant était déjà informé de l'opposition déposée par un créancier; malgré cette information, il ne s'est pas préoccupé de cet obstacle. Il est donc très vraisemblable que, s'il avait eu connaissance de cette plainte, il n'aurait pas modifié son comportement, ce d'autant plus qu'il avait déjà démissionné.
6. Le recourant voit encore une violation de l'art. 5 LP au motif que la Cour civile n'a pas considéré comme un acte illicite la réponse faite par le préposé dans son courrier du 24 mai 2002. Il y affirmait que la vente était définitive, ce qui était inexact.
Pour les mêmes motifs que ceux évoqués au considérant 4.2 et 5, l'acte reproché ne peut être mis en lien de causalité avec les dommages allégués, ce qui exclut une responsabilité de l'intimé.
7. Dénonçant toujours une violation de l'art. 5 LP, le recourant estime que l'autorité de surveillance a agi de manière illicite en refusant de prononcer d'office l'effet suspensif à la plainte (recours p. 11-12 ch. 11 et 13) déposée par le créancier.
7.1 Un acte est illicite au sens de l'art. 5 LP s'il porte atteinte à un droit absolu du lésé (Erfolgsunrecht) ou si, en cas d'atteinte au patrimoine, l'auteur viole une norme de comportement ou un devoir de fonction qui a pour finalité de protéger le lésé (cf.NICOLAS JEANDINLes actions en responsabilité de la LP, 2009, p. 9;PIERRE-ROBERTGILLIÉRONop. cit., n. 42 ad art. 5 LP). L'acte illicite peut résulter non seulement de l'inobservation de la loi, des circulaires ou autres prescriptions du droit de l'exécution forcée, mais aussi d'un abus du pouvoir d'appréciation (LOUIS DALLÈVES Commentaire romand, n. 5 ad art. 5 LP;NICOLASJEANDINp. 9-10; PIERRE-ROBERT GILLIÉRON, n. 43 ad art. 5 LP et n. 28 ad art. 36 LP; MARCO LEVANTE Kurzkommentar SchKG, 2009, n. 5 ad art. 5 LP).
7.2 L'octroi ou le refus de l'effet suspensif à la plainte LP relève précisément du pouvoir d'appréciation de l'autorité de surveillance (cf. ATF 100 III 11 et les arrêts cités). Aux termes de l'art. 36 LP, la plainte ne suspend la décision que s'il en est ainsi ordonné par l'autorité appelée à statuer ou par son président. En procédure de poursuite, le législateur a fait de l'octroi de l'effet suspensif une règle exceptionnelle. Elle est fonction d'une balance des intérêts entre l'exécution immédiate de l'acte de poursuite attaqué et le maintien du régime antérieur jusqu'à droit connu (PIERRE-ROBERT GILLIÉRON op. cit., n. 256 ad art. 20a LP).
7.3 En l'occurrence, le recourant prétend que l'autorité de surveillance a versé dans l'arbitraire en ne prononçant pas d'office l'effet suspensif de la décision attaquée, ce qui aurait évité qu'il prenne des mesures sur la base d'une vente qui a finalement été révoquée. Il estime cette décision d'autant plus arbitraire que le gel de la procédure de faillite durant le traitement de la plainte n'aurait entraîné aucune conséquence dommageable. Ce faisant, il se méprend sur la portée de l'effet suspensif tel qu'il est prévu à l'art. 36 LP. En effet, l'effet suspensif empêche ou paralyse l'exécution de la décision attaquée. Celle-ci ne déploie donc pas ses effets juridiques, de sorte que la situation qui existait jusqu'à ce qu'elle soit rendue est maintenue. Un effet suspensif attaché à une plainte dirigée contre une décision négative qui rejette l'opposition d'un créancier ne serait d'aucune utilité (ATF 105 Ia 318 consid. 3b; PIERRE-ROBERTGILLIÉRON op. cit., n. 17 ad art. 36 LP). En d'autres termes, il est exclu d'attribuer l'effet suspensif à une décision qui écarte une opposition ou une demande. Cette mesure n'aurait pas été propre à atteindre le résultat souhaité par le recourant, à savoir la suspension de la procédure de la faillite, qui est une mesure conservatoire positive. L'autorité de surveillance n'a donc nullement enfreint la loi en n'accordant pas l'effet suspensif à la plainte du créancier.
8. Finalement, le recourant reproche à la Cour civile de n'avoir pas considéré comme un acte illicite l'absence de restitution en mai 2002 du montant de 200'000 fr., ce qui lui a fait perdre les intérêts courus sur ce montant
A ce sujet, la cour cantonale a jugé qu'il n'y avait pas d'acte illicite puisque le recourant n'avait pas manifesté clairement sa volonté d'obtenir le remboursement du prix payé. En effet, alors qu'un de ces conseils demandait le remboursement du prix de vente, l'autre conseil soutenait que la vente était valable et en demandait l'exécution. Le recourant ne s'en prend pas du tout à cette motivation, de sorte que son argumentation, irrecevable, laisse intacts les considérants du jugement attaqué (art. 42 al. 2 LTF; sur les exigences de motivation déduites de cette disposition : ATF 134 II 244 consid. 2.1).
Pour le même motif, il n'y a pas lieu de revoir la question d'une éventuelle atteinte illicite à la personnalité car le recourant ne développe aucune motivation en relation avec le raisonnement des juges précédents.
9. En définitive, les conditions de la responsabilité n'étant pas réunies, la cour cantonale n'a pas violé le droit fédéral en rejetant l'action du recourant.
10. Au vu de ce qui précède, le recours doit être rejeté, aux frais de son auteur (art. 66 al. 1 LTF). Dans la mesure où d'importants intérêts patrimoniaux sont en jeu et au vu de la complexité de la cause, le recours aux services externes d'un avocat se justifiait. Le recourant versera donc à l'intimé une indemnité de dépens (arrêts 2C.3/2005 du 10 janvier 2007 consid. 7.3; 2C_25/2008 du 18 juin 2008 consid. 4.1; 2C_158/2010 du 18 août 2010 consid. 4; 5A_306/2007 du 19 septembre 2007 consid. 6).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté dans la mesure où il est recevable.
2. Les frais judiciaires, arrêtés à 12'000 fr., sont mis à la charge du recourant.
3. Une indemnité de 6'000 fr., à payer à titre de dépens à l'intimé, est mise à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et à la Cour civile du Tribunal cantonal du canton de Vaud.
Lausanne, le 22 juin 2011
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Hohl Rey-Mermet