Faits:
A. Dès le 1er janvier 1994, X._ a travaillé pour V._ assurance sur la vie (ci-après: V._ Vie) et il a exercé diverses fonctions dans cette compagnie d'assurances. En dernier lieu, il travaillait pour le service dénommé "Key Account Management". Dès le 1er janvier 2000, son salaire annuel brut a été fixé à 130'000 fr., puis, dès le 1er janvier 2001, à 134'000 fr.; en 2001, il a perçu, en sus, 20'000 fr. de bonus.
Durant l'automne 2000, la fusion entre V._ Vie et W._ Vie SA, ci-après: W._) a été annoncée.
X._ considérait sa rémunération comme insatisfaisante.
En juillet 2001, V._ Vie s'est engagée à financer la formation de X._ pour l'obtention du diplôme de conseiller financier, moyennant remboursement des coûts au prorata des mois restants s'il résiliait son contrat de travail dans les deux ans suivant la fin de sa formation.
Dans la préparation de la fusion, il a été décidé de supprimer le service "Key Account Management", dans lequel travaillait X._. Il a été proposé à X._ de l'engager au sein de W._ en qualité de "chef de vente vie" de la direction régionale pour le canton de Vaud. Par lettre du 4 décembre 2001, V._ Vie a informé X._ qu'il était nommé à ce poste avec effet au 1er janvier 2002; il était joint un contrat de travail à signer prévoyant une rémunération globale, selon les résultats obtenus, de 156'600 fr. (135'000 fr. + une indemnité de 21'600 fr. pour ses frais).
Le 14 décembre 2001, X._ a répondu qu'il ne signerait pas ce contrat avec W._ et qu'il en restait à son contrat avec V._ Vie.
Par lettre recommandée du 21 décembre 2001, la direction générale de V._ Vie a résilié le contrat de travail conclu avec X._ pour le 30 avril 2002.
Le 18 janvier 2002, Y._, avocat à Sion, qui avait été mandaté par X._, a adressé une lettre à V._ Vie, émettant diverses prétentions.
V._ Vie a rémunéré X._ jusqu'à l'échéance du contrat, le 30 avril 2002, y compris sa part au treizième salaire et ses bonus pour l'année 2001.
En juin 2002, W._ a repris V._ Vie, dont les services ont été restructurés.
X._ avait souscrit au moins deux hypothèques auprès de W._. Poursuivi en paiement des intérêts, il a invoqué la compensation avec les créances découlant, selon lui, de sa formation professionnelle et de quarante-cinq jours de vacances impayées. Sur la base des pièces produites, le juge des districts d'Hérens et de Conthey, par décision du 6 janvier 2003, a levé provisoirement les oppositions formées par X._ (représenté par Y._), en considérant que les pièces produites ne suffisaient pas pour rendre vraisemblable les créances compensatoires invoquées.
Le 10 janvier 2003, l'avocat Y._ a transmis ces décisions à son client en précisant qu'il disposait d'un délai de vingt jours pour ouvrir action en libération de dettes, ce qui ne lui paraissait cependant pas opportun. Une telle action n'a pas été introduite.
En janvier 2003, mécontent des prestations de son mandataire, X._ a consulté l'avocat Rolf A. Tobler de Berne. Y._ a contesté toute responsabilité et sa note d'honoraires a été réglée par son client.
W._ a payé à X._ une indemnité transactionnelle de 30'000 fr. pour solder toutes les prétentions de ce dernier.
B. Par mémoire-demande du 14 septembre 2007, X._ a ouvert action devant le Tribunal cantonal valaisan contre Y._, réclamant à ce dernier la somme de 35'870 fr. avec intérêts à 5% dès le jour du dépôt de la demande.
En substance, X._ reproche à son ancien avocat:
- de ne pas avoir procédé conformément à l'<ref-law> afin d'obtenir une indemnité pour résiliation abusive du contrat de travail;
- et de ne pas avoir produit les pièces utiles pour s'opposer victorieusement au prononcé de la mainlevée provisoire.
Statuant par arrêt du 9 février 2010, le Tribunal cantonal valaisan a rejeté la demande avec suite de frais et dépens. En substance, la cour cantonale a estimé que le demandeur n'aurait rien obtenu de plus si son avocat avait procédé comme il le suggère.
C. Ayant reçu cet arrêt le 10 février 2010, X._ a déposé dans un bureau de poste suisse, le 12 mars 2010, un recours en matière civile au Tribunal fédéral. Il soutient que les faits ont été établis de façon manifestement inexacte et que le droit fédéral a été violé parce que l'avocat Y._ ne l'a pas correctement défendu aussi bien en ce qui concerne le caractère abusif du congé qu'en ce qui concerne la procédure de mainlevée provisoire. Il conclut, sous suite de frais et dépens, à l'annulation de l'arrêt attaqué et au renvoi de la cause à l'autorité précédente, subsidiairement à la condamnation de son adversaire à lui payer la somme de 35'870 fr. avec intérêts à 5% l'an dès le jour du dépôt de la demande.
L'intimé a conclu au rejet du recours dans la mesure où il est recevable avec suite de frais et dépens.

Considérant en droit:
1.1 Interjeté par la partie qui a succombé dans ses conclusions en paiement (<ref-law>), dirigé contre un jugement final (<ref-law>) rendu en matière civile (<ref-law>) dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 30'000 fr. (<ref-law>), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 48 al. 1 et 100 al. 1 LTF) et la forme (art. 42 al. 1 et 2 LTF) prévus par la loi.
On observera que la cour cantonale a statué en instance unique, ce qui contrevient aux exigences de l'<ref-law>, mais il n'y a pas à en tirer de conséquences, puisque les cantons disposent encore d'un délai pour s'adapter au nouveau droit (<ref-law>).
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (<ref-ruling> consid. 1.4 p. 400). Compte tenu de l'exigence de motivation contenue à l'<ref-law>, sous peine d'irrecevabilité (<ref-law>), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (<ref-ruling> consid. 1.4 p. 400). Par exception à la règle selon laquelle il applique le droit d'office, le Tribunal fédéral ne peut entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal que si le grief a été invoqué et motivé de manière précise par la partie recourante (<ref-law>).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (<ref-law>). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire: <ref-ruling> consid. 1.5 p. 130, 397 consid. 1.5 p. 401; <ref-ruling> consid. 8.1 p. 153 - ou en violation du droit au sens de l'<ref-law> (<ref-law>).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (ATF 135 IV 286 consid. 1.4 et 6.2). Encore faut-il que la rectification demandée soit susceptible d'influer sur le sort de la cause (<ref-law>). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
Dans la mesure où le recourant présente en l'espèce son propre état de fait, sans formuler aucune critique précise à l'égard des constatations cantonales, il n'est pas possible d'en tenir compte.
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (<ref-law>). Toute conclusion nouvelle est irrecevable (<ref-law>).
2. 2.1 Dans la partie intitulée "Motifs de recours", le recourant soutient tout d'abord que les faits auraient été établis de façon manifestement inexacte (<ref-law>), c'est-à-dire qu'il y aurait eu arbitraire dans l'appréciation des preuves et les constatations de fait.
2.2 Le recourant reproche à la cour cantonale d'avoir mal lu la lettre que lui a adressée V._ Vie le 4 décembre 2001. Il soutient qu'il résulte de cette lettre qu'il était engagé à son nouveau poste dès le 1er janvier 2002, de sorte qu'un nouveau contrat de travail avait été conclu.
Le recourant perd de vue qu'un contrat de travail suppose un accord des parties non seulement sur le travail à fournir par l'employé, mais aussi sur le salaire à verser par l'employeur (cf. <ref-law>). Le recourant ne conteste pas qu'aucun accord n'est intervenu entre les parties sur le montant du salaire. Lorsqu'un projet de contrat lui a été soumis peu après (daté du 6 décembre 2001), il a refusé de le signer par lettre du 14 décembre 2001. Il ressort donc clairement des faits décrits que les parties ne se sont jamais mises d'accord sur le montant du salaire pour ce nouveau poste, de sorte qu'un nouveau contrat de travail n'est pas venu à chef (<ref-law>). Il n'y a donc pas eu d'arbitraire dans la constatation des faits pertinents pour l'issue du litige (<ref-law>).
2.3 Le recourant reproche à la cour cantonale de ne pas avoir correctement pris en compte la lettre que l'intimé a adressée le 4 mars 2002 à V._ Vie. Il soutient que cette lettre montrait que l'avocat considérait le congé comme abusif.
Le recourant admet que l'avocat n'a pas procédé en suivant les règles posées par l'<ref-law>. Il s'agit d'ailleurs d'un reproche essentiel que le recourant adresse à l'avocat intimé.
Que l'avocat ait considéré ou non, à un certain moment, que le congé était abusif est une question sans pertinence. Pour dire si une action régulièrement introduite selon les règles de l'<ref-law> aurait abouti, la question est de savoir si le congé était abusif, et non pas de savoir si l'avocat le considérait comme abusif. Le point de fait soulevé est donc sans pertinence pour l'issue du litige (<ref-law>).
Il faut donc s'en tenir aux constatations de fait de la cour cantonale.
3. 3.1 Invoquant une violation du droit fédéral (<ref-law>), le recourant soutient que la cour cantonale a violé les règles applicables pour juger de la responsabilité de son avocat.
3.2 Il a été établi - d'une manière qui lie le Tribunal fédéral (<ref-law>) - que le recourant a chargé l'avocat intimé de le représenter et de défendre ses intérêts dans ses rapports avec V._ Vie et W._. Un contrat de mandat au sens de l'<ref-law> a donc été conclu, étant rappelé que les prestations professionnelles d'un avocat relèvent typiquement du mandat (<ref-ruling> consid. 3.2 p. 537; <ref-ruling> consid. 1a p. 359).
Le mandataire (en l'occurrence: l'avocat) est responsable envers le mandant de la bonne et fidèle exécution du mandat (<ref-law>). L'<ref-law> renvoie aux règles régissant la responsabilité du travailleur dans les rapports de travail, soit l'<ref-law>. Cette disposition prévoit que le travailleur est responsable du dommage qu'il cause à l'employeur intentionnellement ou par négligence et elle détermine la mesure de la diligence requise (<ref-ruling> consid. 3.1 p. 123 s.). En cas d'inexécution ou de mauvaise exécution de son obligation de diligence, le mandataire est tenu de réparer le dommage en résultant, à moins qu'il ne prouve qu'aucune faute ne lui est imputable (<ref-law>).
La responsabilité du mandataire suppose la réunion de quatre conditions qui sont cumulatives: une violation d'un devoir de diligence, une faute, un dommage et une relation de causalité (naturelle et adéquate) entre la violation fautive du devoir de diligence et le dommage survenu; il appartient au demandeur d'apporter la preuve des faits permettant de constater que chacune de ces conditions est remplie (<ref-law>), sauf pour la faute qui est présumée (<ref-law>) (Tercier/Favre/Conus, in Les contrats spéciaux, 4e éd. 2009, n°s 5196 ss p. 779 ss).
Comme les quatre conditions sont cumulatives, il suffit que l'une d'elles fasse défaut pour que la demande doive être rejetée, sans qu'il y ait lieu de se pencher sur les autres.
3.3 Le recourant soutient que si l'avocat intimé avait procédé conformément à l'<ref-law> - comme il le devait -, il aurait été constaté que le congé était abusif au sens de l'<ref-law> et qu'il aurait reçu alors une indemnité selon l'<ref-law>. Il réclame donc à l'avocat, à titre de dommages-intérêts, le montant de l'indemnité qu'il aurait obtenu selon son argumentation.
La cour cantonale a estimé que si l'avocat avait procédé conformément à l'<ref-law>, le recourant n'aurait rien obtenu du tout, parce que le congé qu'il avait reçu ne pouvait pas être qualifié d'abusif. Elle a ainsi nié la responsabilité du mandataire intimé.
L'<ref-law> énumère de manière non exhaustive les cas dans lesquels un congé peut être considéré comme abusif (<ref-ruling> consid. 2.1 p. 116 s.). La question centrale est de savoir si l'on peut considérer que la résiliation d'espèce relève de l'abus de droit (<ref-ruling> consid. 6.1 p. 513 s.; <ref-ruling> consid. 2.1 p. 116 s.).
Le recourant invoque en particulier la notion de "congé-modification". Selon la jurisprudence, un congé donné pour le motif que le travailleur n'accepte pas une modification du contrat ne peut être qualifié d'abusif que si l'employeur tente d'imposer des modifications avant l'expiration du délai de résiliation, lorsqu'il utilise la résiliation comme moyen de pression pour faire céder le travailleur ou encore lorsque le congé est donné parce que l'employé refuse de conclure un nouveau contrat qui viole la loi, une convention collective ou un contrat-type applicable (arrêt 4A_346/2009 du 20 octobre 2009 consid. 3.2 et les références citées).
En l'espèce, il n'apparaît pas - et le recourant ne soutient pas le contraire - que l'employeur voulait imposer une modification du contrat de travail avant l'expiration du délai de congé; on ne voit pas non plus que le salaire proposé ait été contraire à la loi, à une convention collective ou un contrat-type applicable; le recourant ne le prétend pas. Par ailleurs, la résiliation n'a pas été utilisée comme une arme pour faire céder le travailleur, puisqu'elle n'est intervenue que lorsqu'il n'y a plus eu d'espoir de parvenir à un accord sur le montant du salaire. On ne se trouve donc pas en présence d'un congé-modification revêtant un caractère abusif.
Le recourant invoque aussi un congé préventif (art. 336 al. 1 let. c CO) ou représailles (art. 336 al. 1 let. d CO). Cette argumentation repose sur l'idée qu'il avait droit à un salaire supérieur. Les constatations cantonales - qui lient le Tribunal fédéral (<ref-law>) - ne permettent nullement de déduire un tel droit, ni même de penser que le recourant pouvait y croire de bonne foi. Il avait certes conçu quelques espérances au stade des négociations, mais il n'est pas établi qu'un accord complet soit intervenu avec un représentant autorisé de W._.
Le recourant fait également état d'une attitude contradictoire de la part de l'employeur. Son argumentation est cependant fondée sur l'idée qu'un nouveau contrat de travail avait été conclu; or, tel n'est pas le cas, puisqu'il n'y a pas eu d'accord sur le salaire pour ce nouveau poste.
Il ressort des constatations cantonales que W._ a repris V._ Vie dans le cadre d'une fusion. Il en est résulté une restructuration des services et la suppression de celui dans lequel travaillait le recourant. Rien ne permet de penser que cette réorganisation ait été conçue uniquement pour nuire au recourant. Dès lors que le service dans lequel travaillait le recourant disparaissait, son poste n'existait plus. Il ne pouvait donc plus travailler pour V._ Vie. Son employeur a fait en sorte qu'on lui propose un poste dans la société reprenante, W._. Le recourant a saisi l'occasion pour négocier une augmentation de salaire. W._ n'a cependant pas accepté de lui verser le salaire qu'il demandait, de sorte qu'aucun contrat de travail n'a été conclu avec la société reprenante. Refusant d'entrer dans la nouvelle structure aux conditions proposées, le recourant s'est alors tourné vers V._ Vie, mais celle-ci ne pouvait pas l'employer plus longuement, puisque le service dans lequel travaillait le recourant disparaissait en raison de la fusion et de l'absorption par W._. V._ Vie n'avait donc plus d'autre solution que de donner le congé pour l'échéance. Il ne s'agit pas d'un congé donné au travailleur pour le punir d'avoir invoqué dans la négociation ce qu'il considérait comme des promesses (cf. arrêt 4C.237/2005 du 27 octobre 2005 consid. 2.2). Une telle résiliation ne peut pas être qualifiée d'abusive.
En conséquence, même si l'avocat intimé avait procédé selon l'<ref-law>, le recourant n'aurait pas obtenu une indemnité sur la base de l'<ref-law>. L'arrêt attaqué ne viole donc pas le droit fédéral sur ce point.
3.4 Dans la procédure de mainlevée de l'opposition, le recourant reproche à l'avocat intimé de n'avoir pas produit, pour rendre vraisemblable les créances compensatoires invoquées, le contrat de travail signé en 1999 et l'accord passé en 2001 concernant les frais de sa formation.
Dans une procédure sommaire où la décision dépend de la vraisemblance résultant des pièces produites, il est manifeste que la production du contrat de travail signé en 1999 ne permettait pas d'établir si le recourant avait été victime d'une résiliation abusive et dans quelle mesure il avait droit à un bonus ou à une indemnité pour des vacances non prises. On ne voit pas que la production de ce contrat aurait pu rendre vraisemblable une créance du travailleur.
Quant à l'accord sur les frais de formation, il aurait seulement permis d'établir que V._ Vie s'était engagée à les assumer à la condition qu'il n'y ait pas de résiliation dans les deux ans suivant la fin de la formation. Or précisément, une telle résiliation est intervenue. Certes, elle a été donnée par l'employeur et non par le travailleur, ce qui n'est pas prévu par l'accord et pose un problème d'interprétation. Un tel problème n'aurait manifestement pas été tranché en procédure sommaire.
Ainsi, la production de ces deux pièces n'aurait rien changé au sort de la procédure de mainlevée. Par ailleurs, il n'est pas contesté que l'avocat intimé a correctement informé son client de la possibilité d'agir en libération de dettes.
La cour cantonale a donc rejeté la demande sans violer le droit fédéral, ce qui doit entraîner le rejet du recours.
4. Les frais judiciaires et les dépens sont mis à la charge de la partie qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires fixés à 2'000 fr. sont mis à la charge du recourant.
3. Le recourant versera à l'intimé une indemnité de 2'500 fr. à titre de dépens.
4. Le présent arrêt est communiqué aux parties et à la Cour civile I du Tribunal cantonal du canton du Valais.
Lausanne, le 2 juillet 2010
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: La Greffière:
Klett Crittin