Faits:
A. Durant l'automne 2002, X._, qui souhaitait diffuser dans le Valais francophone un journal politique, a pris contact, en vue de faire imprimer ce bulletin, avec Y._, gérant de la société Imprimerie W._ Sàrl.
En décembre 2002, l'imprimerie a produit le premier numéro de ce journal, intitulé "V._".
Le 5 mars 2003, le notaire B._ a instrumenté une obligation hypothécaire. Ce titre, émis au porteur, fait apparaître une dette de 200'000 fr. et indique que le débiteur est X._. La dette est garantie par une hypothèque sur un immeuble propriété de A._, qui a comparu comme donneur de gage.
L'hypothèque a été inscrite au registre foncier, où Y._ a été mentionné comme premier porteur de l'obligation. Le notaire a envoyé l'obligation hypothécaire à Y._.
Durant le mois de mars 2003, le deuxième numéro du journal "V._" a été imprimé et distribué.
Le 2 juin 2003, X._ a signé un décompte établi par l'imprimerie, faisant apparaître, pour diverses prestations, un solde dû de 96'498 fr.90.
La société Imprimerie W._ Sàrl a poursuivi en paiement X._ par la voie de la poursuite ordinaire et a obtenu un acte de défaut de biens portant sur la somme totale de 99'219 fr.45.
Par acte du 2 juin 2005, la société Imprimerie W._ Sàrl a cédé à Y._ tous ses droits à l'encontre de X._.
B. Par demande du 13 janvier 2006, Y._ a ouvert action contre X._ devant le Tribunal cantonal valaisan, concluant en dernier lieu à ce qu'il soit constaté qu'il avait un droit de gage mobilier sur l'obligation hypothécaire au porteur instrumentée le 5 mars 2003 (arrêt attaqué p. 14).
Admettant la recevabilité de l'action en constatation de droit (qui était contestée), la cour cantonale, par jugement du 21 octobre 2008, a constaté que l'obligation hypothécaire au porteur instrumentée le 5 mars 2003 a été remise en nantissement à Y._ pour garantir une créance de celui-ci envers X._ d'un montant de 91'498 fr. 90 en capital (86'498 fr. 90 de factures d'imprimeries et 5'000 fr. de provision, chiffres figurant dans le décompte du 2 juin 2003).
C. X._ a déposé un recours en matière civile auprès du Tribunal fédéral contre le jugement du 21 octobre 2008. Soutenant principalement que l'action en constatation de droit n'est pas recevable parce que l'intimé aurait dû agir en exécution, le recourant a conclu, sous suite de frais et dépens, à l'annulation de la décision attaquée et au renvoi de la cause à l'autorité précédente, subsidiairement à la réforme de l'arrêt attaqué et au rejet des conclusions prises par l'intimé.
L'intimé a conclu au rejet du recours avec suite de frais et dépens.
Considérant en droit:
1. 1.1 Interjeté par la partie qui a succombé dans ses conclusions qui tendaient à l'irrecevabilité, subsidiairement au rejet de la demande en constatation de droit formée contre elle (art. 76 al. 1 LTF) et dirigé contre un jugement final (art. 90 LTF) rendu en matière civile (art. 72 al. 1 LTF) par une autorité cantonale de dernière instance (art. 75 LTF) dans une affaire pécuniaire dont la valeur litigieuse atteint le seuil de 30'000 fr. (art. 74 al. 1 let. b LTF), le recours est en principe recevable, puisqu'il a été déposé dans le délai (art. 45 al. 1 et 100 al. 1 LTF) et la forme (art. 42 LTF) prévus par la loi.
1.2 Le recours peut être interjeté pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours, ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (ATF 134 III 102 consid. 1.1 p. 104). Compte tenu de l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF, sous peine d'irrecevabilité (art. 108 al. 1 let. b LTF), le Tribunal fédéral n'examine en principe que les griefs invoqués; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont plus discutées devant lui (ATF 134 III 102 consid. 1.1 p. 105). Il ne peut pas entrer en matière sur la violation d'un droit constitutionnel ou sur une question relevant du droit cantonal ou intercantonal si le grief n'a pas été invoqué et motivé de manière précise par la partie recourante (art. 106 al. 2 LTF).
1.3 Le Tribunal fédéral conduit son raisonnement juridique sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il ne peut s'en écarter que si les faits ont été établis de façon manifestement inexacte - ce qui correspond à la notion d'arbitraire: ATF 134 V 53 consid. 4.3 p. 62 - ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
La partie recourante qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'art. 105 al. 2 LTF seraient réalisées, faute de quoi il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (cf. ATF 130 III 138 consid. 1.4 p. 140). Une modification de l'état de fait ne peut d'ailleurs être demandée que si elle est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (art. 99 al. 1 LTF).
1.4 Le Tribunal fédéral ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Toute conclusion nouvelle est irrecevable (art. 99 al. 2 LTF). Lorsqu'il admet le recours, le Tribunal fédéral peut statuer lui-même sur le fond (art. 107 al. 2 LTF).
2. 2.1 L'intimé a introduit une action en constatation de droit, demandant qu'il soit constaté qu'il est titulaire d'un droit de gage mobilier sur l'obligation hypothécaire au porteur.
La recourante soutient que l'action en constatation de droit n'était pas ouverte, parce que l'intimé pouvait agir en exécution pour faire valoir son droit.
2.2 Il n'existe actuellement aucune disposition de droit fédéral régissant de manière générale l'action en constatation de droit. Certes, l'art. 88 du Code de procédure civile suisse du 19 décembre 2008 (FF 2009 40) prévoit cette action, mais cette disposition n'est actuellement pas en vigueur. La jurisprudence a cependant admis que le droit fédéral régissait les conditions dans lesquelles il est possible de demander au juge la constatation de l'existence ou de l'inexistence d'un droit relevant de la législation fédérale (ATF 131 III 319 consid. 3.5 p. 324; 129 III 295 consid. 2.2 p. 299; 110 II 352 consid. 1 p. 353). La question soulevée ne relève donc pas de la procédure cantonale et peut être examinée ici (art. 95 let. a LTF).
Selon la jurisprudence, l'action en constatation de droit est ouverte si la partie demanderesse a un intérêt important et digne de protection à la constatation immédiate de la situation de droit; il n'est pas nécessaire que cet intérêt soit de nature juridique, il peut s'agir d'un pur intérêt de fait; la condition est remplie notamment lorsque les relations juridiques entre les parties sont incertaines et que cette incertitude peut être levée par la constatation judiciaire; pour cela, n'importe quelle incertitude ne suffit pas; il faut au contraire que l'on ne puisse pas exiger de la partie demanderesse qu'elle tolère plus longtemps le maintien de cette incertitude, parce que celle-ci l'entrave dans sa liberté de décision (ATF 131 III 319 consid. 3.5 p. 324 s.; 123 III 414 consid. 7b p. 429; 120 II 20 consid. 3a p. 22; 110 II 352 consid. 2 p. 357). Dans le domaine du recouvrement des créances, le cas typique est celui du débiteur qui veut faire constater l'inexistence de la dette sans attendre davantage que le prétendu créancier se décide ou non à l'attaquer. On peut aussi songer à l'hypothèse d'un créancier, dont la créance est contestée et non encore exigible, qui souhaite sans attendre en faire constater l'existence en vue de la remettre en nantissement.
L'intérêt pratique à une constatation de droit fait normalement défaut pour le titulaire du droit lorsque celui-ci dispose d'une action en exécution, en interdiction ou d'une action formatrice, immédiatement ouverte, qui lui permettrait d'obtenir directement le respect de son droit ou l'exécution de l'obligation (ATF 123 III 49 consid. 1a p. 51; arrêt 4C.138/2003 du 25 août 2003 consid. 2.1 non publié in ATF 129 III 715). Dans ce sens, l'action en constatation de droit est subsidiaire par rapport à une action condamnatoire ou une action formatrice (cf. ATF 119 II 368 consid. 2a p. 370). Seules des circonstances exceptionnelles pourraient conduire à admettre l'existence d'un intérêt à la constatation de droit bien qu'une voie d'exécution soit ouverte (ATF 123 III 49 consid. 1a p. 51; arrêt 4C.138/2003 déjà cité consid. 2.1). Un litige doit en principe être soumis au juge dans son ensemble par la voie de droit prévue à cet effet; le créancier qui dispose d'une action en exécution ne peut en tout cas pas choisir d'isoler des questions juridiques pour les soumettre séparément au juge par la voie d'une action en constatation, comme s'il sollicitait un avis de droit.
2.3 En l'espèce, l'intimé, agissant en tant que cessionnaire des droits de la société d'imprimerie, fait valoir à l'encontre du recourant la créance découlant du décompte du 2 juin 2003, approuvé par le débiteur. Cette créance, correspondant pour l'essentiel aux frais d'impression du journal, est immédiatement exigible. L'intimé, en tant que créancier cessionnaire, dispose donc, sans devoir attendre, des voies de l'exécution forcée à l'encontre du recourant, qui est le débiteur.
L'intimé expose que le recourant, pour garantir le paiement des sommes qui seraient dues en relation avec le journal, lui a remis en nantissement une obligation hypothécaire au porteur émise pour l'occasion (sur ce cas de figure: ATF 105 II 183 consid. 4 p. 186 ss). Une obligation hypothécaire est un papier-valeur qui incorpore la dette reconnue, mais non pas l'hypothèque (Steinauer, Les droits réels, Tome III, 3e éd. 2003, n° 2631 p. 141). Dès lors que le papier-valeur incorpore une créance, il faut en déduire que l'intimé, en parlant du nantissement, invoque un gage sur une créance au sens des art. 899 CC et 37 al. 2 LP. La remise en gage d'une obligation hypothécaire au porteur ne requiert aucune forme spéciale (ATF 93 II 82 consid. 4 p. 86 s.). L'intimé peut ainsi introduire à l'encontre du recourant une poursuite en réalisation du gage conformément aux art. 151 ss LP. Comme l'intimé admet qu'il n'a reçu l'obligation qu'à titre pignoratif, il faut en déduire que l'émetteur est resté titulaire de la créance incorporée dans le titre (ATF 130 III 417 consid. 3.3 p. 425). Que le recourant soit ainsi à la fois le créancier et le débiteur s'explique par le fait qu'il n'y avait, au moment de l'émission du titre, aucune créance de 200'000 fr. Selon l'état de fait retenu par la cour cantonale, il s'agissait, en s'inspirant des règles en matière hypothécaire (art. 824 al. 1 CC), de garantir une dette future (résultant de la publication du journal) et d'articuler, selon le principe de l'art. 794 al. 2 CC, une somme maximale garantie par l'hypothèque. Comme la cour cantonale a constaté que le recourant a cédé la propriété de l'obligation (sans remise du titre) à un tiers, il conviendra d'indiquer le nom de ce tiers en application de l'art. 151 al. 1 let. a LP.
Par la voie de l'opposition, il sera possible de contester aussi bien l'existence et l'étendue de la créance en poursuite que l'existence et l'étendue du gage lui-même (ATF 119 III 100 consid. 2 p. 102; Foex, Commentaire romand, n° 32 ad art. 153 LP). Dans la mesure où le créancier poursuivant n'obtient pas la mainlevée, il pourra agir en reconnaissance de dette et/ou en constatation du gage (cf. Foex, op. cit., n° 13 ad art. 153a LP). Ainsi, la voie de l'exécution permet manifestement de traiter l'ensemble du litige.
S'il surmonte ces écueils et si, au stade de la réalisation forcée du gage, il obtient que la créance incorporée dans le titre lui soit donnée en paiement à concurrence de la créance en poursuite (art. 131 al. 1 LP, applicable par le renvoi de l'art. 156 al. 1 LP), l'intimé sera alors le titulaire, à due concurrence, de la créance incorporée dans le titre et il pourra faire valoir l'hypothèque qui en est la garantie accessoire (art. 170 al. 1 CO) par la voie d'une poursuite subséquente en réalisation du gage immobilier. Il est vrai que la nécessité d'une double poursuite (poursuite en réalisation du gage mobilier, puis poursuite en réalisation du gage immobilier) a été critiquée en doctrine, mais cette critique ne vise que l'hypothèse - non réalisée en l'espèce - où le débiteur et le propriétaire de l'immeuble seraient une seule et même personne (Bonnard, L'obligation hypothécaire au porteur, 1955, p. 97 ss).
Il résulte de ce bref survol que des voies d'exécution sont ouvertes à l'intimé pour lui permettre de faire valoir ses droits et de faire trancher l'ensemble des questions litigieuses. Il ne pouvait donc pas choisir, plutôt que de s'engager dans la procédure prévue, d'isoler la question de son droit de gage sur l'obligation hypothécaire pour la faire trancher séparément et préalablement par la voie d'une action en constatation de droit.
2.4 La cour cantonale a néanmoins considéré qu'elle pouvait entrer en matière sur l'action en constatation de droit, en se fondant principalement sur un avis de doctrine selon lequel l'action est admissible lorsque l'exécution de la prestation est garantie après la constatation de droit (Hohl, Procédure civile, Tome I, 2001, n° 143 p. 46).
Cet avis se réfère manifestement à un cas de jurisprudence (ATF 97 II 371 consid. 2 p. 375 s.), encore récemment rappelé (arrêt 4C.341/2004 déjà cité consid. 2.1). Il a été admis qu'une action en constatation de droit était exceptionnellement admissible lorsqu'il s'agissait de trancher la seule question contestée et qu'il était certain, parce que le débiteur était une collectivité publique, que la prestation serait ensuite exécutée sans aucune autre forme de procédure.
Les quelques exceptions admises par la jurisprudence doivent être interprétées de manière restrictive, sous peine de créer une incertitude sur la voie de droit à suivre. Il faut souligner encore une fois le principe que l'action en constatation de droit est subsidiaire par rapport à la voie de l'exécution et qu'elle n'est pas ouverte lorsqu'il est possible d'agir immédiatement en exécution et de faire régler ainsi l'ensemble des points litigieux. Seules des circonstances tout à fait exceptionnelles pourraient faire apparaître un intérêt suffisant à entrer en matière sur l'action en constatation de droit. Le cas d'espèce ne remplit nullement les conditions du précédent cité, puisqu'il n'y avait d'emblée aucune certitude que le recourant se soumette après la décision sur la constatation du droit.
En l'espèce, cette conclusion est d'autant plus évidente que le recourant ne conteste pas seulement le droit de gage sur le titre, mais aussi, et peut-être principalement, l'existence de la dette abstraite incorporée dans le papier-valeur. L'intimé étant le premier porteur, des exceptions peuvent en principe lui être opposées au sujet de l'existence de la dette abstraite (art. 979 al. 1 CO). Or, le recourant soutient que la dette de 200'000 fr. devait se rapporter à un prêt qui n'est pas venu à chef et qu'elle n'existe pas. Sans doute dans l'espoir de faire avancer le litige, la cour cantonale s'est certes exprimée sur le but poursuivi par l'émission de l'obligation hypothécaire. Elle n'avait cependant pas à le faire dans le cadre de la question qui lui était posée et qui ne portait que sur l'existence d'un droit de gage sur l'obligation hypothécaire. Le dispositif de l'arrêt rendu, qui ne porte que sur l'existence du droit de gage, ne peut trancher avec autorité de chose jugée la question de l'existence de la créance abstraite incorporée dans le titre. Il est dès lors évident que cette procédure ne permettait pas de liquider l'ensemble du litige, ce qui exclut que l'on déroge à la règle selon laquelle la voie de l'exécution, lorsqu'elle est ouverte, doit être suivie.
2.5 Il reste à examiner l'argument plus délicat selon lequel l'intimé aurait validé par avance la poursuite en réalisation du gage, en exerçant par anticipation l'action en constatation de gage. Cet argument ne convainc pas. Après une poursuite infructueuse, l'intimé entendait manifestement faire valoir le droit de gage sur l'obligation. La voie prévue à cet effet, immédiatement ouverte, est la poursuite en réalisation du gage. Elle présente plusieurs avantages: le tiers devenu propriétaire du titre par cession civile peut également faire opposition; il est possible, après opposition, de soumettre au juge (que ce soit par une action en reconnaissance ou, après mainlevée, une action en libération) l'ensemble des questions litigieuses (l'existence de la créance en poursuite, l'existence du droit de gage, l'existence de l'objet du gage); elle conduit à la réalisation forcée du gage. On ne voit pas quelle simplification serait apportée en faisant d'abord trancher par le juge, entre l'intimé et le recourant, la question de l'existence du nantissement, ce d'autant plus que l'intimé ne peut espérer, en ce qui concerne la créance en poursuite, qu'une mainlevée provisoire et n'est donc de toute manière pas à l'abri d'une procédure judiciaire ultérieure (l'action en libération de dette). Sous cet angle également, la présente action en constatation de droit ne répond pas à un intérêt pratique digne de protection.
Les conditions d'une action en constatation de droit n'étant pas remplies, cette action doit être déclarée irrecevable, et non pas rejetée (ATF 123 III 49 consid. 1a p. 51).
Le recours doit donc être admis, l'arrêt attaqué annulé et l'action en constatation de droit doit être déclarée irrecevable.
3. Les frais judiciaires et les dépens sont mis à la charge de la partie qui succombe (art. 66 al. 1 et 68 al. 1 et 2 LTF).
La cause doit être renvoyée à l'autorité précédente pour fixer à nouveau les frais et dépens de la procédure cantonale (art. 67 et 68 al. 5 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et l'arrêt attaqué est annulé.
2. La demande est irrecevable.
3. Les frais judiciaires, arrêtés à 5'000 fr., sont mis à la charge de l'intimé.
4. L'intimé versera au recourant une indemnité de 6'000 fr. à titre de dépens.
5. La cause est renvoyée à la cour cantonale pour fixer à nouveau les frais et dépens de la procédure cantonale.
6. Le présent arrêt est communiqué aux parties et au Tribunal cantonal du canton du Valais, IIe Cour civile.
Lausanne, le 11 mars 2009
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Le Greffier:
Klett Piaget