Faits:
A. A.a B._ a exploité, à travers la société C._ Sàrl, dont la faillite a été prononcée le 31 octobre 2007 et la raison sociale radiée le 2 juillet 2008, l'établissement public "X._" à Sion. Le 9 mai 2004, il a conclu, en son propre nom, dans le cadre de cette activité, un contrat de livraison de boissons avec D._ SA, à Y._, incluant un contrat de prêt. Par courrier du 28 novembre 2007, la société anonyme a résilié le contrat de prêt avec effet immédiat et exigé de B._ le remboursement du solde de ce dernier, chiffré à 103'774 fr. 35, dans un délai de 30 jours.
A.b Le 15 janvier 2008, A._ et B._ ont conclu une convention, aux termes de laquelle A._ s'est engagé, à titre personnel, à reprendre la dette contractée par B._ auprès de D._ SA, alors que celui-ci s'est engagé à mettre à disposition en faveur de F._ SA - société anonyme sise à Sion, anciennement présidée par A._, dont la faillite a été prononcée le 15 septembre 2009 et la raison sociale radiée le 13 mai 2011 - sa patente avec l'autorisation d'exploiter y afférente pour une durée de cinq ans. A la suite de cette convention, F._ SA a repris l'exploitation du café "X._". Le 12 janvier 2008, cette société a en outre conclu un nouveau contrat de livraison de boissons avec D._ SA, incluant un contrat de prêt.
A.c Par courrier du 17 janvier 2008, D._ SA a imparti à B._ un délai échéant au 28 janvier suivant pour s'acquitter du solde du prêt à concurrence de 103'774 fr. 35. Par déclaration écrite du 5 février 2008, D._ SA a cédé sa créance en remboursement du prêt à la société de recouvrement E._ SA. Le 11 avril 2008, cette société a introduit une poursuite à l'encontre de B._ auprès de l'office des poursuites du district de Sion, puis l'a retirée. Par courrier du 1er mars 2010, elle a sollicité de lui le paiement de la créance cédée dans un délai échéant au 11 mars suivant. Par réponse du 4 mars 2011, B._ a informé la cessionnaire de la convention de reprise de dette interne conclue le 15 janvier 2008 avec A._.
Le 1er avril 2010, E._ SA a introduit à l'encontre de B._ une nouvelle poursuite - frappée d'opposition - devant l'office des poursuites du district de Sion, tendant au paiement du solde du prêt. Le 30 août suivant, la société de recouvrement a déposé une demande en paiement devant la Justice de Paix de Y._.
A.d B._ a introduit une poursuite en paiement à l'encontre de A._ auprès de l'office des poursuites du district de Sion, sur la base de la convention du 15 janvier 2008, tendant au paiement de 103'775 fr. 35 plus intérêts à 5% l'an à compter du 15 janvier 2008. Par décision du 11 mai 2010, le juge suppléant I du district de Sion a refusé de lever l'opposition formée par le poursuivi.
B. B.a Le 27 avril 2011, B._ a introduit une poursuite en constitution de sûretés à l'encontre de A._ auprès de l'office des poursuites du district de Sion, ayant pour objet, selon les indications figurant sur la réquisition de poursuite, "des sûretés d'un montant équivalant à la dette reprise, soit 103'774 fr. 35 plus intérêts à 5% l'an du 15.01.08, sous la forme d'une garantie bancaire payable à première demande ou toute autre forme permettant d'assurer le paiement de la dette reprise (gages immobiliers ou mobiliers, hypothèque, tiers séquestre), dues conformément à l'<ref-law>, suite à la convention de reprise de dette du 15 janvier 2008 non exécutée par Monsieur A._". Le 8 mai 2011, A._ a fait opposition au commandement de payer délivré consécutivement à cette réquisition de poursuite n° xxxx.
B.b Le 4 juillet 2011, le juge suppléant II du district de Sion a rejeté la requête de mainlevée déposée par B._.
B.c Par arrêt du 6 décembre 2011, le Président de la Chambre civile du Tribunal cantonal a admis le recours déposé par B._ et levé provisoirement l'opposition au commandement de payer.
C. Par mémoire du 20 janvier 2012, A._ interjette un recours en matière civile contre cet arrêt. Il conclut à sa réforme en ce sens que l'opposition au commandement de payer n° xxxx soit maintenue. En substance, il invoque la violation des <ref-law> et 175 CO.
Des observations n'ont pas été requises.
D. Par ordonnance du 2 février 2012, la Présidente de la Cour de céans a refusé d'accorder l'effet suspensif au recours.

Considérant en droit:
1. La décision rendue en matière de mainlevée - définitive ou provisoire - de l'opposition est une décision finale au sens de l'<ref-law> puisqu'elle met fin à l'instance (<ref-ruling> consid. 1.1). Elle peut faire l'objet du recours en matière civile (<ref-law>) lorsque la valeur litigieuse atteint, comme en l'espèce, au moins 30'000 fr. (<ref-law>; <ref-ruling> consid. 1.3). Interjeté en temps utile (<ref-law>) par la partie qui a succombé en instance cantonale (<ref-law>) à l'encontre d'une telle décision prise sur recours en dernière instance cantonale (<ref-law>), le présent recours est en principe recevable.
2. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours en se fondant sur d'autres arguments que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (<ref-ruling> consid. 2.2). Compte tenu toutefois de l'exigence de motivation posée, sous peine d'irrecevabilité (<ref-law>), à l'<ref-law>, il n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une autorité de première instance, toutes les questions juridiques qui peuvent se poser, lorsqu'elles ne sont plus discutées devant lui (<ref-ruling> consid. 1.4).
3. 3.1 L'autorité cantonale a retenu que les parties étaient liées par une convention de reprise de dette signée le 15 janvier 2008, stipulant que le poursuivi s'engageait à reprendre la dette qu'avait le poursuivant auprès de D._ (sic) AG, soit un montant de 103'774 fr. 35. Elle a jugé que cette convention constituait une reconnaissance de dette: d'une part, l'obligation reprise consistait en une dette d'argent et, d'autre part, le créancier cessionnaire, E._ SA, avait, en introduisant une poursuite en remboursement du solde du prêt ainsi qu'une demande en paiement à l'encontre du poursuivant postérieurement à la communication, par ce dernier, de la promesse de libération interne du 15 janvier 2008, implicitement refusé l'offre de conclure un contrat de reprise externe avec le poursuivi; une libération autre que par le paiement en argent au créancier n'entrait donc pas en ligne de compte. La prestation en libération, pour laquelle les sûretés étaient requises, était exigible immédiatement, de même que la dette reprise, soit celle en remboursement du montant de 103'744 fr. 35. Aussi, quand bien même le poursuivant était fondé à introduire, à l'encontre du poursuivi une poursuite en paiement du montant querellé en mains du créancier cessionnaire, il y avait lieu de reconnaître qu'il pouvait également requérir une mesure soumise à des conditions moins strictes, soit la fourniture de sûretés. En définitive, l'autorité cantonale a constaté que la convention du 15 janvier 2008 devait être assimilée à une promesse inconditionnelle de paiement du poursuivi à l'égard du poursuivant, lorsque la possibilité d'une reprise de dette externe est exclue. Cette convention, en lien avec l'<ref-law>, constituait donc un titre de mainlevée à la constitution de sûretés à concurrence du montant de la dette indiquée dans ladite convention, soit 103'774 fr. 35. Pour le reste, l'autorité cantonale a rejeté les moyens libératoires que faisait valoir le poursuivi: tout d'abord, dans la mesure où ce dernier prétendait avoir exécuté la convention du 15 janvier 2008 en ayant repris, par l'intermédiaire de sa société F._ SA, le contrat de bière auprès de D._ SA, il perdait de vue que la prétention à garantir n'était pas la libération du contrat de livraison de boissons mais celle du contrat de prêt. Cela valait d'autant plus que le contrat de livraison de boissons invoqué était venu à chef le 12 janvier 2008, soit avant le contrat de reprise de dette interne du 15 janvier 2008; aussi, celui-là ne pouvait pas tendre à l'exécution d'une obligation encore inexistante. Par surabondance, le contrat de livraison de boissons ne contenait aucune référence au montant litigieux. Ensuite, le poursuivi n'avait pas rendu vraisemblable l'exigibilité de la créance compensante qu'il invoquait, découlant d'une reconnaissance de dette que le poursuivant avait signée en sa faveur. En conséquence, l'autorité cantonale a admis le recours et levé provisoirement l'opposition.
3.2 Le recourant ne conteste pas le mode de la poursuite en constitution de sûretés en tant que tel. Il soulève en revanche les griefs suivants.
Tout d'abord, il se plaint de la violation de l'<ref-law>. Prétendant qu'il s'est seulement engagé à reprendre la dette, mais ne l'a pas effectivement reprise, il soutient que la convention du 15 janvier 2008 le liant à l'intimé ne constitue pas une reconnaissance de dette. Il prétend également qu'il a, au demeurant, exécuté ses engagements envers l'intimé en concluant un contrat de bière avec D._ SA par le biais de sa société.
Ensuite, il se plaint de la violation de l'<ref-law>. Il affirme que l'autorité cantonale a retenu à tort que E._ AG a tacitement refusé de conclure un contrat de reprise de dette externe avec lui. Il soutient également que l'intimé n'a pas produit de document attestant que D._ SA lui a cédé ses droits, de sorte qu'il n'est pas en droit d'agir directement contre lui.
4. 4.1 La poursuite en prestation de sûretés (<ref-law>) ne constitue pas un mode spécial de poursuite, mais une poursuite ordinaire qui a un but spécial: celui d'assurer l'exécution d'une prestation du poursuivi qui n'est pas destinée à satisfaire directement le poursuivant, mais à lui garantir l'exécution d'une obligation dont il est bénéficiaire. L'exécution forcée tendant à la fourniture de sûretés ne peut servir qu'à rendre efficace un droit du poursuivant à ce que le poursuivi, pour garantir son obligation, offre et constitue une sûreté sur laquelle le poursuivant puisse mettre la main si le poursuivi ne remplit pas son obligation (<ref-ruling> consid. 2.1 et les références).
La prétention en prestation de sûretés peut avoir pour fondement la loi, une décision judiciaire ou encore un contrat (DOMENICO ACOCELLA, in Basler Kommentar, Bundesgesetz über Schuldbetreibung und Konkurs I, 2ème éd., 2010, n° 15 ad <ref-law>; KURT AMONN/FRIDOLIN WALTHER, Grundriss des Schuldbetreibungs- und Konkursrechts, 8ème éd., 2008, n° 6 p. 72; PIERRE-ROBERT GILLIÉRON, Poursuite pour dettes, faillite et concordat, 4ème éd., 2005, n° 158).
4.2 Lorsque les parties ont signé un contrat de reprise de dette interne, la prétention en prestation des sûretés découle de la loi, à savoir de l'<ref-law> (ALOIS TROLLER, Die Zwangsvollstreckung für das Schuldbefreiungsversprechen, in SJZ 1942/43 (26) p. 409 ss [411]).
On est en présence d'un contrat de reprise de dette interne au sens de l'<ref-law> lorsque le reprenant promet de libérer le débiteur de sa dette envers le créancier; il s'agit donc d'une reprise de l'exécution d'une obligation (<ref-ruling> consid. 3b; <ref-ruling> consid. 1a). La libération peut s'effectuer soit par l'exécution de la prestation due en faveur du créancier, soit par une reprise de dette externe (cf. art. 175 al. 1 1ère et 2ème hyp. CO), soit par d'autres moyens constituant une cause d'extinction de la dette reprise (p. ex. la compensation; cf. not. ANDREAS VON TUHR/ARNOLD ESCHER, Allgemeiner Teil des Schweizerischen Obligationenrechts, 3ème éd., 1974, p. 382).
Aux termes de l'<ref-law>, l'ancien débiteur qui n'est pas libéré peut demander des sûretés au reprenant. Ces sûretés visent à garantir la libération du bénéficiaire (l'"ancien" débiteur) en tant que telle, et non un mode particulier d'exécution du contrat de reprise de dette.
4.3 Le juge prononce la mainlevée de l'opposition au commandement de constituer les sûretés si les conditions suivantes sont remplies.
4.3.1 Premièrement, le poursuivant se fonde sur une reconnaissance de dette selon laquelle le poursuivi s'est engagé à le libérer de la dette qu'il a envers le créancier (TROLLER, op. cit., p. 413).
Le poursuivant n'a pas besoin d'être aussi au bénéfice d'une reconnaissance de dette selon laquelle le reprenant s'engage à fournir des sûretés, dès lors que l'<ref-law> fonde son droit (cf. supra consid. 4.2; DANIEL STAEHELIN, in Basler Kommentar, Bundesgesetz über Schuldbetreibung und Konkurs I, 2ème éd., 2010, n° 44 ad <ref-law>; TROLLER, op. cit., p. 412 s.; OGer BL, arrêt du 16 janvier 1990 consid. 4a, publié in BJM 1991 179).
4.3.2 Secondement, la prétention aux sûretés doit être exigible (STAEHELIN, op. cit., n° 44 ad <ref-law>; OGer BL, arrêt du 16 janvier 1990 consid. 4d, publié in BJM 1991 179).
Il ressort de l'<ref-law> que les sûretés sont exigibles si le débiteur n'est pas libéré (cf. supra consid. 4.2 in fine). Le Tribunal fédéral a admis que cette condition est remplie en tout cas lorsque le créancier refuse de conclure un contrat de reprise de dette externe avec le reprenant (ATF 65 II 110 consid. 2; arrêt 4C.329/2002 du 19 février 2003 consid. 2.1; dans le même sens, cf. not. HERMANN BECKER, Berner Kommentar, Allgemeine Bestimmungen, Art. 1-183 OR, 2ème éd., 1941, n °15 ad <ref-law>; THOMAS PROBST, Commentaire romand, Code des obligations I, 2003, n°5 ad <ref-law>; INGEBORG SCHWENZER, Schweizerisches Obligationenenrecht, Allgemeiner Teil, 5ème éd., 2009, n° 91.08; TROLLER, op. cit., p. 411). La question de savoir si le débiteur peut aussi exiger des sûretés dès la conclusion du contrat de reprise de dette interne, même lorsque le créancier ne s'est pas encore déterminé sur la conclusion d'un contrat de reprise de dette externe avec le reprenant, n'a pas à être tranchée ici (apparemment dans ce sens, cf. PIERRE ENGEL, Traité des obligations en droit suisse: dispositions générales du CO, 2ème éd., p. 896; PETER GAUCH/WALTER R. SCHLUEP/SUSAN EMMENEGGER, Schweizerisches Obligationenrecht, Allgemeiner Teil, ohne ausservertragliches Haftpflichtrecht, tome 1, 9ème éd., 2008, n °3574; HUGO OSER/WILHELM SCHÖNENBER, Zürcher Kommentar, Das Obligationenrecht : Art. 1-1186 OR, Teil 1, 2ème éd., 1929, n° 12 ad <ref-law>, selon lesquels le refus du créancier n'est qu'un des cas donnant le droit aux sûretés; VON TUHR/ESCHER, op. cit., p. 382: "scheitern kann").
Dans la jurisprudence précitée, le Tribunal fédéral a précisé que le débiteur a le droit d'exiger des sûretés lorsque la dette reprise n'est pas exigible (ATF 65 II 110 consid. 2). En effet, en général, le contrat de reprise de dette est conclu avant que la dette reprise ne soit exigible; or, puisque le débiteur ne peut contraindre ni le reprenant à payer avant terme la dette reprise, ni le créancier à accepter le reprenant comme nouveau débiteur, il est nécessaire qu'il puisse obtenir des sûretés en garantie de sa prétention en libération (cf. supra consid. 4.2 in fine; GAUCH/SCHLUEP/EMMENEGGER, op. cit., n° 3574 et 3577; EUGEN SPIRIG, Zürcher Kommentar, Das Obligationenrecht, Die Abtretung von Forderungen und die Schuldübernahme, Art. 175-183 OR, 3ème éd., 1994, n° 93 ss ad <ref-law>).
Néanmoins, le débiteur doit aussi pouvoir requérir la constitution de sûretés lorsque la dette reprise est déjà exigible. En effet, dès ce moment, il peut être contraint d'exécuter lui-même cette dette; les sûretés garantissent alors sa prétention en remboursement (dans ce sens, cf. GAUCH/SCHLUEP/EMMENEGGER, op. cit., n° 3576; THEO GUHL/ALFRED KOLLER, Das schweizerische Obligationenrecht, 9ème éd., 2000, § 35 n° 4; SPIRIG, op. cit., n° 68 et 120 ad <ref-law>).
5. En l'espèce, la convention de reprise de dette du 15 janvier 2008 constitue une reconnaissance de dette. En tant que le recourant prétend qu'il s'est seulement engagé à reprendre la dette, mais ne l'a pas reprise, il se méprend manifestement sur l'objet du contrat de reprise de dette interne: celui-ci tend à libérer le débiteur et la conclusion d'un contrat de reprise de dette externe n'est qu'un moyen d'exécution de ce premier contrat. Par ailleurs, l'intimé n'étant pas libéré de sa dette en remboursement du prêt suite au refus tacite de E._ SA de conclure un contrat de reprise de dette externe avec le recourant, la condition de l'<ref-law> est remplie, de sorte que la prétention en sûretés est exigible. En tant que le recourant invoque avoir exécuté le contrat par la reprise du contrat de livraison de boissons auprès de D._ SA, il perd de vue que la dette reprise dont la libération doit être garantie par les sûretés est celle résultant du contrat de prêt, et non du contrat de livraison de boissons. En tant qu'il se contente d'affirmer pour toute argumentation que "le Tribunal cantonal a estimé de manière erronée que la reprise de dette externe par M. A._ était exclue pour le simple fait que E._ AG a introduit une poursuite en remboursement du solde du prêt ainsi qu'une demande en paiement à l'encontre de M. B._ postérieurement à la communication de la promesse de libération interne du 15 janvier 2008", son grief est insuffisamment motivé, si bien qu'il est irrecevable (<ref-law>).
S'agissant du dernier grief invoqué, selon lequel D._ SA n'a pas cédé ses droits à l'intimé de sorte que celui-ci ne peut pas demander l'exécution de la dette de prêt, le recourant perd de vue que l'intimé agit en qualité de bénéficiaire de la reprise de dette interne, dont l'objet est de le libérer de sa dette de prêt envers D._ SA, et qu'il a engagé une poursuite en constitution de sûretés, dont la réalisation n'est pas un mode d'extinction de sa prétention en libération; il n'a pas mis en poursuite la dette de prêt en qualité de cessionnaire du créancier.
6. En conclusion, le recours est rejeté, par substitution des motifs qui précèdent, dans la mesure de sa recevabilité, aux frais de son auteur (<ref-law>). L'intimé, qui s'est prononcé pour le rejet de la requête d'effet suspensif, a droit à des dépens à ce titre, d'un montant de 500 fr., à charge du recourant (art. 68 al. 1 et 2 LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté, dans la mesure de sa recevabilité.
2. Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge du recourant.
3. Une indemnité de 500 fr., à verser à l'intimé à titre de dépens, est mise à la charge du recourant.
4. Le présent arrêt est communiqué aux parties et au Président de la Chambre civile du Tribunal cantonal du canton du Valais.
Lausanne, le 13 juillet 2012
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
La Présidente: Hohl
La Greffière: Achtari