Faits:
A. A.a Par décision du 24 octobre 2005, le Bureau de l'assistance judiciaire du canton de Vaud a mis X._ au bénéfice de l'assistance judiciaire dans la procédure en libération de dette que celui-ci avait introduite devant la Cour civile du Tribunal cantonal du canton de Vaud contre la Banque A._. L'avocat Y._ a été désigné conseil d'office.
Cette procédure, entreprise dans le cadre d'une action en réalisation d'un gage immobilier, portait sur une valeur litigieuse importante mais ne présentait aucune difficulté particulière, les écritures signifiées étant relativement brèves. Elle s'est terminée par une transaction signée après l'audience préliminaire, dont le Juge instructeur de la Cour civile a pris acte le 28 septembre 2007, rayant la cause du rôle.
A.b Le 3 septembre 2007, l'avocat Y._ a déposé la liste de ses opérations et débours pour l'activité déployée du 18 octobre 2005 au 31 août 2007. Indiquant avoir consacré cent nonante-sept heures à l'affaire, il a expliqué que ce nombre élevé d'heures était dû au fait que la solution transactionnelle à laquelle il fallait parvenir supposait que la question des gages et le sort des immeubles fussent réglés. Ainsi, il fallait trouver un acquéreur, en arriver à la conclusion d'un acte de vente portant sur deux immeubles d'une valeur de plusieurs millions de francs et obtenir l'accord de la Banque A._, ce qui avait entraîné de très nombreuses démarches. Ces négociations avaient encore été rendues plus compliquées en raison de la location des immeubles à un tiers et d'un éboulement survenu à la place Saint-Laurent lors des travaux de construction du métro M2.
B. B.a Par décision du 14 novembre 2007, la Présidente de la Cour civile a fixé l'indemnité due à l'avocat Y._ à 6'638 fr. 90, comprenant 6'120 fr. d'honoraires, 50 fr. de débours et la TVA sur ces deux postes.
L'avocat Y._ a recouru contre cette décision auprès de la Présidente du Tribunal cantonal du canton de Vaud, en concluant à ce que l'indemnité lui revenant soit fixée à 38'208 fr. 75.
Par arrêt du 21 juillet 2008, la Présidente du Tribunal cantonal a rejeté le recours et a confirmé la décision attaquée.
B.b En substance, la Présidente du Tribunal cantonal a exposé que l'indemnité d'honoraires due à l'avocat d'office devait selon le Règlement d'exécution de la loi sur l'assistance judiciaire en matière civile (RLAJ; RS/VD 171.81.1) correspondre aux 80% des montants calculés en application du tarif des honoraires d'avocat dûs à titre de dépens (TAv; RS/VD 177.11.3.6). Cette indemnité devant se situer en l'espèce, au vu des opérations ressortant de la liste produite par le recourant et du dossier, dans une fourchette comprise entre 720 fr. et 25'120 fr. (compte tenu du quadruplement du montant maximum des dépens pour tenir compte de la valeur litigieuse), le montant de 6'120 fr. hors TVA alloué par le premier juge était conforme au tarif. En outre, la décision d'allouer au recourant une indemnité de 6'120 fr., sur la base d'un tarif horaire de 180 fr. pour les trente-quatre heures de travail devant être considérées comme nécessaires à l'accomplissement de sa mission, dont dix heures pour les négociations et la rédaction d'une transaction, était conforme à la jurisprudence du Tribunal fédéral dans la mesure où elle ne prenait pas en compte que les opérations de procédure (arrêt attaqué, p. 4-7).
L'autorité cantonale a encore considéré que si la mission confiée au recourant, lequel avait été commis d'office dans le cadre d'une action en libération de dette, impliquait la recherche d'une solution transactionnelle, elle ne s'étendait pas au règlement des problèmes consécutifs à l'éboulement dû au chantier du M2 ou de ceux liés à la présence de locataires dans les immeubles; elle ne requérait pas non plus la recherche d'un acquéreur aux immeubles ni la mise sur pied (finalisation) d'un acte de vente. Dans la mesure où la liste des opérations présentées par le recourant ne permettait pas de distinguer celles rendues nécessaires par la défense des intérêts du client dans le cadre de la procédure judiciaire et leur durée effective, le premier juge avait été contraint de recourir à une estimation du temps nécessaire consacré à la défense des intérêts du client. Le nombre d'heures apparaissant correct au vu des opérations effectuées, le recours devait être rejeté et la décision du premier juge confirmée (arrêt attaqué, p. 8-9).
C. L'avocat Y._ interjette un recours au Tribunal fédéral contre cet arrêt, en concluant, avec suite de frais et dépens, principalement à sa réforme en ce sens que l'indemnité qui lui est due soit fixée à 38'204 fr. 96, et subsidiairement à son annulation.
La Présidente du Tribunal cantonal se réfère aux considérants de son arrêt.
Considérant en droit:
1. Le Tribunal fédéral examine d'office et librement sa compétence, respectivement la recevabilité des recours qui lui sont soumis (art. 29 al. 1 LTF; ATF 134 III 115 consid. 1, 235 consid. 1, 379 consid. 1).
1.1 L'arrêt attaqué a pour objet la fixation de l'indemnité due au recourant en sa qualité de conseil d'office de X._ dans la procédure en libération de dette introduite par ce dernier devant la Cour civile du Tribunal cantonal vaudois. Depuis l'entrée en vigueur le 1er juin 2002 de la loi fédérale sur la libre circulation des avocats (LLCA; RS 935.61), les avocats sont tenus en vertu du droit fédéral d'accepter les défenses d'office et les mandats d'assistance judiciaire dans le canton au registre duquel ils sont inscrits (art. 12 let. g LLCA); la réglementation relative à ces mandats, y compris la question de leur rémunération, reste toutefois du ressort des cantons (ATF 132 I 201 consid. 7.2). L'avocat d'office n'exerce pas un mandat privé, mais accomplit une tâche étatique régie par le droit public cantonal; lors de sa désignation, il s'établit, entre l'avocat et l'État, un rapport juridique spécial en vertu duquel l'avocat a contre l'État une prétention de droit public à être rétribué dans le cadre des prescriptions cantonales applicables (ATF 132 I 201 consid. 7.1; 122 I 1 consid. 3a; 117 Ia 22 consid. 4a et les arrêts cités).
Si la décision relative à l'indemnisation de l'avocat d'office relève ainsi du droit public cantonal, il faut considérer que, lorsqu'elle porte comme en l'espèce sur la rémunération due pour l'activité déployée comme conseil d'office dans un procès civil, elle constitue une décision prise dans une matière connexe au droit civil, susceptible d'être attaquée par la voie du recours en matière civile conformément à l'art. 72 al. 2 let. b LTF (arrêt 5D_145/2007 du 5 février 2008, consid. 1.1; cf. ATF 133 IV 335 consid. 2 pour le recours en matière pénale).
1.2 La valeur litigieuse est supérieure au seuil de 30'000 fr. fixé par l'art. 74 al. 1 let. b LTF. Dirigé contre une décision finale (art. 90 LTF) rendue par un tribunal supérieur statuant sur recours en dernière instance cantonale (art. 75 al. 1 et 2 LTF), le recours est donc en principe recevable, puisqu'il a été déposé en temps utile (art. 100 al. 1 LTF), dans les formes prévues par la loi (art. 42 LTF), par une partie qui a pris part à la procédure devant l'autorité précédente et qui a un intérêt juridique à l'annulation ou à la modification de la décision attaquée (art. 76 al. 1 LTF).
2. 2.1 Dans un premier moyen, le recourant soutient que l'allocation d'une indemnité d'honoraires de 6'120 fr. hors taxe, représentant moins d'un dixième du montant qu'il aurait pu facturer dans le cadre d'un mandat de choix (68'950 fr., soit 197 heures à 350 fr.), serait clairement contraire à la liberté économique garantie par l'art. 27 Cst. et à la jurisprudence du Tribunal fédéral en découlant, dans la mesure où elle ne couvre même pas le cinquième de ses frais généraux.
2.2 Si la liberté économique garantie par l'art. 27 Cst. est concernée dans la mesure où l'avocat est tenu d'accepter des mandats d'office, l'activité effective du conseil d'office - et donc aussi la question de sa rémunération - ne relève en principe pas du champ d'application de cette norme constitutionnelle, s'agissant d'une tâche étatique confiée à l'avocat considéré (ATF 132 I 201 consid. 7.1 et 8.5). Toutefois, la liberté économique interdit que les avocats, en tant que groupe professionnel, soient tenus de fournir des prestations pour l'État sans obtenir un revenu en contrepartie, ce qui serait le cas si leur rémunération ne couvrait que leurs frais (ATF 132 I 201 consid. 8. 5).
2.3 En l'espèce, le principe d'une rémunération du recourant à un tarif horaire de 180 fr. a été reconnu (cf. lettre B.b supra). Ce tarif horaire, qui permet à l'avocat d'office de réaliser un bénéfice après couverture de ses frais généraux, est admissible au regard de la jurisprudence du Tribunal fédéral (ATF 132 I 201 consid. 8.7), et il n'est pas contesté par le recourant. Seule l'ampleur de l'activité déployée par celui-ci dans le cadre de sa mission d'office est litigieuse, le recourant prétendant, sur la base d'un tarif horaire de 180 fr., à une indemnisation pour cent nonante-sept heures de travail, alors que son temps d'activité a été ramené par les juges cantonaux à trente-quatre heures, dont dix concernent la recherche d'une transaction (cf. lettre B.b supra). Ce grief, qui ne relève pas du champ d'application de l'art. 27 Cst. mais de celui de l'art. 9 Cst., sera examiné ci-après.
3. 3.1 Le recourant reproche à l'autorité cantonale d'être tombée dans l'arbitraire et d'avoir gravement méconnu les principes fixés par la jurisprudence du Tribunal fédéral relative à l'indemnisation de l'avocat d'office (ATF 122 I 1 consid. 3a; 117 Ia 22 consid. 4c) en fixant à trente-quatre le nombre d'heures pour lesquelles il pouvait prétendre à être indemnisé, alors qu'il en a consacré cent nonante-sept à l'affaire. Il expose que le litige ayant opposé son client à la banque créancière a trouvé sa source dans l'octroi de prêts hypothécaires garantis par deux immeubles qui étaient la propriété du débiteur et que, la valeur litigieuse étant de 8'300'000 fr., l'avocat commis d'office se devait d'appréhender dans leur globalité la problématique des relations entre les parties. À cette fin, il fallait parvenir à trouver un accord de principe avec la banque en vue de la vente des immeubles à un tiers, en définir le prix, rechercher et trouver un acquéreur, aplanir les difficultés dues à la présence de locataires dans les locaux et à un éboulement de terrain, élaborer une transaction judiciaire dans ce cadre et la finaliser. Par cette activité, il s'agissait de permettre au client d'office de limiter au minimum les pertes qui auraient été provoquées par une issue judiciaire de la procédure, ce qui était en lien direct avec la mission conférée à l'avocat d'office. Le recourant fait ainsi valoir que les très nombreuses heures de travail consacrées à une transaction ont permis à la banque d'être remboursée et au client d'être libéré des obligations découlant des prêts hypothécaires. Enfin, cette solution a mis rapidement un terme à la procédure judiciaire, approche qui est conforme au principe de l'économie de procédure.
3.2 Selon la jurisprudence, l'indemnité à laquelle l'avocat d'office a droit, dans le cadre des prescriptions cantonales applicables (ATF 132 I 201 consid. 7.1; 122 I 1 consid. 3a; 117 Ia 22 consid. 4a), s'apparente aux honoraires perçus par le mandataire plaidant aux frais de son client; pour fixer cette indemnité, l'autorité doit tenir compte de la nature et de l'importance de la cause, des difficultés particulières que celle-ci peut présenter en fait et en droit, du temps que l'avocat lui a consacré, de la qualité de son travail, du nombre des conférences, audiences et instances auxquelles il a pris part, du résultat obtenu et de la responsabilité qu'il a assumée (ATF 122 I 1 consid. 3a; 117 Ia 22 consid. 3a; 109 Ia 107 consid. 3b). L'indemnité ne couvre pas seulement les démarches judiciaires à proprement parler. En matière civile tout particulièrement, la jurisprudence admet que le conseil d'office est amené à accomplir dans le cadre du procès de nombreuses démarches extrajudiciaires, notamment en vue de la recherche d'une transaction; les frais encourus à cette fin doivent être remboursés, pour peu qu'ils soient justifiés par la défense des intérêts du client (ATF 117 Ia 22 consid. 4c).
3.3 L'autorité dispose d'un large pouvoir d'appréciation dans la fixation de l'indemnité due à l'avocat d'office; le Tribunal fédéral n'intervient que si cette indemnité a été fixée de manière arbitraire (ATF 122 I 1 consid. 3a; 118 Ia 133 consid. 2b; 109 Ia 107 consid. 3d et les arrêts cités). Selon la jurisprudence, l'arbitraire, prohibé par l'art. 9 Cst., ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable; le Tribunal fédéral ne s'écarte de la décision attaquée que lorsque celle-ci est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridique indiscuté, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité (ATF 132 I 13 consid. 5.1; 132 III 209 consid. 2.1; 131 I 57 consid. 2, 217 consid. 2.1). Dans le domaine de l'indemnisation de l'avocat d'office, le Tribunal fédéral a ainsi posé que l'appréciation erronée d'un poste de l'état de frais ou la prise en compte d'un argument déraisonnable ne suffit pas en soi pour admettre l'arbitraire, l'annulation de la décision cantonale ne se justifiant que si le montant global alloué au conseil d'office apparaît comme ayant été fixé de manière arbitraire (ATF 109 Ia 107 consid. 3d).
3.3 L'autorité dispose d'un large pouvoir d'appréciation dans la fixation de l'indemnité due à l'avocat d'office; le Tribunal fédéral n'intervient que si cette indemnité a été fixée de manière arbitraire (ATF 122 I 1 consid. 3a; 118 Ia 133 consid. 2b; 109 Ia 107 consid. 3d et les arrêts cités). Selon la jurisprudence, l'arbitraire, prohibé par l'art. 9 Cst., ne résulte pas du seul fait qu'une autre solution pourrait entrer en considération ou même qu'elle serait préférable; le Tribunal fédéral ne s'écarte de la décision attaquée que lorsque celle-ci est manifestement insoutenable, qu'elle se trouve en contradiction claire avec la situation de fait, qu'elle viole gravement une norme ou un principe juridique indiscuté, ou encore lorsqu'elle heurte de manière choquante le sentiment de la justice et de l'équité (ATF 132 I 13 consid. 5.1; 132 III 209 consid. 2.1; 131 I 57 consid. 2, 217 consid. 2.1). Dans le domaine de l'indemnisation de l'avocat d'office, le Tribunal fédéral a ainsi posé que l'appréciation erronée d'un poste de l'état de frais ou la prise en compte d'un argument déraisonnable ne suffit pas en soi pour admettre l'arbitraire, l'annulation de la décision cantonale ne se justifiant que si le montant global alloué au conseil d'office apparaît comme ayant été fixé de manière arbitraire (ATF 109 Ia 107 consid. 3d).
3.4 3.4.1 En l'espèce, parmi les critères à prendre en considération en vue de la rémunération d'un avocat d'office, tels que rappelés ci-dessus (cf. consid. 3.2 supra), l'autorité cantonale s'est bornée à prendre en compte le temps qui aurait été consacré à l'affaire et qu'elle a fixé, suivant l'appréciation qui en avait été faite par le premier juge, à trente-quatre heures, rémunérées au tarif horaire de 180 fr. Ce faisant, elle n'apparaît pas avoir tenu compte de la valeur litigieuse très élevée, du résultat obtenu et de la responsabilité assumée par l'avocat commis d'office. En omettant ces critères, la Présidente du Tribunal cantonal ne semble pas avoir pris en considération de manière adéquate le tarif applicable dans le canton de Vaud en matière de dépens, lequel autorisait une taxation à hauteur de 25'120 fr. compte tenu de la valeur litigieuse très élevée (cf. lettre B.b supra), mais sans que soit encore prise en considération l'activité extrajudiciaire déployée par l'avocat, notamment en vue d'une solution transactionnelle.
3.4.2 Non seulement la décision entreprise apparaît ainsi déjà insoutenable en tant qu'elle omet ces critères, mais le résultat auquel elle aboutit heurte d'emblée le sens de la justice. En effet, le montant réclamé par 35'460 fr., pour cent nonante-sept heures de travail à 180 fr. hors taxe, n'apparaît pas prima facie totalement disproportionné par rapport à l'importance de l'affaire et à sa valeur litigieuse. Il n'est pas inutile à cet égard de relever que, pour la seule procédure de recours devant le Tribunal fédéral, une valeur litigieuse de 5'000'000 fr. pourrait justifier le versement d'une indemnité de 50'000 fr. à titre de dépens, réduite d'un tiers au maximum s'il s'agit d'honoraires d'un avocat d'office (art. 4 et 10 du Règlement sur les dépens alloués à la partie adverse et sur l'indemnité pour la représentation d'office dans les causes portées devant le Tribunal fédéral; RS 173.110.210.3).
3.4.3 De surcroît, l'arrêt attaqué ne renferme aucune indication au sujet de la liste d'opérations établie par le recourant. Les autorités de taxation semblent avoir substitué leur propre appréciation au décompte présenté par le recourant, sans dire en quoi cet état de frais laisserait planer certains doutes ou serait exagéré et sans inviter le recourant à le compléter ou à s'expliquer (cf. ATF 109 la 107 consid. 3g).
3.4.4 Enfin, compte tenu de la nature de l'affaire, on ne saurait reprocher au recourant d'avoir recherché une solution transactionnelle par une vente de gré à gré à un tiers des deux immeubles, ce qui évitait les aléas d'une réalisation forcée et était manifestement dans l'intérêt du débiteur. Or en présence d'une action en libération de dette destinée à éviter la réalisation de gages immobiliers grevant deux immeubles, une transaction valable supposait nécessairement une solution économique portant sur le sort même des biens-fonds considérés, leur propriétaire ne disposant pas de fonds suffisants lui permettant de désintéresser la banque créancière. Il fallait donc trouver, avec l'accord de la banque, un acquéreur offrant des garanties suffisantes en vue d'une reprise des dettes hypothécaires ou un prix de vente permettant le désintéressement de la banque. Si l'on considère en outre que la situation était encore compliquée par la présence de locataires et par les conséquences d'un éboulement, il apparaît insoutenable de retenir que l'activité déployée par le recourant en vue d'une solution transactionnelle n'était justifiée qu'à concurrence de dix heures de travail.
3.5 Il résulte de ce qui précède que l'autorité cantonale est tombée dans l'arbitraire en fixant à 6'120 fr. hors TVA l'indemnité due au recourant à titre d'honoraires d'avocat d'office, sur la seule base d'une appréciation insoutenable du nombre d'heures de travail qu'elle considérait justifiées par la défense des intérêts du client, sans tenir compte de la valeur litigieuse très élevée, du résultat obtenu ni des opérations nécessaires à l'aboutissement d'une solution transactionnelle conforme aux intérêts du client.
4. En définitive, le recours, fondé, doit être admis. Dès lors que la fixation du montant de l'indemnité due à l'avocat d'office relève exclusivement du droit cantonal, le Tribunal fédéral juge opportun de renvoyer la cause à l'autorité précédente plutôt que de statuer lui-même sur le fond (art. 107 al. 2 LTF). L'arrêt entrepris sera par conséquent annulé et la cause renvoyée à l'autorité cantonale pour nouvelle décision.
Le canton de Vaud, qui succombe, est dispensé du paiement des frais judiciaires (art. 66 al. 4 LTF); en revanche, il versera une indemnité de dépens au recourant qui obtient gain de cause avec l'assistance d'un avocat (art. 68 al. 1 et 2 LTF). Le recourant, qui a fourni une avance de frais de 2'000 fr. (art. 62 al. 1 LTF), a droit à la restitution de ce montant par la Caisse du Tribunal fédéral.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis et l'arrêt rendu le 21 juillet 2008 par la Présidente du Tribunal cantonal du canton de Vaud est annulé.
2. L'affaire est renvoyée à l'autorité cantonale pour nouvelle décision dans le sens des considérants.
3. Il n'est pas perçu de frais judiciaires et l'avance de frais de 2'000 fr. effectuée par le recourant lui est restituée.
4. Une indemnité de 2'500 fr., à payer au recourant à titre de dépens, est mise à la charge du canton de Vaud.
5. Le présent arrêt est communiqué au mandataire du recourant et à la Présidente du Tribunal cantonal du canton de Vaud.
Lausanne, le 25 novembre 2008
Au nom de la Ire Cour de droit civil
du Tribunal fédéral suisse
Le Président: Le Greffier:
Corboz Abrecht