Faits:
A. Dans la poursuite n° xxxx, l'Office des poursuites du district de la Riviera-Pays-d'Enhaut a notifié à A._ le commandement de payer les sommes de xxxx fr. avec intérêt à 10% l'an dès le 1er janvier 2011, xxxx fr. avec intérêt à 10% l'an dès le 1er janvier 2011, et xxxx fr. avec intérêt à 10% l'an dès le 1er janvier 2011, sur réquisition de B._.
Le poursuivi a fait opposition totale à ce commandement de payer.
B. B.a Le 15 août 2012, la poursuivante a déposé une requête de mainlevée provisoire auprès du Juge de paix du district de la Riviera- Pays-d'Enhaut. A l'appui de sa requête, elle a produit, outre l'original du commandement de payer, trois contrats de prêt, le premier, signé le 23 juin 1999, aux termes duquel le poursuivi reconnaissait avoir reçu en prêt de la poursuivante la somme de xxxx fr., montant remboursable le 31 décembre 2009, un intérêt annuel de 10%, payable le 31 décembre de chaque année, étant convenu, le deuxième, signé le 28 septembre 1999, aux termes duquel le poursuivi reconnaissait avoir reçu en prêt de la poursuivante la somme de xxxx fr., montant remboursable le 31 décembre 2009, un intérêt annuel de 10%, payable le 31 décembre de chaque année, étant convenu, et le troisième, signé le 15 mars 2000, aux termes duquel le poursuivi reconnaissait avoir reçu en prêt de la poursuivante la somme de xxxx fr., montant remboursable le 31 décembre 2009, un intérêt de 10%, payable le 31 décembre de chaque année, étant convenu.
Par décision du 4 octobre 2012, le Juge de paix a prononcé la mainlevée provisoire de l'opposition.
B.b Le 1er novembre 2012, le poursuivi a interjeté contre cette décision un recours auprès de la Cour des poursuites et faillites du Tribunal cantonal vaudois. Contestant uniquement le taux d'intérêt de 10% alloué par le premier juge, il a conclu à la réforme de la décision attaquée, en ce sens que la mainlevée provisoire de l'opposition soit accordée à concurrence de xxxx fr., avec intérêt à 5% l'an dès le 1er janvier 2011, xxxx fr. avec intérêt à 5% l'an dès le 1er janvier 2011, et xxxx fr. avec intérêt à 5% l'an dès le 1er janvier 2011.
Par arrêt du 18 décembre 2012, l'autorité cantonale a rejeté le recours.
C. Par acte posté le 17 janvier 2013, A._ exerce un recours en matière civile contre cet arrêt, concluant à sa réforme, en ce sens que le taux d'intérêt soit fixé à 5%. En substance, il se plaint de la violation de l'art. 104 al. 1 et 2 CO.
Des observations n'ont pas été requises.
D. Par ordonnance du 18 janvier 2013, la requête d'effet suspensif du recourant a été rejetée.

Considérant en droit:
1. Le recours a été déposé en temps utile (<ref-law>) à l'encontre d'une décision finale (<ref-law>; <ref-ruling> consid. 1.1; <ref-ruling> consid. 1.4) rendue en matière de poursuite pour dettes (<ref-law>, en relation avec l'<ref-law>) par un tribunal supérieur du canton ayant statué sur recours (art. 75 al. 1 et 2 LTF); la valeur litigieuse, fixée à 49'000 fr. par l'autorité cantonale, est atteinte (<ref-law>); le poursuivant qui a été débouté de ses conclusions par l'autorité précédente, a qualité pour recourir (<ref-law>).
2. Le recours en matière civile peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être lié ni par les motifs de l'autorité précédente, ni par les moyens des parties; il peut donc admettre le recours en se fondant sur d'autres arguments que ceux invoqués par le recourant, comme il peut le rejeter en opérant une substitution de motifs (<ref-ruling> consid. 2.2). Compte tenu toutefois de l'exigence de motivation posée, sous peine d'irrecevabilité (<ref-law>), à l'<ref-law>, il n'examine en principe que les griefs soulevés; il n'est pas tenu de traiter, à l'instar d'une autorité de première instance, toutes les questions juridiques qui peuvent se poser, lorsqu'elles ne sont plus discutées devant lui (<ref-ruling> consid. 1.4).
3. 3.1 En substance, l'autorité cantonale a retenu que le poursuivi était en demeure de rembourser les trois prêts depuis le 1er janvier 2010 et que l'intérêt conventionnel, au sens de l'<ref-law>, de 10% était également dû au titre d'intérêt moratoire, toutefois dès le 1er janvier 2011 seulement, la poursuivante ne le réclamant qu'à partir de cette date (interdiction de statuer ultra petita; <ref-law>).
3.2 Le recourant soutient que l'<ref-law> ne trouve pas application, les contrats étant de durée déterminée et prenant fin le 31 décembre 2009. Il faudrait au contraire appliquer l'<ref-law>, et donc un taux de 5% à l'intérêt moratoire.
4. 4.1 Aux termes de l'art. 104 al. 1 et 2 CO, le débiteur qui est en demeure pour le paiement d'une somme d'argent doit l'intérêt moratoire à 5% l'an, même si un taux inférieur avait été fixé pour l'intérêt conventionnel (al. 1); si le contrat stipule, directement ou sous la forme d'une provision de banque périodique, un intérêt supérieur à 5%, cet intérêt plus élevé peut également être exigé du débiteur en demeure (al. 2).
Le Tribunal fédéral a jugé que le texte du deuxième alinéa de la disposition précitée est clair et ne souffre aucune interprétation qui s'en écarterait. Dès lors, si la dette portait déjà intérêt avant la demeure à un taux supérieur au taux légal de 5% c'est ce taux conventionnel qui s'applique à titre de taux de l'intérêt moratoire (<ref-ruling> consid. 5.1 et les références).
4.2 En l'espèce, l'autorité cantonale n'a dès lors pas violé le droit fédéral en portant en compte, au titre de l'intérêt moratoire, le taux de 10% arrêté par les parties pour la rémunération des prêts que l'intimée a octroyés au recourant.
Le grief doit donc être rejeté.
5. Au terme de cet examen, il y a donc lieu de rejeter le recours. En conséquence, le recourant supportera les frais judiciaires (<ref-law>). Il n'y a pas lieu d'allouer des dépens (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 2'000 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties et à la Cour des poursuites et faillites du Tribunal cantonal vaudois.
Lausanne, le 26 mars 2013
Au nom de la IIe Cour de droit civil
du Tribunal fédéral suisse
Le Président: von Werdt
La Greffière: Achtari