Faits:
A. D._ est garagiste indépendant depuis le début des années 1990. Atteint d'une cirrhose hépatique Child A, il a déposé le 13 janvier 2005 une demande de prestations de l'assurance-invalidité auprès de l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI).
Le 6 décembre 2005, l'office AI a réalisé une enquête économique pour les indépendants. Il en est ressorti que l'assuré subissait un préjudice économique de 50 %. Par ailleurs, l'instruction médicale menée par l'administration a permis d'établir que l'intéressé disposait d'une capacité résiduelle de travail de 50 % dès le mois de mai 2003 dans son métier de garagiste, alors que celle exigible dans toute autre activité adaptée était de 50 % de mai 2003 à mai 2004 et de 70 % au-delà de cette date. L'assuré s'est par la suite opposé à des mesures d'ordre professionnel proposées par l'office AI en privilégiant la poursuite de son activité d'indépendant.
Par décision du 19 novembre 2009, l'office AI a nié à D._ le droit à une rente d'invalidité, au motif que son degré d'invalidité était inférieur au minimum légal requis pour ouvrir le droit à cette prestation.
B. L'assuré a déféré cette décision au Tribunal cantonal du canton de Vaud, Cour des assurances sociales. Par jugement du 29 septembre 2011, celui-ci a réformé la décision en reconnaissant au recourant le droit à un quart de rente d'invalidité du 1er au 31 janvier 2004, à une demi-rente du 1er février 2004 au 30 septembre 2009, puis à un quart de rente dès le 1er octobre 2009.
C. D._ interjette un recours en matière de droit public contre ce jugement dont il demande la réforme, sous suite de frais et dépens, en ce sens que la demi-rente d'invalidité octroyée soit maintenue au-delà du 1er octobre 2009.
Dans ses déterminations, l'office AI conclut au rejet du recours. La juridiction cantonale se détermine le 17 février 2012, alors que l'Office fédéral des assurances sociales y renonce. Le recourant, quant à lui, maintient ses conclusions.
Considérant en droit:
1. Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF), sans être limité par les arguments du recourant ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'art. 42 al. 2 LTF, et ne peut aller au-delà des conclusions des parties (art. 107 al. 1 LTF). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (art. 105 al. 1 LTF), sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF), auquel cas il rectifie ou complète d'office l'état de fait du jugement entrepris si des lacunes ou des erreurs manifestes lui apparaissent aussitôt.
2. En instance fédérale, le litige porte sur la réduction, par la juridiction cantonale, de la demi-rente d'invalidité qu'elle a allouée au recourant à un quart de rente à partir du 1er octobre 2009.
3. Le jugement entrepris expose correctement les dispositions légales et la jurisprudence applicables à la notion d'invalidité et à son évaluation, ainsi qu'à l'exigibilité d'un changement de profession pour un assuré, à la lumière de son obligation de diminuer son dommage. Il suffit d'y renvoyer.
4. Les premiers juges ont constaté qu'il était raisonnablement exigible du recourant qu'il abandonne son métier de garagiste indépendant au profit d'une activité salariée dès le 1er octobre 2009. Ils ont en effet constaté que, même si un tel changement de profession était discutable - le revenu d'invalide que le recourant aurait pu réaliser dans une activité adaptée exercée à 70 % étant particulièrement proche de celui qu'il continuait de percevoir à 50 % -, il ressortait du rapport d'enquête économique que la poursuite de son entreprise était menacée à terme. Le bâtiment dans lequel se trouvait le garage allait être transformé par le propriétaire. Le contrat de bail que le recourant avait conclu, renouvelable tous les six mois, était ainsi relativement précaire. Le recourant n'avait par ailleurs plus que très peu d'actifs à réaliser en cas de cessation d'activité. Les premiers juges ont donc déterminé son invalidité en fonction du salaire qu'il pourrait réaliser dans une activité adaptée à hauteur de 70 %, ce qui donnait un taux de 48 % et justifiait la réduction de la demi-rente d'invalidité à un quart de rente.
5. Le recourant fait grief à la juridiction cantonale d'avoir réduit sa rente d'invalidité en violation de l'art. 21 al. 4 LPGA lorsqu'elle a considéré qu'il pouvait raisonnablement être exigé de lui qu'il abandonnât son métier. Il soutient que le revenu qu'il pourrait percevoir dans une autre activité ne serait pas notablement supérieur à celui qu'il continue de réaliser, qu'il s'est constitué une clientèle fidèle grâce à ses qualités professionnelles et humaines et que, compte tenu de son âge, de son mauvais état de santé et de la réduction de sa capacité de travail, il ne lui serait plus possible de retrouver un emploi.
5.1 Contrairement à ce qu'affirme le recourant, l'art. 21 al. 4 LPGA n'est pas applicable en l'espèce. En effet, cet article régit la réduction ou le refus des prestations versées à un assuré lorsque celui-ci ne participe pas à un traitement ou à une mesure de réinsertion professionnelle auquel l'office AI l'aurait invité à se soumettre. Ces hypothèses ne sont pas réalisées en l'occurrence, l'office AI ayant envisagé la mise en ?uvre d'une mesure d'ordre professionnel toutefois sans se prononcer plus avant sur ce point.
5.2 Au vu des arguments du recourant, il convient cependant d'examiner si le Tribunal fédéral doit s'écarter des constatations faites par la juridiction cantonale sur l'exigibilité d'un changement de profession de la part du recourant ou du raisonnement suivi par celle-ci, dans les limites de son pouvoir d'examen (cf. consid. 1 supra).
5.2.1 Dans le domaine de l'assurance-invalidité, on applique de manière générale le principe selon lequel une personne invalide doit, avant de requérir des prestations, entreprendre de son propre chef tout ce qu'on peut raisonnablement attendre d'elle pour atténuer le mieux possible les conséquences de son invalidité; c'est pourquoi un assuré n'a pas droit à une rente lorsqu'il serait en mesure, au besoin en changeant de profession, d'obtenir un revenu excluant une invalidité ouvrant droit à une rente. La réadaptation par soi-même est un aspect de l'obligation de diminuer le dommage et prime aussi bien le droit à une rente que celui à des mesures de réadaptation. L'obligation de diminuer le dommage s'applique aux aspects de la vie les plus variés. Toutefois, le point de savoir si une mesure peut être exigée d'un assuré doit être examiné au regard de l'ensemble des circonstances objectives et subjectives du cas concret (ATF 113 V 22 consid. 4a p. 28 et les références). Par circonstances subjectives, il faut entendre en premier lieu l'importance de la capacité résiduelle de travail ainsi que les facteurs personnels tels que l'âge, la situation professionnelle concrète ou encore l'attachement au lieu de domicile. Parmi les circonstances objectives doivent notamment être pris en compte l'existence d'un marché du travail équilibré et la durée prévisible des rapports de travail (arrêts du Tribunal fédéral 9C_540/2011 du 15 mars 2012 consid. 3.2 et les arrêts cités, destiné à la publication, et 9C_578/2009 du 29 décembre 2009 consid. 4.2.2 et les arrêts cités). Par ailleurs, plus la mise à contribution de l'assureur est importante, plus les exigences posées à l'obligation de réduire le dommage devront être sévères. C'est le cas, par exemple, lorsque la renonciation à des mesures destinées à réduire le dommage conduirait à l'octroi d'une rente ou au reclassement dans une profession entièrement nouvelle (ATF 113 V 22 consid. 4d p. 32 et les références citées; arrêt du Tribunal fédéral 9C_578/2009 du 29 décembre 2009 consid. 4.2.3 et les références citées).
5.2.2 En l'espèce, les juges cantonaux ont constaté que le revenu d'invalide que le recourant aurait été en mesure de réaliser était plus élevé que celui perçu dans son métier de garagiste. Contrairement à ce que soutient ce dernier, une augmentation notable du revenu d'invalide auquel il pourrait prétendre en cas de changement de profession n'est pas exigé. En effet, pour diminuer son dommage, il suffit, au sens de la jurisprudence sus exposée (consid. 5.2.1 supra), qu'un assuré puisse réaliser, dans une activité adaptée, un revenu d'invalide supérieur à celui provenant de la poursuite de son métier.
Par ailleurs, les premiers juges ont constaté que la poursuite de l'entreprise du recourant était menacée à terme et que la liquidation de cette dernière se ferait sans difficulté, celle-ci n'ayant que très peu d'actifs. Ces constatations ne sont pas remises en cause par le recourant. N'étant pas manifestement inexactes, elles lient par conséquent le Tribunal fédéral (cf. consid. 1 supra). Compte tenu des circonstances ainsi constatées, on peut raisonnablement attendre du recourant qu'il change de profession pour diminuer son dommage puisque sa demi-rente d'invalidité s'en verrait réduite. En effet, en exerçant une activité salariée (voir consid. 5.2.3 infra), celui-ci serait en mesure d'augmenter sa capacité de gain de telle sorte que seul le droit à un quart de rente lui serait ouvert.
5.2.3 Les autres arguments avancés par le recourant ne sont pas plus pertinents. Les juges cantonaux ont constaté qu'il disposait d'une capacité résiduelle de travail de 70 % et qu'il pouvait l'exercer dans une activité adaptée comme celle de gestionnaire en logistique ou de commerce de détail ou encore comme réceptionniste dans un garage. Il existe ainsi une large palette d'activités au profit desquelles celui-ci peut mettre à disposition sa capacité résiduelle de travail qui est relativement importante. Le recourant ne conteste pas que ce genre d'activité est compatible avec son état de santé. De plus, sa capacité résiduelle de travail fixée à 70 % tient déjà compte de ses problèmes de santé et n'est pas de nature à l'empêcher de trouver une telle activité sur un marché du travail équilibré. En effet, selon la jurisprudence, il n'y a pas lieu d'examiner la question de savoir si un invalide peut être placé eu égard aux conditions concrètes du marché du travail, mais uniquement de se demander s'il pourrait encore exploiter économiquement sa capacité résiduelle de travail lorsque les places de travail disponibles correspondent à l'offre de la main d'?uvre (ATF 110 V 276 consid. 4b; arrêt I 350/89 du 30 avril 1991 consid. 3b, in RCC 1991 p. 332; cf. ATF 130 V 346 consid. 3.2; arrêt du Tribunal fédéral 9C_695/2010 du 15 mars 2011 consid. 5 et les arrêts cités). Au demeurant, âgé de 53 ans au moment où la question de l'exigibilité d'un changement de profession se posait, le recourant n'avait de loin pas atteint le seuil à partir duquel la jurisprudence considère généralement qu'il n'existe plus de possibilité réaliste d'exploiter la capacité résiduelle de travail sur un marché du travail supposé équilibré (cf. arrêt du Tribunal fédéral 9C_695/2010 du 15 mars 2011 consid. 6.2 et les arrêts cités). Par ailleurs, on ne voit pas en quoi l'argument selon lequel il s'est constitué une clientèle fidèle l'entraverait pour trouver un nouveau travail.
6. Il résulte de ce qui précède que la juridiction cantonale n'a pas procédé à une appréciation arbitraire des faits ou autrement contraire au droit lorsqu'elle a constaté qu'un changement de profession pouvait raisonnablement être exigé du recourant pour réduire son dommage. C'est donc à juste titre qu'elle a calculé l'invalidité de celui-ci en fonction du salaire qu'il pourrait réaliser dans une activité adaptée, ce qui a comme conséquence la diminution de sa demi-rente d'invalidité à un quart de rente. Le recours est donc mal fondé.
7. Vu l'issue du litige, les frais de la procédure sont mis à la charge du recourant (art. 66 al. 1 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 3 juillet 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
Le Greffier: Hichri