Faits:
A. A.a A._ a travaillé du 1er décembre 2000 au 5 décembre 2003 en qualité d'employé polyvalent (station-service, lavage et nettoyage des voitures, petite mécanique) au service du garage X._ SA. Le 14 octobre 2004, l'intéressé a déposé une demande de rente auprès de l'assurance-invalidité en raison de problèmes de santé suite à une opération du coeur en 1987, une maladie des reins, des malaises répétés et la pose d'un "pacemaker" en septembre 2004.
Dans le cadre de l'instruction de la cause, l'office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) a confié un mandat d'expertise pluridisciplinaire à la Clinique Y._ fonctionnant comme Centre d'observation médicale de l'AI (COMAI), qui a rendu son rapport le 28 décembre 2005. Les experts ont posé, comme diagnostics avec influence essentielle sur la capacité de travail, un autre trouble anxieux spécifié (F41.8), des lombalgies chroniques non spécifiques (M54.5) et des troubles statiques dégénératifs rachidiens. Sur le plan rhumatologique, la capacité de travail de l'assuré était complète dans une activité légère, compte tenu de certaines limitations (variation des positions assise et debout, pas de port de charges supérieures à 10 kilos et pas de maintien de positions statiques prolongées de plus de 45 minutes de manière continue). D'un point de vue cardiologique, la maladie valvulaire était compensée et stable. L'assuré ne présentait pas de signes cliniques d'insuffisance cardiaque significative. Les troubles rythmiques étaient contrôlés par l'activité du stimulateur cardiaque et ne représentaient plus de limitations à une activité normale.
Sur le plan psychiatrique, les experts ont retenu un trouble anxieux, dont l'aggravation marquée dès l'année 2003 était à mettre en relation avec les épisodes de pertes de connaissance itératives dans un contexte d'hospitalisations en urgence, objectivement traumatiques avec notamment des fractures du visage survenues au cours de ces épisodes. A cela s'ajoutait le développement rapide d'une maladie d'Alzheimer invalidante chez le père de l'assuré, qui agissait comme un facteur de stress psycho-social majeur chez ce dernier, lequel semblait être convaincu de développer lui-même une démence. Ce trouble anxieux semblait avoir pris une telle place qu'il justifiait une sévère diminution de la capacité de travail. Ce trouble devait être nommé et pris en charge spécifiquement. L'approche devait viser à expliquer de manière exhaustive et rassurante les différentes problématiques dont l'assuré avait été l'objet, de manière à lui permettre dans la mesure du possible de regagner une certaine confiance. Cette mise en confiance devait assez rapidement passer par une mise en situation professionnelle, dans une structure de type "Intégration pour tous". Dans l'intervalle, la sévérité de la problématique justifiait une incapacité de travail de 70 %. Les experts précisaient qu'à terme, si la problématique anxieuse s'amendait, il était possible d'envisager une capacité de travail entière sur un plan purement somatique.
Invité à se prononcer sur les conclusions de l'expertise COMAI, le docteur U._, du Service médical régional AI (SMR), a exprimé des doutes au sujet de la limitation de la capacité de travail de l'assuré de l'ordre de 70 %. Il a ainsi préconisé un nouvel examen psychiatrique par le SMR (cf. note du 7 mars 2006).
A.b Le 2 mai 2006, l'assuré a fait l'objet d'un examen psychiatrique par le SMR. Dans son rapport subséquent du 17 août 2006, la doctoresse B._, psychiatre, a retenu un trouble anxieux spécifié, en rémission (F41.8), sans répercussion sur la capacité de travail. Par rapport à la situation prévalant au moment de l'expertise COMAI, l'état de santé de l'assuré s'était nettement amélioré. La doctoresse n'était cependant pas en mesure de fixer la date exacte de l'amélioration. Elle a en outre indiqué que la symptomatologie anxieuse présentée par l'assuré était réactionnelle à sa pathologie et ne représentait pas une maladie psychiatrique chronique et invalidante. Ce rapport a été réédité le 6 février 2007 et signé en outre par le docteur I._, psychiatre FMH et le docteur H._, médecin-chef ad interim.
Dans une note du 7 septembre 2006, le docteur U._ a constaté l'absence d'incapacité de travail sur le plan somatique. D'un point de vue psychiatrique, le trouble anxieux avait justifié une incapacité de travail de 70 % dès décembre 2003, puis s'était amélioré entre fin 2005 et avril 2006, comme l'attestait la doctoresse B._. L'assuré présentait une capacité de travail entière dès le mois de mai 2006 dans les diverses activités qu'il avait exercées dans le passé (aide-pâtissier, garçon de buffet, manoeuvre dans un garage).
Se fondant sur les conclusions de l'expertise COMAI du 28 décembre 2005 et de l'examen psychiatrique du SMR du 2 mai 2006, l'office AI a alloué à A._ une rente entière d'invalidité du 1er décembre 2004 au 31 juillet 2006 (décision du 24 avril 2007).
B. A._ a recouru contre cette décision en concluant, sous suite de frais et dépens, au maintien de la rente entière d'invalidité par-delà le 31 juillet 2006.
Par jugement du 23 novembre 2007, le Tribunal des assurances du canton de Vaud a rejeté le recours.
C. A._ interjette un recours en matière de droit public contre ce jugement, en concluant derechef au maintien de sa rente entière d'invalidité.
L'office AI a conclu implicitement au rejet du recours tandis que l'Office fédéral des assurances sociales a renoncé à se prononcer.

Considérant en droit:
1. 1.1 Le recours en matière de droit public peut être formé pour violation du droit, tel qu'il est délimité par les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>), sans être limité par les arguments du recourant ou par la motivation de l'autorité précédente. Le Tribunal fédéral n'examine en principe que les griefs invoqués, compte tenu de l'exigence de motivation prévue à l'<ref-law>, et ne peut aller au-delà des conclusions des parties (<ref-law>). Il fonde son raisonnement sur les faits retenus par la juridiction de première instance (<ref-law>) sauf s'ils ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). Aucun fait nouveau ni preuve nouvelle ne peut être présenté à moins de résulter de la décision de l'autorité précédente (<ref-law>).
1.2 A l'appui de son recours, le recourant produit une attestation médicale du docteur N._, du 28 avril 2008. Il s'agit d'une preuve nouvelle au sens de l'<ref-law> qui n'est pas recevable: établie postérieurement au jugement entrepris, elle ne peut par définition "résulter" du jugement entrepris (MEYER, in: M. A. NIGGLI/P. UEBERSAX/H. WIPRÄCHTIGER [édit.], Bundesgerichtsgesetz, Bâle 2008, ad <ref-law>, n° 43 p. 979).
2. 2.1 En l'espèce, le litige porte sur le droit du recourant à une rente d'invalidité au-delà du 31 juillet 2006; plus particulièrement, il s'agit de savoir si son invalidité s'est modifiée depuis le 1er décembre 2004, de telle manière que le droit à la rente puisse être supprimé à compter du 1er août 2006.
2.2 Selon la jurisprudence, le bien-fondé d'une décision d'octroi, à titre rétroactif, d'une rente limitée dans le temps, doit être examinée à la lumière des conditions de révision du droit à la rente (<ref-ruling> consid. 2d p. 418 et les références).
Aux termes de l'<ref-law>, si le taux d'invalidité du bénéficiaire de la rente subit une modification notable, la rente est, d'office ou sur demande, révisée pour l'avenir, à savoir augmentée ou réduite en conséquence, ou encore supprimée. Le point de savoir si un tel changement s'est produit doit être tranché en comparant les faits tels qu'ils se présentaient au moment de la décision initiale de rente et les circonstances régnant à l'époque de la décision litigieuse (<ref-ruling> consid. 3.5.2 p. 351, 125 V 368 consid. 2 p. 369 et la référence; voir également <ref-ruling> consid. 2b p. 372 et 387 consid. 1b p. 390).
3. 3.1 Il ressort des considérants du jugement attaqué que les premiers juges ont fait abstraction du rapport d'examen psychiatrique du SMR du 17 août 2006. Quant au rapport d'expertise de la Clinique Y._ du 28 décembre 2005, ils ont considéré qu'il était dépourvu de toute force probante. Ils ont cependant retenu que le recourant pouvait reprendre à plein temps une activité similaire à celle qu'il exerçait dans le passé, compte tenu des limitations fonctionnelles énoncées dans le rapport d'expertise de la Clinique Y._ et reprises dans l'avis du SMR du 7 septembre 2006. Une telle argumentation est contradictoire car les premiers juges tirent des conclusions sur la capacité résiduelle de travail du recourant et, partant, sur son degré d'invalidité, en se fondant sur un rapport d'expertise auquel ils n'accordent par ailleurs aucune valeur probante.
D'autre part, en faisant fi de l'obligation de procéder à la comparaison des revenus (cf. <ref-law>) en vue de déterminer si le recourant subissait une perte de gain éventuelle, les juges cantonaux ont violé le droit fédéral. Le fait de disposer d'une pleine capacité de travail dans une activité adaptée ne permet en effet pas d'exclure, a priori, l'existence d'une capacité de gain réduite donnant droit à une rente de l'assurance-invalidité. Faute d'expliquer en quoi il se justifiait de renoncer à procéder au calcul du degré d'invalidité, le raisonnement de la juridiction cantonale ne peut être suivi.
On ajoutera enfin que les premiers juges n'ont pas cherché à démontrer l'existence d'un changement de circonstances. Ils insistent sur le fait que le recourant est apte à exercer une activité adaptée à plein temps, en faisant totalement abstraction des règles sur la révision, comme s'il s'agissait de se prononcer pour la première fois sur le droit à la rente. Cela ne suffit toutefois pas (cf. consid. 2.2 supra) pour justifier une révision du droit à la rente.
3.2 Dans ces conditions, on ne saurait admettre, en l'absence d'une indication claire des faits établis et des déductions juridiques tirées de l'état de fait déterminant, une modification de l'état de santé du recourant propre à justifier une suppression pure et simple de son droit à la rente. Il convient par conséquent de renvoyer la cause à la juridiction cantonale afin qu'elle détermine - à l'aune des pièces médicales se trouvant au dossier ou à la suite d'un éventuel complément d'instruction - si l'état de santé, respectivement la capacité de travail du recourant a subi un changement significatif, puis statue à nouveau sur le droit du recourant à une rente d'invalidité au-delà du 31 juillet 2006.
4. Le recourant obtient gain de cause et n'a donc pas à supporter de frais justice (<ref-law>); il peut, par ailleurs, prétendre une indemnité de dépens à la charge de l'intimé (art. 68 al. 1 et 2 LTF). Sa demande d'assistance judiciaire est donc sans objet. L'intimé supportera par ailleurs les frais de justice (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. Le jugement du Tribunal des assurances du canton de Vaud du 23 novembre 2007 est annulé et la cause est renvoyée à l'autorité judiciaire de première instance pour qu'elle statue à nouveau au sens des considérants.
2. Les frais de justice, d'un montant de 500 fr., sont mis à la charge de l'intimé.
3. L'intimé versera au recourant la somme de 2'500 fr. (y compris la taxe à la valeur ajoutée) à titre de dépens pour l'instance fédérale.
4. Le présent arrêt est communiqué aux parties, au Tribunal des assurances du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 12 mars 2009
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Fretz