Faits:
A. Le 15 janvier 1999, F._, né en 1962, a déposé une demande de prestations de l'assurance-invalidité tendant à l'octroi d'une rente. Il indiquait souffrir d'une maladie de Bechterev et de troubles psychiques depuis le mois d'août 1997. Après avoir recueilli divers renseignements médicaux et soumis le cas à son service médical régional (SMR), l'office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'OAI) a rejeté la demande de prestations, par décision du 21 mai 2002. L'assuré ayant recouru contre cette décision devant le Tribunal des assurances du canton de Vaud, ce dernier a annulé la décision attaquée et renvoyé la cause à l'OAI pour qu'il complète l'instruction avant de rendre une nouvelle décision (jugement du 13 mai 2003). L'OAI a alors mandé son service médical régional de procéder à un examen bi-disciplinaire sur la personne de l'assuré. Dans un rapport du 6 février 2004, les docteurs L._ (spécialiste FMH en médecine générale), P._ (spécialiste FMH en médecine interne et rhumatologie) et V._ (spécialiste FMH en psychiatrie) ont posé le diagnostic de spondarthrite séronégative (M 46.9) et de trouble dépressif récurrent, épisode actuel moyen (F 33.1) chez une personnalité émotionnellement labile à traits abandonniques. Ils ont conclu à une capacité de travail de 100% sur le plan somatique dans une activité adaptée et à une incapacité de travail de 50% sur le plan psychique dans toute activité depuis le mois de septembre 2001.
Se fondant sur ces nouvelles données médicales, l'OAI a alloué à l'assuré une demi-rente d'invalidité dès le 1er septembre 2002, par décision du 17 juin 2004, considérant notamment que l'activité de chauffeur-livreur se révélait compatible avec les limitations fonctionnelles retenues par les spécialistes du SMR. L'assuré a formé opposition contre cette décision en contestant le début et le taux de l'incapacité de travail retenue ainsi que le calcul du revenu sans invalidité. L'OAI a soumis le cas au docteur C._ (médecin chef-adjoint du SMR), lequel a retenu, sur la base des pièces médicales au dossier, une incapacité de travail moyenne de 50% depuis août 1997 (cf. rapport du 4 mai 2005). L'assuré a ensuite produit un rapport du docteur R._ (spécialiste FMH en médecine interne et maladies rhumatismales), du 17 juin 2005, lequel a indiqué que son patient souffrait depuis 1996 d'un rhumatisme inflammatoire. Il n'avait jamais constaté de limitation importante de la mobilité ni d'inflammation articulaire nette. Il s'agissait donc surtout d'un syndrome douloureux qui pouvait, en partie du moins, être mis sur le compte du rhumatisme inflammatoire. Il existait par ailleurs un état anxieux important qui contribuait à majorer les symptômes somatiques. Le docteur R._ concluait, sur le plan rhumatologique, à une incapacité de travail modérée de 30% à 50% au plus en fonction de l'intensité du rhumatisme inflammatoire. Dans un rapport du 13 juillet 2005, le docteur Q._ (spécialiste FMH en médecine interne et médecin traitant du recourant), a noté qu'en raison des douleurs liées à la maladie de Bechterev et d'un état anxio-dépressif difficilement équilibré, le taux de capacité de travail était de 20% au maximum.
Par une nouvelle décision du 28 juin 2005, l'OAI a partiellement admis l'opposition en ce sens qu'il a octroyé à l'assuré une demi-rente d'invalidité dès le 1er août 1998.
B. F._ a recouru contre cette décision devant le Tribunal des assurances du canton de Vaud en concluant, préalablement, à la mise en oeuvre d'une expertise médicale et, principalement, à l'octroi d'une rente d'invalidité fondée sur un "taux d'incapacité de 75%".
Par jugement du 29 août 2007, le Tribunal des assurances a rejeté le recours et confirmé la décision du 28 juin 2005.
C. F._ interjette un recours en matière de droit public contre ce jugement en concluant, principalement, à l'octroi d'une rente fondée sur un degré d'invalidité de 75% dès le 1er août 1997 et, subsidiairement, à l'annulation du jugement attaqué.

Considérant en droit:
1. 1.1 Le recours en matière de droit public (<ref-law>) peut être formé pour violation du droit selon les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. <ref-ruling> consid. 1.4 p. 140). Toutefois, eu égard à l'exigence de motivation contenue à l'art. 42 al. 1 et 2 LTF - sanctionnée par l'irrecevabilité des recours dont la motivation est manifestement insuffisante (<ref-law>) -, le Tribunal fédéral n'examine en principe que les griefs invoqués, pour autant que les vices juridiques ne soient pas manifestes; il n'est pas tenu de traiter, comme le ferait une autorité de première instance, toutes les questions juridiques qui se posent, lorsque celles-ci ne sont pas ou plus discutées devant lui.
1.2 Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (<ref-law>). Il peut cependant rectifier ou compléter d'office les constatations de l'autorité précédente si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'<ref-law> (<ref-law>). Le recourant qui entend s'écarter des constatations de l'autorité précédente doit expliquer de manière circonstanciée en quoi les conditions d'une exception prévue par l'<ref-law> seraient réalisées, sinon il n'est pas possible de tenir compte d'un état de fait qui diverge de celui contenu dans la décision attaquée (<ref-ruling> consid. 1.4.3 p. 254; <ref-ruling> consid. 1.3 p. 152).
1.3 En ce qui concerne l'évaluation de l'invalidité, les principes relatifs au pouvoir d'examen développés dans l'<ref-ruling> (en relation avec l'art. 132 OJ dans sa version en vigueur du 1er juillet au 31 décembre 2006) continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application qu'elle fait du droit (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (<ref-ruling> consid. 3.2 p. 398).
2. 2.1 Sur le fond, les premiers juges ont considéré que l'instruction à laquelle avait procédé l'OAI sur le plan médical était suffisante pour permettre de statuer en connaissance de cause, de sorte qu'ils ont rejeté la demande d'expertise médicale complémentaire. En ce qui concerne l'état de santé du recourant, les premiers juges ont retenu, sur le plan somatique, que ce dernier présentait une pathologie rhumatologique chronique, depuis 1996 au moins, entrant dans le cadre d'une "spondylarthropathie HLAB 27 type syndrome de Reiter". La capacité de travail du recourant restait cependant entière dans une activité adaptée à ses limitations fonctionnelles telles qu'elles étaient décrites dans le rapport du SMR du 6 février 2004. Sur le plan psychique, le recourant présentait une patologie psychiatrique "d'accompagnement", fluctuante, décrite comme état anxio-dépressif, comme épisode récurrent de dépression réactionnelle ou épisode actuel moyen ou encore comme trouble de l'humeur avec caractéristiques dépressives. Les praticiens s'accordaient à souligner qu'il existait une "exagération" de la symptomatologie douloureuse, qualifiée de somatisation ou de syndrome somatoforme douloureux persistant. Selon la juridiction cantonale, il y avait lieu de retenir une incapacité de travail moyenne de 50% au plus depuis le 1er août 1997. S'agissant enfin du revenu sans invalidité, les premiers juges ont constaté qu'il avait été fixé à 52'000 fr. par l'OAI alors que le recourant se fondait sur un montant de 58'152 fr. 25 réalisé dans son ancienne profession comme chauffeur-livreur. Dans la mesure où la capacité de travail résiduelle du recourant était de 50% dans toute activité adaptée à ses limitations fonctionnelles et que la profession exercée préalablement comme chauffeur-livreur respectait ces limitations, le taux d'invalidité du recourant s'élevait à 50%, quel que soit le revenu sans invalidité pris en considération.
2.2 La juridiction cantonale a expliqué de façon circonstanciée les raisons pour lesquelles on devait retenir une incapacité de travail de 50% depuis le 1er août 1997, ouvrant le droit à une demi-rente dès le 1er août 1998. Les premiers juges ont procédé à une appréciation complète et rigoureuse des nombreuses pièces médicales au dossier. Ils ont en particulier expliqué pourquoi ils faisaient leurs les conclusions du SMR et s'écartaient de celles des médecins traitants du recourant. Sans remettre en cause la valeur probante des rapports du SMR, le recourant se contente d'alléguer que l'appréciation de sa capacité de travail et la fixation du dies a quo de sa rente d'invalidité par les premiers juges est erronée. Cela étant, il n'indique pas quels faits auraient été retenus de manière erronée et ne discute pas, de quelque manière que ce soit, l'argumentation des premiers juges. Sous l'empire de la LTF, pareille motivation n'est cependant pas suffisante. Compte tenu de son pouvoir d'examen restreint (cf. consid. 1 supra), il n'appartient pas au Tribunal fédéral de procéder une nouvelle fois à l'appréciation des preuves administrées, mais à la partie recourante d'établir en quoi celle opérée par l'autorité cantonale serait manifestement inexacte ou incomplète, ou en quoi les faits constatés auraient été établis au mépris de règles essentielles de procédure. En l'absence de toute argumentation dans ce sens, il n'y a pas lieu de s'écarter des faits retenus par la juridiction cantonale, ni de l'appréciation qu'elle en a faite. Il en va de même en ce qui concerne le début du droit à la rente. En effet, dès lors que le recourant se contente d'affirmer qu'il a droit à une rente à compter du 1er août 1997, sans chercher à démontrer en quoi la fixation par les premiers juges du dies a quo au 1er août 1998 reposerait sur un état de fait manifestement erroné, son grief est infondé. Dans la mesure où la demande de prestations a été déposée le 15 janvier 1999, le recourant ne pouvait de toute manière pas prétendre à l'allocation d'une rente pour le mois d'août 1997 déjà (cf. art. 48 al. 2 première phrase LAI, dans sa teneur en vigueur jusqu'au 31 décembre 2007).
3. Compte tenu de l'issue du litige, les frais de justice doivent être supportés par le recourant qui succombe (art. 66 al. 1, 1ère phrase, LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal des assurances du canton de Vaud, à l'Office fédéral des assurances sociales et à la Caisse cantonale vaudoise de compensation AVS.
Lucerne, le 29 août 2008
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Fretz