Faits:
A. A.a H._, né en 1950, a travaillé en dernier lieu comme chapeur auprès de la société X._ SA, jusqu'à la résiliation de ses rapports de travail au 28 février 2002. Le 21 décembre 1999, il a présenté une demande de prestations de l'assurance-invalidité en raison d'une atteinte au dos et aux genoux. Instruisant la cause, l'Office cantonal de l'assurance-invalidité du canton de Genève (ci-après: l'OCAI) a notamment recueilli l'avis du médecin traitant de l'assuré, le docteur W._ (spécialiste FMH en médecine interne et tropicale), lequel a posé le diagnostic de lombosciatalgies gauches chroniques et de gonarthrose débutante avec syndrome fémoro-patellaire bilatéral (rapport du 28 octobre 2002). A la demande de l'OCAI, ce médecin a complété son rapport en date du 3 décembre 2002, précisant que H._ pouvait probablement travailler à 100 % dans une activité adaptée à ses limitations physiques.
A.b Par décision du 26 janvier 2004, confirmée sur opposition le 7 juin suivant, l'OCAI a alloué à l'assuré un quart de rente d'invalidité dès le 1er octobre 1999 et confié un mandat d'aide au placement à son service de réadaptation. Après recours de l'assuré auprès de l'instance cantonale, à l'appui duquel il a produit divers rapports médicaux (cf. rapports des docteurs B._, [spécialiste FMH en neurologie], du 18 mars 2004, M._ [spécialiste en chirurgie orthopédique], des 6 avril, 8 et 14 juin 2004 et K._ [spécialiste FMH en médecine interne et maladies rhumatismales], du 25 juin 2004), l'OCAI a soumis le dossier à son service médical régional (SMR) qui a préconisé une évaluation médicale globale (rapport du 25 août 2004). Aussi, l'OCAI a annulé sa décision sur opposition du 7 juin 2004 (décision du 3 septembre 2004) et repris l'instruction du dossier. Il a confié une expertise interdisciplinaire au Centre d'expertise médicale Z._. Dans leur rapport du 27 janvier 2006, les experts ont constaté que la capacité de travail de l'assuré était nulle en tant que chapeur mais entière dans une activité adaptée à ses limitations fonctionnelles. Se fondant sur ces conclusions, l'OCAI a confirmé sa décision initiale du 26 janvier 2004 (décision sur opposition du 28 avril 2006).
B. Par jugement du 1er mars 2007, le Tribunal des assurances du canton de Genève a rejeté le recours interjeté par H._ contre la décision sur opposition du 28 avril 2006.
C. H._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation en concluant, sous suite de frais et dépens, à l'octroi d'une rente entière d'invalidité dès le 1er octobre 1999.
Le Tribunal fédéral a renoncé à procéder à un échange d'écritures.

Considérant en droit:
1. 1.1 Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon l'art. 95 sv. LTF. Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF) et peut rectifier ou compléter d'office les constatations de celle-ci si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
1.2 Au regard de la réglementation sur le pouvoir d'examen prévue par la LTF, il convient d'examiner sur la base des griefs soulevés dans le recours formé devant le Tribunal fédéral si le jugement entrepris viole (notamment) le droit fédéral dans l'application des règles pertinentes du droit matériel et de preuve (art. 95 let. a LTF), y compris une éventuelle constatation des faits contraire au droit (art. 97 al. 1, art. 105 al. 2 LTF). En revanche, sous l'empire de la LTF, il n'y a pas lieu de procéder à un libre examen du jugement attaqué sous l'angle des faits (sauf si le recours est dirigé contre une décision concernant l'octroi ou le refus de prestations en espèces de l'assurance-accidents et de l'assurance militaire; art. 97 al. 2 LTF). De même, n'y a-t-il pas à vérifier l'exercice par la juridiction cantonale de son pouvoir d'appréciation sous l'angle de l'opportunité (selon les principes développés dans l'<ref-ruling> consid. 6 p. 81 en relation avec la version en vigueur du 1er juillet au 31 décembre 2006 de l'art. 132 de la loi fédérale d'organisation judiciaire [OJ], abrogée depuis).
1.3 En ce qui concerne l'évaluation de l'invalidité, les principes relatifs au pouvoir d'examen développés dans l'<ref-ruling> consid. 3 p. 397 ss (en relation avec l'art. 132 OJ dans sa version en vigueur du 1er juillet au 31 décembre 2006) continuent à s'appliquer pour distinguer les constatations de fait de l'autorité précédente (qui lient en principe le Tribunal fédéral) de l'application qu'elle fait du droit (question qui peut être examinée librement en instance fédérale). Conformément à ces principes, les constatations de l'autorité cantonale de recours sur l'atteinte à la santé, la capacité de travail de l'assuré et l'exigibilité relèvent d'une question de fait et ne peuvent être contrôlées que sous un angle restreint (<ref-ruling> consid. 3.2 p. 398).
2. Le jugement entrepris expose correctement les règles légales et la jurisprudence sur la notion d'invalidité (art. 7 et 8 LPGA) - en particulier en présence de troubles somatoformes douloureux -, son évaluation et le degré de cette dernière ouvrant le droit à une rente (art. 16 LPGA et art. 28 LAI), la tâche du médecin dans le cadre de l'évaluation de l'invalidité (<ref-ruling> consid. 4, 115 V 134 consid. 2, 114 V 314 consid. 3c, 105 V 158 consid. 1), le principe de la libre appréciation des preuves et du devoir qui en découle de procéder à une appréciation complète, rigoureuse et objective des rapports médicaux, en relation avec leur contenu et la nécessité d'indiquer les raisons pour lesquelles l'administration ou le juge se fonde sur une opinion médicale plutôt qu'une autre (<ref-ruling> consid. 4.1 et les références) et enfin, la valeur probante d'une expertise médicale (<ref-ruling> s. consid. 1c et les références). Il suffit d'y renvoyer.
3. 3.1 Les premiers juges ont retenu, de manière à lier la Cour de céans, qu'au vu des diagnostics retenus dans l'expertise pluridisciplinaire du Centre d'expertise médicale Z._ du 27 janvier 2006 (trouble somatoforme douloureux, gonarthrose gauche fémoro-tibiale et probable pathologie de la coiffe des rotateurs de l'épaule droite), le recourant n'était plus en mesure d'exercer son ancienne activité de chapeur mais que dans une activité adaptée (sans position agenouillée ni de montée ou descente des escaliers ou d'échelles, avec limitation des ports de charges, alternance des positions, limitation des mouvements d'antéflexion du tronc, et sans marche prolongée), il disposait d'une capacité résiduelle de travail de 100 %. Dans la mesure où le recourant reproche à la juridiction cantonale d'avoir suivi l'avis des médecins du Centre d'expertise médicale Z._ et non ceux des docteurs K._ et B._ qui concluaient à une incapacité de travail de 2/3 au moins, il se plaint d'une violation de la libre appréciation des preuves et du devoir qui en découle de procéder à une appréciation complète, rigoureuse et objective des rapports médicaux, en relation avec leur contenu. Ce grief - lequel constitue une violation du droit - est infondé. En effet, la juridiction cantonale a exposé clairement et de manière convaincante pourquoi elle ne s'est pas fondée sur l'avis des docteurs K._ et B._ invoqués par le recourant. Par ailleurs, il y a lieu d'ajouter qu'au vu de la divergence consacrée par la jurisprudence entre un mandat de soins et un mandat d'expertise (cf. arrêt I 701/05 du 5 janvier 2007, consid. 2 et les nombreux arrêts cités, dont en particulier l'<ref-ruling> consid. 4 p. 175), on ne saurait remettre en cause une expertise ordonnée par l'administration ou le juge et procéder à de nouvelles investigations du seul fait qu'un ou plusieurs médecins traitants ont une opinion contradictoire. Il n'en va différemment que si ces médecins traitants font état d'éléments objectifs ayant été ignorés dans le cadre de l'expertise et qui sont suffisamment pertinents pour remettre en cause les conclusions de l'expertise. Cette hypothèse n'étant toutefois pas donnée dans le cas d'espèce, c'est à juste titre que les premiers juges se sont fondés, sans violer le droit fédéral, sur les conclusions du Centre d'expertise médicale Z._ et qu'ils ont conclu que le recourant pouvait encore exercer une activité adaptée à plein temps.
3.2 Examinant ensuite les revenus sans et avec invalidité fixés par l'intimé, la juridiction cantonale les a confirmés. Dans la mesure où le recourant conteste le revenu d'invalide déterminé sur la base d'une appréciation concrète des preuves, il s'agit d'une question de fait que le Tribunal fédéral revoit avec un pouvoir d'examen restreint (<ref-ruling> consid. 3.3 p. 399). Or, là non plus il n'y a pas lieu de remettre en cause le résultat des constatations des faits opéré par l'instance précédente. Le recourant ne démontre au demeurant pas en quoi la comparaison des revenus à laquelle ont procédé les premiers juges serait manifestement inexacte ou incomplète.
Au vu de ce qui précède, il n'y a pas de motif de s'écarter des faits retenus par la juridiction cantonale, ni de l'appréciation qu'elle en a faite. Manifestement infondé, le recours doit être rejeté.
4. Compte tenu de l'issue du litige, les frais de justice doivent être supportés par le recourant qui succombe (art. 66 al. 1 première phrase LTF en relation avec l'art. 65 al. 4 let. a LTF).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le présent arrêt est communiqué aux parties, au Tribunal cantonal des assurances sociales de la République et Canton de Genève et à l'Office fédéral des assurances sociales.
Lucerne, le 22 janvier 2008
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Fretz