Faits: A. A.a P._ a travaillé depuis 1992 en qualité d'ébarbeur au service de X._ SA. Le 15 janvier 1996, il a déposé une première demande de prestations de l'assurance-invalidité en raison d'arthrose au niveau des disques de la colonne vertébrale et d'une sciatique. Après instruction de son dossier, l'office de l'assurance-invalidité du canton du Jura (ci-après: l'office AI) lui a octroyé une demi-rente d'invalidité par décision du 19 juin 1997. Saisie d'un recours de l'intéressé contre cette décision, la Chambre des assurances du Tribunal cantonal jurassien l'a partiellement admis par jugement du 29 septembre 1998 et a renvoyé la cause à l'office AI pour complément d'instruction et nouvelle décision. A la suite de ce jugement, l'office AI a alloué à l'assuré une rente entière d'invalidité à partir du 1er février 1997, par décision du 23 juillet 1999. Dans le cadre d'une procédure de révision du droit à la rente, l'office AI a mandaté le docteur M._, spécialiste FMH en rhumatologie, d'une expertise sur la personne de l'assuré. Dans un rapport du 24 juin 2004, l'expert a posé le diagnostic de lombosciatalgie gauche non-déficitaire d'évolution chronique, d'anomalie jonctionnelle thoraco-lombaire et lombo-sacrée et de discopathie L4-L5 non évolutive. Il a conclu à une capacité résiduelle de travail de 70 % dans une activité adaptée. Se fondant sur les conclusions de cette expertise, l'office AI a supprimé le droit à la rente de l'assuré, par décision du 15 octobre 2004, au motif que son degré d'invalidité ne dépassait pas 35 %. L'assuré s'y est opposé le 10 novembre 2004 mais son opposition a été déclarée irrecevable faute de motivation. A.b Par nouvelle demande du 13 juin 2005, P._ a requis des mesures de réadaptation professionnelles, lesquelles lui ont été refusées par décision du 17 février 2006. L'assuré s'étant opposé à cette décision, l'office AI l'a mis au bénéfice d'une mesure d'orientation professionnelle, par décision du 27 avril 2006. A la suite de l'entretien de réadaptation professionnelle qu'il a eu avec l'office AI, l'assuré a fait l'objet d'une expertise rhumatologique effectuée par le Service médical régional de l'assurance-invalidité (SMR). Dans son rapport subséquent du 25 octobre 2006, la doctoresse H._, spécialiste FMH en médecine physique et rééducation, a posé comme diagnostic avec répercussion sur la capacité de travail des lombosciatalgies gauches non déficitaires dans le cadre d'une lombalisation partielle S1, un léger trouble statique et dégénératif, avec protrusions non compressives L4-L5 et L5-L6 et des cervico-brachialgies gauches dans le cadre d'un trouble statique et dégénératif étagé avec petite hernie discale latérale gauche C6-C7 non déficitaire. Dans son activité habituelle, l'assuré présentait une incapacité de travail totale; en revanche, dans une activité adaptée, la capacité de travail était de 70 %. L'assuré a en outre bénéficié d'un stage d'observation professionnelle en petite mécanique horlogère chez Y._ SA du 12 mars au 15 juillet 2007, suivi d'une formation au sein de cette même entreprise du 16 juillet au 28 octobre 2007 (cf. communications de l'office AI des 10 mai et 5 juillet 2007). Par décision du 11 avril 2008, l'office AI a accordé à P._ un quart de rente d'invalidité à partir du 1er mai 2008, fondée sur un degré d'invalidité de 43 %. Dans une deuxième décision du 16 mai 2008, il lui a également octroyé un quart de rente pour la période du 1er mars 2005 au 30 avril 2008. B. L'assuré ayant recouru séparément contre chacune de ces décisions, respectivement les 15 et 28 mai 2008, la Chambre des assurances du Tribunal cantonal jurassien a joint les causes et rejeté les deux recours par arrêt du 15 décembre 2009. C. P._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation, en concluant à l'octroi d'une rente fondée sur un taux d'invalidité de 60 %. Il requiert par ailleurs le bénéfice de l'assistance judiciaire. Par ordonnance du 22 février 2010, le Tribunal fédéral a rejeté la demande d'assistance judiciaire au motif que le recours semblait dénué de chances de succès.