Faits: A. A._ et B._ sont mariés depuis 1961. Ils perçoivent tous les deux une rente de vieillesse de l'AVS depuis le 1er décembre 1995, respectivement le 1er août 2004. Par jugement du 28 septembre 2007, la Chambre des assurances du Tribunal cantonal de la République et canton du Jura a admis un recours formé par A._ contre une décision de la Caisse de compensation de l'industrie suisse des machines (ci-après: la caisse de compensation) du 13 avril 2007 qui refusait de lui reconnaître un droit à des bonifications pour tâches éducatives. A la suite de ce jugement, la caisse de compensation a effectué un nouveau calcul des rentes valables depuis le 1er août 2004, en tenant compte des années de bonifications pour tâches éducatives dont les époux pouvaient se prévaloir (décisions du 31 octobre 2007). Les époux ont formé opposition contre ces décisions, s'étonnant que la rente alloué à A._ n'ait été recalculée qu'à partir du 1er août 2004. Par décision du 18 décembre 2007, la caisse de compensation a rejeté l'opposition. B. Par jugement du 10 mars 2009, la Chambre des assurances du Tribunal cantonal de la République et canton du Jura a rejeté le recours formé par les époux à l'encontre de la décision du 18 décembre 2007. C. A._ a interjeté le 31 mars 2009 un recours en matière de droit public contre ce jugement dont il a demandé l'annulation. La caisse de compensation et l'Office fédéral des assurances sociales ont renoncé à se déterminer. Le 7 août 2009, les époux ont déposé un nouveau mémoire de recours.