Faits: A. A.a M._, né en 1964, a déposé le 23 novembre 2000 une demande de prestations de l'assurance-invalidité auprès de l'Office de l'assurance-invalidité du canton de Fribourg (ci-après: l'office AI). Par décision du 31 octobre 2003, confirmée sur opposition le 6 février 2004 et par jugement de la Cour des assurances sociales du Tribunal administratif du canton de Fribourg du 29 septembre 2005, l'office AI a refusé d'allouer une rente à l'assuré. Par arrêt du 10 février 2006, le Tribunal fédéral des assurances a admis le recours, annulé la décision sur opposition et le jugement précités, et renvoyé la cause à l'office AI pour qu'il procède à un complément d'instruction (cause I 828/05). A.b A la suite de cet arrêt, l'office AI a confié la réalisation d'une expertise rhumatologique au docteur G._. Dans son rapport du 26 avril 2006, ce médecin a considéré, sur la base des diagnostics retenus, que l'assuré disposait d'une capacité résiduelle de travail de 85 % dans une activité légère excluant le port de charges supérieures à 10 kilos, les mouvements répétitifs du rachis en port-à-faux, les travaux de force avec le poignet gauche et l'exposition au froid, étant précisé que ce taux tenait compte de la diminution de rendement subie par l'assuré. Par décision du 20 décembre 2006, l'office AI a rejeté la demande de prestations de l'assuré, motif pris que le degré d'invalidité, fixé à 24 %, était insuffisant pour donner droit à une rente de l'assurance-invalidité. B. Par jugement du 16 septembre 2008, la Cour des assurances sociales du Tribunal cantonal du canton de Fribourg a rejeté le recours formé par l'assuré contre cette décision. Bien que corrigé à 37 %, le degré d'invalidité présenté par l'assuré demeurait insuffisant pour lui donner droit à un quart de rente d'invalidité. C. M._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut à l'octroi d'un quart de rente d'invalidité. L'office AI se rallie aux considérants du jugement attaqué, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.