Faits: A. A.a Souffrant d'un syndrome lombaire et cervical chronique qui l'empêche de travailler depuis le mois de juin 2002, J._, née en 1971, a déposé le 16 décembre 2002 une demande de prestations de l'assurance-invalidité. Se fondant sur les conclusions d'une expertise psychiatrique réalisée par le docteur G._, d'après lesquelles l'assurée - qui présentait un trouble douloureux associé à des facteurs psychologiques, un trouble de l'adaptation avec anxiété et humeur dépressive, un trouble de la personnalité non spécifié, des traits de personnalité fruste et psychosomatique, des troubles vertébraux dégénératifs discrets, une obésité et un état de surmenage professionnel - était capable, moyennant la prise d'un traitement anti-dépressif, d'exercer une activité lucrative adaptée à 50 % à compter du mois de septembre 2002 (rapport du 12 août 2003), l'Office de l'assurance-invalidité du canton de Fribourg (ci-après: l'office AI) a, par décisions des 30 septembre et 21 octobre 2004, confirmées sur opposition le 28 janvier 2005, alloué à l'assurée une rente entière d'invalidité pour la période courant du 1er juin au 31 août 2003, puis un quart de rente à compter du 1er septembre 2003. A.b Par jugement du 25 mai 2005, le Tribunal administratif du canton de Fribourg, Cour des assurances sociales, a rejeté le recours formé par l'assurée contre la décision du 28 janvier 2005. A.c Considérant que c'était à tort que l'office AI avait alloué une rente d'invalidité entière, puis partielle, l'assurée ayant toujours disposé d'une capacité entière de travail dans une activité lucrative adaptée, le Tribunal fédéral des assurances a, par arrêt I 520/05 du 28 décembre 2006, rejeté le recours de droit administratif interjeté par l'assurée contre le jugement de première instance. A.d Au mois d'avril 2007, l'office AI a entrepris la révision d'office du droit à la rente. Se référant aux considérants de l'arrêt du Tribunal fédéral des assurances du 28 décembre 2006, il a annulé sa décision du 30 septembre 2004, au motif que celle-ci était manifestement erronée, et l'a remplacée par une décision de refus de rente (décision du 29 février 2008). B. Par jugement du 14 octobre 2010, le Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, a admis le recours formé par l'assurée et annulé la décision du 29 février 2008. C. L'office AI interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation.