Faits:
A. A.a S._ a travaillé en qualité d'aide-fromager auprès de la Laiterie-Fromagerie X._, ainsi qu'en tant que concierge auprès de la Régie Y._ SA. Le 14 juillet 1996, l'intéressé a été victime d'une chute sur l'épaule gauche, alors qu'il transportait une meule de fromage. Le 23 janvier 1998, il est à nouveau tombé sur cette épaule. Présentant des séquelles de ces deux accidents, S._ a été mis au bénéfice d'une demi-rente d'invalidité à compter du 1er janvier 1999 sur la base d'une incapacité de travail de 30 % et d'un taux d'invalidité de 54 % (décision du 5 décembre 2001, confirmée par arrêt du 18 juin 2003 du Tribunal administratif du canton de Fribourg; aujourd'hui: Tribunal cantonal du canton de Fribourg, Cour des assurances sociales).
A.b Par la suite, une procédure de révision ayant été initiée, l'assuré a indiqué que son état de santé s'était aggravé depuis le mois de décembre 2001 en raison d'un état dépressif. Dans le cadre de l'instruction, l'Office de l'assurance-invalidité du canton de Fribourg (ci-après: l'office AI) a recueilli l'avis du docteur Z._, spécialiste FMH en médecine générale et médecin traitant, lequel a attesté l'apparition d'un état anxio-dépressif significatif et de troubles paniques avec trouble du comportement (depuis le 14 décembre 2001) et retenu une incapacité de travail d'au moins 80 % (rapport du 24 juin 2004). L'administration a confié un mandat d'expertise au Service W._; les docteurs A._ et H._, médecin-adjoint et médecin-assistante auprès de ce service, ont diagnostiqué un trouble dépressif récurrent, épisode actuel moyen, présent depuis janvier 2001, et retenu une incapacité de travail d'environ 50 % sur le plan psychique. Ils ont fixé l'incapacité de travail globale à 70 % (rapport du 18 août 2005). Après avoir pris conseil auprès de son Service médical régional (SMR), l'office AI a, par courrier du 23 mars 2006, invité S._ à suivre un traitement auprès d'un médecin psychiatre, voire à intensifier son traitement auprès de son médecin traitant.
Victime d'une chute (le 24 octobre 2005) entraînant une rupture étendue de la coiffe des rotateurs de l'épaule droite, l'assuré s'est vu reconnaître le droit à une rente entière d'invalidité à compter du 1er janvier 2006 fondé sur un taux d'invalidité de 70 % (projet d'acceptation de rente du 29 août 2008). Malgré les objections formulées par l'assuré, l'office AI a, par décision du 4 février 2009, confirmé son projet d'acceptation de rente, au motif qu'aucune aggravation de l'état de santé ne pouvait être retenue avant le 24 octobre 2005.
B. L'assuré a déféré cette décision au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, en concluant au droit à une rente entière d'invalidité à partir du 5 décembre 2001, voire à une date fixée à dire de justice. Par jugement du 13 mars 2012, le Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, a débouté l'assuré.
C. S._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Il conclut principalement, sous suite de dépens, à l'octroi d'une rente entière d'invalidité à compter du 1er janvier 2001 et à ce qu'aucun frais judiciaire ne soit perçu; subsidiairement, il requiert que la cause soit renvoyée au Tribunal cantonal pour complément d'instruction et nouvelle décision.
L'office AI conclut au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.

Considérant en droit:
1. Saisi d'un recours en matière de droit public (<ref-law>), le Tribunal fédéral exerce un pouvoir d'examen limité. Il applique le droit d'office (<ref-law>) et statue sur la base des faits retenus par l'autorité précédente (<ref-law>). Il peut néanmoins rectifier ou compléter d'office l'état de fait du jugement entrepris si des lacunes ou des erreurs manifestes lui apparaissent aussitôt (<ref-law>). Il examine en principe seulement les griefs motivés (<ref-law>) et ne peut pas aller au-delà des conclusions des parties (<ref-law>). Le recourant ne peut critiquer la constatation des faits importants pour le sort de l'affaire que si ceux-ci ont été établis en violation du droit ou de façon manifestement inexacte (<ref-law>).
Le Tribunal fédéral applique par ailleurs le droit d'office (<ref-law>). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. <ref-ruling> consid. 1.4 p. 140).
2. Il n'est pas contesté par les parties que le recourant a droit à une rente entière d'invalidité à compter du 1er janvier 2006 en raison de l'aggravation de son état de santé sur le plan somatique à la suite de sa chute survenue le 24 octobre 2005. Est seul litigieux le point de savoir si avant cette date l'état de santé du recourant s'est aggravé d'un point de vue psychiatrique de manière à influencer son droit à une demi-rente d'invalidité. Le jugement entrepris expose correctement les dispositions légales et la jurisprudence applicables en l'espèce, notamment par rapport à l'obligation de diminuer le dommage, si bien qu'il suffit d'y renvoyer.
3. Procédant à l'examen des pièces médicales, la juridiction cantonale a (implicitement) accordé pleine valeur probante à l'expertise des docteurs A._ et H._ du Service W._. Après avoir notamment constaté que l'appréciation (du 27 novembre 2008) du docteur M._, spécialiste FMH en médecine générale auprès du SMR, ne permettait pas de remettre en cause le diagnostic des experts psychiatres, le trouble dépressif dont souffrait le recourant ne pouvant être qualifié de léger contrairement à l'avis de ce médecin, l'autorité cantonale de recours s'est cependant écartée du taux d'incapacité de travail de 70 % retenu par ces derniers. Relevant que les traitements institués n'avaient ni duré, ni été suivis de manière correcte ou avaient simplement fait l'objet d'une fin de non recevoir de la part du recourant, malgré l'invitation formelle que l'intimé lui avait adressée en date du 23 mars 2006, il n'y avait pas lieu, selon les premiers juges, de retenir une incapacité de travail du point de vue psychique. Comme le recourant disposait des ressources psychoaffectives suffisantes, les juges cantonaux ont estimé qu'on pouvait raisonnablement exiger de sa part qu'il suive un traitement psychiatrique et qu'il reprenne une activité professionnelle pour diminuer son dommage. C'était donc à bon droit que l'intimé avait considéré qu'il n'y avait eu aucune détérioration de l'état de santé avant le 24 octobre 2005 et fixé le début du droit à une rente entière d'invalidité au 1er janvier 2006, soit trois mois après l'aggravation des troubles somatiques.
4. Le recourant soutient que les premiers juges ne pouvaient constater une violation de l'obligation de diminuer le dommage en se fondant sur le courrier de l'intimé l'invitant à suivre un traitement médical. En effet, dans la mesure où il datait du 23 mars 2006, le courrier en question ne pouvait produire des effets juridiques pour une période antérieure au 1er janvier 2006, seule litigieuse en l'espèce, dès lors que le droit à une rente entière d'invalidité avait été reconnu à l'intéressé à compter du 1er janvier 2006. Le recourant conteste également les constatations des premiers juges, selon lesquelles il n'aurait suivi aucun traitement.
5. 5.1 En premier lieu, il convient de relever - et il y a lieu de compléter les constatations de fait du jugement entrepris (cf. <ref-law>) - que la question de l'inadéquation du traitement suivi par le recourant auprès de son médecin traitant n'a été soulevée pour la première fois que lors de l'expertise du Service W._ (cf. rapport du 18 août 2005). A la suite de cette expertise, dans leur avis du 5 octobre 2005, les docteurs U._ et F._, médecins auprès du SMR, ont évoqué la possibilité que le recourant reprenne une activité professionnelle et d'exiger de sa part qu'il se soumette à un traitement médical plus adéquat. Se fondant sur les conclusions de ces médecins, l'intimé a envoyé au recourant un courrier (daté du 23 mars 2006) l'invitant à se soumettre à un traitement psychiatrique ou, en cas de refus de sa part, à intensifier le traitement auprès du médecin traitant. Comme l'a relevé à juste titre le recourant, avant cette date, aucune mise en demeure ne lui avait été adressée par l'intimé. Ainsi, en l'absence de mise en demeure antérieure à celle du 23 mars 2006, les premiers juges ne pouvaient, sous peine de contrevenir au droit fédéral, retenir une violation de l'obligation de diminuer le dommage au motif que le recourant n'avait pas donné suite au courrier de l'intimé et en tenir compte dans leur appréciation de la capacité de travail résiduelle pour la période antérieure au 1er janvier 2006. En effet, le courrier du 23 mars 2006 - pour autant qu'il remplisse les réquisits légaux et jurisprudentiels développés en matière d'obligation de diminuer le dommage - n'était pas susceptible de produire des effets pour une période antérieure à sa notification, et partant n'était d'aucun secours à la juridiction cantonale pour apprécier la capacité de travail résiduelle du recourant avant le 1er janvier 2006, seule déterminante en l'espèce (cf. supra consid 2).
5.2 Le fait que les traitements n'ont ni duré, ni été suivis correctement, comme l'ont souligné les premiers juges, ne permettait pas davantage de s'écarter du taux d'incapacité de travail retenu par les experts du Service W._. Tout d'abord, on relèvera que ces éléments ont été pris en compte et discutés par les experts psychiatres. Par ailleurs, ces médecins ont relativisé l'impact que pourrait avoir un traitement suivi de façon adéquate sur la capacité de travail résiduelle du recourant, constatant qu'un traitement psychotrope antidépresseur pris de façon correcte et un suivi régulier par le médecin traitant ou un médecin psychiatre n'auraient que peu d'effets sur la capacité de travail résiduelle, permettant au mieux d'améliorer modérément la qualité de vie de l'assuré. En outre, au regard de la faible motivation du recourant à entreprendre un traitement psychiatrique et une capacité d'introspection limitée, les experts psychiatres ont estimé que le suivi régulier offert par le docteur Z._, ce qui semble avoir été le cas depuis août 1996 (cf. rapports des 28 juin 2002 et 24 juin 2004), représentait actuellement le traitement le plus approprié. Il résulte également des conclusions des docteurs U._ et F._ que les effets positifs de la reprise d'une activité professionnelle, associée à un traitement médical idoine, sur la capacité de travail résiduelle, ne se feraient sentir qu'après un certain temps. Ainsi, selon les médecins du SMR, le taux d'incapacité de travail au début des rapports de travail serait toujours de 70 %. Ce n'est qu'après un certain temps qu'il pourrait s'améliorer et atteindre le taux de 50 %.
5.3 Dans ces circonstances, la juridiction cantonale, ne pouvait, sans tomber dans l'arbitraire, déduire des conclusions des experts et de celles des médecins du SMR qu'il aurait suffi au recourant (au regard de l'obligation de diminuer le dommage) de reprendre une activité professionnelle et de suivre un traitement médical adapté pour recouvrer une pleine capacité de travail. A cet égard, le raisonnement des premiers juges ne peut être suivi.
6. 6.1 Pour le reste, l'appréciation des preuves opérée par la juridiction cantonale, qui l'a conduite à privilégier les conclusions de l'expertise du Service W._, auxquelles elle a (implicitement) accordé pleine valeur probante, au détriment de celles du médecin traitant et du docteur M._, n'apparaît pas arbitraire. En ce qui concerne la détermination du taux d'incapacité de travail globale de 70 %, les premiers juges ont expliqué que les experts s'étaient trompés en se fondant sur un taux d'incapacité de travail de 50 % sur le plan somatique en lieu et place du taux d'incapacité de travail de 30 % effectivement retenu par l'intimé dans sa décision du 5 décembre 2001. Toutefois, selon leurs constatations, cette erreur ne portait pas à conséquence. Dès lors qu'il s'agit de constatations de fait, lesquelles ne sont pas remises en cause par le recourant et n'apparaissent pas manifestement inexactes, ni contraires au droit, il n'y a pas lieu de s'en écarter. Par conséquent, il convient de se fonder sur un taux d'incapacité de travail globale de 70 %, lequel ouvre le droit à une rente entière d'invalidité, dès lors que selon le calcul du taux d'invalidité retenu par l'intimé - qui n'est pas contesté par le recourant -, le taux d'incapacité de travail globale de 50 % donne déjà droit en l'espèce à une rente entière d'invalidité (cf. décision du 4 février 2009).
6.2 Il convient encore de déterminer le début du droit du recourant à une rente entière d'invalidité en raison de l'apparition de ses problèmes psychiques.
En vertu de l'<ref-law>, l'augmentation de la rente prend effet, si la révision est demandée par l'assuré, au plus tôt dès le mois où cette demande est présentée (let. a), si la révision a lieu d'office, dès le mois pour lequel celle-ci avait été prévue (let. b).
En l'occurrence, il ressort des constatations de la juridiction cantonale que la procédure de révision a été introduite en novembre 2003. Conformément à l'<ref-law>, le dies a quo de la rente entière d'invalidité à verser au recourant ne peut donc prendre effet au plus tôt qu'au 1er novembre 2003. Par conséquent, il n'y a pas lieu d'examiner à quel moment précisément sont apparus les troubles psychiques, à savoir si c'est au mois de janvier 2001, comme l'ont retenu les experts du Service W._, ou au mois de décembre 2001, comme semble le constater le docteur Z._.
7. 7.1 Au vu de ce qui précède, le recours doit être partiellement admis et le jugement attaqué, ainsi que la décision administrative du 4 février 2009 réformés, en ce sens que le recourant a droit à une rente entière d'invalidité à partir du 1er novembre 2003.
7.2 Le recourant n'obtenant que partiellement gain de cause, les frais judiciaires sont répartis à parts égales entre lui et l'intimé (<ref-law>). Il a en outre droit à une indemnité de dépens réduite à la charge de l'intimé (<ref-law>).

Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est partiellement admis. Le jugement du Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, du 13 mars 2012 et la décision de l'Office de l'assurance-invalidité du canton de Fribourg du 4 février 2009 sont réformés, en ce sens que S._ a droit à une rente entière d'invalidité à compter du 1er novembre 2003. Le recours est rejeté pour le surplus.
2. Les frais judiciaires arrêtés à 500 fr. sont mis pour 250 fr. à la charge du recourant et pour 250 fr. à la charge de l'intimé.
3. L'intimé versera au recourant la somme de 1'400 fr. à titre de dépens pour la dernière instance.
4. La cause est renvoyée au Tribunal cantonal du canton de Fribourg, Cour des assurances sociales, pour nouvelle décision sur les frais et les dépens de la procédure antérieure.
5. Le présent arrêt est communiqué aux parties, au Tribunal cantonal de l'Etat de Fribourg, Chambre des assurances, et à l'Office fédéral des assurances sociales.
Lucerne, le 21 novembre 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
La Greffière: Reichen