Faits:
A. Par décision du 29 octobre 2010, confirmée sur opposition le 9 novembre 2010, la Caisse cantonale vaudoise de compensation AVS (ci-après: la caisse) a octroyé à S._ des prestations complémentaires pour un montant mensuel de 3'857 fr., en tenant compte d'un revenu hypothétique de son épouse.
L'assuré a déféré la décision sur opposition au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, en reprenant le grief formulé dans son opposition, à savoir qu'il n'était pas justifié de retenir un revenu hypothétique de son épouse.
Le 11 février 2011, la caisse a informé le Tribunal cantonal du canton de Vaud qu'elle comptait procéder à un nouvel examen du dossier et a demandé à cet effet un délai supplémentaire pour répondre.
Le 11 mars 2011, la caisse a déclaré qu'elle allait reprendre le calcul des prestations complémentaires en faisant abstraction du revenu hypothétique attribué à l'épouse, précisant que le recours de l'assuré était ainsi devenu sans objet.
Le Tribunal cantonal du canton de Vaud a alors proposé à S._ de retirer son recours, étant donné "l'annulation" de la décision litigieuse par la caisse.
La caisse a informé l'assuré que les prestations complémentaires s'élevaient désormais à 4'810 fr. pour l'année 2010, respectivement à 4'888 fr. pour l'année 2011 (courriel du 18 mars 2011).
Dans un courrier du 22 mars 2011, l'assuré a déclaré retirer son recours, sous réserve qu'une décision soit prise sur les frais et dépens.
B. Par jugement du 25 mars 2011, la Cour des assurances sociales du Tribunal cantonal du canton de Vaud a rayé la cause du rôle par suite de retrait du recours (ch. I du dispositif) et prononcé qu'il n'était pas perçu de frais judiciaires, ni alloué de dépens (ch. II du dispositif).
C. S._ interjette un recours en matière de droit public contre ce jugement, dont il demande l'annulation. Sous suite de frais et dépens, il conclut au renvoi de la cause au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, pour que lui soient attribués des dépens dans le sens des considérants. Il a par ailleurs sollicité le bénéfice de l'assistance judiciaire et produit un arrêt de la juridiction cantonale du 20 avril 2011.
La caisse intimée s'en remet à justice. Le Tribunal cantonal n'a formulé aucune observation particulière. Quant à l'Office fédéral des assurances sociales, il a renoncé à se déterminer.
Considérant en droit:
1. En l'espèce, le recours est dirigé contre un jugement par lequel l'autorité cantonale de recours a rayé l'affaire du rôle sans frais ni dépens. Il s'agit d'une décision au sens de l'art. 82 let. a LTF, en lien avec l'art. 86 al. 1 let. d LTF, contre laquelle la voie du recours en matière de droit public est ouverte, dans la mesure où elle met fin à la procédure conformément à l'art. 90 LTF (arrêt 9C_726/2010 du 14 septembre 2011 consid. 1).
2. Le recours en matière de droit public peut être formé pour violation du droit selon les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. ATF 130 III 136 consid. 1.4 p. 140).
3. Le présent litige porte sur le droit du recourant à des dépens pour la procédure cantonale.
4. Après avoir rappelé que selon la jurisprudence le retrait d'un recours ne pouvait être conditionnel, la juridiction cantonale a, sans autre motivation, rayé la cause du rôle par suite du retrait du recours de l'assuré, sans percevoir de frais judiciaires, ni allouer de dépens.
Selon le recourant, dès lors que la caisse avait adhéré à ses conclusions et annulé sa décision sur opposition, la Cour des assurances sociales du Tribunal cantonal du canton de Vaud aurait dû retenir qu'il avait obtenu gain de cause et lui octroyer des dépens sur la base de l'art. 61 let. g LPGA. Invoquant une violation des art. 61 let. d LPGA et 9 Cst., le recourant soutient en outre que la juridiction cantonale ne pouvait accepter le retrait de son recours cantonal sans admettre la condition qui y était attachée, à savoir que des dépens lui soient alloués.
5. 5.1 Selon la jurisprudence, un retrait du recours doit faire l'objet d'une déclaration expresse et ne saurait être conditionnel ou tacite (ATF 119 V 38 consid. 1b, 111 V 158 consid. 3b). Il ressort du jugement entrepris que la juridiction cantonale a accepté le retrait du recours de l'assuré, malgré la condition qui y était assortie, à savoir qu'une décision soit prise sur les frais et dépens. Or, vu l'absence de volonté inconditionnelle du recourant de retirer son recours, celui-ci étant d'accord de le retirer à la condition que des dépens lui soient alloués, la juridiction cantonale n'aurait pas dû accepter le retrait du recours, mais considérer que ce dernier était toujours pendant devant elle. La caisse ayant annoncé qu'elle allait revoir sa décision dans le sens des conclusions du recourant, acquiesçant ainsi au recours, la juridiction cantonale aurait alors dû constater que le recours était devenu sans objet et rayer la cause du rôle pour ce motif. Par conséquent, le chiffre I du dispositif du jugement cantonal doit être modifié en ce sens que la cause est rayée du rôle, le recours étant devenu sans objet.
5.2 Le droit aux dépens dans la procédure devant le tribunal cantonal des assurances est réglé par l'art. 61 let. g LPGA. Cette disposition vaut pour tous les litiges portés devant le tribunal cantonal des assurances (art. 57 et 58 LPGA), comme c'est le cas en l'espèce, dès lors que la juridiction cantonale était appelée à statuer en instance unique sur le recours de l'assuré dans un domaine des assurances sociales.
En vertu de l'art. 61 let. g LPGA, le recourant qui obtient gain de cause a droit au remboursement de ses frais et dépens dans la mesure fixée par le tribunal; leur montant est déterminé sans égard à la valeur litigieuse d'après l'importance et la complexité du litige. Le point de savoir si et à quelles conditions une partie a droit à des dépens en instance cantonale de recours lorsqu'elle obtient gain de cause relève du droit fédéral et dépend, d'une part, de l'issue du litige et, d'autre part, de la personne de l'ayant droit (cf. ATF 129 V 113 consid. 2.2 p. 115 et les arrêts cités). La fixation du montant de l'indemnité de dépens ressortit en revanche au droit cantonal et échappe, en principe, à la compétence du Tribunal fédéral (cf. ATF 133 III 462 consid. 2.3 p. 466; 133 II 249 consid. 1.2.1 p. 251).
5.3 L'art. 85 al. 2 let. f LAVS (en vigueur jusqu'au 31 décembre 2002) disposait que le recourant qui obtenait gain de cause avait droit au remboursement de ses frais et dépens, ainsi que de ceux de son mandataire, dans la mesure fixée par le juge. Selon la jurisprudence relative à cette disposition et qui demeure applicable dans le cadre de l'art. 61 let. g LPGA, lorsque la cause est devenue sans objet, les dépens sont répartis en tenant compte de l'état de fait existant avant l'événement mettant fin au litige et de l'issue probable de celui-ci (arrêt C 56/03 du 20 août 2003 consid. 3.1, in SVR 2004 ALV Nr. 8 p. 22; ATF 110 V 54 consid. 3a p. 57, 109 V 70 p. 71 s. consid. 1 p. 71 s., 108 V 270 consid. 1 p. 271). Cette règle est d'ailleurs expressément prévue à l'art. 72 PCF. Le principe de causalité s'applique également en ce qui concerne les frais et dépens (arrêt I 83/06 du 24 juillet 2006 consid. 2.2). En conséquence, les frais et dépens sont supportés en premier lieu par la partie qui a provoqué la procédure devenue sans objet ou chez qui sont intervenues les causes qui ont conduit à ce que cette procédure devienne sans objet (ATF 118 Ia 488 consid. 4a p. 494; 125 V 373; arrêt H 223/82 du 6 février 1984 consid. 5, non publié in ATF 110 V 132).
5.4 Dans le cas particulier, c'est l'annonce par la caisse qu'elle allait reprendre le calcul des prestations complémentaires en faisant abstraction d'un revenu hypothétique de l'épouse, suivant ainsi l'argumentation du recourant, qui a mis fin au litige, rendant le recours de l'assuré sans objet. Cela étant, eu égard au principe de causalité, il y a lieu de considérer que le recourant, qui s'est vu reconnaître le droit aux prestations complémentaires pour le montant (de 4809 fr. 40) qu'il réclamait selon les conclusions de son recours cantonal, a obtenu gain de cause et qu'il peut de ce fait prétendre une indemnité de dépens.
Par conséquent, il sied de réformer le chiffre II du jugement entrepris dans la mesure où il n'alloue aucune indemnité de dépens au recourant et de renvoyer la cause à la juridiction cantonale pour qu'elle fixe le montant de ces derniers conformément aux critères prévus par le droit cantonal.
6. Au regard de la motivation contradictoire retenue par la juridiction cantonale à l'appui du jugement entrepris, celle-ci s'étant écartée sans raison de la jurisprudence constante rendue en matière de retrait d'un recours, il se justifie de mettre les frais de justice de la présente procédure à la charge de l'Etat de Vaud, qui devra également supporter l'indemnité de dépens à laquelle le recourant a droit (art. 66 al. 1 et 3, 68 al. 1 et 4 LTF). La demande d'assistance judiciaire du recourant est dès lors sans objet.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est admis. Le jugement du Tribunal cantonal du canton de Vaud, Cour des assurances sociales, du 25 mars 2011, est réformé au sens des considérants, la cause étant renvoyée à ce tribunal pour qu'il fixe les dépens dus au recourant pour la procédure cantonale.
2. Les frais judiciaires arrêtés à 500 fr. sont mis à la charge de l'Etat de Vaud.
3. L'Etat de Vaud versera au recourant la somme de 2'800 fr. à titre de dépens pour la dernière instance.
4. Le présent arrêt est communiqué aux parties, au Tribunal cantonal du canton de Vaud, Cour des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 12 avril 2012
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: Meyer
La Greffière: Reichen