Faits:
A. H._, né en 1950, travaillait pour la Commune de X._ depuis 1996. Il a séjourné à l'étranger de 1999 à 2003, année au cours de laquelle il est revenu en Suisse. Le 10 août 2004, il s'est annoncé à l'assurance-invalidité. Par décision (sur opposition) du 12 juin 2006, l'Office de l'assurance-invalidité pour le canton de Vaud (ci-après: l'office AI) lui a alloué une rente entière d'invalidité avec effet au 1er novembre 2000. A la suite d'un recours de la Caisse de pensions du personnel communal de X._, cette décision a été annulée par le Tribunal des assurances du canton de Vaud (aujourd'hui, Tribunal cantonal, Cour des assurances sociales), qui a renvoyé la cause à l'office AI pour complément d'instruction (jugement du 2 novembre 2006).
Au vu des renseignements médicaux et professionnels qu'il a alors recueillis, l'office AI a octroyé à l'assuré une rente entière d'invalidité (fondée sur un degré d'invalidité de 100 % et assortie de rentes pour enfant), à partir du 1er août 2003, soit douze mois avant le dépôt de la demande, vu la tardiveté de celle-ci (décision datée des 29 août / 2 septembre 2008).
B. Saisis de recours à la fois de H._ et de la Caisse de pensions du personnel communal de X._, le Tribunal cantonal vaudois, Cour des assurances sociales, les a tous deux rejetés, par jugement du 26 mai 2009.
C. Agissant par la voie du recours en matière de droit public, H._ demande, sous suite de frais et dépens, la réforme du jugement cantonal en ce sens que lui soit reconnu le droit à une rente entière de l'assurance-invalidité à partir du 1er novembre 2000. Il sollicite par ailleurs le bénéfice de l'assistance judiciaire.
L'office AI conclut implicitement au rejet du recours, tandis que l'Office fédéral des assurances sociales a renoncé à se déterminer.
Considérant en droit:
1. Ni le droit du recourant à une rente entière de l'assurance-invalidité à partir du 1er août 2003, ni le degré d'invalidité qu'il présente et le moment de la survenance de celle-ci ne sont contestés. Seul est litigieux le point de savoir si la prestation allouée doit être versée pour une période antérieure, soit déjà à compter du 1er novembre 2000.
2. Le jugement entrepris expose correctement la teneur de l'art. 48 aLAI, applicable à la solution du litige, de sorte qu'on peut y renvoyer.
La juridiction cantonale a également rappelé que selon la jurisprudence, l'art. 48 al. 2 deuxième phrase aLAI s'applique lorsque l'assuré ne savait pas et ne pouvait pas savoir qu'il était atteint, en raison d'une atteinte à la santé physique ou mentale, d'une diminution de la capacité de gain dans une mesure propre à lui ouvrir le droit à des prestations. Cette disposition ne concerne en revanche pas les cas où l'assuré connaissait ces faits mais ignorait qu'ils donnent droit à une rente de l'assurance-invalidité (ATF 102 V 112 consid. 1a p. 113). Autrement dit, les «faits ouvrant droit à des prestations (que) l'assuré ne pouvait pas connaître», au sens de l'art. 48 al. 2 deuxième phrase aLAI, sont ceux qui n'étaient objectivement pas reconnaissables, mais non ceux dont l'assuré ne pouvait subjectivement pas saisir la portée (ATF 110 V 114 consid. 2c p. 119). Une restitution du délai doit également être accordée si l'assuré a été incapable d'agir pour cause de force majeure - par exemple en raison d'une maladie psychique entraînant une incapacité de discernement (ATF 108 V 226 consid. 4 p. 228) - et qu'il présente une demande de prestations dans un délai raisonnable après la cessation de l'empêchement. Il faut encore qu'il s'agisse d'une impossibilité objective, s'étendant sur la période au cours de laquelle l'assuré se serait vraisemblablement annoncé à l'assurance-invalidité s'il l'avait pu, et non d'une difficulté ou d'un motif subjectif, comme celui d'ignorer son droit ou de mal concevoir ses intérêts (ATF 102 V 112 consid. 2a p. 115). N'est pas déterminant le fait que les tiers énumérés à l'art. 66 RAI (dans sa teneur en vigueur jusqu'au 31 décembre 2007) avaient connaissance déjà précédemment des faits ouvrant le droit aux prestations (ATF 108 V 226 consid. 3 p. 228; arrêt I 132/83 du 2 mai 1984 consid. 1 in fine, in RCC 1984 p. 419).
3. 3.1 Le recourant reproche à la juridiction cantonale d'avoir apprécié arbitrairement les preuves et d'avoir constaté les faits de manière inexacte. Selon lui, elle ne pouvait déduire du fait qu'il avait eu deux enfants en 2002 et 2003 qu'il pouvait dès 1999 connaître les faits donnant droit à prestations et qu'il n'aurait pas été empêché de le faire par sa maladie. Il soutient par ailleurs qu'à la lumière de l'expertise du docteur S._ - expert psychiatre mandaté par la Justice de Paix des Districts de W._, de Y._ et de Z._ - et du témoignage de M._ (entendu en procédure cantonale le 2 mai 2009), il est établi que des troubles psychiques graves l'avaient objectivement empêché d'avoir conscience de son état et par conséquent de prendre une initiative à ce sujet. Aussi, serait-ce à tort que la juridiction cantonale n'a pas admis le cas de force majeure, à savoir que son atteinte à la santé l'empêchait de connaître les faits ouvrant droit à des prestations alors que les conditions d'un tel droit étaient déjà réalisées.
3. 3.1 Le recourant reproche à la juridiction cantonale d'avoir apprécié arbitrairement les preuves et d'avoir constaté les faits de manière inexacte. Selon lui, elle ne pouvait déduire du fait qu'il avait eu deux enfants en 2002 et 2003 qu'il pouvait dès 1999 connaître les faits donnant droit à prestations et qu'il n'aurait pas été empêché de le faire par sa maladie. Il soutient par ailleurs qu'à la lumière de l'expertise du docteur S._ - expert psychiatre mandaté par la Justice de Paix des Districts de W._, de Y._ et de Z._ - et du témoignage de M._ (entendu en procédure cantonale le 2 mai 2009), il est établi que des troubles psychiques graves l'avaient objectivement empêché d'avoir conscience de son état et par conséquent de prendre une initiative à ce sujet. Aussi, serait-ce à tort que la juridiction cantonale n'a pas admis le cas de force majeure, à savoir que son atteinte à la santé l'empêchait de connaître les faits ouvrant droit à des prestations alors que les conditions d'un tel droit étaient déjà réalisées.
3.2 3.2.1 La juridiction cantonale a constaté tout d'abord que pendant son séjour à l'étranger de 1999 à 2003, le recourant n'avait pas été totalement incapable d'effectuer une quelconque démarche, puisqu'il avait fondé une nouvelle famille. Quoi qu'en dise le recourant, qui est d'avis que la conception d'un enfant ne saurait être assimilée au fait de fonder un foyer, cette constatation n'est pas manifestement inexacte ou insoutenable. Des faits retenus par la juridiction cantonale - et qui ne sont pas contestés par le recourant -, il ressort qu'il a été en mesure en 2001 de nouer une nouvelle relation personnelle avec une femme qui est devenue son épouse en 2006 et dont il a eu deux enfants, en 2002 et 2003. Il n'apparaît pas arbitraire de déduire de l'existence de ces nouveaux liens affectifs que le recourant n'était pas totalement incapable d'effectuer toute démarche, puisqu'il a été en mesure de mener une vie de couple, puis de devenir père à deux reprises. Le fait qu'il a officialisé ces liens par un mariage en 2006 seulement n'y change rien.
3.2.2 Au regard de l'expertise du docteur S._ (du 19 décembre 2005) et de l'avis (du 25 août 2005) du docteur A._, que le recourant a consulté de janvier 2000 à mi-juillet 2003 à l'étranger, l'appréciation de l'autorité cantonale de recours ne peut pas non plus être qualifiée d'insoutenable, voire d'arbitraire. Les psychiatres ont certes diagnostiqué des troubles dépressifs récurrents, respectivement des troubles thymiques majeurs, probablement depuis 1999 et sûrement à la fin de l'année 2000, et fait état d'un dysfonctionnement personnel («négligence, perte d'initiative»), familial et social («évitement des contacts sociaux et apragmatisme total»). Ces troubles n'évoquent cependant pas l'existence d'une maladie mentale propre à faire douter de la capacité de discernement du recourant en relation avec l'acte en cause (annonce à l'assurance-invalidité suisse). On ne peut en effet considérer que les troubles dépressifs présentés par le recourant ont provoqué une incapacité de discernement durable au sens de l'art. 16 CC et l'ont empêché de manière continue pendant près de trois ans d'agir pour sauvegarder ses droits à l'égard de l'assurance-invalidité suisse. En particulier, l'indication du docteur S._ selon laquelle les troubles présentés par le recourant étaient de nature à l'empêcher d'informer son employeur au sujet de son incapacité de travail ne suffit pas pour démontrer que l'assuré était incapable de discernement pendant trois ans par rapport à toute démarche administrative et n'était durablement pas en mesure, le cas échéant avec l'aide d'un tiers, de se soucier de ses intérêts. La conclusion du psychiatre est en effet contredite par les faits constatés par la juridiction cantonale, selon lesquels l'ancien employeur du recourant avait reçu deux certificats médicaux transmis par fax les 3 novembre et 28 décembre 1999, attestant de l'incapacité de travail de l'assuré. Cet envoi - qui a été effectué par un ami, aux dires du recourant - démontre que l'assuré avait été en mesure de demander de l'aide à un tiers pour les (premières) démarches à entreprendre à l'égard de son ancien employeur.
On rappellera par ailleurs que l'existence d'un cas de force majeure au sens de l'art. 48 al. 2 aLAI n'a été admis par la jurisprudence que de façon restrictive, dans des situations où le diagnostic posé relevait d'une maladie mentale sévère, telle la schizophrénie (cf. ATF 108 V 226). Un tel diagnostic n'est pas établi en l'espèce puisque le médecin consulté par le recourant à l'étranger a mis en évidence des troubles thymiques majeurs, sans évoquer l'existence d'une maladie mentale propre à faire douter de la capacité de discernement du recourant. Le diagnostic de suspicion de troubles mentaux dus à un dysfonctionnement cérébral avec troubles cognitifs, qui a été posé en décembre 2005 par le docteur S._, n'a été mentionné qu'à titre provisoire et ne peut dès lors être tenu pour établi. Quant au témoignage de M._, il ne permet pas de faire douter de la capacité de discernement du recourant sur toute la période déterminante, puisqu'il se rapporte à un moment ponctuel - fin de l'année 1999 - et décrit le recourant comme «un monsieur qui [...] apparaissait triste et malade, [...] comme dans un autre monde» sans plus de précisions, ce qui ne suffit pas à remettre en cause la faculté d'agir raisonnablement du recourant (l'existence de la capacité de discernement se présumant).
3.2.3 On ne saurait ensuite reprocher aux premiers juges d'avoir examiné les conclusions du docteur S._ avec une certaine réserve. Le psychiatre a en effet rendu son rapport sur la base d'une anamnèse incomplète, puisqu'il ne mentionne pas les changements personnels intervenus chez le recourant entre 2000 et 2003. Le recourant n'a apparemment pas indiqué à l'expert qu'il avait rencontré une nouvelle partenaire à l'étranger, dont il a eu deux enfants, et qu'il épousera moins d'une année après les entretiens avec le psychiatre. Par ailleurs, le docteur S._ indique que l'assuré a développé des troubles psychiatriques et neurologiques graves très probablement bien avant son départ à l'étranger en 1999. Aucun élément au dossier ne permet cependant de confirmer cette appréciation. Au contraire, le médecin-conseil de l'ancien employeur du recourant a attesté que celui-ci n'avait aucune affection ni sur le plan somatique, ni sur le plan psychique au moment de son engagement en 1996 (procès-verbal d'audition du docteur R._ du 26 mai 2009). Des faits constatés par la juridiction cantonale, il ne ressort par ailleurs pas que le recourant aurait été malade ou aurait subi une incapacité de travail significative jusqu'à son départ à l'étranger.
3.2.4 Enfin, dès lors que le recourant avait commencé un traitement psychiatrique auprès du docteur A._ dès le début de l'année 2000, on doit admettre non seulement qu'il avait conscience d'être malade - contrairement à ce qu'il prétend -, mais également que le caractère invalidant de son atteinte à la santé était objectivement reconnaissable. Dans le cadre de la prise en charge par le docteur A._, celui-ci a évoqué les conditions socio-économiques défavorables dans lesquelles vivait son patient (avis du 25 août 2005), ce qui permet d'admettre que les aspects liés à l'incapacité de travail de l'assuré ont également été abordés au cours du traitement.
3.2.5 Il suit de ce qui précède que la juridiction cantonale n'a procédé ni à une constatation manifestement inexacte des faits, ni à une appréciation arbitraire des preuves, en retenant que la rente d'invalidité dévolue au recourant ne pouvait lui être allouée pour une période antérieure aux douze mois qui précèdent le dépôt de sa demande de prestations.
Le recours est mal fondé.
4. La procédure est onéreuse (art. 65 al. 4 let. a LTF). Le recourant a toutefois sollicité le bénéfice de l'assistance judiciaire, en requérant la dispense des frais judiciaires et la désignation d'un avocat d'office. Étant donné que le recourant en remplit les conditions (art. 64 al. 1 LTF), il y a lieu de lui accorder l'assistance judiciaire. Il est cependant rendu attentif au fait qu'il devra rembourser la caisse du tribunal, s'il devient ultérieurement en mesure de le faire (art. 64 al. 4 LTF).
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. L'assistance judiciaire est accordée au recourant.
3. Il n'est pas perçu de frais judiciaires.
4. Une indemnité de 2'800 fr., supportée par la caisse du Tribunal, est allouée à Me Marc-Etienne Favre, à titre d'honoraires.
5. Le présent arrêt est communiqué aux parties, à la Cour des assurances sociales du Tribunal cantonal du canton de Vaud et à l'Office fédéral des assurances sociales.
Lucerne, le 11 décembre 2009
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless