Faits:
A. Par jugement du 11 février 2010, la 18ème Chambre du Tribunal de première instance de la République et canton de Genève a prononcé le divorce des époux B._ et A._, mariés depuis juin 1985. Elle a notamment ordonné le partage par moitié des avoirs de la prévoyance professionnelle accumulés par les parties pendant le mariage (ch. 10 du dispositif), condamné A._ à restituer à B._ le matériel de poterie acquis pendant le mariage (ch. 12) et donné acte aux parties de leur accord pour que la maison de Y._ (France), dont les parties sont copropriétaires, soit attribuée en pleine propriété à A._ (ch. 11), et de ce qu'ils n'ont plus aucune prétention à faire valoir l'un envers l'autre de ce chef, moyennant l'exécution des chiffres 11 et 12 du dispositif du jugement (chiffre 13).
Une fois le jugement entré en force, le 23 mars 2010, la cause a été transmise au Tribunal cantonal genevois des assurances sociales (aujourd'hui: Cour de justice de la République et canton de Genève, Chambre des assurances sociales) pour qu'il établisse les montants définitifs sujets à partage et procède au partage effectif.
B. Sur requête de ce Tribunal, les institutions de prévoyance concernées ont indiqué le montant des prestations de sortie respectives des ex-époux. La Caisse de prévoyance du personnel Z._ a fixé le montant de la prestation de sortie accumulée par A._ et disponible au 23 mars 2010 à 390'435 fr. 25. Cette somme ne comprenait pas le versement anticipé de 153'273 fr. 90 dont avait bénéficié le prénommé à titre d'encouragement à la propriété du logement (le 25 mars 1997). De plus, Z._ a précisé que le capital accumulé comprenait une prestation de libre passage acquise par A._ au moment du mariage de 17'735 fr. 15 dont la valeur, y compris intérêts courus, était de 42'225 fr. 90 au jour du divorce. La Fondation institution supplétive LPP a informé qu'elle détenait une prestation de libre passage disponible en faveur de B._ d'un montant de 2'764 fr. 79 (valeur au 23 mars 2010) entièrement acquise durant le mariage.
Statuant le 18 août 2010, le Tribunal cantonal genevois des assurances sociales a invité - au besoin condamné - Z._ à transférer du compte de A._ la somme de 249'359 fr. 20 à la Fondation institution supplétive LPP en faveur de B._, ainsi que des intérêts compensatoires au sens des considérants, dès le 23 mars 2010 jusqu'au moment du transfert.
C. A._ interjette un recours en matière de droit public contre ce jugement dont il demande l'annulation. Il conclut, sous suite de frais et dépens, principalement, à faire dire et constater que le montant de 153'273 fr. 90 ne doit pas être inclus dans les avoirs LPP à partager avec son ex-épouse; subsidiairement, il demande le renvoi de la cause à la juridiction cantonale pour nouvelle décision au sens des considérants.
B._ conclut au rejet du recours et sollicite le bénéfice de l'assistance judiciaire gratuite.
La Caisse de prévoyance Z._, la Fondation institution supplétive LPP et l'Office fédéral des assurances sociales ont renoncé à se déterminer.
Considérant en droit:
1. Le recours en matière de droit public (art. 82 ss LTF) peut être formé pour violation du droit selon les art. 95 et 96 LTF. Le Tribunal fédéral applique le droit d'office (art. 106 al. 1 LTF). Il n'est donc limité ni par les arguments soulevés dans le recours ni par la motivation retenue par l'autorité précédente; il peut admettre un recours pour un autre motif que ceux qui ont été invoqués et il peut rejeter un recours en adoptant une argumentation différente de celle de l'autorité précédente (cf. ATF 130 III 136 consid. 1.4 p. 140). Le Tribunal fédéral statue sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF). Il peut cependant rectifier ou compléter d'office les constatations de l'autorité précédente si les faits ont été établis de façon manifestement inexacte ou en violation du droit au sens de l'art. 95 LTF (art. 105 al. 2 LTF).
2. Au regard des conclusions du recourant (cf. art. 107 al. 1 LTF), le litige porte sur le point de savoir si c'est à bon droit que la juridiction cantonale a inclus dans les avoirs à partager le versement anticipé de 153'273 fr 90 que le recourant avait obtenu de son institution de prévoyance dans le cadre de l'encouragement à la propriété au logement.
A cet égard, le jugement entrepris expose correctement les règles relatives au partage, en cas de divorce, des prestations de sortie acquises durant le mariage, de sorte qu'on peut y renvoyer.
3. La juridiction cantonale a retenu que l'avoir à partager du recourant s'élevait à 501'483 fr. 25, correspondant à l'avoir disponible au jour du divorce à hauteur de 390'435 fr. 25, augmenté de la somme obtenue dans le cadre de l'encouragement à la propriété au logement à hauteur de 153'273 fr. 90, et dont il fallait déduire la prestation de sortie acquise avant le mariage à sa valeur au jour du divorce, soit 42'225 fr. 90. Quant à l'avoir de libre passage de B._, il a été fixé à 2'764 fr. 80, entièrement acquis durant le mariage. Il en résultait un montant à transférer par Z._ de 249'359 fr. 20 du compte de A._ au compte de libre passage de son ex-épouse auprès de la Fondation institution supplétive LPP.
4. 4.1 Le recourant ne s'oppose pas au partage par moitié des prestations de sortie, mais reproche aux premiers juges d'avoir inclus dans le montant à partager la somme de 153'273 fr. 90 que lui avait versée Z._ et qui a servi à l'acquisition d'une propriété à Y._ (France). Il soutient qu'ils auraient dû tenir compte des modalités de la liquidation du régime matrimonial prévues dans ledit jugement, selon lesquelles le rachat par le recourant de la part de copropriété de B._ est compensé par la soulte due par cette dernière en raison du fait que l'immeuble avait été acquis au moyen des biens propres du conjoint (soit avec le montant obtenu de l'institution de prévoyance dans le cadre de l'encouragement à la propriété au logement). Pour le recourant, la compensation de la soulte due à son ex-épouse avec le versement anticipé utilisé pour l'acquisition du bien immobilier exclut de prendre en compte ce versement dans le cadre du partage des prestations de sortie car cela reviendrait à modifier de facto et de manière arbitraire le jugement de divorce sur les effets accessoires du divorce. Ainsi, le recourant estime qu'en appliquant l'art. 30c al. 6 LPP au présent cas, sans respecter les effets accessoires du divorce prévus par le jugement du 11 février 2010, la juridiction cantonale a violé le principe qui veut que le juge des assurances sociales soit lié par le jugement de divorce.
4.2 B._ relève que le juge du divorce a constaté que le régime matrimonial avait été liquidé entre les époux, notamment par la cession de sa part de copropriété sur l'immeuble de Y._ et la restitution par le recourant de l'outillage de l'atelier de poterie. Compte tenu de ces éléments, le juge du divorce avait décidé du partage par moitié des avoirs du 2ème pilier sans aucune restriction ou sans imputation. Elle considère donc que le partage sans réserve résulte du jugement de divorce et qu'elle n'a jamais consenti à une réduction de sa part des prestations de sortie. Selon elle, le jugement entrepris ne viole pas l'art. 30c al. 6 LPP.
4.3 L'argumentation du recourant n'est pas fondée. Il est constant en effet que le versement anticipé de 153'273 fr. 90 dont il a bénéficié a servi à l'acquisition d'un immeuble dont les ex-époux sont devenus copropriétaires. L'intimée a ainsi profité de ce versement et obtenu la copropriété de l'immeuble sans payer son écot. Au moment du divorce, les ex-époux se sont mis d'accord sur l'attribution en pleine propriété de l'immeuble au recourant, le rachat de la part de copropriété de l'intimée étant compensé par la soulte due par celle-ci en raison de l'acquisition, à l'époque, de l'immeuble au moyen des biens propres de A._. Ces modalités du partage du régime matrimonial, convenues entre les ex-époux et avalisées par le juge du divorce, ont permis au recourant de reprendre en pleine propriété l'immeuble de Y._ sans verser un quelconque montant à son ex-épouse en contrepartie de la valeur de sa part de copropriété. Dès lors, A._, propriétaire unique de l'immeuble, récupère en quelque sorte le montant de 153'273 fr. 90 investi dans la maison lors de son acquisition, sans avoir dû payer quoi que ce soit à son ex-épouse. Le recourant profite donc seul du versement anticipé de l'institution de prévoyance.
Dans ces conditions, on ne voit pas pour quelles raisons, le montant litigieux devrait être exclu du partage. Suivre l'argumentation du recourant et ne pas tenir compte de ce versement anticipé reviendrait par ailleurs à ne pas procéder au partage par moitié des prestations de sortie acquises pendant le mariage. Le recourant bénéficierait seul du versement anticipé par le biais de l'acquisition de l'ensemble de la propriété de l'immeuble de Y._ et son ex-épouse n'y aurait plus aucun droit, alors qu'il s'agit manifestement d'un "avoir de libre passage" acquis durant le mariage (au sens de l'art. 30c al. 6 LPP).
4.4 Il résulte de ce qui précède que le jugement entrepris ne modifie pas la répartition des biens résultant de la liquidation du régime matrimonial prévue par le juge du divorce et ne contrevient ni à l'art. 30c al. 6 LPP, ni à l'interdiction de l'arbitraire invoquée par le recourant.
Le recours, mal fondé, doit être rejeté.
5. La procédure est onéreuse (art. 65 al. 4 let. a LTF). Au regard de l'issue du litige, les frais judiciaires doivent être mis à la charge du recourant (art. 66 al. 1 LTF). L'intimée, assistée par un avocat, a droit à une indemnité de dépens (art. 68 al.1 LTF), ce qui rend sans objet sa demande d'assistance judiciaire.
Par ces motifs, le Tribunal fédéral prononce:
1. Le recours est rejeté.
2. Les frais judiciaires, arrêtés à 500 fr., sont mis à la charge du recourant.
3. Le recourant versera à l'intimée une indemnité d'un montant de 1'500 fr. (y compris la taxe à la valeur ajoutée) à titre de dépens pour la procédure fédérale.
4. Le présent arrêt est communiqué aux parties, à la Caisse de prévoyance du personnel Z._, à la Fondation institution supplétive LPP, à la Cour de justice de la République et canton de Genève, Chambre des assurances sociales, et à l'Office fédéral des assurances sociales.
Lucerne, le 24 juin 2011
Au nom de la IIe Cour de droit social
du Tribunal fédéral suisse
Le Président: La Greffière:
Meyer Moser-Szeless