Sachverhalt: A. H._ und B._ heirateten am 31. Oktober 1997. Am 30. März 2000 tätigte B._ bei seiner Vorsorgeeinrichtung einen Vorbezug von Fr. 20'400.- für den Kauf der ehelichen Liegenschaft zu Gesamteigentum. Nach der Auflösung des gemeinsamen Haushaltes wurde die eheliche Liegenschaft aufgrund einer Parteivereinbarung per 1. Juni 2003 ins Alleineigentum der Ehefrau (H.)_ überführt. Mit Urteil vom 31. Mai 2010, in Rechtskraft erwachsen am 25. Juni 2010, wurde die Ehe vom Gerichtspräsidium Z._ geschieden, mit der Feststellung, dass jede Partei Anspruch auf die Hälfte der für die Ehedauer gemäss Art. 22 f. FZG zu ermittelnden Austrittsleistung der andern Partei hat (Dispositiv-Ziffer 7). In der Folge überwies es gestützt auf Art. 142 Abs. 2 ZGB die Akten an das Versicherungsgericht des Kantons Aargau. B. Mit Entscheid vom 3. Mai 2011 wies das Versicherungsgericht des Kantons Aargau die Pensionskasse X._, Vorsorgeeinrichtung von B._, an, von dessen Freizügigkeitsguthaben den Betrag von Fr. 93'252.75 zuzüglich Zins auf eine von H._ noch zu bezeichnende Freizügigkeitseinrichtung zu überweisen. C. B._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem Antrag, in Aufhebung des vorinstanzlichen Entscheides sei seine Vorsorgeeinrichtung anzuweisen, von seinem Guthaben den Betrag von Fr. 62'652.75, eventuell Fr. 72'852.75 zuzüglich Zins auf ein von der Beschwerdegegnerin anzugebendes Freizügigkeitskonto zu überweisen. Mit Eingabe vom 17. Juni 2011 lässt er den Antrag stellen, es sei der Beschwerde die aufschiebende Wirkung zu erteilen und es sei die Vollstreckbarkeit des angefochtenen Entscheides bis zum endgültigen Entscheid aufzuschieben. H._ lässt auf Abweisung der Beschwerde und auf Nichteintreten auf das Gesuch um aufschiebende Wirkung schliessen. Ferner sei ihr die unentgeltliche Prozessführung und Verbeiständung zu gewähren. Die Pensionskasse, das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung. D. Mit Verfügung vom 4. Juli 2011 ordnete der Präsident der II. sozialrechtlichen Abteilung an, dass bis zum Entscheid über das Gesuch um aufschiebende Wirkung alle Vollziehungsvorkehrungen zu unterbleiben haben.