Sachverhalt:
A. Der 1957 geborene B._ war vom 14. August 1989 bis 31. Dezember 2004 als Mitarbeiter "Streichanlage" bei der Firma X._ angestellt (letzter Arbeitstag: 16. Mai 2004) und dadurch bei der Pensionskasse Y._ für die berufliche Vorsorge versichert. Unter anderem gestützt auf das interdisziplinäre Gutachten des Instituts für forensische Psychiatrie und Psychotherapie Z._ (= Gutachten Z._) vom 12. März 2008 sprach ihm die IV-Stelle Aargau mit Verfügung vom 8. August 2008 basierend auf einem Invaliditätsgrad von 62% eine Dreiviertelsrente ab 1. Mai 2005 zu. Mit Schreiben vom 7. Oktober und 10. November 2008 verweigerte die Pensionskasse Invalidenleistungen aus beruflicher Vorsorge, da die Erwerbseinbusse nicht die vom Pensionskassenreglement als Mindestgrösse bezifferten 25% erreiche und zudem die IV eine Leistung wegen der depressiven Störung ausrichte, wofür sie nicht leistungspflichtig sei, da die Nachdeckungsfrist bis zum 31. Januar 2005 gedauert habe; der Invaliditätsgrad bezüglich der Wirbelsäulenproblematik betrage 24.5% bei einer angepassten körperlichen Tätigkeit.
B. Am 24. April 2009 liess B._ Klage erheben und beantragen, es sei ihm ab 1. Mai 2005 eine Invalidenrente "von 62% des versicherten Gehaltes" auszurichten. Mit Entscheid vom 26. Januar 2010 wies das Versicherungsgericht des Kantons Aargau die Klage ab.
C. B._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, unter Aufhebung des vorinstanzlichen Entscheides sei ihm ab 1. Mai 2005 eine Invalidenrente "von 62% des versicherten Gehaltes" auszurichten. Zudem ersucht er um Gewährung der unentgeltlichen Rechtspflege.
Die Pensionskasse Y._ schliesst auf Abweisung der Beschwerde, während das Bundesamt für Sozialversicherungen auf eine Vernehmlassung verzichtet.

Erwägungen:
1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzung gemäss den Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>; vgl. auch <ref-law>; ohne Beschwerden gemäss <ref-law> und <ref-law>). Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde an das Bundesgericht (<ref-law>) nur zu prüfen, ob der angefochtene Gerichtsentscheid in Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (unter anderem) Bundesrecht verletzt (<ref-law>), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>). Hiezu gehört insbesondere auch die unvollständige (gerichtliche) Feststellung der rechtserheblichen Tatsachen und die Verletzung des Untersuchungsgrundsatzes als einer wesentlichen Verfahrensvorschrift (Urteile 9C_534/2007 vom 27. Mai 2008, E. 1 mit Hinweis auf Ulrich Meyer, N 58-61 zu Art. 105, in: Niggli/Uebersax/Wiprächtiger [Hrsg.], Basler Kommentar Bundesgerichtsgesetz, Basel 2008; Seiler/von Werdt/ Güngerich, Kommentar zum Bundesgerichtsgesetz, Bern 2007, N 24 zu Art. 97).
2. 2.1 Nach Art. 23 BVG, in Kraft gestanden bis 31. Dezember 2004, haben Anspruch auf Invalidenleistungen Personen, die im Sinne der IV zu mindestens 50 Prozent invalid sind und bei Eintritt der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, versichert waren. Laut dem am 1. Januar 2005 in Kraft getretenen Art. 23 lit. a BVG besteht bereits bei einer Invalidität von mindestens 40 Prozent Anspruch auf Invalidenleistungen. Der Leistungsanspruch aus (obligatorischer) beruflicher Vorsorge wegen Invalidität setzt voraus, dass die Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, während der Dauer des Vorsorgeverhältnisses (einschliesslich der Nachdeckungsfrist nach Art. 10 Abs. 3 BVG) eingetreten ist (Art. 23 BVG in der bis 31. Dezember 2004 gültig gewesenen Fassung und Art. 23 lit. b BVG in der ab 1. Januar 2005 gültigen Fassung). Unter Arbeitsunfähigkeit ist die Einbusse an funktionellem Leistungsvermögen im bisherigen Beruf oder Aufgabenbereich zu verstehen (<ref-ruling> E. 3.2.2 S. 23 mit Hinweisen). Sie muss mindestens 20 Prozent betragen (Urteil 9C_127/2008 vom 11. August 2008 E. 2.3, in: SVR 2008 BVG Nr. 34 mit Hinweisen).
Der Leistungsanspruch gegenüber einer Vorsorgeeinrichtung für das erst nach Beendigung des Vorsorgeverhältnisses eingetretene Invaliditätsrisiko bedingt, dass zwischen der während des Vorsorgeverhältnisses eingetretenen Arbeitsunfähigkeit und der Invalidität ein enger sachlicher und zeitlicher Zusammenhang besteht. Die hinreichende sachliche Konnexität ist zu bejahen, wenn der Gesundheitsschaden, wie er der Invalidität zugrunde liegt, im Wesentlichen bereits Ursache der früheren Arbeitsunfähigkeit war (<ref-ruling> E. 1c S. 265; <ref-ruling> E. 2c/aa und bb S. 117 f.). Der zeitliche Zusammenhang zur später eingetretenen Invalidität als weitere Voraussetzung für den Anspruch auf Invalidenleistung gegenüber der früheren Vorsorgeeinrichtung beurteilt sich nach der Arbeitsfähigkeit in einer der gesundheitlichen Beeinträchtigung angepassten zumutbaren Tätigkeit. Diese Beschäftigung muss jedoch bezogen auf die angestammte Tätigkeit die Erzielung eines rentenausschliessenden Einkommens ermöglichen (<ref-ruling> E. 5.3 S. 27; Urteil 9C_12/2009 vom 29. Mai 2009 E. 2.1).
2.2 Die Bezeichnung des Zeitpunktes des Eintritts der Arbeitsunfähigkeit, deren Ursache zur Invalidität geführt hat, entspricht einer Tatfrage. Diesbezügliche Feststellungen der Vorinstanz sind daher vom Bundesgericht lediglich unter eingeschränktem Blickwinkel überprüfbar, soweit sie auf einer Würdigung konkreter Umstände beruhen (<ref-law> sowie Art. 105 Abs. 1 und 2 BGG; Urteil 9C_182/2007 vom 7. Dezember 2007 E. 4.1.1). Rechtsfrage ist dagegen, nach welchen Gesichtspunkten die Entscheidung über den Zeitpunkt des Eintritts einer rechtserheblichen Arbeitsunfähigkeit erfolgt (Urteil 9C_127/2008 vom 11. August 2008 E. 2.2, in: SVR 2008 BVG Nr. 34).
3. 3.1 Die Vorinstanz hat festgestellt und es ist unbestritten, dass dem Versicherten die bisherige Tätigkeit auf Grund des Rückenleidens (Diskushernienoperation am 15. Juni 2004) aus orthopädischer Sicht nicht mehr, jedoch die Ausübung einer leidensangepassten Tätigkeit im Rahmen von 8 Stunden pro Tag an 5 Tagen pro Woche zumutbar ist, wobei aus fachärztlicher Sicht von einer um 50% verminderten Leistungsfähigkeit auszugehen ist, die ab Anfang 2005 ausschliesslich auf die depressive Störung zurückzuführen ist. Damit hatte die Einstellung der bisherigen Tätigkeit am 17. Mai 2004 somatische, die verminderte Leistungsfähigkeit ab anfangs Januar 2005 psychische Gründe und der ab anfangs Januar 2005 der verminderten Leistungsfähigkeit zu Grunde liegende Gesundheitsschaden (depressive Episode) ist nicht derselbe, welcher zur Arbeitsunfähigkeit im Mai 2004 (Rückenleiden) geführt hat.
Streitig und zu prüfen ist einzig, ob der für die Bejahung eines Anspruches aus beruflicher Vorsorge erforderliche sachliche Zusammenhang (vgl. E. 2.1 hievor) insofern gegeben ist, als das psychische Leiden mit Auswirkung auf das Leistungsvermögen bereits während des Vorsorgeverhältnisses (einschliesslich der einmonatigen Nachdeckungsfrist; Art. 10 Abs. 3 BVG) erkennbar in Erscheinung getreten ist (Urteil 9C_772/2007 vom 26. Februar 2008 E.4.2), was die Vorinstanz verneint. Der Beschwerdeführer rügt diesbezüglich eine willkürliche Beweiswürdigung durch die Vorinstanz.
3.2 Das kantonale Gericht hielt fest, aus dem Gutachten aus psychiatrischer Sicht gehe hervor, dass beim Kläger eine depressive Affektivität, eine Verminderung der Freudfähigkeit und ein Interessenverlust festgestellt worden sei. Ebenfalls bestünden bei ihm Gefühle der Wertlosigkeit, Insuffizienzgefühle, negativistische Zukunftsgedanken und suizidale Äusserungen. Gemäss den vorliegenden Berichten scheine er seit ca. 2004 in psychiatrischer Behandlung zu sein. Am 25. Februar 2005 sei im Arztbericht der Rheumaklinik des Kantonsspitals B._ von einer depressiven Störung berichtet worden. In einem Arztbericht vom 15. April 2005 sei auch eine dysthyme Stimmung festgehalten worden. Die Beschwerden des Klägers seien später im Rahmen der depressiven Reaktion erklärt worden, wobei damals auch eine antidepressive Medikation eingeleitet worden sei. Im Arztbericht vom 7. Juni 2006 habe Dr. med. G._ eine schwere depressive Störung festgehalten, ohne jedoch die Symptome der depressiven Erkrankung genauer zu beschreiben. Der Versicherte sei jedoch trotz depressiver Symptomatik in der Lage gewesen, bei ausreichender Willensanstrengung Aktivitäten durchzuführen, wie z.B. eine Reise in die Türkei, weil sein Sohn sich verlobt habe. Gleichzeitig strahle er eine gewisse Hilflosigkeit aus und scheine bisher im Umgang mit den depressiven Empfindungen keine konstruktiven Problemlösungen entwickelt zu haben. Aus psychiatrischer Sicht werde eine mittelgradige depressive Episode diagnostiziert und auf dieser Basis von einer Minderung der Leistungsfähigkeit von etwa 50% ausgegangen. Eine weitere psychiatrische Störung mit Auswirkung auf die Arbeitsfähigkeit sei nicht vorgelegen. Insbesondere liege keine Schmerzverarbeitungsstörung und keine anhaltende somatoforme Schmerzstörung vor. Dr. med. A._, eidg. Facharzt für Psychiatrie und Psychotherapie, Forensische Psychiatrie SGFP, habe in seinem versicherungspsychiatrischen Gutachten vom 10. März 2008 ausdrücklich festgehalten, es werde "seit ca. 2005" von einer Einschränkung der Arbeitsfähigkeit in Höhe von 50% ausgegangen.
Wenn die Vorinstanz daraus schloss, dass bis zum Ende der Versicherungsdeckung Ende Januar 2005 ausschliesslich somatische Beschwerden bestanden, welche die Arbeitsfähigkeit in der bisherigen Tätigkeit einschränkten und damit während der Dauer des Vorsorgeverhältnisses noch kein psychisches Leiden mit Krankheitswert eingetreten war, welches die Arbeitsfähigkeit relevant eingeschränkt hätte, so verfällt sie in Willkür. Wie die Beschwerdeführerin zu Recht einwendet, kann aus der Feststellung des Dr. med. A._, wonach "seit ca. 2005" von einer Einschränkung der Arbeitsfähigkeit in Höhe von 50% ausgegangen werden könne, gerade nicht geschlossen werden, die psychisch bedingte Arbeitsunfähigkeit sei mit überwiegender Wahrscheinlichkeit erst nach dem 31. Januar 2005 eingetreten. Daran ändert entgegen den Erwägungen der Vorinstanz nichts, dass eine depressive Störung erst am 25. Februar 2005 im Bericht der Rheumaklinik des Kantonsspitals B._ festgehalten wurde, war doch der Beschwerdeführer bereits ab 20. August 2004 in psychiatrischer Behandlung, wie Dr. med. J._, Facharzt FMH für Psychiatrie und Psychotherapie, am 7. März 2008 bestätigte, und wurde im Gutachten Z._ selbst angegeben, der Versicherte scheine "seit ca. 2004 in psychiatrischer Behandlung zu sein". Vielmehr lässt sich nach Lage der Akten nicht mit dem Beweisgrad der überwiegenden Wahrscheinlichkeit ermitteln, ob die psychisch bedingte Arbeitsunfähigkeit noch vor Ende des Vorsorgeverhältnisses am 31. Januar 2005 eingetreten ist. Denn die Vorinstanz sagt selber in E. 3.4 S. 12, ab anfangs Januar 2005 sei der Beschwerdeführer wegen einer depressiven Störung nur zu 50 % arbeitsfähig. Sie widerspricht sich, wenn sie in E. 3.5 S. 13 ausführt, ein psychisches Leiden ab 1. Januar 2005 sei nicht belegt. Deshalb wäre das kantonale Gericht gehalten gewesen, weitere Abklärungen zu veranlassen (<ref-law>, Art. 43 Abs. 1 und Art. 61 lit. c ATSG; <ref-ruling> E. 5.2.5 S. 68 f.); diese unvollständige Feststellung des rechtserheblichen Sachverhaltes ist vom Bundesgericht als Rechtsverletzung zu berücksichtigen (9C_865/2007; Seiler, a.a.O., Art. 97 N 24). Die Sache ist daher an die diese zurückzuweisen, damit sie ergänzende Abklärungen bezüglich des Eintritts der psychisch bedingten Arbeitsunfähigkeit vornehme und anschliessend über den Leistungsanspruch neu entscheide.
4. Dem Ausgang des Verfahrens entsprechend hat die Beschwerdegegnerin die Gerichtskosten zu tragen (<ref-law>) und dem Beschwerdeführer eine Parteientschädigung zu bezahlen (<ref-law>). Dessen Gesuch um unentgeltliche Rechtspflege ist demzufolge gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen. Der Entscheid des Versicherungsgerichts des Kantons Aargau vom 26. Januar 2010 wird aufgehoben. Die Sache wird an das Versicherungsgericht zurückgewiesen, damit es nach erfolgter Abklärung im Sinne der Erwägungen über den Leistungsanspruch neu entscheide.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 8. Juli 2010
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Meyer Helfenstein Franke