Sachverhalt:
A. A.a Der 1947 geborene L._, spanischer Staatsangehöriger, reiste 1966 in die Schweiz ein, besitzt die Niederlassungsbewilligung C und war zuletzt vom 1. September 1991 bis Ende Dezember 2000 bei der U._ AG als Lagermitarbeiter tätig. Am 23. Februar 2001 meldete er sich unter Hinweis auf Rücken- und Schulterbeschwerden erstmals bei der Invalidenversicherung zum Bezug einer Invalidenrente an. Nach Abklärungen in medizinischer und erwerblicher Hinsicht verneinte die IV-Stelle Bern mit in Rechtskraft erwachsener Verfügung vom 26. Oktober 2001 einen Rentenanspruch des Versicherten aufgrund eines Invaliditätsgrades von 18 %.
A.b Am 22. November 2002 meldete sich L._ wegen Verschlechterung des Gesundheitszustandes erneut bei der Invalidenversicherung zum Leistungsbezug (Berufsberatung, Umschulung auf eine neue Tätigkeit, Rente) an. Gestützt auf das eingeholte interdisziplinäre Gutachten der Dres. med. E._, Spezialärztin FMH für Neurochirurgie, und H._, Psychiatrie und Psychotherapie FMH, vom 21./24. November 2003 sprach die IV-Stelle Bern dem Versicherten mit Verfügung vom 29. September 2004 rückwirkend ab 1. November 2001 aufgrund eines Invaliditätsgrades von 48 % eine Viertelsrente zu. Daran hielt sie mit Einspracheentscheid vom 29. März 2005 fest. Die dagegen erhobene Beschwerde hiess das Verwaltungsgericht des Kantons Bern mit Entscheid vom 7. Oktober 2005 gut, hob den Einspracheentscheid vom 29. März 2005 auf und wies die Sache an die IV-Stelle zurück, damit sie nach weiteren Abklärungen über den Leistungsanspruch des Versicherten neu verfüge.
Nach Einholung eines interdisziplinären Gutachtens des ärztlichen Begutachtungsinstituts X._ vom 22. Februar 2007 und Stellungnahmen des Regionalen Ärztlichen Dienstes (RAD) vom 19. April und 28. Juni 2007 verneinte die IV-Stelle nach durchgeführtem Vorbescheidverfahren mit Verfügung vom 19. Juli 2007 einen Rentenanspruch aufgrund eines Invaliditätsgrades von 19 %.
B. Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Bern mit Entscheid vom 7. Oktober 2008 ab.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt L._ beantragen, in Aufhebung des kantonalen Entscheids sei ihm rückwirkend ab 1. November 2001 eine angemessene Invalidenrente auszurichten, eventuell sei die Sache an die IV-Stelle zurückzuweisen, damit sie nach zusätzlichen medizinischen Abklärungen über den Leistungsanspruch neu verfüge.
Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.

Erwägungen:
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
1. 1.1 Die Beschwerde in öffentlich-rechtlichen Angelegenheiten (<ref-law>) kann wegen Rechtsverletzung gemäss Art. 95 f. BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
1.2 1.2.1 Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde an das Bundesgericht zu prüfen, ob der angefochtene kantonale Gerichtsentscheid in der Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen (u.a.) Bundesrecht, Völkerrecht oder kantonale verfassungsmässige Rechte verletzt (Art. 95 lit. a-c BGG), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>). Hingegen hat unter der Herrschaft des BGG eine freie Überprüfung des vorinstanzlichen Entscheids in tatsächlicher Hinsicht zu unterbleiben (ausser wenn sich die Beschwerde gegen einen - im hier zu beurteilenden Fall indessen nicht anfechtungsgegenständlichen - Entscheid über die Zusprechung oder Verweigerung von Geldleistungen der Militär- oder Unfallversicherung richtet; <ref-law>). Ebenso entfällt eine Prüfung der Ermessensbetätigung nach den Grundsätzen zur Angemessenheitskontrolle (<ref-ruling> E. 6 S. 81 zu Art. 132 lit. a OG [in der bis 30. Juni 2006 gültig gewesenen Fassung]).
1.2.2 Im Rahmen der Invaliditätsbemessung - insbesondere bei der Ermittlung von Gesundheitsschaden sowie Arbeitsfähigkeit und Zumutbarkeitsprofil - sind zwecks Abgrenzung der (für das Bundesgericht grundsätzlich verbindlichen) Tatsachenfeststellungen vom (letztinstanzlich frei überprüfbaren) Rechtsanwendungsakt der Vorinstanz weiterhin die kognitionsrechtlichen Grundsätze heranzuziehen, wie sie in <ref-ruling> E. 3 S. 397 ff. für die ab 1. Juli bis 31. Dezember 2006 gültig gewesene Fassung von Art. 132 des aufgehobenen OG entwickelt wurden (vgl. ferner BGE 8C_652/2008 vom 8. Mai 2009 E. 4).
2. Streitig und zu prüfen ist der Anspruch auf eine Invalidenrente.
Das kantonale Gericht hat die massgeblichen Rechtsgrundlagen, unter Berücksichtigung der intertemporalrechtlichen Fragen, die sich aufgrund des am 1. Januar 2003 in Kraft getretenen ATSG sowie der per 1. Januar 2004 mit der 4. IV-Revision und per 1. Januar 2008 mit der 5. IV-Revision in Kraft getretenen Änderungen ergeben, zutreffend dargelegt. Es betrifft dies insbesondere die Bestimmungen über den Invaliditätsbegriff (<ref-law> in Verbindung mit <ref-law>), über den Rentenanspruch nach Massgabe des Invaliditätsgrades (<ref-law> in den vor und ab 2004 gültig gewesenen Fassungen), über die Bestimmung des Invaliditätsgrades nach der Einkommensvergleichsmethode (<ref-law>, <ref-law>; <ref-ruling> E. 3.4 S. 348 f. mit Hinweisen) sowie über die für eine Neuanmeldung analog anwendbare Regelung der Rentenrevision (bis 31. Dezember 2002 aArt. 41 IVG; ab 1. Januar 2003 <ref-law>) mit den dabei in zeitlicher Hinsicht zu vergleichenden Sachverhalten (<ref-ruling>; vgl. auch <ref-ruling> E. 2 S. 66 mit Hinweis und 71 E. 3.1 S. 73 ff. mit Hinweisen). Richtig sind auch die Ausführungen zur Aufgabe des Arztes oder der Ärztin bei der Invaliditätsbemessung (<ref-ruling> E. 4 S. 99 f. mit Hinweisen) sowie zum Beweiswert und zur Beweiswürdigung von medizinischen Berichten und Gutachten (<ref-ruling> E. 3 S. 352 ff.). Darauf wird verwiesen.
3. Zu beurteilen ist zunächst, ob der Gesundheitszustand des Beschwerdeführers im massgeblichen Vergleichszeitraum zwischen der ursprünglichen rentenabweisenden Verfügung vom 26. Oktober 2001 und der Verfügung vom 19. Juli 2007 eine erhebliche, die Arbeitsfähigkeit beeinflussende Veränderung erfahren hat.
3.1 Wie bereits in E. 1.2.2 hievor festgehalten, stellt die anhand von medizinischen Untersuchungen gerichtlich festgestellte Arbeits(un)fähigkeit eine Entscheidung über eine Tatfrage dar. Soweit die Beurteilung der Zumutbarkeit von Arbeitsleistungen auf die allgemeine Lebenserfahrung gestützt wird, geht es hingegen um eine Rechtsfrage (<ref-ruling>). Analoges gilt für die Frage, ob sich eine Arbeitsunfähigkeit erheblich verändert hat (<ref-law>; Art. 87 Abs. 3 und 4 IVV; Urteil 8C_547/2008 vom 16. Januar 2009 E. 4 mit Hinweis).
3.2 Das kantonale Gericht hat in Würdigung der Aktenlage im Wesentlichen gestützt auf das interdisziplinäre Gutachten des ärztlichen Begutachtungsinstituts X._ vom 22. Februar 2007 festgestellt, dass der Beschwerdeführer seit Juni 2000 in der angestammten Tätigkeit als Lagermitarbeiter vollumfänglich arbeitsunfähig ist, dass ihm aber aus rein somatischer Sicht aufgrund des diagnostizierten chronischen zervicobrachialen sowie lumbovertebralen Schmerzsyndroms ohne radikuläre Symptomatik eine dem Leiden angepasste, körperlich leichte Tätigkeit zu 90 % zumutbar ist. Was die psychische Seite anbelangt, hat die Vorinstanz festgehalten, dass die von Dr. med. H._ im Gutachten vom 24. November 2003 zufolge des depressiven Geschehens angenommene Leistungseinschränkung von 15 % spätestens im Zeitpunkt der Begutachtung durch das ärztliche Begutachtungsinstitut X._ nicht mehr bestanden hat, wobei die Verbesserung des psychischen Gesundheitszustandes einerseits auf den Erfolg der therapeutischen Massnahmen, andrerseits auf die soziale Rehabilitation der Tochter zurückzuführen sei. Das kantonale Gericht berücksichtigte indessen zu Gunsten des Versicherten die von Dr. med. H._ beurteilte Periode und setzte die Arbeitsfähigkeit des Beschwerdeführers - unter Berücksichtigung einer Überlagerung von allfälligen psychischen und somatischen Beeinträchtigungen - in einer dem Leiden angepassten Tätigkeit bei zumutbarer ganztägiger Präsenzzeit auf mindestens 80 % fest.
3.3 Diese tatsächlichen Feststellungen des kantonalen Gerichts zum Gesundheitszustand und zur Arbeitsfähigkeit des Versicherten sind für das Bundesgericht verbindlich, ausser sie wären offensichtlich unrichtig. Das ist nicht der Fall. Die Vorinstanz hat die medizinische Aktenlage einlässlich und pflichtgemäss gewürdigt. Das im Rahmen des Revisionsverfahrens eingeholte Gutachten des ärztlichen Begutachtungsinstituts X._ vom 22. Februar 2007 erfüllt, wie das kantonale Gericht darlegt, die von der Rechtsprechung (<ref-ruling> E. 3a S. 352) gestellten Anforderungen. Soweit der Beschwerdeführer den Einwand wiederholt, die gesamte Untersuchung beim ärztlichen Begutachtungsinstitut X._ habe lediglich eine Stunde und die psychiatrische somit kaum über 20 Minuten gedauert, verkennt er, dass es für den Aussagegehalt eines Arztberichtes nicht auf die Dauer der Untersuchung ankommen kann. Massgeblich ist vielmehr, ob der Bericht inhaltlich vollständig und im Ergebnis schlüssig ist (Ulrich Meyer-Blaser, Rechtliche Vorgaben an die medizinische Begutachtung, in: Schaffhauser/Schlauri [Hrsg.], Rechtsfragen der medizinischen Begutachtung in der Sozialversicherung, 1997, S. 23 f.; Urteil 9C_170/2009 vom 6. Mai 2009 E. 2.2 mit Hinweisen). Konkrete Hinweise, die unter diesem Aspekt gegen die Zuverlässigkeit des Gutachtens des ärztlichen Begutachtungsinstituts X._ sprechen, werden vom Beschwerdeführer nicht namhaft gemacht. Er unterlässt es aufzuzeigen, inwiefern sich die angeblich kurze Untersuchungsdauer konkret negativ in der Qualität und der Aussagekraft des Gutachtens niedergeschlagen haben soll. Offenbleiben kann daher, ob seine Darstellungsweise zur Dauer zutrifft. Was die Abweichung gegenüber dem Bericht des Dr. med. H._ vom 24. November 2003 anbelangt, wurde diese plausibel begründet. Zudem wurde die Beurteilung durch diesen Arzt mit Entscheid des Verwaltungsgerichts des Kantons Bern vom 7. Oktober 2005 als nicht überzeugend qualifiziert, was Grund für die Rückweisung an die IV-Stelle zu weiteren Abklärungen und somit zur Einholung des Gutachtens des ärztlichen Begutachtungsinstituts X._ vom 22. Februar 2007 war. Trotzdem hat die Vorinstanz im angefochtenen Entscheid vom 7. Oktober 2008 zu Gunsten des Versicherten die Beurteilung des Dr. med. H._ mitberücksichtigt.
Bezüglich Abweichungen der Beurteilung im Gutachten des ärztlichen Begutachtungsinstituts X._ von derjenigen des behandelnden Psychiaters Dr. med. V._ ist darauf hinzuweisen, dass es rechtsprechungsgemäss aufgrund der unterschiedlichen Natur von Behandlungsauftrag des tätigen (Fach-) Arztes einerseits und Begutachtungsauftrag des amtlich bestellten fachmedizinischen Experten anderseits (<ref-ruling> E. 4 S. 175; Urteile I 783/05 vom 18. April 2006 und I 506/00 vom 13. Juni 2001) nicht angeht, ein medizinisches Administrativ- oder Gerichtsgutachten stets in Frage zu stellen und zum Anlass weiterer Abklärungen zu nehmen, wenn die behandelnden Ärzte zu anderslautenden Einschätzungen gelangen (SVR 2008 IV Nr. 15 S. 43 E. 2.2.1, I 514/06). Konkrete Anhaltspunkte dafür, dass sich eine abweichende Beurteilung im Sinne des behandelnden Psychiaters aufdrängt, werden nicht geltend gemacht und sind nicht ersichtlich. Es entspricht sodann einer Erfahrungstatsache, dass behandelnde Ärztinnen und Ärzte mitunter im Hinblick auf ihre auftragsrechtliche Vertrauensstellung in Zweifelsfällen eher zu Gunsten ihrer Patientinnen und Patienten aussagen (<ref-ruling> E. 3b/cc S. 353). Dem Bericht der medizinischen Abteilung des Spitals Y._ vom 8. November 2002, auf welchen sich der Versicherte ebenfalls beruft, können nur für den Zeitraum Ende 2002 Angaben zur Arbeitsfähigkeit entnommen werden. Der Einwand, die Vorinstanz habe das ärztliche Begutachtungsinstitut X._ Gutachten in Bezug auf den Arbeitsunfähigkeitsgrad offensichtlich falsch interpretiert, ist schliesslich ebenfalls unbegründet. Wenn im Gutachten des ärztlichen Begutachtungsinstituts X._ vom 22. Februar 2007 festgehalten wird, für körperlich leichte, adaptierte Tätigkeiten bestehe eine zumutbare Arbeitsfähigkeit von 90 % bei ganztägiger Präsenz mit um 10 % reduzierter Leistung aufgrund eines erhöhten Pausenbedarfs, lässt sich die Interpretation des kantonalen Gerichts, der Versicherte sei aus rein somatischer Sicht in einer leidensangepassten Tätigkeit 90 % arbeitsfähig, nicht beanstanden.
3.4 Zusammenfassend ist festzuhalten, dass die Vorinstanz nicht offensichtlich unrichtig und somit für das Bundesgericht verbindlich eine Verschlechterung des Gesundheitszustandes verneint und die Arbeitsfähigkeit in einer leidensangepassten Tätigkeit ab Juni 2000 insgesamt auf mindestens 80 % festgesetzt hat.
4. Für die Ermittlung des Invaliditätsgrades hat das kantonale Gericht auf die Begebenheiten im Jahr 2002 abgestellt. Es ist davon ausgegangen, der Versicherte hätte ohne Invalidität seine angestammte Tätigkeit als Lagermitarbeiter weitergeführt, und hat als Valideneinkommen das gestützt auf die Angaben der Arbeitgeberin im Jahr 1999 erzielte Einkommen von Fr. 52'563.- per 2002 entsprechend der Nominallohnentwicklung auf Fr. 55'092.- hochgerechnet. Das Invalideneinkommen hat die Vorinstanz anhand der Tabellenlöhne der LSE 2002 entsprechend dem Anforderungsniveau 4 (einfache und repetitive Tätigkeiten) unter Anpassung an eine durchschnittliche wöchentliche Arbeitszeit von 41,7 Stunden auf Fr. 57'008.- festgesetzt. Diesen Betrag reduzierte sie entsprechend der 80%igen Arbeitsfähigkeit auf Fr. 45'606.- und ermittelte unter Berücksichtigung eines leidensbedingten Abzuges von 10 % ein Invalideneinkommen von Fr. 41'045.-, was in Gegenüberstellung mit dem Valideneinkommen einen rentenausschliessenden Invaliditätsgrad von 24 % ergab.
4.1 Was zunächst das Valideneinkommen anbelangt, rügt der Beschwerdeführer eine Verletzung von Bundesrecht, da es die Vorinstanz trotz Vorliegens eines unterdurchschnittlichen Valideneinkommens versäumt habe, eine Parallelisierung der beiden Vergleichseinkommen vorzunehmen.
4.1.1 Rechtsprechungsgemäss wird dem Umstand, dass eine versicherte Person aus invaliditätsfremden Gründen (z.B. geringe Schulbildung, fehlende berufliche Ausbildung, mangelnde Deutschkenntnisse, beschränkte Anstellungsmöglichkeiten wegen Saisonnierstatus) ein deutlich unterdurchschnittliches Einkommen erzielte, bei der Invaliditätsbemessung nach <ref-law> Rechnung getragen, sofern keine Anhaltpunkte dafür bestehen, dass sie sich aus freien Stücken mit einem bescheideneren Einkommensniveau begnügen wollte (<ref-ruling> E. 4.1 S. 325 f. mit Hinweisen). Im kürzlich ergangenen BGE 8C_652/2008 vom 8. Mai 2009 hat das Bundesgericht in Konkretisierung der Rechtsprechung gemäss <ref-ruling> erkannt, dass ein Lohn erheblich vom Durchschnitt abweicht, wenn die Differenz mindestens 5 % beträgt, wobei eine Parallelisierung nur ab der 5 %-Grenze erfolgt. Begründet wird dies damit, dass mit der Parallelisierung nur die Ausgleichung einer deutlichen - also nicht jeder kleinsten - Abweichung des tatsächlich erzielten Verdienstes vom tabellarisch bestimmten branchenüblichen Referenzeinkommen ausgeglichen werden soll.
4.1.2 Selbst wenn - wie in der Beschwerde geltend gemacht - als branchenübliches Referenzeinkommen zu Gunsten des als Lagermitarbeiter tätig gewesenen Versicherten der Totalwert für Männer in einfachen und repetitiven Tätigkeiten gemäss LSE 2002 TA1, angepasst an die durchschnittliche wöchentliche Arbeitszeit, von Fr. 57'008.- anstatt des deutlich darunter liegenden Einkommens im Handel, Sektor Dienstleistungen, herangezogen wird, beträgt die Abweichung vom im Jahr 2002 tatsächlich erzielten Einkommen von Fr. 55'092.- lediglich 3,4 %. Das kantonale Gericht hat somit zu Recht von einer Parallelisierung der Vergleichseinkommen abgesehen.
4.2 Gegen die Festsetzung des Invalideneinkommens anhand der LSE 2002 auf Fr. 57'008.- und entsprechend einer Arbeitstätigkeit von 80 % auf Fr. 45'606.- wurden keine Einwände erhoben. Streitig und zu prüfen ist lediglich der durch das kantonale Gericht vorgenommene leidensbedingte Abzug vom Invalideneinkommen in der Höhe von 10 %.
4.2.1 Die Frage, ob ein (behinderungsbedingt oder anderweitig begründeter) Abzug nach Massgabe der Grundsätze von <ref-ruling> vorzunehmen sei, ist rechtlicher Natur und somit vom Bundesgericht frei überprüfbar (<ref-ruling> E. 3.3 S. 399), wohingegen die Höhe des leidensbedingten Abzuges eine typische Ermessensfrage und letztinstanzlicher Korrektur damit nur dort zugänglich ist, wo das kantonale Gericht das Ermessen rechtsfehlerhaft ausgeübt hat.
4.2.2 Ob und in welchem Ausmass Tabellenlöhne herabzusetzen sind, hängt nach der Rechtsprechung von sämtlichen persönlichen und beruflichen Umständen des konkreten Einzelfalles ab (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad), welche nach pflichtgemässem Ermessen gesamthaft zu schätzen sind. Dabei erlaubt ein Abzug vom statistischen Lohn von insgesamt höchstens 25 %, den verschiedenen Merkmalen, die das Erwerbseinkommen zu beeinflussen vermögen, Rechnung zu tragen (<ref-ruling> E. 5a S. 78 f.). Der Abzug hat nicht automatisch, sondern dann zu erfolgen, wenn im Einzelfall Anhaltspunkte dafür bestehen, dass die versicherte Person wegen eines oder mehrerer dieser Merkmale ihre gesundheitlich bedingte (Rest-)Arbeitsfähigkeit auf dem allgemeinen Arbeitsmarkt nur mit unterdurchschnittlichem erwerblichem Erfolg verwerten kann.
4.2.3 Die Vorinstanz führt zur Höhe des gewährten Abzuges aus, der gesundheitlich bedingten Leistungseinschränkung, welche von altersbedingt zu erwartenden Minderungsfaktoren überlagert werde bzw. solche Faktoren miteinschliesse, werde im Rahmen der Festsetzung der Arbeits- und Leistungsfähigkeit umfassend Rechnung getragen. Da der Beschwerdeführer 1966 in die Schweiz einreiste und über die Niederlassungsbewilligung C verfügt, rechtfertigen Nationalität und Aufenthaltskategorie keinen weiteren Abzug. Ein solcher kann somit nur mit dem Beschäftigungsgrad begründet werden, wobei Männer in einem Pensum von 80 % im Anforderungsprofil 4 im Jahr 2002 rund 5 % weniger verdienten als in einem Vollpensum (LSE 2002 T8* S. 28). Eine rechtsfehlerhafte Ausübung des Ermessens kann in der Festsetzung des Abzuges auf 10 % nicht ausgemacht werden. Der Vollständigkeit halber ist mit der Vorinstanz darauf hinzuweisen, dass das Invalideneinkommen bei Gewährung des maximal zulässigen Abzuges von 25 % Fr. 34'205.- betragen würde, woraus sich im Vergleich zum Valideneinkommen von Fr. 55'092.- ein ebenfalls rentenausschliessender Invaliditätsgrad von 38 % ergäbe.
4.3 Zusammenfassend lässt sich die Verneinung des Rentenanspruchs nicht beanstanden, was zur Abweisung der Beschwerde führt.
5. Die Kosten des Verfahrens sind vom unterliegenden Beschwerdeführer zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Bern, Sozialversicherungsrechtliche Abteilung, der Ausgleichskasse des Schweizerischen Gewerbes und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 30. Juli 2009
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Die Gerichtsschreiberin:
Ursprung Kopp Käch