Sachverhalt: A. A.a M._ (geboren 1956), gelernter Elektromonteur, meldete sich am 26. August 1998 nach einem ersten, rechtskräftig im März 1983 abgelehnten Rentengesuch erneut bei der IV-Stelle Bern zum Leistungsbezug an. Gestützt auf ein Gutachten des Dr. med. H._, FMH Psychiatrie und Psychotherapie, vom 25. Oktober 1999 wies die IV-Stelle das Leistungsgesuch mit der Begründung ab, der Versicherte weise kein iv-rechtlich bedeutsames Leiden auf und es sei ihm eine ganztägige Erwerbstätigkeit ohne nennenswerte Einschränkungen zumutbar (Verfügung vom 14. Februar 2000). Diese Verfügung bestätigte das Eidgenössische Versicherungsgericht letztinstanzlich mit Urteil vom 22. Januar 2001 (I 618/00). A.b Am 18. Februar 2003 gelangte M._ wiederum an die IV zum Leistungsbezug (Umschulung und Rente). Die IV-Stelle trat auf die Neuanmeldung mit Einspracheentscheid vom 1. Oktober 2003 nicht ein und verneinte einen Anspruch auf unentgeltliche Verbeiständung für das Einspracheverfahren. Die hiegegen eingereichte Beschwerde hiess das Verwaltungsgericht des Kantons Bern insoweit gut, als es den Einspracheentscheid aufhob und die Akten zu ergänzender medizinischer Abklärung im Sinne der Erwägungen an die IV-Stelle zurückwies. Hinsichtlich der unentgeltlichen Verbeiständung für das Einspracheverfahren wies es die Beschwerde ab. Auf Verwaltungsgerichtsbeschwerde hin wies das Eidgenössische Versicherungsgericht mit Urteil 19. April 2005 (I 83/05) die Sache auch hinsichtlich der unentgeltlichen Verbeiständung an die IV-Stelle zurück, damit sie über diesen Anspruch neu verfüge. A.c Nach Einholen eines interdisziplinären Gutachtens der Medizinischen Abklärungsstelle des Spitals X._ (MEDAS) vom 19. Oktober 2006 verneinte die IV-Stelle mit Verfügung vom 15. März 2007 wiederum einen Anspruch auf eine Invalidenrente. Mit separater Verfügung vom 16. März 2007 gewährte sie dem Versicherten die unentgeltliche Verbeiständung für das Verwaltungsverfahren. B. Die gegen die Verfügung vom 15. März 2007 erhobene Beschwerde wies das Verwaltungsgericht des Kantons Bern mit Entscheid vom 27. Februar 2008 ab unter Gewährung der unentgeltlichen Prozessführung und Verbeiständung. C. M._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit dem sinngemässen Antrag auf Zusprechung einer Invalidenrente. Eventuell sei ein MEDAS-Obergutachten, subeventuell ein psychiatrisches Obergutachten einzuholen. Ferner beantragt er auch für das letztinstanzliche Verfahren die unentgeltliche Rechtspflege. Die IV-Stelle Bern schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Vernehmlassung.