Sachverhalt: A. Der 1969 geborene, aus dem Sudan stammende A._ reiste im Jahre 2004 in die Schweiz ein. Er meldete sich am 8. April 2013 wegen chronischen Lungen- und Rückenbeschwerden bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle Bern zog diverse medizinische Berichte bei und liess den Versicherten bei der Abklärungsstelle B._ polydisziplinär (internistisch, rheumatologisch, pneumologisch und psychosomatisch) untersuchen. Gestützt auf die Expertise vom 24. Februar 2014 lehnte die IV-Stelle das Leistungsbegehren mit Verfügung vom 8. Mai 2014 ab. B. Das Verwaltungsgericht des Kantons Bern wies eine dagegen geführte Beschwerde mit Entscheid vom 2. Juni 2015 ab. C. A._ führt Beschwerde in öffentlich-rechtlichen Angelegenheiten mit dem Antrag, in Aufhebung des vorinstanzlichen Entscheides seien die Akten zu weiteren Abklärungen an die IV-Stelle zurückzuweisen, eventualiter habe das kantonale Gericht ein Gutachten zu veranlassen. Im Weiteren ersucht der Beschwerdeführer um die Gewährung der unentgeltlichen Rechtspflege. Die IV-Stelle schliesst auf Abweisung der Beschwerde, während sich das kantonale Gericht und das Bundesamt für Sozialversicherungen nicht vernehmen lassen. Mit Eingabe vom 9. September 2015 liess der Beschwerdeführer dem Bundesgericht auf die Vernehmlassung der Beschwerdegegnerin hin weitere Bemerkungen zukommen.