Sachverhalt: A. Der 1957 geborene V._, mazedonischer Staatsangehöriger, war vom 9. Mai 1988 bis 31. März 2004 als Bauarbeiter in der Firma X._ angestellt. Im Juni 2004 meldete er sich bei der Invalidenversicherung zum Leistungsbezug (Umschulung, Rente) an unter Hinweis darauf, dass er seit einem am 3. Dezember 1995 erlittenen Unfall unter Rückenschmerzen leide. Die IV-Stelle Bern klärte die gesundheitlichen und erwerblichen Verhältnisse ab und sprach ihm Beratung und Unterstützung bei der Stellensuche zu (Verfügung vom 1. September 2004). Mit Verfügung vom 18. Mai 2006 lehnte sie sodann die Ausrichtung einer Invalidenrente ab, woran sie auf Einsprache des Versicherten hin festhielt; des Weitern verneinte sie den Anspruch auf unentgeltliche Verbeiständung für das Einspracheverfahren (Entscheid vom 23. April 2007). B. Beschwerdeweise liess V._ das Rechtsbegehren stellen, der angefochtene Entscheid sei aufzuheben und es sei eine MEDAS-Begutachtung durchzuführen. Es sei ihm für das Einspracheverfahren die unentgeltliche Verbeiständung und für das Beschwerdeverfahren die unentgeltliche Rechtspflege (Prozessführung, Verbeiständung) zu gewähren. Das Gesuch um unentgeltliche Rechtspflege wies der kantonale Instruktionsrichter am 20. Juli 2007 ab. Mit Entscheid vom 14. Januar 2008 hiess das Verwaltungsgericht des Kantons Bern die Beschwerde insoweit gut, als es die den Anspruch auf unentgeltliche Rechtspflege verneinende Ziffer des Einspracheentscheides aufhob und die Sache im Sinne der Erwägungen zur Prüfung der Voraussetzungen der finanziellen Bedürftigkeit im Hinblick auf die unentgeltliche Verbeiständung im Verwaltungsverfahren an die IV-Stelle zurückwies (Ziffer 1 Satz 1). Soweit weitergehend wies es die Beschwerde ab (Ziffer 1 Satz 2). C. V._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten erheben und beantragen, es sei Ziffer 1 Satz 2 des angefochtenen Entscheides aufzuheben und die IV-Stelle anzuweisen, das Verfahren wieder aufzunehmen und eine polymedizinische Begutachtung durchzuführen. Während die IV-Stelle auf Abweisung der Beschwerde schliesst, verzichtet das Bundesamt für Sozialversicherungen auf eine Vernehmlassung.