Sachverhalt: Mit Verfügung vom 20. März 2013 lehnte die IV-Stelle des Kantons Zürich das Leistungsbegehren von A._ nach durchgeführtem Vorbescheidverfahren mangels anspruchsrelevanter Invalidität ab. Das Sozialversicherungsgericht des Kantons Zürich wies die dagegen erhobene Beschwerde mit Entscheid vom 31. Oktober 2014 ab. A._ lässt mit Beschwerde ans Bundesgericht beantragen, unter Aufhebung des kantonalen Entscheides sei die IV-Stelle zu verpflichten, nach umfassenden medizinischen Abklärungen neu über die ihm zustehenden Leistungen (berufliche Massnahmen, Invalidenrente) zu entscheiden. Zudem ersucht er um unentgeltliche Rechtspflege. Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wird nicht durchgeführt.