Sachverhalt: A. Der 1960 geborene, bis 2003 als Lagermitarbeiter bei der B._ AG, Rümlang, tätig gewesene A._ beantragte am 24. Juni 2003 unter Hinweis auf einen erlittenen Unfall mit linksseitiger Unterarmfraktur bei der Invalidenversicherung berufliche Massnahmen. Eine Kostengutsprache hierzu lehnte die IV-Stelle des Kantons Zürich mit Verfügung vom 3. November 2003 und Einspracheentscheid vom 19. Februar 2004 ab. Von 2007 bis 2012 war A._ als Lagermitarbeiter bei der C._ AG, Rümlang, angestellt gewesen. Am 8. März 2013 meldete er sich erneut zum Leistungsbezug bei der Invalidenversicherung an und machte unfallbedingte Schmerzen im Kopf, an der linken Hand, in der linken Hüfte, ein Schleudertrauma sowie einen im Jahr 2013 erlittenen Herzinfarkt geltend. Nach Abklärung der medizinischen und erwerblichen Situation (einschliesslich Beizug der Kranken- und Unfallversicherungsakten) sowie gestützt auf ein interdisziplinäres Gutachten des Zentrums für medizinische Begutachtung (ZMB), Basel, vom 2. März 2015 verneinte die IV-Stelle bei einem Invaliditätsgrad von 7 % einen Anspruch auf Invalidenrente (Verfügung vom 4. Februar 2016). B. Die dagegen geführte Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 3. März 2017 ab. C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, in Aufhebung des vorinstanzlichen Entscheids sei die Sache zur Durchführung einer neuen polydisziplinären Begutachtung an die IV-Stelle zurückzuweisen. Zudem ersucht er um unentgeltliche Rechtspflege und um einen zweiten Schriftenwechsel. Ein Schriftenwechsel wurde nicht durchgeführt.