Sachverhalt:
A.
Der 1960 geborene, bis 2003 als Lagermitarbeiter bei der B._ AG, Rümlang, tätig gewesene A._ beantragte am 24. Juni 2003 unter Hinweis auf einen erlittenen Unfall mit linksseitiger Unterarmfraktur bei der Invalidenversicherung berufliche Massnahmen. Eine Kostengutsprache hierzu lehnte die IV-Stelle des Kantons Zürich mit Verfügung vom 3. November 2003 und Einspracheentscheid vom 19. Februar 2004 ab. Von 2007 bis 2012 war A._ als Lagermitarbeiter bei der C._ AG, Rümlang, angestellt gewesen. Am 8. März 2013 meldete er sich erneut zum Leistungsbezug bei der Invalidenversicherung an und machte unfallbedingte Schmerzen im Kopf, an der linken Hand, in der linken Hüfte, ein Schleudertrauma sowie einen im Jahr 2013 erlittenen Herzinfarkt geltend. Nach Abklärung der medizinischen und erwerblichen Situation (einschliesslich Beizug der Kranken- und Unfallversicherungsakten) sowie gestützt auf ein interdisziplinäres Gutachten des Zentrums für medizinische Begutachtung (ZMB), Basel, vom 2. März 2015 verneinte die IV-Stelle bei einem Invaliditätsgrad von 7 % einen Anspruch auf Invalidenrente (Verfügung vom 4. Februar 2016).
B.
Die dagegen geführte Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 3. März 2017 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, in Aufhebung des vorinstanzlichen Entscheids sei die Sache zur Durchführung einer neuen polydisziplinären Begutachtung an die IV-Stelle zurückzuweisen. Zudem ersucht er um unentgeltliche Rechtspflege und um einen zweiten Schriftenwechsel.
Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
Die Beschwerde an das Bundesgericht ist grundsätzlich ein reformatorisches Rechtsmittel (<ref-law>), weshalb sie einen Antrag in der Sache (vgl. <ref-law>) enthalten muss; ein blosser Antrag auf Rückweisung genügt nicht, ausser wenn das Bundesgericht ohnehin nicht reformatorisch entscheiden könnte (<ref-ruling> E. 1.2 S. 135 f. mit Hinweis; Urteil 8C_673/2016 vom 10. Januar 2017 E. 1). Dass der Beschwerdeführer vorliegend kein Rechtsbegehren in der Sache stellt, schadet nicht. Denn aus seiner Begründung, die in diesem Zusammenhang zur Interpretation beigezogen werden kann, ergibt sich, dass er auf die Zusprechung einer Invalidenrente abzielt. Daher und da das Bundesgericht aufgrund des geltend gemachten Bedarfs an weiteren Abklärungen im Gutheissungsfall ohnehin nicht reformatorisch entschieden hätte, ist der Rückweisungsantrag zulässig (MEYER/DORMANN, in: Basler Kommentar, Bundesgerichtsgesetz, 2. Aufl. 2011, N. 2a und 7 zu <ref-law>; <ref-ruling> E. 1.2 S. 135).
2.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>), die Feststellung des Sachverhalts nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
3.
Streitig und zu prüfen ist, ob das kantonale Gericht mit der Verneinung des Anspruchs auf eine Invalidenrente Bundesrecht verletzte. Die massgebenden Rechtsgrundlagen legte es im angefochtenen Entscheid zutreffend dar. Darauf wird verwiesen.
4.
Die Vorinstanz stellte fest, gemäss dem als beweiskräftig einzustufenden polydisziplinären Gutachten des ZMB vom 2. März 2015 bestünden folgende Diagnosen (mit Einfluss auf die Arbeitsfähigkeit) : Chronisches zervikobrachiales Schmerzsyndrom links (Status nach einem Auffahrunfall am 15. März 2006), Periarthropathie der linken Schulter, Status nach einer Radius- und Ulna-Fraktur links (Unfall vom 2. April 2002), chronisches lumbovertebrales Schmerzsyndrom sowie klinischer Verdacht auf Piriformis-Syndrom der linken Hüfte. Ohne Einfluss auf die Arbeitsfähigkeit seien sodann ein gastroösophagealer Reflux (GERD), ein Status nach Herniotomie inguinal, eine koronare 1-Gefäss-Erkrankung, eine kombinierte Persönlichkeitsstörung mit narzisstischen und emotional instabilen Zügen sowie eine depressive Episode. Im Vordergrund stünden die Schmerzen von Seiten des linken Armes und eine gewisse Schmerzgeneralisierung. In der zuletzt ausgeübten Tätigkeit als Lastwagenchauffeur und Lagerist sei er laut Experten seit November 2002 nicht mehr einsetzbar. In einer körperlich leichten bis intermittierend mittelschweren Tätigkeit sei er seit September 2003 vollständig arbeitsfähig, wovon ebenso die Hausärztin Dr. med. D._, Fachärztin für Allgemeine Innere Medizin, Rümlang, in ihrem Bericht vom 13. September 2003 ausgehe. In Gegenüberstellung von Validen- und Invalideneinkommen und in Berücksichtigung eines leidensbedingten Abzugs von 10 % bestätigte das kantonale Gericht den von der IV-Stelle errechneten Invaliditätsgrad von 7 %.
5.
5.1. Die in der Beschwerde erhobenen Einwendungen begründen keine vom angefochtenen Entscheid abweichende Beurteilung. Die durch das kantonale Gericht getroffenen Tatsachenfeststellungen, namentlich die aus den medizinischen Unterlagen gewonnenen Erkenntnisse, sind im letztinstanzlichen Prozess grundsätzlich verbindlich (vgl. E. 2 hievor). Im Rahmen der eingeschränkten Sachverhaltskontrolle (<ref-law>) ist es nicht Aufgabe des Bundesgerichts, die schon im vorangehenden Verfahren im Recht gelegenen ärztlichen Berichte neu zu beurteilen und die rechtsfehlerfreie Sachverhaltsfeststellung der Vorinstanz hinsichtlich der medizinisch begründeten Verminderung des Leistungsvermögens und des Ausmasses der trotz gesundheitlicher Beeinträchtigungen verbleibenden Arbeitsfähigkeit zu korrigieren. Dass die Vorinstanz gestützt auf die entsprechenden ärztlichen Angaben keine (teilweise) Arbeitsunfähigkeit in einer leidensadaptierten Tätigkeit bejahte, ist jedenfalls nicht offensichtlich unrichtig. Aus den vom Gutachter Dr. med. E._ erhobenen allgemeinmedizinischen und internistischen Diagnosen (GERT, Status nach Herniotomie inguinal, koronare 1-Gefäss-Erkrankung), die mit der übrigen Aktenlage in Einklang stehen, resultierten keine Leistungseinschränkungen. Der Versicherte begründet nicht näher, wodurch seiner Ansicht nach in internistischer Hinsicht mit den Ausführungen der Frau Dr. med. F._, FMH für Innere Medizin, Zürich, im Bericht vom 19. Februar 2016 der Beweiswert des ZMB-Gutachtens in Frage gestellt wird. Das kantonale Gericht begründete schlüssig, worauf verwiesen wird, weshalb der Bericht der Hausärztin, soweit er, da nach Verfügungserlass ergangen, überhaupt zu berücksichtigen ist, die Beweiskraft der Expertise des ZMB nicht zu erschüttern vermag. Wie es weiter zutreffend ausführte, fand im Gutachten die koronare 1-Gefäss Erkrankung bei Status mit akutem Vorderwandinfarkt im Februar 2013 Berücksichtigung. Es wurde darauf hingewiesen, dass körperliche Anstrengungen aus kardiologischer Sicht zu vermeiden seien. Ein weitergehender Einfluss auf die Arbeitsfähigkeit ergab sich hieraus nicht.
Nicht stichhaltig darzulegen vermag der Beschwerdeführer, weshalb die Feststellungen der Vorinstanz zur psychiatrischen Problematik offensichtlich unrichtig oder in Verletzung bundesrechtlicher Beweisgrundsätze ergangen sein sollen. Im Wesentlichen begnügt er sich auch in diesem Zusammenhang damit, den auf den gutachterlichen Darlegungen der Psychiaterin Frau Dr. med. G._ basierenden Feststellungen im angefochtenen Entscheid seine eigenen Ausführungen in tatsächlicher Hinsicht gegenüber zu stellen. Auf diese appellatorische Kritik an der Beweiswürdigung des kantonalen Gerichts ist mit Blick auf die gesetzliche Überprüfungsbefugnis des Bundesgerichts nicht weiter einzugehen. Festzuhalten ist einzig, dass die Psychiaterin hinreichend darlegte, dass aufgrund des klinischen Befundes und der Überprüfung mittels Beck'schem - Depressions - Inventar (BDI) lediglich eine leichte depressive Episode vorliege und die Diagnosekriterien einer chronischen Schmerzstörung nicht erfüllt seien. Im Vordergrund des klinischen Bildes stand aus gutachtlicher Sicht nicht die Schmerzproblematik, sondern die Persönlichkeitsstörung. Es sind damit keine Gründe ersichtlich, weshalb die Vorinstanz nicht auf das den praxisgemässen Anforderungen genügende (<ref-ruling> E. 5.1 S. 232, <ref-ruling> E. 3a S. 352 ff., je mit Hinweisen), voll beweiskräftige Gutachten des ZMB abstellen durfte. Damit erübrigen sich in antizipierter Beweiswürdigung (vgl. <ref-ruling> E. 5.2 S. 69; <ref-ruling> E. 5.3 S. 236) die beantragten weiteren Abklärungen.
5.2. Gegen den vorinstanzlich bestätigten Invaliditätsgrad (7 %) wird letztinstanzlich nichts eingewendet, sodass hierauf nicht näher einzugehen ist.
6.
Die offensichtlich unbegründete Beschwerde wird im vereinfachten Verfahren nach <ref-law> - ohne Schriftenwechsel, mit summarischer Begründung unter Verweis auf den kantonalen Entscheid (Art. 102 Abs. 1 und Art. 109 Abs. 3 BGG) - erledigt.
7.
Dem Verfahrensausgang entsprechend sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>). Das Gesuch um Gewährung der unentgeltlichen Rechtspflege wird infolge Aussichtslosigkeit der Beschwerde abgewiesen (Art. 64 Abs. 1 und 2 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Das Gesuch um unentgeltliche Rechtspflege wird abgewiesen.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
4.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 5. Juli 2017
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Polla