Sachverhalt:
A.
A.a. Der 1979 geborene A._ meldete sich im Januar 2012 wegen den Folgen eines am 20. November 2011 erlittenen Autounfalls, bei dem er sich Verletzungen an beiden Beinen sowie am linken Arm zugezogen hatte, bei der Invalidenversicherung zum Leistungsbezug an. Nachdem die IV-Stelle Zürich erwerbliche Abklärungen vorgenommen und die Akten der Schweizerischen Unfallversicherungsanstalt (Suva) beigezogen hatte, verneinte sie mit Verfügung vom 8. Mai 2013 einen Anspruch auf eine Rente der Invalidenversicherung. Das Sozialversicherungsgericht des Kantons Zürich hob mit Entscheid vom 5. Mai 2014 die rentenabweisende Verfügung auf und wies die Sache zu weiteren Abklärungen an die Verwaltung zurück.
A.b. Die IV-Stelle veranlasste daraufhin eine psychiatrische und orthopädische Untersuchung des A._ bei ihrem Regionalen Ärztlichen Dienst (RAD, Bericht vom 31. August 2015). Nach durchgeführtem Vorbescheidverfahren verneinte sie mit Verfügung vom 19. Juli 2016 erneut einen Anspruch auf eine Invalidenrente.
B.
Die hiegegen erhobene Beschwerde wies das Sozialversicherungsgericht des Kantons Zürich mit Entscheid vom 31. Oktober 2016 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, der Entscheid vom 31. Oktober 2016 sei aufzuheben, es sei ihm "eine Rente nach Gesetz" auszurichten und es sei eine unabhängige psychiatrische Begutachtung, vorzugsweise im Rahmen eines Gerichtsgutachtens, zu veranlassen. Weiter sei ihm die unentgeltliche Prozessführung zu bewilligen.
Die IV-Stelle schliesst auf Abweisung der Beschwerde. Das Bundesamt für Sozialversicherung verzichtet auf eine Vernehmlassung.

Erwägungen:
1.
Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und Art. 96 BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG). Es wendet das Recht von Amtes wegen an (<ref-law>) und ist folglich weder an die in der Beschwerde geltend gemachten Argumente noch an die Erwägungen der Vorinstanz gebunden (<ref-ruling> E. 1.3 S. 67 f.; <ref-ruling> E. 1.2 S. 252, je mit Hinweisen).
2.
2.1. Streitig und zu prüfen ist, ob das kantonale Gericht zu Recht die Rentenabweisung schützte, indem es gestützt auf den psychiatrischen RAD-Bericht vom 31. August 2015 einen IV-relevanten Gesundheitsschaden verneinte.
2.2. Das kantonale Gericht stellte aufgrund des Berichts der Frau med. pract. B._, Fachärztin für Orthopädische Chirurgie und Traumatologie, RAD, vom 31. August 2015 fest, in somatischer Hinsicht sei, wie bereits mit Entscheid vom 5. Mai 2014 festgelegt wurde, von einer 100 %-igen Arbeitsfähigkeit in einer leidensangepassten Tätigkeit auszugehen. Bei der Beurteilung des psychischen Gesundheitszustands stellte es auf den Bericht des med. pract. C._, Facharzt für Psychiatrie und Psychotherapie, RAD, vom 31. August 2015 ab, wonach beim Beschwerdeführer aus psychiatrischer Sicht keine Diagnose mit dauerhafter Auswirkung auf die Arbeitsfähigkeit gestellt werden könne.
2.3. Beschwerdeweise wird geltend gemacht, die Vorinstanz habe dem psychiatrischen RAD-Bericht vom 31. August 2015 in Verletzung von Bundesrecht volle Beweiskraft beigemessen. Bereits geringe Zweifel seien gegeben, weil dieser sich nicht mit den Arbeitsbemühungen des Versicherten auseinandersetze, zumal die tatsächlich gezeigte Arbeitsleistung im ausgeübten Beschäftigungsprogramm mit der Arbeitsfähigkeitsschätzung der behandelnden Frau Dr. med. D._, Oberärztin, psychiatrische Klinik E._, übereinstimme (Bericht vom 10. November 2015). Die Diagnose einer chronischen Schmerzstörung mit somatischen und psychischen Faktoren diskutiere weder Vorinstanz noch die RAD-Ärztin bzw. werde wegen IV-fremder Faktoren ausgeschlossen. Sodann habe der RAD-Arzt keine Fremdanamnese erhoben, obwohl die Einschätzung der Frau Dr. med. D._ von derjenigen des RAD stark divergiere. Indem die Vorinstanz auf den RAD-Bericht abgestellt, aber weder die vorliegende Diagnose einer posttraumatischen Belastungsstörung noch jene einer mittelgradigen depressiven Episode berücksichtigt habe, liege eine ungenügende Sachverhaltsabklärung und eine Verletzung der bundesrechtlichen Beweiswürdigungsregeln vor. Es bestünden zumindest geringe Zweifel an der Schlüssigkeit des RAD-Berichts, weshalb ein Gerichtsgutachten anzuordnen sei. Eventualiter sei dem Beschwerdeführer wenigstens bis August 2015 (RAD-Bericht) ein "temporärer Anspruch auf Leistungen" zuzusprechen.
3.
3.1. Die RAD stehen den IV-Stellen zur Beurteilung der medizinischen Voraussetzungen des Leistungsanspruchs zur Verfügung. Sie setzen die für die Invalidenversicherung nach Artikel 6 ATSG massgebende funktionelle Leistungsfähigkeit der Versicherten fest, eine zumutbare Erwerbstätigkeit oder Tätigkeit im Aufgabenbereich auszuüben. Sie sind in ihrem medizinischen Sachentscheid im Einzelfall unabhängig (Art. 59 Abs. 2 bis IVG). Die RAD können bei Bedarf selber ärztliche Untersuchungen von Versicherten durchführen. Sie halten die Untersuchungsergebnisse schriftlich fest (<ref-law>). RAD-Berichte sind versicherungsinterne Dokumente, die von <ref-law> betreffend Gutachten nicht erfasst werden; die in dieser Norm vorgesehenen Verfahrensregeln entfalten daher bei Einholung von RAD-Berichten keine Wirkung (<ref-ruling> E. 3.4 S. 258; Urteil 8C_385/2014 vom 16. September 2014 E. 4.2.1).
3.2. Der Beweiswert von RAD-Berichten nach <ref-law> ist mit jenem externer medizinischer Sachverständigengutachten vergleichbar, sofern sie den praxisgemässen Anforderungen an ein ärztliches Gutachten (<ref-ruling> E. 5.1 S. 232) genügen und die Arztperson über die notwendigen fachlichen Qualifikationen verfügt (<ref-ruling> E. 1.2.1 S. 219). Allerdings ist hinsichtlich des Beweiswerts wie folgt zu differenzieren: Bezüglich Gerichtsgutachten hat die Rechtsprechung ausgeführt, das Gericht weiche "nicht ohne zwingende Gründe" von den Einschätzungen des medizinischen Experten ab. Hinsichtlich von Versicherungsträgern im Verfahren nach <ref-law> eingeholter, den Anforderungen der Rechtsprechung entsprechender Gutachten externer Spezialärzte wurde festgehalten, das Gericht dürfe diesen Gutachten vollen Beweiswert zuerkennen, solange "nicht konkrete Indizien gegen die Zuverlässigkeit" der Expertise sprechen. Auf das Ergebnis versicherungsinterner ärztlicher Abklärungen - zu denen die RAD-Berichte gehören - kann nicht abgestellt werden, wenn auch nur geringe Zweifel an ihrer Zuverlässigkeit und Schlüssigkeit bestehen (<ref-ruling> E. 5.2 S. 229; <ref-ruling> E. 4.4 S. 469 f. und E. 4.7 S. 471; Urteil 8C_385/2014 vom 16. September 2014 E. 4.2.2).
4.
4.1.
4.1.1. Die Vorinstanz erachtete die Ausführungen zum Gesundheitszustand des Beschwerdeführers im psychiatrischen RAD-Bericht als schlüssig. So folgte sie der Begründung des Psychiaters, wonach die Tatsache, dass der Versicherte seine Ferien im Irak verbringe und auch unmittelbar nach seiner Flucht aus dem Irak vollschichtig mehrere Jahre arbeitsfähig gewesen war (von 1999 bis 2011, IK-Auszug), gegen eine posttraumatische Belastungsstörung aufgrund des Krieges und der Gefangenschaft im Irak spreche. Auch der Umstand, dass in früheren Arztberichten festgehalten wurde, es bestehe der Verdacht auf eine posttraumatische Belastungsstörung, führe zu keinem anderen Ergebnis. Eine solche Diagnose im hier relevanten Beurteilungszeitraum finde keine schlüssige fachärztliche Bestätigung. Bezüglich der posttraumatischen Belastungsstörung nach dem erlittenen Autounfall hielt die Vorinstanz grundsätzlich richtig fest, die Diagnose nach den Richtlinien der ICD sei nur zu stellen, wenn sie nach einem traumatischen Ereignis von aussergewöhnlicher Schwere auftrete. Rechtsprechungsgemäss sei eine posttraumatische Belastungsstörung nur nach einer extremen Belastung invalidisierend, wobei der Verkehrsunfall vom 20. November 2011 nicht als dermassen eindrücklich und einschneidend zu qualifizieren sei, wie dies zur Annahme einer solchen Diagnose Voraussetzung wäre (Urteil 8C_248/2007 vom 4. August 2008 E. 5.6.1). Das kantonale Gericht begründete dies mit der Tatsache, der Beschwerdeführer sei wieder in der Lage, tagsüber alleine Auto zu fahren, ebenfalls nachts, wenn auch in Begleitung.
4.1.2. Die fehlende Diagnosestellung einer mittelgradigen depressiven Episode im RAD-Bericht erachtete das kantonale Gericht sodann wegen der seltenen Medikamenteneinnahme (vgl. Laborbefunde vom 11. August 2015) und nur monatlich stattfindenden psychiatrisch-psychotherapeutischen Behandlungen als schlüssig. Weiter sah es die Verneinung einer chronischen Schmerzstörung mit somatischen und psychischen Faktoren (ICD 10 F 45.41) mit dem Hinweis auf fehlende Belege für einen emotionalen Konflikt durch die erlittenen Traumata als Schmerzursache sowie auf nicht zu berücksichtigende psychosoziale Belastungsfaktoren ebenfalls als gerechtfertigt an.
4.2. Zwar mögen die Ausführungen im RAD-Bericht über weite Teile überzeugend sein. Entgegen der Ansicht des kantonalen Gerichts sind angesichts der übrigen im Recht liegenden psychiatrischen Berichte, insbesondere der psychiatrischen Klinik E._, wonach eine posttraumatische Belastungsstörung, eine anhaltende somatoforme Schmerzstörung und eine mittelgradige depressive Episode vorliegen, aber zumindest geringe Zweifel an der Schlüssigkeit der versicherungsinternen Beurteilung gegeben. Rückschlüsse über die gesundheitliche Situation mit Auswirkung auf die Arbeitsfähigkeit hinsichtlich des frühest möglichen Rentenbeginns im Januar 2013 lässt der RAD-Bericht keine zu, zumal nicht näher ausgeführt wird, weshalb und ab wann die im Bericht festgehaltene wesentliche Besserung des Gesundheitszustands eingetreten ist. Es wird sodann zu Recht eingewendet, dass sich darin, wie auch im vorinstanzlichen Entscheid, keine Darlegungen finden zum Umstand, dass eine zur medizinisch-theoretischen Arbeitsfähigkeit im Widerspruch stehende tatsächliche Arbeitsleistung des Beschwerdeführers anlässlich seiner Tätigkeit im Rahmen von Beschäftigungsprogrammen festgestellt wurde. Auch fehlt im Lichte von <ref-ruling> eine genügende Auseinandersetzung mit der in den Berichten der psychiatrischen Klinik E._ postulierten Schmerzproblematik, indem das kantonale Gericht einzig auf einen fehlenden emotionalen Konflikt und auf psychosoziale Belastungsfaktoren hinwies. Dadurch dass es dem RAD-Bericht vollen Beweiswert zusprach mit der Begründung, keine der vorgebrachten Erkenntnisse vermöge den RAD-Bericht umzustossen, verletzte es die bundesrechtlichen Beweiswürdigungsregeln (E. 3.2).
4.3. Ausweislich der medizinischen Aktenlage liegen zusammenfassend zumindest geringe Zweifel an dessen Zuverlässigkeit vor, zumal er doch recht knapp gehalten ist und - namentlich mit Blick auf den frühestmöglichen Rentenbeginn ab Januar 2013 - keinen Aufschluss über den Verlauf der gesundheitlich bedingten Arbeitsunfähigkeit bietet. Die Vorinstanz wäre daher gehalten gewesen, eine psychiatrische Expertise einzuholen, da die gesamten medizinischen Akten keine abschliessende Beurteilung erlauben, ob und gegebenenfalls ab wann eine invalidenversicherungsrechtlich relevante psychische Erkrankung mit Auswirkung auf die Arbeitsfähigkeit vorliegt. Demnach ist dem Eventualbegehren zu entsprechen und die Sache zur Einholung eines psychiatrischen Gerichtsgutachtens an die Vorinstanz zurückzuweisen. Je nach Diagnosestellung wird allenfalls die Rechtsprechung zu den anhaltenden somatoformen Schmerzstörungen und vergleichbaren psychosomatischen Leiden gemäss <ref-ruling> zu berücksichtigen sein (vgl. auch <ref-ruling> zur posttraumatischen Belastungsstörung), damit eine schlüssige Beurteilung im Lichte der massgeblichen Indikatoren möglich sein wird (<ref-ruling> E. 8 S. 309). Hernach wird das kantonale Gericht neu zu entscheiden haben. Weiterungen zu dem Antrag auf "temporäre Leistungen" erübrigen sich folglich.
5.
Die Rückweisung der Sache zum erneuten Entscheid kommt praxisgemäss einem Obsiegen der Beschwerde führenden Partei gleich. Die Beschwerdegegnerin hat daher im vorliegenden Verfahren die Gerichtskosten zu tragen und dem Beschwerdeführer eine Parteientschädigung auszurichten (Art. 66 Abs. 1, Art. 68 Abs. 1 und 2 BGG). Bei diesem Verfahrensausgang ist sein Gesuch um unentgeltliche Prozessführung gegenstandslos.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird teilweise gutgeheissen. Der Entscheid des Sozialversicherungsgerichts des Kantons Zürich vom 31. Oktober 2016 wird aufgehoben. Die Sache wird zu neuer Entscheidung an die Vorinstanz zurückgewiesen. Im Übrigen wird die Beschwerde abgewiesen.
2.
Die Gerichtskosten von Fr. 800.- werden der Beschwerdegegnerin auferlegt.
3.
Die Beschwerdegegnerin hat den Rechtsvertreter des Beschwerdeführers für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Zürich und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 12. April 2017
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Frésard
Die Gerichtsschreiberin: Polla