Sachverhalt:
A.
Der 1965 geborene A._ meldete sich am 15. Dezember 2011 bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons St. Gallen gewährte Integrationsmassnahmen und klärte die medizinische sowie die erwerbliche Situation ab. Sie holte insbesondere die Berichte der behandelnden Ärztinnen und Ärzte, Stellungnahmen des RAD sowie ein polydisziplinäres Gutachten der Medizinischen Abklärungsstelle (MEDAS) Ostschweiz, St. Gallen, vom 17. Juli 2013 ein. Nach durchgeführtem Vorbescheidverfahren verneinte die IV-Stelle mit Verfügung vom 11. November 2013 einen weiteren Anspruch auf berufliche Massnahmen und mit Verfügung vom 12. Februar 2014 den Anspruch auf eine Invalidenrente.
B.
A._ liess gegen die Verfügung vom 12. Februar 2014 Beschwerde erheben und beantragen, es sei ihm eine Invalidenrente zuzusprechen, eventualiter sei ein gerichtliches Gutachten anzuordnen und anschliessend über den Rentenanspruch zu befinden. Das Versicherungsgericht des Kantons St. Gallen hiess die Beschwerde mit Entscheid vom 28. Juni 2017 teilweise gut und wies die Sache zur weiteren Abklärung und anschliessenden Neuverfügung an die IV-Stelle zurück.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, in Aufhebung des Entscheids vom 28. Juni 2017 sei die Angelegenheit an die Vorinstanz zurückzuweisen, damit diese ein gerichtliches Gutachten anordne und hernach über den Anspruch auf eine Invalidenrente entscheide. Zudem ersucht er um Gewährung der unentgeltlichen Rechtspflege.
Die IV-Stelle verzichtet auf eine Vernehmlassung. Das Versicherungsgericht des Kantons St. Gallen beantragt die Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen hat sich nicht vernehmen lassen.
Erwägungen:
1.
Das Bundesgericht prüft von Amtes wegen und mit freier Kognition, ob ein Rechtsmittel zulässig ist (BGE 141 V 206 E. 1.1 S. 208 mit Hinweisen).
2.
2.1. Beim angefochtenen Entscheid handelt es sich um einen Rückweisungsentscheid. Die IV-Stelle wird darin angewiesen, ein neues psychiatrisches Gutachten einzuholen und anschliessend erneut über den Rentenanspruch zu verfügen.
2.2. Die Beschwerde an das Bundesgericht ist zulässig gegen Entscheide, die das Verfahren abschliessen (Endentscheide; Art. 90 BGG). Beim angefochtenen Rückweisungsentscheid handelt es sich um einen Zwischenentscheid (BGE 140 V 321 E. 3.1 S. 325; 133 V 477 E. 4.2 S. 481 f. und E. 5.1 S. 482 f.), gegen den die Beschwerde in öffentlich-rechtlichen Angelegenheiten grundsätzlich nur zulässig ist (Art. 93 Abs. 1 BGG), wenn er einen nicht wieder gutzumachenden Nachteil bewirken kann (lit. a) oder wenn die Gutheissung der Beschwerde sofort einen Endentscheid herbeiführen und damit einen bedeutenden Aufwand an Zeit und Kosten für ein weitläufiges Beweisverfahren ersparen würde (lit. b).
3.
3.1. Die Beschwerdeinstanz hat gemäss bundesgerichtlicher Rechtsprechung in der Regel ein Gerichtsgutachten einzuholen, wenn sie im Rahmen der Beweiswürdigung zum Schluss kommt, ein bereits erhobener medizinischer Sachverhalt müsse (insgesamt oder in wesentlichen Teilen) noch gutachterlich geklärt werden oder eine Administrativexpertise sei in einem rechtserheblichen Punkt nicht beweiskräftig. Eine Rückweisung an die IV-Stelle bleibt hingegen möglich, wenn es darum geht, zu einer bisher vollständig ungeklärten Frage ein Gutachten einzuholen. Ebenso steht es dem Versicherungsgericht frei, eine Sache zurückzuweisen, wenn allein eine Klarstellung, Präzisierung oder Ergänzung von gutachterlichen Ausführungen erforderlich ist (BGE 139 V 99 E. 1.1 S. 100; 137 V 210 E. 4.4.1.4 S. 264).
3.2. Auch der in diesem Sinn (E. 3.1) ungerechtfertigte Entscheid einer Beschwerdeinstanz, die Sache zur weiteren medizinischen Abklärung an die IV-Stelle zurückzuweisen, ist mangels Vorliegens der Eintretensvoraussetzungen von Art. 93 Abs. 1 lit. a und b BGG vor Bundesgericht regelmässig nicht anfechtbar (BGE 139 V 99 E. 2.4 S. 103 f.; vgl. auch SVR 2016 IV Nr. 4 S. 11, 9C_703/2015 vom 12. November 2015 E. 4 bis 6). Vom Grundsatz der Nichtanhandnahme direkter Beschwerden gegen ungerechtfertigte Rückweisungsentscheide kann jedoch eine Ausnahme gemacht werden, wenn sich zeigt, dass ein Gericht regelmässig entsprechend vorgeht (BGE 139 V 99 E. 2.5 S. 104; vgl. auch BGE 138 V 271 E. 4 S. 280). Dahinter steht die Überlegung, dass eine strikte Einzelfallbehandlung der Eintretensvoraussetzungen es verunmöglichen würde, eine Fehlpraxis zu korrigieren. Es verhält sich insofern ähnlich, wie wenn unter bestimmten Bedingungen auf das Eintretenserfordernis des aktuellen praktischen Interesses (Art. 89 Abs. 1 BGG) verzichtet wird, damit eine bestimmte Frage von allgemeinem Interesse überhaupt je einmal beurteilt werden kann (Urteile 8C_929/2014 vom 13. April 2015 E. 4.4, in: SVR 2015 IV Nr. 29 S. 89, und 9C_703/2015 vom 12. November 2015 E. 7.1; vgl. BGE 140 III 92 E. 1.1 S. 93 f.; 137 I 23 E. 1.3.1 S. 25).
3.3. Nachdem das Bundesgericht bis anhin das Vorliegen genügender Anhaltspunkte für ein entsprechendes systematisches Vorgehen des Versicherungsgerichts des Kantons St. Gallen verneint hat (vgl. Urteile 8C_929/2014 vom 13. April 2015 E. 4.4, in: SVR 2015 IV Nr. 29 S. 89; 8C_932/2014 vom 13. April 2015 E. 4.4; 9C_971/2012 vom 13. Februar 2013 E. 2.5), räumt das kantonale Gericht ein solches Vorgehen im angefochtenen Entscheid nun selber ein. Es führt aus, die bundesgerichtliche Praxis zur Einholung von Gerichtsgutachten vermöge nicht zu überzeugen. Es sei nicht Aufgabe des kantonalen Versicherungsgerichts, den Sachverhalt zu ermitteln. Diese Aufgabe habe der Gesetzgeber in Art. 43 Abs. 1 ATSG ausdrücklich der IV-Stelle zugewiesen, weshalb es gesetzwidrig wäre, wenn das Gericht die Sachverhaltsermittlung von der IV-Stelle "übernehmen" würde. In ihrer Vernehmlassung macht die Vorinstanz gar geltend, eine neue Praxis des Bundesgerichts dürfe von den Rechtsanwendenden nur befolgt werden, wenn sie überzeuge, das heisse, wenn das neue Interpretationergebnis "besserer Erkenntnis des Gesetzeszwecks, veränderten äusseren Verhältnissen oder gewandelten Rechtsanschauungen entspreche". Die Rechtsanwender - so das kantonale Gericht im Weiteren - seien daher nicht nur befugt, sondern verpflichtet, das hinter der geänderten bundesgerichtlichen Praxis stehende neue Interpretationsergebnis auf seine Richtigkeit bzw. seine Überzeugungskraft zu prüfen; das heisse, sie hätten dieses Ergebnis nicht einfach als gegeben hinzunehmen, nur weil es vom höchsten Gericht stamme. Da die Vorinstanz die bundesgerichtliche Rechtsprechung zur Einholung von Gerichtsgutachten als nicht überzeugend begründet erachte, stehe es demzufolge nach wie vor in ihrem pflichtgemässen Ermessen, ob sie ein Gerichtsgutachten einhole oder die Sache zur erneuten Begutachtung an die IV-Stelle zurückweisen wolle.
3.4. Mit seinen Ausführungen macht das Versicherungsgericht des Kantons St. Gallen deutlich, dass es nicht gewillt ist, sich an die bundesgerichtliche Rechtsprechung zu halten, sondern vielmehr die Sache regelmässig zur gutachterlichen Abklärung an die Verwaltung zurückweist, obwohl es selber ein Gerichtsgutachten einholen müsste. Diese systematische Missachtung der bundesgerichtlichen Rechtsprechung rechtfertigt es nach Gesagtem, vom Grundsatz der Nichtanhandnahme direkter Beschwerden gegen ungerechtfertigte Rückweisungsentscheide eine Ausnahme zu machen und auf die vorliegende Beschwerde einzutreten.
4.
Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie die Sache zur erneuten psychiatrischen Begutachtung und anschliessenden Neuverfügung an die IV-Stelle zurückgewiesen hat anstatt selber ein Gerichtsgutachten einzuholen.
4.1. Bei festgestellter Abklärungsbedürftigkeit hat das angerufene kantonale Versicherungsgericht (bzw. das Bundesverwaltungsgericht) - wie in E. 3.1 hievor dargelegt - im Regelfall selber eine medizinische Begutachtung anzuordnen. Eine Rückweisung an die IV-Stelle ist zulässig, wenn sie allein in der notwendigen Erhebung einer bisher vollständig ungeklärten Frage begründet liegt oder wenn lediglich eine Klarstellung, Präzisierung oder Ergänzung von gutachterlichen Ausführungen erforderlich ist (BGE 139 V 99 E. 1.1 S. 100; 137 V 210 E. 4.4.1.4 S. 264).
4.2. Die Rechtsprechung, wonach die Gerichte die Einholung eines Gutachtens bei festgestellter Abklärungsbedürftigkeit nicht ohne Not durch Rückweisung an die Verwaltung delegieren dürfen, beruht auf dem Gebot der Verfahrensfairness sowie auf den Vorteilen von Gerichtsgutachten bezüglich Straffung des Gesamtverfahrens und beschleunigter Rechtsgewährung. Die direkte Durchführung der Beweismassnahme durch die Beschwerdeinstanz mindert sodann das Risiko von - für die öffentliche Hand und die versicherte Person - unzumutbaren multiplen Begutachtungen. Schliesslich verhält sich die Einschränkung der Befugnis der Sozialversicherungsgerichte, eine Streitsache zur neuen Begutachtung an die Verwaltung zurückzuweisen, komplementär zu den Mitwirkungsrechten der versicherten Person im Zusammenhang mit der Anordnung eines Administrativgutachtens gemäss Art. 44 ATSG. Letztere tragen zur Chancengleichheit bei, derweil das Gebot, im Falle einer Beanstandung des Administrativgutachtens eine Gerichtsexpertise einzuholen, die Waffengleichheit im Prozess gewährleistet, wo dies nach der konkreten Beweislage angezeigt ist (BGE 137 V 210 E. 4.4.1 S. 263 f.).
5.
5.1. Das kantonale Gericht hat nach Würdigung der Aktenlage festgestellt, dass in psychiatrischer Hinsicht zusätzlicher Abklärungsbedarf bestehe. So unterschieden sich die Beurteilungen der behandelnden Psychiaterin Dr. med. B._, FMH Psychiatrie und Psychotherapie, vom 3. April 2012 sowie 15. Dezember 2012 und des psychiatrischen Teilgutachters des MEDAS-Gutachtens vom 17. Juli 2013, med. prakt. C._, Vertrauensarzt SGV und zertifizierter medizinischer Gutachter SIM, hinsichtlich Diagnostik wie auch hinsichtlich Arbeitsfähigkeit diametral. Während Dr. med. B._ dem Versicherten wegen einer rezidivierenden depressiven Störung schwankenden Schweregrades und einer andauernden Persönlichkeitsstörung nach Extrembelastung ab Januar 2012 eine mindestens 50%ige und ab Oktober 2013 gar eine volle Arbeitsunfähigkeit bescheinige, habe med. prakt. C._ keine psychiatrische Erkrankung feststellen können. Er sei daher ab Begutachtungszeitpunkt von einer vollständigen Arbeitsfähigkeit ausgegangen, habe allerdings eingeräumt, dass die von Dr. med. B._ gestellte Diagnose einer mittelgradigen depressiven Episode für die Vergangenheit begründet und die attestierte 50%ige Arbeitsunfähigkeit nachvollziehbar seien. Die Vorinstanz hat dargelegt, dass die von den Fachärzten angegebenen Befunde deren jeweilige Diagnosen stützen würden und dass der Widerspruch auch durch die fachärztliche Stellungnahme des RAD vom 3. Dezember 2013 nicht aufgelöst werden könne. Zudem - so das kantonale Gericht - lägen auch unterschiedliche Beurteilungen bezüglich der Diagnose einer andauernden Persönlichkeitsstörung nach Extrembelastung vor. Med. prakt. C._ habe sich diesbezüglich nicht ausreichend mit den von Dr. med. B._ umschriebenen Defiziten auseinandergesetzt. In Anbetracht der unterschiedlichen fachärztlichen Einschätzungen, die hinsichtlich der depressiven Symptomatik aufgrund der jeweiligen Untersuchungsbefunde beide nachvollziehbar erschienen, hinsichtlich einer andauernden Persönlichkeitsstörung nach Extrembelastung indessen beide nicht zu überzeugen vermöchten, erachtete die Vorinstanz eine erneute psychiatrische Begutachtung für unerlässlich.
5.2. Bei gegebener Aktenlage ist unstreitig weder von einer bisher vollständig ungeklärten Frage noch von der Notwendigkeit einer Klarstellung, Präzisierung oder Ergänzung von gutachterlichen Ausführungen auszugehen, welche die Möglichkeit der Rückweisung an die IV-Stelle eröffnen würden. Vielmehr wurde der medizinische Sachverhalt durch die IV-Stelle erhoben und liegen sich diametral unterscheidende fachärztliche Berichte und Gutachten vor, die eine erneute psychiatrische Begutachtung erfordern. Wie der Beschwerdeführer zu Recht geltend macht, handelt es sich dabei um einen typischen Fall, in welchem das kantonale Gericht gemäss bundesgerichtlicher Rechtsprechung ein Gerichtsgutachten einzuholen hat. Indem die Vorinstanz stattdessen die Sache zur Einholung eines erneuten psychiatrischen Gutachtens an die IV-Stelle zurückweist und darüber hinaus klarstellt, dass sie nicht gewillt sei, sich an die diesbezügliche Rechtsprechung des Bundesgerichts zu halten, verletzt sie die bundesgerichtlichen Grundsätze zur Anordnung eines Gerichtsgutachtens und damit Bundesrecht. Der angefochtene Entscheid ist daher aufzuheben und die Sache zur Einholung eines Gerichtsgutachtens an die Vorinstanz zurückzuweisen.
5.3. Bezüglich Entscheid und Stellungnahme des Versicherungsgerichts des Kantons St. Gallen bleibt abschliessend mit aller Deutlichkeit festzuhalten, dass es nicht im Belieben der kantonalen Gerichte steht, die bundesgerichtliche Rechtsprechung zu befolgen, und auch nicht deren Aufgabe ist, die Rechtsprechung zu kommentieren.
6.
Das Verfahren ist kostenpflichtig. Als unterliegende Partei hätte grundsätzlich die Beschwerdegegnerin die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG; BGE 133 V 642) und dem durch eine beim Rechtsdienst Inclusion Handicap angestellte Anwältin qualifiziert vertretenen Beschwerdeführer eine Parteientschädigung zu entrichten (Art. 68 Abs. 1 BGG). Unnötige Kosten hat indessen zu bezahlen, wer sie verursacht (Art. 66 Abs. 3 und Art. 68 Abs. 4 BGG). Dies gestattet auch, ausnahmsweise die Gerichts- und Parteikosten der Vorinstanz resp. dem Gemeinwesen, dem diese angehört, aufzuerlegen. Die Vorinstanz missachtet systematisch die Rechtsprechung des Bundesgerichts und hat damit den Beschwerdeführer zum Gang vor das Bundesgericht gezwungen, was zu einer unnötigen Verlängerung des Verfahrens führte. Dieser Umstand kann nicht der Beschwerdegegnerin angelastet werden. Es rechtfertigt sich demnach, dem Kanton St. Gallen die Gerichts- und Parteikosten aufzuerlegen (vgl. Urteile 8C_742/2016 vom 5. Januar 2017 E. 3, 8C_276/2016 vom 23. Juni 2016 E. 8). Damit ist das Gesuch betreffend unentgeltliche Rechtspflege im bundesgerichtlichen Verfahren gegenstandslos.
Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird gutgeheissen und der Entscheid des Versicherungsgerichts des Kantons St. Gallen vom 28. Juni 2017 aufgehoben. Die Sache wird an die Vorinstanz zurückgewiesen, damit sie im Sinne der Erwägungen verfahre und über die Beschwerde neu entscheide.
2.
Die Gerichtskosten von Fr. 500.- werden dem Kanton St. Gallen auferlegt.
3.
Der Kanton St. Gallen hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 9. Februar 2018
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Kopp Käch