Sachverhalt:
A.
Der 1962 geborene, zuletzt bis Ende Oktober 2004 bei der B._ als Verkäufer tätig gewesene A._ bezog gestützt auf eine Verfügung der IV-Stelle des Kantons Schaffhausen vom 5. April 2005 seit 1. Juli 2004 eine halbe Rente der Invalidenversicherung.
Im Januar 2011 holte die IV-Stelle anlässlich eines Revisionsverfahrens ein polydisziplinäres Gutachten der Ärztlichen Gutachterstelle G._ vom 19. Dezember 2011 ein und verfügte am 5. Juni 2012 gestützt darauf die Renteneinstellung auf Ende August 2012.
B.
Die hiegegen erhobene Beschwerde wies das Obergericht des Kantons Schaffhausen mit Entscheid vom 28. Februar 2014 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und unter Aufhebung des angefochtenen Entscheids die Weiterausrichtung der halben Invalidenrente beantragen, eventualiter sei die Sache für ergänzende Abklärungen und zur Neubeurteilung an die Vorinstanz, subeventuell an die IV-Stelle zurückzuweisen. Ferner wird um unentgeltliche Rechtspflege ersucht.
Während das Bundesamt für Sozialversicherungen auf eine Vernehmlassung verzichtet, lässt A._ mit Eingabe vom 10. Juni 2014 das neuropsychiatrische Teilgutachten des Dr. med. C._ vom 25. Mai 2004, und mit Eingabe vom 17. Juni 2014 einen Bericht des Zentrums F._ vom 11. Juni 2014 einreichen. Die IV-Stelle verweist mit Stellungnahme vom 14. Juli 2014 auf eine Beurteilung des Regionalen Ärztlichen Dienstes (RAD) vom 7./10. Juli 2014. Am 14. August 2014 lässt A._ Bemerkungen hierzu einreichen.

Erwägungen:
1.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>), die Feststellung des Sachverhalts nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann deren Sachverhaltsfeststellung von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>).
2.
2.1. Streitig und zu prüfen ist, ob der Beschwerdeführer weiterhin Anspruch auf Leistungen der Invalidenversicherung hat. Umstritten ist insbesondere, ob eine anspruchsrelevante Verbesserung des psychischen Gesundheitszustands vorliegt. Das kantonale Gericht hat die für die Beurteilung der Streitsache massgeblichen Rechtsgrundlagen im angefochtenen Entscheid zutreffend dargelegt. Darauf wird verwiesen.
2.2. Der Beschwerdeführer lässt einen Bericht vom 11. Juni 2014 auflegen; dieser ist angesichts des angefochtenen Entscheides vom 28. Februar 2014 ein unzulässiges und damit nicht zu berücksichtigendes echtes Novum (<ref-law>; <ref-ruling> E. 3.1.2 S. 123).
3.
Das kantonale Gericht stellte fest, dass die ursprüngliche Rentenzusprache ausschliesslich aufgrund psychischer Beschwerden erfolgte. Beschwerdeweise wird geltend gemacht, die Verfügung vom 5. April 2005 basiere medizinisch sowohl auf einer Anpassungsstörung wie auch auf körperlichen Leiden. Es lässt sich nicht beanstanden, wenn die Vorinstanz hinsichtlich der Rückenproblematik festhielt, dass die rheumatologische Diagnosestellung der behandelnden Ärzte in den damaligen Berichten nicht entscheidend von derjenigen im Gutachten des Zentrums H._ abwich, deren Arbeitsfähigkeitsschätzung jedoch insofern nicht aussagekräftig gewesen sei, als sie im Wesentlichen auf subjektiven (Schmerz-) Angaben des Beschwerdeführers beruhte, wobei auch der behandelnde Arzt Dr. med. D._, Spezialarzt FMH für Physikalische Medizin spez. Rheumaerkrankungen, den Verdacht einer psychogenen Komponente (Bericht vom 16. Dezember 2003) äusserte. Auf diese Angaben zur Arbeitsfähigkeit in somatischer Hinsicht stellte die IV-Stelle denn auch nach den vorinstanzlichen Feststellungen nicht ab, sondern legte der ursprünglichen Rentenzusprache das Gutachten des Zentrums H._ vom 8. Juli 2004 zu Grunde (vgl. Stellungnahme des RAD-Arztes Dr. med. E._ vom 2. September 2004). Hierin wurde ausgeführt, eine Funktionsbeurteilung aus somatischer Sicht sei wegen Selbstlimitierung nicht möglich gewesen, weshalb eine 50%ige Arbeitsunfähigkeit aufgrund der psychiatrischen Diagnosestellung in Form einer gemischten Anpassungsstörung mit Störung der Gefühle und des Sozialverhaltens (ICD-10 F43.25) bestehe, weshalb die Sachverhaltsfeststellung der Vorinstanz nicht als offensichtlich unrichtig anzusehen ist.
4.
4.1. Das kantonale Gericht ging gestützt auf das Gutachten der Gutachterstelle G._ vom 19. Dezember 2011 sodann davon aus, dass sich aus rheumatologischer Sicht der Gesundheitszustand des Versicherten nicht verändert habe. Hingegen bestehe aus psychiatrischer Sicht eine Schmerzverarbeitungsstörung, welche wegen fehlender psychiatrischer Komorbidität jedoch keine Einschränkung der Arbeitsfähigkeit nach sich ziehe. Die ausgeweiteten Schmerzen am Bewegungsapparat liessen sich nicht hinreichend durch somatische Befunde objektivieren. Vielmehr bestünden psychosoziale Faktoren sowie eine finanziell angespannte Situation. Zum Begutachtungszeitpunkt habe weder eine affektive Störung noch eine andere psychiatrische Diagnose mehr gestellt werden können, weshalb das Gericht eine Verbesserung des psychischen Gesundheitszustandes annahm.
4.2.
4.2.1. Die Einwendungen des Beschwerdeführers erschöpfen sich weitgehend in einer appellatorischen, im Rahmen der gesetzlichen Überprüfungsbefugnis des Bundesgerichts unzulässigen Kritik an der vorinstanzlichen Beweiswürdigung und den dieser zugrunde liegenden Arztberichten und Gutachten, insbesondere an der Expertise der Gutachterstelle G._. Er beschränkt sich bezüglich des materiellen Gehalts der Begründung über weite Teile auf Wiederholungen der Vorbringen im kantonalen Verfahren. Die Vorinstanz setzte sich indessen eingehend mit dem Gutachten der Gutachterstelle G._ und den weiteren medizinischen Unterlagen auseinander und legte einleuchtend dar, weshalb sich der Gesundheitszustand in psychischer Hinsicht verbessert hat, ohne dabei Bundesrecht zu verletzen. Insbesondere vermag das nachgereichte Teilgutachten des Zentrums H._ des Dr. med. C._, Facharzt FMH Psychiatrie und Psychotherapie, vom 25. Mai 2004, welches sich nicht bei den Akten befand, das Gutachten der Gutachterstelle G._ nicht in Zweifel zu ziehen, da die Gutachter der Gutachterstelle G._ zu Recht davon ausgingen, dass die im Jahr 2004 festgestellte 50%ige Arbeitsunfähigkeit auf das von Dr. med. C._ diagnostizierte psychische Leiden einer gemischten Anpassungsstörung zurückzuführen war, was sich aus der gutachterlichen Gesamtbeurteilung ergab. Diese Störung konnte jedoch von den Experten der Gutachterstelle G._ nicht mehr festgestellt werden. Dass die gutachterliche Beurteilung des Dr. med. C._ nur in der Gesamtbeurteilung des Zentrums H._ festgehalten wurde und der Expertise nicht beilag, schmälert ihren Beweiswert nicht.
4.2.2. Soweit der Beschwerdeführer unter Hinweis auf das von Prof. Dr. iur. JÖRG PAUL MÜLLER und Dr. iur. JOHANNES REICH verfasste Rechtsgutachten "Zur Vereinbarkeit der bundesgerichtlichen Rechtsprechung zur medizinischen Begutachtung durch Medizinische Abklärungsstellen betreffend Ansprüche auf Leistungen der Invalidenversicherung mit Art. 6 der Konvention vom 4. November 1950 zum Schutze der Menschenrechte und Grundfreiheiten" vom 11. Februar 2010 in grundsätzlicher Hinsicht die Unabhängigkeit der MEDAS infrage stellt, sei auf <ref-ruling> verwiesen, in welchem Urteil sich das Bundesgericht mit der Beweistauglichkeit von Administrativgutachten der Medizinischen Abklärungsstellen unter den Aspekten Unabhängigkeit, Verfahrensfairness und Waffengleichheit einlässlich auseinandergesetzt hat. Zu diesbezüglichen Weiterungen besteht kein Anlass, wie das Bundesgericht in <ref-ruling> erkannt hat. Sodann kann der Beschwerdeführer aus dem Bericht des Zentrums F._ vom 6. Dezember 2012 nichts zu seinen Gunsten ableiten. Die Vorinstanz hielt zu Recht fest, dass der Sachverhalt bis zum Erlass der streitigen Verfügung festzustellen und deshalb auf diesen Bericht nicht abzustellen ist, zumal darin explizit eine gesundheitliche Verschlechterung nach der Renteneinstellung aufgezeigt wird. Insgesamt stellte das kantonale Gericht weder den Sachverhalt offensichtlich unrichtig oder unvollständig fest noch würdigte es die Beweismittel willkürlich. Die vorinstanzliche Feststellung einer revisionsrechtlich relevanten Änderung des Gesundheitszustands lässt sich nach dem Gesagten nicht beanstanden. Von einem weiteren medizinischen Gutachten sind keine neuen entscheidwesentlichen Erkenntnisse zu erwarten, weshalb es nicht anzuordnen ist (antizipierte Beweiswürdigung; <ref-ruling> E. 5.3 S. 148). Demnach bestätigte es zu Recht die Renten einstellende Verfügung vom 5. Juni 2012.
5.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>). Sie sind vorläufig auf die Gerichtskasse zu nehmen, da die Voraussetzungen für die Gewährung der beantragten unentgeltlichen Rechtspflege (fehlende Aussichtslosigkeit des Rechtsmittels, Bedürftigkeit des Gesuchstellers, Notwendigkeit der anwaltlichen Vertretung [Art. 64 Abs. 1 und 2 BGG; vgl. <ref-ruling> E. 4a S. 202 und 371 E. 5b S. 372]) erfüllt sind. Ferner wird seinem Rechtsvertreter eine Entschädigung aus der Gerichtskasse ausgerichtet (<ref-law>). Der Beschwerdeführer wird indessen auf <ref-law> aufmerksam gemacht, wonach er als Begünstigter der Gerichtskasse Ersatz zu leisten haben wird, wenn er später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwältin Katja Nikolova Hiller wird als unentgeltliche Anwältin bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Gerichtskasse genommen.
4.
Der Rechtsvertreterin des Beschwerdeführers wird aus der Gerichtskasse eine Entschädigung von Fr. 2800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Obergericht des Kantons Schaffhausen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 25. September 2014
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Leuzinger
Die Gerichtsschreiberin: Polla