Sachverhalt:
A.
Der 1981 geborene A._ meldete sich am 6. März 2015 bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle des Kantons St. Gallen tätigte verschiedene Abklärungen und holte die Akten des Taggeldversicherers ein, darunter ein psychiatrisches Gutachten der Dr. med. B._, Fachärztin für Psychiatrie und Psychotherapie, vom 10. September 2015. Mit Vorbescheid vom 8. Dezember 2015 stellte sie dem Versicherten die Abweisung des Leistungsbegehrens in Aussicht. Nachdem A._ dagegen Einwände erheben lassen hatte, klärte die IV-Stelle den Sachverhalt in medizinischer Hinsicht weiter ab. Gestützt auf das von ihr veranlasste polydisziplinäre Gutachten der Ärztliches Begutachtungs-Institut (ABI) GmbH, Basel, vom 27. März 2017 kündigte sie dem Versicherten erneut die Abweisung seines Leistungsbegehrens an (Vorbescheid vom 18. September 2017). Daran hielt sie nach Rückfrage bei den ABI-Gutachtern mit Verfügung vom 26. April 2018 fest.
B.
Die dagegen erhobene Beschwerde wies das Versicherungsgericht des Kantons St. Gallen mit Entscheid vom 12. Juni 2020 ab.
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt A._ beantragen, es sei der angefochtene Entscheid aufzuheben und ihm mit Wirkung ab dem 1. März 2016 eine unbefristete ganze Invalidenrente zuzusprechen. Eventualiter sei die Sache zwecks weiterer Abklärungen an die IV-Stelle zurückzuweisen. Zudem ersucht er um Gewährung der unentgeltlichen Rechtspflege und Verbeiständung.
Die vorinstanzlichen Akten wurden eingeholt. Ein Schriftenwechsel wurde nicht durchgeführt.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>), doch prüft es, unter Berücksichtigung der allgemeinen Pflicht zur Begründung der Beschwerde (Art. 42 Abs. 1 und 2 BGG), grundsätzlich nur die geltend gemachten Rügen, sofern allfällige weitere rechtliche Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1 S. 236 mit Hinweisen). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann eine - für den Ausgang des Verfahrens entscheidende (vgl. <ref-law>) - Sachverhaltsfeststellung nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>).
1.2. Die Sachverhaltsfeststellung und Beweiswürdigung der Vorinstanz ist nicht schon dann offensichtlich unrichtig (willkürlich), wenn sich Zweifel anmelden, sondern erst, wenn sie eindeutig und augenfällig unzutreffend ist. Es genügt somit nicht, dass eine andere Lösung ebenfalls in Betracht fällt, selbst wenn diese als die plausiblere erscheint. Willkür liegt insbesondere vor, wenn die Vorinstanz offensichtlich unhaltbare Schlüsse gezogen, erhebliche Beweise übersehen oder solche grundlos ausser Acht gelassen hat (Urteil 8C_89/2019 vom 19. Juni 2019 E. 2.2 mit Hinweisen). Solche Mängel sind in der Beschwerde aufgrund des strengen Rügeprinzips (vgl. <ref-law>) klar und detailliert aufzuzeigen (<ref-ruling> E. 4.2 S. 53 mit Hinweisen; Urteil 9C_752/2018 vom 12. April 2019 E. 1.2).
1.3. Bei den vorinstanzlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit der versicherten Person sowie bei der konkreten Beweiswürdigung handelt es sich grundsätzlich um Entscheidungen über Tatfragen (<ref-ruling> E. 3.2 S. 397 ff.), die das Bundesgericht seiner Urteilsfindung zugrunde zu legen hat. Dagegen betrifft die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln Rechtsfragen (<ref-ruling> E. 3.2 und 4 S. 397 ff.; Urteil I 865/06 vom 12. Oktober 2007 E. 4 mit Hinweisen), die das Bundesgericht unter Berücksichtigung der den Parteien obliegenden Begründungs- bzw. Rügepflicht (<ref-law>; <ref-ruling> E. 1.4.1 S. 254) frei überprüfen kann (<ref-law>).
2.
2.1. Streitig und zu prüfen ist, ob die Vorinstanz zu Recht in Bestätigung der Verfügung der IV-Stelle vom 26. April 2018 das Leistungsbegehren des Beschwerdeführers abgewiesen hat.
2.2. Im angefochtenen Entscheid wurden die wesentlichen Rechtsgrundlagen zutreffend dargelegt. Es betrifft dies namentlich die Bestimmungen und Grundsätze zur Invalidität (<ref-law>) und zur Erwerbsunfähigkeit (<ref-law>), zum Rentenanspruch (Art. 28 Abs. 1 und 2 IVG) sowie zum Beweiswert und zur Beweiswürdigung ärztlicher Berichte und Gutachten (<ref-ruling> E. 3a; <ref-ruling> E. 1c S. 160 f.; ferner <ref-ruling> E. 2.2.2 S. 126 f.; <ref-ruling> E. 5.1 S. 232 mit Hinweis). Darauf wird verwiesen.
Hervorzuheben ist, dass den von Versicherungsträgern im Verfahren nach <ref-law> eingeholten Gutachten externer Spezialärzte, die auf Grund eingehender Beobachtungen und Untersuchungen sowie nach Einsicht in die Akten Bericht erstatten und bei der Erörterung der Befunde zu schlüssigen Ergebnissen gelangen, volle Beweiskraft zuzuerkennen ist, solange nicht konkrete Indizien gegen die Zuverlässigkeit der Expertise sprechen (<ref-ruling> E. 4.4 S. 470; <ref-ruling> E. 3b/bb S. 353; Urteil 9C_256/2020 vom 10. Juni 2020 E. 3.2.4 mit Hinweisen).
3.
3.1. Das kantonale Gericht mass der ABI-Expertise vom 27. März 2017 Beweiswert bei. Gestützt darauf stellte es fest, der Beschwerdeführer sei in der zuletzt ausgeübten Tätigkeit wie auch in jeder anderen adaptierten Tätigkeit zu 90 % arbeitsfähig. Daraus resultiere kein rentenbegründender Invaliditätsgrad.
3.2. Der Beschwerdeführer bestreitet dagegen den Beweiswert des ABI-Gutachtens und rügt eine Verletzung des Untersuchungsgrundsatzes sowie des Grundsatzes der freien Beweiswürdigung.
4.
4.1. Zunächst macht der Beschwerdeführer geltend, der medizinische Sachverhalt im Zeitpunkt des Verfügungserlasses sei nicht hinreichend abgeklärt worden. So seien zwischen der Begutachtung im Februar 2017 und der Abweisungsverfügung vom 26. April 2018 14 Monate vergangen. Indessen zeigt er nicht ansatzweise auf, inwiefern sich sein Gesundheitszustand in der Zwischenzeit verändert haben soll, sodass sich diesbezüglich Weiterungen erübrigen.
4.2. Was den Beweiswert des ABI-Gutachtens betrifft, so ist mit der Vorinstanz festzuhalten, dass dieses auf umfassenden Untersuchungen in den Disziplinen Allgemeine Innere Medizin, orthopädische Chirurgie und Traumatologie des Bewegungsapparates, Oto-Rhino-Laryngologie sowie Psychiatrie und Psychotherapie beruht. Es erging in Kenntnis der wesentlichen Vorakten und berücksichtigt die geklagten Beschwerden des Versicherten. Ausserdem leuchtet es in der Beurteilung der medizinischen Zusammenhänge ein und die Schlussfolgerungen der Experten sind genügend begründet. Was der Beschwerdeführer dagegen vorbringt, verfängt nicht, wie sich aus dem Folgenden ergibt.
4.2.1. Soweit er geltend macht, das ABI-Gutachten stehe in ungeklärtem Widerspruch zu den Berichten der behandelnden Ärzte, ist darauf hinzuweisen, dass sich die Vorinstanz mit diesem Einwand bereits hinlänglich befasst hat. Dabei hat sie überzeugend dargelegt, dass namentlich die Berichte der Kliniken C._, und D._ sowie der Arztpraxis G._ den Beweiswert der ABI-Expertise nicht in Frage zu stellen vermöchten. Zur Einschätzung des Dr. med. E._, Facharzt für Psychiatrie und Psychotherapie, vom Psychiatriezentrum F._ hielt sie fest, der Arzt habe teilweise lediglich von narzisstischen Persönlichkeitsanteilen statt von einer Persönlichkeitsstörung gesprochen. Auch wenn er letztlich die Diagnose einer Persönlichkeitsstörung gestellt habe, gehe aus seinen Berichten auch das manipulative und dramatisierende Verhalten des Beschwerdeführers hervor. Dieses könne zwar zum Krankheitsbild einer narzisstischen Persönlichkeitsstörung gehören, es trage aber auch zu Unsicherheiten in der medizinischen Einschätzung bei, sodass Dr. med. E._ zeitweise sogar unsicher gewesen sei, ob er den Beschwerdeführer an die Psychiatrische Klinik D._ zuweisen solle. Das kantonale Gericht wies darauf hin, dass der Übergang von einer blossen Persönlichkeitsakzentuierung zu einer Persönlichkeitsstörung fliessend sei. Die Einstufung als das eine oder das andere beinhalte deshalb bis zu einem gewissen Grad ärztliches Ermessen. Selbst bei Vorliegen einer Persönlichkeitsstörung sei ausserdem nicht per se eine Arbeitsunfähigkeit gegeben, da es invalidenversicherungsrechtlich grundsätzlich nicht auf die Diagnose, sondern auf die Auswirkungen einer Erkrankung auf die Arbeitsfähigkeit ankomme. Zu den Berichten der Psychiatrischen Klinik D._ führte die Vorinstanz sodann aus, die behandelnde Ärztin habe eine 40%ige Arbeitsfähigkeit, rasch steigerbar auf eine volle Leistungsfähigkeit, attestiert. Die unterschiedliche Einschätzung der gezeigten Symptomatik als Persönlichkeitsstörung im Gegensatz zur Diagnose einer blossen Persönlichkeitsakzentuierung gemäss ABI-Gutachten vermöge den Beweiswert der Expertise nicht zu erschüttern. Inwiefern diese vorinstanzlichen Feststellungen im Rahmen der Beweiswürdigung offensichtlich unrichtig (vgl. E. 1.2 hiervor) oder sonst wie bundesrechtswidrig sein sollen, ist nicht ersichtlich.
4.2.2. Hinsichtlich der Diagnose einer Persönlichkeitsstörung stellte das kantonale Gericht im Weiteren fest, dass sich eine solche sowohl nach der Definition von ICD-10 als auch DSM-5 in der Regel in der Kindheit und Jugend manifestiere. Der Beschwerdeführer sei während mehr als 15 Jahren in der Lage gewesen, berufstätig zu sein, sodass jedenfalls keine Beeinträchtigung der Arbeitsfähigkeit vorgelegen habe. Vorliegend seien die narzisstischen Persönlichkeitszüge des Beschwerdeführers erst in seinem 33. Lebensjahr im Zusammenhang mit seiner Arbeitsfähigkeit medizinisch in Erscheinung getreten, sodass sich auch insofern nicht beanstanden lasse, dass die ABI-Gutachter lediglich eine Persönlichkeitsakzentuierung diagnostiziert hätten. Die Behauptung des Beschwerdeführers, er habe bereits früher an verschiedenen, schweren Persönlichkeitsstörungen gelitten, finde in den Akten keine Stütze. Insbesondere im von ihm angeführten Austrittsbericht der Psychiatrischen Klinik D._ vom 21. März 2016 würden lediglich seine eigenen Angaben wiedergegeben. Was der Beschwerdeführer gegen diese vorinstanzlichen Sachverhaltsfeststellungen vorträgt, erschöpft sich in appellatorischer Kritik am angefochtenen Entscheid, auf die nicht weiter einzugehen ist (vgl. E. 1.2 hiervor).
4.2.3. Ferner trifft es - entgegen den Vorbringen des Beschwerdeführers - auch nicht zu, dass die Vorinstanz einzig das ABI-Gutachten berücksichtigt und die übrigen Beweismittel ausser Acht gelassen hätte. Vielmehr hat sie sich hinreichend mit den Berichten der behandelnden Ärzte auseinandergesetzt und nachvollziehbar begründet, weshalb sich daraus keine konkreten Indizien gegen die Zuverlässigkeit der Expertise ergeben (vgl. E. 2.2 hiervor). Dabei durfte sie rechtsprechungsgemäss auch der Erfahrungstatsache Rechnung tragen, dass behandelnde Ärzte resp. Therapiekräfte mitunter im Hinblick auf ihre auftragsrechtliche Vertrauensstellung im Zweifelsfall eher zu Gunsten der Versicherten aussagen (<ref-ruling> E. 4.5 S. 470). Eine Verletzung des Grundsatzes der freien Beweiswürdigung (Art. 43 Abs. 1 und Art. 61 lit. c ATSG) ist nicht erkennbar. Im Übrigen legt der Beschwerdeführer nicht dar, welche ärztliche Einschätzung die Vorinstanz übersehen haben soll. Ausserdem scheint er fälschlicherweise (vgl. E. 2.2 hiervor) davon auszugehen, dass bereits geringe Zweifel an der Schlüssigkeit der ärztlichen Feststellungen genügen, um weiteren Abklärungsbedarf zu begründen.
4.2.4. Nach den verbindlichen (vgl. E. 1.1 hiervor) Feststellungen der Vorinstanz attestierte der psychiatrische ABI-Gutachter weder Aggravation noch Simulation, sondern er bemerkte lediglich eine nach aussen gerichtete Beschwerdedarstellung. Entsprechend habe er das Vorliegen einer Persönlichkeitsstörung nicht etwa wegen einer vermuteten Aggravation oder Simulation verneint. Soweit sich die Beschwerde gegen den von Dr. med. B._ in ihrem Gutachten vom 10. September 2015 geäusserten Verdacht auf ein Aggravations- und Simulationsverhalten richtet, geht sie demnach an der Sache vorbei.
4.2.5. Nicht nachvollziehbar ist im Weiteren die Rüge des Beschwerdeführers, es fehle an einer gesamthaften medizinischen Beurteilung sämtlicher Beschwerden. Denn genau zu diesem Zweck veranlasste die IV-Stelle eine polydisziplinäre Abklärung im ABI. Dass es im Gutachten vom 27. März 2017 an der erforderlichen Gesamtbetrachtung fehlen würde, wird vom Beschwerdeführer nicht substanziiert dargetan und ist auch nicht ersichtlich.
4.3. Nach dem Gesagten hat das kantonale Gericht zu Recht auf das ABI-Gutachten abgestellt. Gestützt darauf hat es verbindlich (vgl. E. 1.3 hiervor) festgestellt, dass der Beschwerdeführer in der zuletzt ausgeübten Tätigkeit wie auch in jeder anderen adaptierten Tätigkeit zu 90 % arbeitsfähig ist. Dass daraus kein rentenbegründender Invaliditätsgrad resultiert, wird zu Recht nicht bestritten.
5.
Die Beschwerde ist demnach unbegründet und abzuweisen.
6.
Das Verfahren ist kostenpflichtig (<ref-law>). Die Gerichtskosten werden dem unterliegenden Beschwerdeführer auferlegt (<ref-law>). Die unentgeltliche Rechtspflege (im Sinne der vorläufigen Befreiung von den Gerichtskosten und der unentgeltlichen Verbeiständung, <ref-law>) kann gewährt werden. Es wird indessen ausdrücklich auf <ref-law> aufmerksam gemacht, wonach die begünstigte Partei der Bundesgerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Thomas Stark wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdeführers wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons St. Gallen und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 14. Oktober 2020
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Der Gerichtsschreiber: Wüest