Sachverhalt:
A.
A.a. Der 1960 geborene A._ arbeitete zuletzt bis Juni 2003 in der Fahrzeugaufbereitung, als er sich am 13. November 2003 unter Hinweis auf ein am 1. Mai 2001 bei einem Auffahrunfall erlittenes Schleudertrauma der Halswirbelsäule bei der Invalidenversicherung zum Leistungsbezug anmeldete. Nach medizinischen und beruflichen Abklärungen verneinte die IV-Stelle Glarus einen Leistungsanspruch (Verfügung vom 20. September 2005 und Einspracheentscheid vom 5. Dezember 2005). Am 12. Januar 2007 liess A._ um Revision oder Wiedererwägung des Einspracheentscheids vom 5. Dezember 2005 ersuchen. Mit dem Hinweis, gemäss Gutachten der Medizinischen Abklärungsstelle (MEDAS) Zentralschweiz vom 26. Juli 2010 bestünden keine Diagnosen mit Auswirkungen auf die Arbeitsfähigkeit, weshalb er sowohl in der bisherigen Tätigkeit als Fahrzeugaufbereiter/Automechaniker, als auch in sämtlichen leichten bis mittelschweren Verweisungstätigkeiten ohne ausgesprochen monotone oder repetitive, stark vornübergeneigte Kopfhaltung bei sitzenden Tätigkeiten, vollständig arbeitsfähig sei, wies die IV-Stelle das Leistungsbegehren abermals ab (Verfügung vom 2. Dezember 2010). Die hiegegen erhobene Beschwerde wies das Verwaltungsgericht des Kantons Glarus mit Entscheid vom 16. November 2011 ab. Diesen Entscheid bestätigte das Bundesgericht in Abweisung der dagegen eingereichten Beschwerde in öffentlich-rechtlichen Angelegenheiten, soweit es darauf eintrat. Auf die subsidiäre Verfassungsbeschwerde trat es nicht ein (Urteil 8C_932/2011 vom 7. März 2012).
A.b. Am 2. Dezember 2014 meldete sich A._ erneut bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle liess ihn polydisziplinär begutachten (Expertise des Begutachtungszentrums Baselland [BEGAZ] vom 24. August 2016) und verneinte verfügungsweise am 21. November 2016 einen Leistungsanspruch.
B.
Das Verwaltungsgericht des Kantons Glarus wies die dagegen geführte Beschwerde mit Entscheid vom 2. März 2017 ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, in Aufhebung des vorinstanzlichen Entscheids sei die Sache im Sinne der Erwägungen an das kantonale Gericht zurückzuweisen.
Es wurde kein Schriftenwechsel durchgeführt.

Erwägungen:
1.
1.1. Da die Beschwerde an das Bundesgericht grundsätzlich ein reformatorisches Rechtsmittel ist (Art. 107 Abs. 2 BGG), muss sie einen Antrag in der Sache (vgl. Art. 42 Abs. 1 BGG) enthalten; ein blosser Antrag auf Rückweisung genügt nicht, ausser wenn das Bundesgericht ohnehin nicht reformatorisch entscheiden könnte (<ref-ruling> E. 1.2 S. 135 f. mit Hinweis; Urteil 8C_673/2016 vom 10. Januar 2017 E. 1). Aus ihrer Begründung, die in diesem Zusammenhang zur Interpretation beigezogen werden kann, ergibt sich immerhin, dass die Beschwerde im Ergebnis auf die Zusprechung einer - mindestens halben - Rente abzielt. Unter diesen Umständen steht einem Eintreten auf die Beschwerde nichts im Wege.
1.2. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG), die Feststellung des Sachverhalts nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 BGG). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (Art. 105 Abs. 2 BGG).
1.3. Bei den gerichtlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit bzw. deren Veränderung in einem bestimmten Zeitraum handelt es sich grundsätzlich um Tatfragen (<ref-ruling> E. 3.2 S. 397 ff.). Gleiches gilt für die konkrete Beweiswürdigung (Urteil 9C_204/2009 vom 6. Juli 2009 E. 4.1, nicht publ. in <ref-ruling>, aber in: SVR 2009 IV Nr. 53 S. 164). Dagegen sind die Beachtung des Untersuchungsgrundsatzes und der Beweiswürdigungsregeln Rechtsfragen.
2.
Streitig und zu prüfen ist, ob die Vorinstanz zu Recht bestätigte, dass kein mit Neuanmeldung vom 2. Dezember 2014 geltend gemachter Rentenanspruch besteht, nachdem ein solcher mangels genügenden Invaliditätsgrads rechtskräftig verneint worden war. Dies beurteilt sich in analoger Anwendung der für die Rentenrevision geltenden Regeln. Massgeblich ist demnach, ob sich eine wesentliche Änderung in den tatsächlichen Verhältnissen ergeben hat, die geeignet ist, den Invaliditätsgrad und damit den Rentenanspruch zu beeinflussen. Dabei bildet in zeitlicher Hinsicht die letzte, auf einer materiellen Prüfung des Rentenanspruchs beruhende, rechtskräftige Verfügung den Ausgangspunkt - hier demnach der 2. Dezember 2010 - und die streitige Verfügung den Endpunkt - hier der 21. November 2016 - für die Beurteilung, ob eine solche Änderung eingetreten ist (vgl. Art. 17 Abs. 1 ATSG; <ref-ruling> und 108; <ref-ruling>).
3.
3.1. Das kantonale Gericht sah das Gutachten des BEGAZ vom 24. August 2016 als beweiskräftig an. Danach seien dem Beschwerdeführer körperlich schwere und häufig mittelschwere Tätigkeiten nicht mehr, körperlich leichte und mittelschwere Beschäftigungen, wie die angestammte Betätigung in der Fahrzeugaufbereitung, zu 50 % zumutbar. Angepasste Tätigkeiten mit sporadischer, leichter körperlicher Belastung und der Möglichkeit wechselnder Körperposition seien ihm im Umfang von 80 % zumutbar.
3.2. Damit nahm die Vorinstanz gestützt auf die im Teilgutachten der Frau Dr. med. B._, FMH für Rheumatologie und Innere Medizin, vom 23. Mai 2016 festgehaltenen, seit 2006 langsam progredienten degenerativen Veränderungen, v.a. zervikal und weniger auch lumbal, eine wesentliche Veränderung der tatsächlichen Verhältnisse seit der letzten Begutachtung der MEDAS Zentralschweiz vom 26. Juli 2010 an, die Grundlage für die Rentenabweisung am 2. Dezember 2010 gebildet hatte. Ob hier tatsächlich eine anspruchsrelevante Veränderung des Gesundheitszustands vorliegt, scheint angesichts der Feststellungen der Gutachter fraglich. So war aus organischer Sicht eine objektivierbare Verschlechterung nicht erkennbar, auch nicht im Hinblick auf die neu beschriebene Ausweitung des Zentralkanals auf Höhe des 7. Halswirbelkörpers (Teilgutachten des Dr. med. C._, FMH für Neurologie, vom 30. Mai 2016). Und in psychischer Hinsicht wurde mit angenommener Auswirkung auf die Arbeitsfähigkeit einzig eine leichte depressive Episode diagnostiziert (Teilgutachten des Dr. med. D._, FMH für Psychiatrie und Psychotherapie, vom 18. August 2016). Wie es sich im Einzelnen damit verhält, kann letztlich offenbleiben, wie sich aus den nachstehenden Erwägungen ergibt. Soweit die Vorinstanz auf die Schlussfolgerungen der Experten des BEGAZ abstellte, ist dies jedenfalls nicht offensichtlich unrichtig oder sonstwie bundesrechtswidrig, was auch nicht gerügt wird. Die Feststellungen betreffend Arbeitsfähigkeit sind nicht willkürlich und bleiben daher für das Bundesgericht verbindlich (E. 1).
4.
4.1. Mit Blick auf die erwerbliche Seite der Invaliditätsbemessung bemängelt der Beschwerdeführer das ermittelte Valideneinkommen in der Höhe von Fr. 70'539.30 nicht. Das trotz Gesundheitsschaden erzielbare Einkommen (Invalideneinkommen) sei nicht auf der Grundlage der Zahlen der Schweizerischen Lohnstrukturerhebung des Bundesamtes für Statistik (LSE) 2014, Tabelle TA1, Total, Kompetenzniveau 1, Männer zu ermitteln, sondern es sei auf die prozentuale Beeinträchtigung im angestammten Beruf als Fahrzeugaufbereiter/ Automechaniker abzustellen. Hieraus ergebe sich ein Invaliditätsgrad von 50 %. Sofern dennoch der Tabellenlohn massgeblich sei, hätte das kantonale Gericht diesen nicht nur für die zeitliche Einschränkung des funktionellen Leistungsvermögens um 20 %, sondern aufgrund des sehr eingeschränkten erwerblichen Leistungsvermögens zusätzlich angemessen kürzen müssen. Es sei mit dem Gleichbehandlungsgebot nicht vereinbar, wenn, unabhängig davon, wie ausgeprägt die Beeinträchtigung des funktionellen Leistungsvermögens im erwerblichen Bereich sei, ausnahmslos der ungekürzte Tabellenlohn herangezogen werde. So seien auch die Einsatzmöglichkeiten bei der monetären Bewertung der in medizinischer Hinsicht noch vorhandenen Leistungsfähigkeit zu berücksichtigen. Da er nur noch leichte, wechselbelastende Verweisungstätigkeiten ausführen könne, seien seine Einsatzmöglichkeiten eingeschränkter als bei Versicherten, die sämtliche leichten Verweisungstätigkeiten oder sogar mittelschwere oder schwere leidensangepasste Tätigkeiten ausführen könnten. Das Ausmass der eingeschränkten Leistungsfähigkeit sei daher hinsichtlich Einsatzdauer und -möglichkeiten entsprechend zu reduzieren, was hier nicht erfolgt sei. Zusätzlich zur Reduktion des statistischen Werts für die Einschränkung des funktionellen Leistungsvermögens sei mit einem Abzug zu berücksichtigen, dass der Versicherte als ungelernter Hilfsarbeiter nur noch branchenfremde Tätigkeiten ausführen könne und als 57-Jähriger mit Migrationshintergrund auf dem konkreten Arbeitsmarkt überdurchschnittlich benachteiligt sei. Daher sei mindestens ein Abzug von 20 % vorzunehmen. Ein solcher von 10 % sei unangemessen. Schliesslich sei der leidensbedingte Abzug in unzutreffender Weise nicht vom ungekürzten (Fr. 63'744.-), sondern vom an den Beschäftigungsgrad angepassten Tabellenlohn vorgenommen worden. Bei einem Abzug von 15 % würde der Invaliditätsgrad damit nicht 36, sondern über 38 % betragen.
4.2.
4.2.1. Für die Bestimmung des Invaliditätsgrads wird das Erwerbseinkommen, das die versicherte Person nach Eintritt der Invalidität und nach Durchführung der medizinischen Behandlung und allfälliger Eingliederungsmassnahmen durch eine ihr zumutbare Tätigkeit bei ausgeglichener Arbeitsmarktlage erzielen könnte, in Beziehung gesetzt zum Erwerbseinkommen, das sie erzielen könnte, wenn sie nicht invalid geworden wäre (Art. 16 ATSG).
4.2.2. Bei der Festsetzung des Invalideneinkommens ist primär von der beruflich-erwerblichen Situation auszugehen, in welcher die versicherte Person konkret steht. Übt sie nach Eintritt der Invalidität eine Erwerbstätigkeit aus, bei der - kumulativ - besonders stabile Arbeitsverhältnisse gegeben sind und anzunehmen ist, dass sie die ihr verbleibende Arbeitsfähigkeit in zumutbarer Weise voll ausschöpft, und erscheint zudem das Einkommen aus der Arbeitsleistung als angemessen und nicht als Soziallohn, gilt grundsätzlich der tatsächlich erzielte Verdienst als Invalidenlohn. Ist kein solches tatsächlich erzieltes Erwerbseinkommen gegeben, namentlich weil die versicherte Person nach Eintritt des Gesundheitsschadens keine oder jedenfalls keine ihr an sich zumutbare neue Erwerbstätigkeit aufgenommen hat, so können insbesondere Tabellenlöhne gemäss den vom Bundesamt für Statistik periodisch herausgegebenen Lohnstrukturerhebungen (LSE) herangezogen werden (<ref-ruling> E. 2.3 S. 593 f. mit Hinweis).
4.3.
4.3.1. Entgegen den Darlegungen in der Beschwerde ermittelte die Vorinstanz das Invalideneinkommen in allen Teilen korrekt. Aus dem Umstand, dass dem Beschwerdeführer die angestammte Hilfsarbeitertätigkeit in der Fahrzeugaufbereitung nur noch zu 50 % zumutbar ist, kann nicht auf eine rentenbegründende Invalidität von 50 % geschlossen werden. Denn für den Anspruch auf eine Rente der Invalidenversicherung ist nicht die Berufsunfähigkeit ausschlaggebend, sondern die gesundheitlich bedingte Erwerbsunfähigkeit (Art. 4 Abs. 1 IVG), verstanden als das Unvermögen, auf dem gesamten für den Versicherten in Frage kommenden ausgeglichenen Arbeitsmarkt die verbleibende Arbeitsfähigkeit in zumutbarer Weise wirtschaftlich zu verwerten. Da der Versicherte seine ihm verbleibende Leistungsfähigkeit nicht verwertet, zog die Vorinstanz sodann zu Recht die Tabellenlöhne der LSE heran und errechnete bundesrechtskonform nach Massgabe der gegebenen Restarbeitsfähigkeit in einer leidensangepassten Tätigkeit von 80 %, umgerechnet auf die branchenübliche wöchentliche Arbeitszeit von 41.70 Stunden, ein zumutbares Einkommen mit Behinderung von Fr. 53'162.50 (Fr. 63'744.- x 41.70/40 x 0.8).
4.3.2. Entgegen der Auffassung des Beschwerdeführers ist erst in einem nächsten Schritt zu prüfen, ob vom statistisch ermittelten Invalideneinkommen ein Abzug zu gewähren ist, um ein Invalideneinkommen zu ermitteln, das der im Einzelfall zumutbaren erwerblichen Verwertung der noch möglichen Verrichtungen im Rahmen der (Rest-) Arbeitsfähigkeit am besten entspricht.
Soweit er gestützt auf das Gebot der Gleichbehandlung wegen seiner beschränkten Einsatzmöglichkeiten über die rechtsprechungsgemäss bestehende Möglichkeit des leidensbedingten Abzugs hinaus (vgl. hernach) eine zusätzliche Reduktion des ihm anzurechnenden Tabellenlohnes beansprucht, ist ihm nicht zu folgen. Der Tabellenlohn umfasst im tiefsten Kompetenzniveau (einfache Tätigkeiten körperlicher oder handwerklicher Art) eine Vielzahl von leichten und mittelschweren Tätigkeiten, weshalb selbst bei Verweisung auf leichte Tätigkeiten schon unter dem Titel des Leidensabzugs kein unbedingter Anspruch besteht (vgl. Urteil 8C_99/2013 vom 5. April 2013 E. 4.1.3). Weshalb es beim Invalideneinkommen, das auf der Grundlage eines Tabellenlohnes, nach Massgabe der bestehenden Arbeitsfähigkeit, unter Berücksichtigung eines allfälligen Leidensabzugs festzusetzen ist, aus verfassungsrechtlichen Gründen eines weiteren Korrektivs bedürfen soll, ist nicht ohne weiteres ersichtlich und auch im Rahmen der Beschwerdebegründung (Art. 106 Abs. 2 BGG) nicht hinreichend dargetan.
Ein leidensbedingter Abzug kann praxisgemäss von dem anhand der LSE-Tabellenlöhne ermittelten Invalideneinkommen unter bestimmten Voraussetzungen ein leidensbedingter Abzug vorgenommen werden. Dieser soll persönlichen und beruflichen Umständen (leidensbedingte Einschränkung, Alter, Dienstjahre, Nationalität/Aufenthaltskategorie und Beschäftigungsgrad) Rechnung tragen, die negative Auswirkungen auf die Lohnhöhe der gesundheitlich beeinträchtigten Person haben können. Der Einfluss sämtlicher Merkmale auf das Invalideneinkommen ist nach pflichtgemässem Ermessen gesamthaft zu schätzen, wobei der Abzug auf höchstens 25 % zu begrenzen ist (<ref-ruling> und seitherige Entscheide). Ob ein leidensbedingter Abzug vorzunehmen ist, ist eine vom Bundesgericht frei überprüfbare Rechtsfrage. Die Höhe des vorgenommenen Abzuges hingegen kann das Bundesgericht lediglich auf Überschreitung, Missbrauch und Unterschreitung des vorinstanzlichen Ermessens überprüfen (vgl. <ref-ruling> E. 5.1 S. 72 mit Hinweis).
4.3.3. Die Vorinstanz berücksichtigte beim gewährten Abzug von 10 % - entgegen der Behauptung in der Beschwerde - auch die eingeschränkte Einsetzbarkeit aufgrund des umschriebenen Zumutbarkeitsprofils sowie die Benachteiligung durch die rechtsseitige leichtgradige Hochtonschallempfindungsschwerhörigkeit und die linksseitige Schallleitungsschwerhörigkeit, wobei sie ihr Vorgehen hinreichend begründete. Sie prüfte überdies eventualiter, ob bei einem Abzug von 15 % ein leistungsbegründender Invaliditätsgrad resultieren würde, was sie unter Angabe eines Wertes von diesfalls 36 % verneinte. Inwiefern das kantonale Gericht dabei sein Ermessen rechtsfehlerhaft angewandt oder willkürlich entschieden oder das verfassungsmässige Gleichbehandlungsgebot verletzt haben soll, ist weder ersichtlich noch stichhaltig dargetan. Es hat, wie dargelegt, gerade die eingeschränkte Leistungsfähigkeit und die darauf beruhenden Einsatzmöglichkeiten als lohnmindernd berücksichtigt. Soweit der Beschwerdeführer überdies einen Abzug vom Tabellenlohn fordert für die geltend gemachten Schwierigkeiten, die theoretische Restarbeitsfähigkeit auf dem konkreten Arbeitsmarkt zu verwerten, verkennt er, dass einzig massgebend ist, ob er seine verbliebene Arbeitskraft auf dem ausgeglichenen Arbeitsmarkt noch wirtschaftlich nutzen könnte. Der ausgeglichene Arbeitsmarkt ist ein theoretischer und abstrakter Begriff (vgl. Art. 16 ATSG) und berücksichtigt die konkrete Arbeitsmarktlage nicht. Da der Abzug in Würdigung der Umstände gesamthaft zu schätzen ist, basiert der vorinstanzliche Abzug von 10 % im Ergebnis - worauf es alleine ankommt - folglich nicht auf einer rechtsfehlerhaften Ermessensausübung. Damit hat es beim vorinstanzlichen Entscheid sein Bewenden.
5.
Dem Ausgang des Verfahrens entsprechend trägt der Beschwerdeführer die Gerichtskosten (Art. 66 Abs. 1 BGG). Die unentgeltliche Rechtspflege kann gewährt werden (Art. 64 BGG). Der Versicherte hat der Bundesgerichtskasse Ersatz zu leisten, wenn er später dazu in der Lage ist (Art. 64 Abs. 4 BGG).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Rechtsanwalt Prof. Dr. Hardy Landolt wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdeführers wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Glarus und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 29. Juni 2017
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Polla