Sachverhalt:
A.
Der 1985 geborene A._ war an verschiedenen Stellen in der Baubranche tätig. Nachdem er wegen einer Diskushernie wiederholt der Arbeit hatte fern bleiben müssen, meldete er sich am 1. September 2009 bei der Invalidenversicherung zum Leistungsbezug an. Die IV-Stelle Basel-Stadt betraute die Dres. med. B._ und C._ mit einer bidisziplinären Begutachtung des Versicherten. Das psychiatrische Teilgutachten des Dr. med. B._ wurde am 21. September, das rheumatologische Teilgutachten des Dr. med. C._ am 19. September 2011 erstattet. Gestützt auf die fachärztlichen Angaben gelangte die IV-Stelle zum Schluss, dass A._ keine Invalidenrente beanspruchen könne, was sie ihm am 9. Mai 2012 verfügungsweise eröffnete. Mit einer weiteren Verfügung vom 6. Februar 2013 schloss sie sodann die Arbeitsvermittlung, um welche der Versicherte mit Schreiben vom 7. Juni 2012 ersucht hatte, ab.
Mit Schreiben vom 8. Mai 2014 gelangte A._ erneut an die IV-Stelle. Er ersuchte um eine Neubeurteilung seines Gesundheitszustandes, wobei er erklärte, Auskünfte könnten sein Hausarzt sowie Ärzte des Spitals D._ und des Spitals E._ erteilen. Die IV-Stelle holte einen Bericht des Hausarztes Dr. med. F._ vom 5. August 2014 und eine Stellungnahme des Dr. med. G._ vom 1. September 2014 sowie der Frau pract. med. H._ vom 7. September 2015, beide vom Regionalen Ärztlichen Dienst (RAD), ein. Am 3. Dezember 2015 lehnte sie das Gesuch um Leistungen der Invalidenversicherung, einschliesslich Massnahmen beruflicher Art, wiederum ab. Sie hielt fest, der Versicherte sei gemäss den medizinischen Abklärungen für jede körperlich leichte bis mittelschwere Tätigkeit voll arbeitsfähig. Mangels gesundheitlich bedingter Einschränkung bestehe kein Leistungsanspruch gegenüber der Invalidenversicherung.
B.
Die hiegegen eingereichte Beschwerde, mit welcher A._ die Zusprechung einer Invalidenrente, eventuell die Beurteilung aufgrund weiterer medizinischer Abklärungen, hatte beantragen lassen, wies das Sozialversicherungsgericht des Kantons Basel-Stadt ab (Entscheid vom 18. Mai 2016).
C.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten lässt der Versicherte die vorinstanzlich gestellten Rechtsbegehren erneuern. Ferner ersucht er um die Bewilligung der unentgeltlichen Rechtspflege.

Erwägungen:
1.
Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>), die Feststellung des Sachverhalts nur, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>).
2.
Die Vorinstanz hat unter Hinweis auf Art. 87 Abs. 2 und 3 IVV die Voraussetzungen, unter denen nach der Rechtsprechung auf eine Neuanmeldung einzutreten ist, dargelegt, und festgehalten, dass die anschliessende materielle Prüfung analog zur Rentenrevision nach <ref-law> vorzunehmen ist (<ref-ruling> E. 3.1 S. 73). Darauf wird verwiesen.
3.
3.1. Die Vorinstanz hat die Frage offen gelassen, ob die Verwaltung auf die Neuanmeldung des Versicherten eingetreten ist oder nicht, da der Beschwerde ohnehin kein Erfolg beschieden sein könne. Weil der Beschwerdeführer keine Verschlechterung seines Gesundheitszustandes habe glaubhaft machen können, wäre ein Nichteintreten auf das Leistungsgesuch zu Recht erfolgt. Wäre demgegenüber von einem Eintreten auf die Neuanmeldung auszugehen, müsste die Beschwerde abgewiesen werden; den eingeholten Arztberichten lasse sich gemäss Feststellungen des RAD keine Veränderung des Gesundheitszustandes entnehmen.
3.2. Der Beschwerdeführer macht geltend, die IV-Stelle sei auf seine Neuanmeldung eingetreten und habe das neue Leistungsgesuch abgewiesen. Indessen habe sie unvollständige Abklärungen getroffen und dadurch den Untersuchungsgrundsatz verletzt. Die eingeholten Arztberichte hätten die Frage nach der Veränderung des Gesundheitszustandes seit der Ablehnung des früheren Rentengesuchs nicht klar beantwortet, was das kantonale Gericht übersehen habe. Sodann habe dieses zu Unrecht Beweislosigkeit zu seinen Lasten angenommen. Die von der Verwaltung eingeholten Arztberichte hätten die Frage nach dem Arbeitsunfähigkeitsgrad nicht schlüssig beantwortet. Zum psychischen Gesundheitszustand fänden sich trotz Psychotherapie in der Klinik I._ keine fachärztlichen Angaben.
4.
4.1. Mit der Verfügung vom 3. Dezember 2015 hat die IV-Stelle den Anspruch des Beschwerdeführers auf Leistungen der Invalidenversicherung, einschliesslich berufliche Massnahmen, nach vorgängiger Abklärung der Arbeitsfähigkeit durch Ärzte und den RAD unter Hinweis auf ihre früheren Verfügungen vom 9. Mai 2012 und 6. Februar 2013 (Abschluss der Arbeitsvermittlung), erneut abgelehnt. Dass es sich dabei um ein Nichteintreten auf das neue Leistungsgesuch handeln soll, wie die Vorinstanz in ihrer Hauptbegründung annimmt, kann angesichts der von der IV-Stelle getroffenen Abklärungen in medizinischer Hinsicht und des Wortlauts der Verfügung nicht bestätigt werden, ist aber nicht ausschlaggebend; denn das kantonale Gericht hat die angefochtene Verfügung zu Recht auch unter dem Aspekt der Ablehnung der Neuanmeldung geprüft und die Beschwerde auch unter diesem Titel abgewiesen. Die vorinstanzlichen Erwägungen zur Frage des Nichteintretens der IV-Stelle auf die Neuanmeldung sind damit ohne Belang.
4.2. Wie die Vorinstanz für das Bundesgericht verbindlich festgestellt hat (E. 1 hievor), sind die Diagnosen, welche der Hausarzt des Versicherten, Dr. med. F._, im Bericht vom 5. August 2014 gestellt hat, praktisch identisch mit jenen, welche die Dres. med. B._ und C._ in ihrem bidisziplinären Gutachten vom 19./21. September 2011 aufgeführt hatten. Mit Bezug auf Anamnese und Befunde verwies Dr. med. F._ auf seinen Bericht vom 11. September 2009; er erklärte, seither sei keine Befundänderung eingetreten. Er hielt sodann daran fest, dass der Beschwerdeführer in seiner früheren Tätigkeit voll arbeitsunfähig sei, während er sich zur Einsatzfähigkeit des Beschwerdeführers in einer leidensangepassten Arbeit nicht äusserte. Wie das kantonale Gericht dargelegt hat, ist damit keine Änderung in den gesundheitlichen Verhältnissen ausgewiesen. Dass sodann das Spital E._, Klinik Rheumatologie, Zentrum Rheuma, Rücken, Schmerz, auf Anfrage der IV-Stelle vom 6. Juni 2014 hin eine Woche später (Eingang bei der Verwaltung am 13. Juni 2014) erklärte, der Versicherte habe sich seit 2012 zu keiner Konsultation mehr eingefunden, deutet entsprechend den vorinstanzlichen Erwägungen ebenfalls nicht auf eine Verschlimmerung der gesundheitlichen Verhältnisse im vorliegend interessierenden Vergleichszeitraum hin. Die entsprechenden Darlegungen im angefochtenen Entscheid verletzen kein Bundesrecht. Wird schliesslich mit der Vorinstanz in Betracht gezogen, dass auch der RAD am 1. September und 15. Oktober 2014 eine relevante Verschlechterung des Gesundheitszustandes nicht als glaubhaft erachtete und die Arbeitsfähigkeit in einer angepassten Tätigkeit auf 100 % schätzte, hält die Folgerung im angefochtenen Entscheid, wonach die Abweisung des neuen Leistungsgesuchs rechtmässig sei, vor Bundesrecht stand.
Mit Blick auf den Bericht des Dr. med. F._, vom 5. August 2014 und die Stellungnahmen des RAD vom 1. September und 15. Oktober 2014 war die Vorinstanz nicht gehalten, die gesundheitliche Situation des Beschwerdeführers mittels einer medizinischen Begutachtung erneut überprüfen zu lassen, da hievon keine neuen Erkenntnisse erwartet werden konnten. Soweit sie darauf in antizipierter Beweiswürdigung verzichtet hat, hat sie entgegen der Auffassung des Versicherten nicht gegen Bundesrecht verstossen.
5.
Dem Gesuch des Beschwerdeführers um unentgeltliche Rechtspflege ist stattzugeben, da die gesetzlichen Voraussetzungen erfüllt sind (Art. 64 Abs. 1 und 2 BGG). Der Beschwerdeführer wird indessen auf <ref-law> aufmerksam gemacht. Danach hat die Partei der Bundesgerichtskasse Ersatz zu leisten, wenn sie später dazu in der Lage ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird gutgeheissen, und es wird dem Beschwerdeführer Advokat Nicolai Fullin als Rechtsbeistand beigegeben.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Advokat Nicolai Fullin wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2'800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Sozialversicherungsgericht des Kantons Basel-Stadt und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 30. Januar 2017
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Die Präsidentin: Pfiffner
Der Gerichtsschreiber: Widmer