Sachverhalt:
A.
A.a. Im Februar 2014 meldete sich der 1978 geborene A._ bei der Invalidenversicherung zum Leistungsbezug an unter Hinweis auf seit 6. September 2013 bestehende Rückenbeschwerden. Die IV-Stelle des Kantons Aargau lehnte berufliche Massnahmen ab; der ermittelte Invaliditätsgrad von 11 % verleihe keinen Anspruch auf eine Umschulung und mangels gesundheitlich bedingter Schwierigkeiten bei der Stellensuche bestehe auch kein Anspruch auf Arbeitsvermittlung. Die entsprechende Verfügung vom 31. Juli 2014 erwuchs unangefochten in Rechtskraft.
A.b. Im November 2017 meldete sich A._ erneut zum Leistungsbezug an. Die IV-Stelle prüfte die medizinischen und die erwerblichen Verhältnisse. Sie nahm zahlreiche Arztberichte zu den Akten und veranlasste nach Einholung einer Stellungnahme ihres Regionalen Ärztlichen Dienstes (RAD) vom 19. November 2018 eine orthopädisch-psychiatrische Begutachtung beim Swiss Medical Assessement- and Business-Center (SMAB), Bern (Gutachten vom 29. März 2019). Mit zwei separaten Vorbescheiden vom 10. April 2019 stellte sie die Verneinung des Anspruchs auf eine Rente und auf berufliche Massnahmen in Aussicht. Auf den vom Versicherten dagegen erhobenen Einwand nahm sie zuerst Rücksprache mit dem RAD und unterbreitete die vom Versicherten neu eingereichten Arztberichte sodann den SMAB-Gutachtern. Deren Stellungnahme vom 23. Juli 2019 legte sie wiederum dem RAD vor. A._, welchem die ergänzten Akten zugestellt wurden, erhielt nochmals Gelegenheit, sich dazu zu äussern (Stellungnahme vom 17. Oktober 2019). Mit Verfügung vom 4. November 2019 verneinte die IV-Stelle einen Rentenanspruch aufgrund eines ermittelten Invaliditätsgrades von 31 % und lehnte berufliche Massnahmen ab.
B.
Beschwerdeweise liess A._ die Aufhebung der Verfügung und die Zusprache einer ganzen Rente beantragen. Eventualiter sei der rechtserhebliche Sachverhalt abzuklären und im Nachgang dazu nochmals über den Leistungsanspruch zu befinden. Mit Entscheid vom 9. Juni 2020 wies das Versicherungsgericht des Kantons Aargau die Beschwerde ab.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und das Rechtsbegehren stellen, der kantonale Entscheid sei aufzuheben. Die Sache sei zu weiteren medizinischen Abklärungen und anschliessender neuer Indikatorenprüfung an die Vorinstanz zurückzuweisen. Eventualiter seien ihm die versicherten Leistungen (berufliche Massnahmen, Rente) bei einem Invaliditätsgrad von 40 % (zuzüglich Verzugszins) ab wann rechtens zuzusprechen.

Erwägungen:
1.
1.1. Die Beschwerde in öffentlich-rechtlichen Angelegenheiten kann wegen Rechtsverletzungen gemäss Art. 95 und 96 BGG erhoben werden. Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von <ref-law> beruht (<ref-law>; vgl. auch <ref-law>). Mit Blick auf diese Kognitionsregelung ist aufgrund der Vorbringen in der Beschwerde ans Bundesgericht zu prüfen, ob der angefochtene Gerichtsentscheid in der Anwendung der massgeblichen materiell- und beweisrechtlichen Grundlagen Bundesrecht verletzt (<ref-law>), einschliesslich einer allfälligen rechtsfehlerhaften Tatsachenfeststellung (Art. 97 Abs. 1, <ref-law>).
1.2. Bei den gerichtlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit sowie der konkreten Beweiswürdigung handelt es sich um für das Bundesgericht grundsätzlich verbindliche Tatfragen (<ref-ruling>E. 3.2 S. 397 ff.). Dagegen sind die vollständige Feststellung rechtserheblicher Tatsachen sowie die Beachtung des Untersuchungsgrundsatzes und der Anforderung an den Beweiswert ärztlicher Berichte und Gutachten Rechtsfragen (<ref-ruling>E. 5.1 S. 232; Urteil 9C_878/2017 vom 19. Februar 2018 E. 1.2).
2.
2.1. Streitig ist, ob die vorinstanzliche Verneinung eines Rentenanspruchs Bundesrecht verletzt. Nicht zu prüfen ist demgegenüber der lediglich im Rechtsbegehren erwähnte, in der Beschwerdebegründung aber (abgesehen von dem in E. 3.2.2 Ausgeführten) nicht weiter thematisierte Anspruch auf berufliche Massnahmen, welcher auch nicht Gegenstand des kantonalen Verfahrens bildete.
2.2. Im angefochtenen Entscheid werden die hier massgebenden Rechtsgrundlagen zutreffend dargelegt. Es betrifft dies insbesondere die Bestimmungen zum Begriff der Invalidität und der Erwerbsunfähigkeit (Art. 7 Abs. 1 und Art. 8 Abs. 1 ATSG) und zum Anspruch auf eine Invalidenrente (Art. 28 Abs. 1 und 2 IVG) sowie die Rechtsprechung zum Beweiswert und zur Beweiswürdigung medizinischer Berichte und Gutachten (<ref-ruling> E. 5.1 S. 232; <ref-ruling> E. 3a S. 352; vgl. auch 143 V 124 E. 2.2.2 S. 126 f.). Gleiches gilt für die Rechtsprechung zu den psychosomatischen Leiden (<ref-ruling>) und für die Folgeurteile, wonach grundsätzlich sämtliche psychischen Erkrankungen - insbesondere auch leichte bis mittelschwere depressive Störungen - dem strukturierten Beweisverfahren zu unterstellen sind (unter Vorbehalt der Fälle, in welchen aus Gründen der Verhältnismässigkeit davon abgesehen werden kann; zum Ganzen: <ref-ruling>und 418).
3.
3.1. Das kantonale Gericht hat dem SMAB-Gutachten vom 29. März 2019 Beweiskraft zuerkannt und gestützt darauf festgestellt, dass dem Versicherten aufgrund chronischer Schmerzen der Lendenwirbelsäule bei degenerativen Veränderungen L5/S1, einer leichten bis mittelschweren depressiven Episode (ICD-10 F32.0 bis 32.1) sowie einer chronischen Schmerzstörung mit somatischen und psychischen Faktoren (F45.41) die bisherige Tätigkeit als Plattenleger nicht mehr zumutbar sei. In einer angepassten, leichten bis selten mittelschweren Tätigkeit, die vorwiegend im Sitzen und mit der Möglichkeit von Positionswechseln ausgeübt werde, ohne häufige Gerüst- und Leitertätigkeiten und ohne Zwangshaltung für die Wirbelsäule bestehe hingegen eine Arbeitsfähigkeit von 70 %. Auf dieser Grundlage ermittelte die Vorinstanz die beiden Vergleichseinkommen anhand von Tabellenlöhnen (Valideneinkommen von Fr. 68'841.-; Invalideneinkommen von Fr. 47'212.- [bei einem Tabellenlohnabzug von 5 %]) und gelangte nach deren Gegenüberstellung zu einem rentenausschliessenden Invaliditätsgrad von 31 %. Selbst wenn ein Tabellenlohnabzug von 10 statt 5 % gewährt würde, wäre ein Rentenanspruch zu verneinen (Invaliditätsgrad von 38 %).
3.2.
Nach Auffassung des Beschwerdeführers verletzt das Abstellen auf das SMAB-Gutachten vom 29. März 2019 Bundesrecht.
3.2.1. Der Versicherte bringt zu Unrecht vor, die Vorinstanz habe (wie bereits zuvor die IV-Stelle) von einem strukturierten Beweisverfahren abgesehen. Denn entscheidend ist, dass sich die SMAB-Gutachter an den normativen Vorgaben von <ref-ruling> orientierten. Die in der Beschwerde erhobene Behauptung, im Gutachten werde nur ausgeführt, dass eine chronische Schmerzstörung alleine in der Regel zu keiner dauernden oder zu Invalidität führenden Einschränkung der Arbeitsfähigkeit führe, trifft denn auch nicht zu: Die Gutachter setzten sich unter Ziff. 4.3 ff. mit den konkreten funktionellen Auswirkungen der Störung anhand der Indikatoren auseinander, wobei sie insbesondere auch beim Versicherten vorliegende leistungshindernde äussere Belastungsfaktoren und Kompensationspotentiale (Ressourcen) berücksichtigten, so dass ihre Einschätzung eine schlüssige Beurteilung des tatsächlichen Leistungsvermögens im Lichte der Indikatoren erlaubte. Der Beschwerdeführer legt nicht (substanziiert) dar und es ist nicht ersichtlich, welche Faktoren darin zu wenig Berücksichtigung gefunden haben sollen. Die Vorinstanz verletzte kein Bundesrecht, wenn sie davon ausging, das SMAB-Gutachten vom 29. März 2019 genüge den Anforderungen der neusten Rechtsprechung, und der darin attestierten Arbeitsunfähigkeit folgte, ohne dass sie eine unzulässige (<ref-ruling> E. 4.3 S. 54) juristische Parallelüberprüfung vorgenommen hätte. Im Übrigen kann eine Indikatorenprüfung von vornherein zu keiner höheren als der ärztlich festgestellten Arbeitsunfähigkeit führen (vgl. Urteil 8C_783/2019 vom 14. April 2020 E. 4.1.4 mit Hinweisen).
3.2.2. Unbehelflich ist auch das Vorbringen des Versicherten, die IV-Stelle hätte anstelle der bidisziplinären SMAB-Expertise losbasiert ein polydisziplinäres Gutachten einholen müssen, weil er auch unter internistischen Beschwerden leide und zudem ein eingliederungsbezogener Klärungsbedarf bestehe. Was die zusätzlichen gesundheitlichen Einschränkungen anbelangt, stützt sich der Versicherte auf neue tatsächliche Vorbringen, welche im letztinstanzlichen Verfahren unzulässig sind (<ref-law>). Eingliederungsbezogene Abklärungen sind schon deshalb nicht erforderlich, weil berufliche Massnahmen an der fehlenden Eingliederungsbereitschaft des Versicherten scheiterten (in diesem Punkt unangefochten gebliebene Verfügung der IV-Stelle vom 4. November 2019). Damit ist nicht dargetan, dass nach den in <ref-ruling> E. 3.2 S. 352 aufgestellten Regeln eine polydisziplinäre Begutachtung angezeigt gewesen wäre.
3.2.3. Schliesslich kann dem kantonalen Gericht auch nicht vorgeworfen werden, es habe einseitig auf die Einschätzung des SMAB-Gutachters Dr. med. B._, Facharzt für Chirurgie, Facharzt für Orthopädie und Traumatologie des Bewegungsapparates, abgestellt und die Divergenzen zur Einschätzung des PD Dr. med. C._, Facharzt für Orthopädische Chirurgie und Traumatologie des Bewegungsapparates, nicht aufgelöst. Die Vorinstanz stützte sich in diesem Zusammenhang zu Recht auf die Stellungnahme vom 23. Juli 2019, in welcher Dr. med. B._ nachvollziehbar darlegte, weshalb die von PD Dr. med. C._ erhobenen Befunde die gutachterlichen Schlussfolgerungen nicht in Zweifel zu ziehen vermochten und insbesondere an der fehlenden Objektivierbarkeit von Schmerzen im geschilderten Ausmass nichts änderten.
3.2.4. Zusammenfassend ergibt sich, dass die erhobenen Rügen die vorinstanzlichen Feststellungen zum Gesundheitszustand und zur Arbeitsfähigkeit des Beschwerdeführers weder als offensichtlich unrichtig noch als Ergebnis willkürlicher Beweiswürdigung oder sonst wie rechtsfehlerhaft erscheinen lassen. Sie sind damit für das Bundesgericht verbindlich.
3.3. Der Beschwerdeführer hält auch die vorinstanzliche Ermittlung der beiden Vergleichseinkommen (Valideneinkommen von Fr. 68'841.-; Invalideneinkommen von Fr. 47'212.-) für rechtsfehlerhaft.
3.3.1. Die Feststellung der beiden hypothetischen Vergleichseinkommen stellt sich als Tatfrage dar, soweit sie auf konkreter Beweiswürdigung beruht, hingegen als Rechtsfrage, soweit sich der Entscheid nach der allgemeinen Lebenserfahrung richtet (<ref-ruling> E. 3.3 S. 399). Die korrekte Anwendung der LSE-Tabellen, namentlich die Wahl der Tabelle wie auch der Beizug der massgeblichen Stufe (Kompetenz- bzw. Anforderungsniveau), ist eine Rechtsfrage, welche das Bundesgericht ohne Einschränkung der Kognition frei überprüft (<ref-ruling> E. 2.4 S. 297 mit Hinweisen).
3.3.2. Der Beschwerdeführer macht ein Valideneinkommen von Fr. 91'562.- (eventualiter von Fr. 73'869.-) geltend, wofür er sich auf Kompetenzniveau 3 (eventualiter 2) des Wirtschaftszweiges 41-43 (Baugewerbe) der Lohnstrukturerhebung (LSE) 2016 stützt. Dass die Vorinstanz Kompetenzniveau 1 beigezogen habe, trage seiner bisherigen Tätigkeit als selbstständiger Plattenleger nicht Rechnung. Die IV-Stelle habe in ihrer Verfügung vom 31. Juli 2014 zu Recht noch Anforderungsniveau 3 beigezogen.
3.3.2.1. Der Versicherte hat nach der Schule keine Ausbildung, insbesondere auch nicht eine Lehre als Plattenleger, absolviert und sich im September 2011, nachdem er ab Mai 2011 Taggelder der Arbeitslosenversicherung bezogen hatte, als Allrounder selbstständig gemacht (50 % Platten legen, 30 % Gartenbau, 5 % Transport, 15 % Bürotätigkeit). Dabei zeigen der IK-Auszug, die Erfolgsrechnung seiner Einzelfirma und die in den Akten der Arbeitslosenversicherung verzeichneten Zwischenverdienste, dass sein in der Vergangenheit erzieltes Einkommen stets weit unter dem von der Vorinstanz aufgrund von Kompetenzniveau 1 ermittelten Validenlohn von Fr. 68'841.- lag, so dass dieser Wert als grosszügig bemessen erscheint.
3.3.2.2. Dass der Beschwerdeführer ein Abstellen auf das übernächste, zweithöchste Kompetenzniveau 3 damit zu begründen versucht, dass die IV-Stelle in ihrer Verfügung vom 31. Juli 2014 Anforderungsniveau 3 beigezogen habe, geht schon deshalb fehl, weil Anforderungs- (bis LSE 2010) und Kompetenzniveau (ab LSE 2012) nicht übereinstimmen (vgl. zum Serienbruch: <ref-ruling>). So oder anders scheint beim Versicherten mit Blick auf die Ausbildung, die bisherige Tätigkeit und den dabei erzielten Lohn das unterste Niveau (Kompetenzniveau 1 bzw. vormals Anforderungsniveau 4) angemessen.
3.3.2.3. Die vorinstanzliche Ermittlung des Valideneinkommens verletzt damit kein Bundesrecht.
3.3.3. Betreffend das Invalideneinkommen hält der Beschwerdeführer einen Tabellenlohnabzug von 15 % statt der von der Vorinstanz (insbesondere wegen Teilzeittätigkeit und in geringem Mass auch wegen des Aufenthaltsstatus) gewährten 5 % für gerechtfertigt. Zur Begründung gibt er an, die Vorinstanz selber habe festgestellt, dass allein schon der Teilzeitfaktor eine Lohneinbusse von rund 6.2 % und damit mehr als 5 % bewirke. Hinzu komme, dass er keine schwere Arbeit mehr verrichten könne, sondern nur noch wechselbelastende, vorwiegend sitzende Tätigkeiten, was sich negativ auf den Lohn auswirke.
3.3.3.1. Bei der damit streitigen Höhe des (im konkreten Fall grundsätzlich angezeigten) Abzugs handelt es sich um eine Ermessensfrage, welche letztinstanzlich nur bei Ermessensüberschreitung, -missbrauch oder -unterschreitung korrigierbar ist (<ref-ruling> E. 5.1 S. 72 f.; <ref-ruling> E. 3.3 S. 399; Urteil 8C_439/2017 vom 6. Oktober 2017 E. 5.3).
3.3.3.2. Anders als in der Beschwerde dargelegt, stellte die Vorinstanz eine Lohneinbusse wegen Teilzeit von 4.2 % und nicht von 6.2 % fest. Sodann geht der Beschwerdeführer zu Unrecht davon aus, die gesundheitlich bedingte Unmöglichkeit, weiterhin körperlich schwere Arbeiten zu verrichten, müsse automatisch zu einer Verminderung des hypothetischen Invalidenlohns führen. Rechtsprechungsgemäss ist der Umstand allein, dass nur noch leichte bis mittelschwere Arbeiten zumutbar sind, auch bei eingeschränkter Leistungsfähigkeit kein Grund für einen zusätzlichen leidensbedingten Abzug, weil der Tabellenlohn im Kompetenzniveau 1 bereits eine Vielzahl von leichten und mittelschweren Tätigkeiten umfasst (Urteile 9C_447/2019 vom 8. Oktober 2019 E. 4.3.2 und 8C_82/2019 vom 19. September 2019 E. 6.3.2). Dass die Vorinstanz einen Abzug von 5 % im Wesentlichen wegen Teilzeittätigkeit und in geringem Ausmass wegen des Aufenthaltsstatus gewährt hat, stellt damit keine rechtsfehlerhafte Ermessensbetätigung dar. Im Übrigen wurde im angefochtenen Entscheid dargetan, dass sich selbst bei einer Reduktion um 10 % ein rentenausschliessender Invaliditätsgrad ergäbe.
3.3.3.3. Das Invalideneinkommen wurde von der Vorinstanz bundesrechtskonform ermittelt.
3.4. Zusammenfassend ergibt sich, dass der kantonale Entscheid, in welchem ein Rentenanspruch verneint wird, rechtens ist. Die Beschwerde ist unbegründet.
4.
Entsprechend dem Ausgang des Verfahrens hat der Beschwerdeführer die Gerichtskosten zu tragen (<ref-law>).

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt.
3.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 29. Oktober 2020
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Das präsidierende Mitglied: Meyer
Die Gerichtsschreiberin: Keel Baumann