Sachverhalt:
A.
Der 1972 geborene A._ meldete sich am 12. November 2013 unter Hinweis auf zahlreiche gesundheitliche Beschwerden zum Leistungsbezug bei der Invalidenversicherung an. Nach medizinischen und beruflichen Abklärungen schloss die IV-Stelle des Kantons Aargau mit Verfügung vom 27. Mai 2015 die gewährten Integrationsmassnahmen ab und verneinte einen Anspruch auf Invalidenrente. Auf eine Neuanmeldung vom 30. September 2016 trat die IV-Stelle nicht ein (Verfügung vom 29. Juni 2017). Nach einer weiteren Neuanmeldung vom 14. September 2018 wurde A._ durch Dr. med. B._, Facharzt für Psychiatrie und Psychotherapie, begutachtet (Expertise vom 26. Februar 2020; Ergänzungsfragen wurden am 21. Juni 2020 beantwortet). Mit Verfügung vom 11. August 2020 sprach die IV-Stelle A._ eine vom 1. bis 31. März 2019 befristete ganze Rente zu.
B.
Die dagegen eingereichte Beschwerde, womit A._ eine unbefristete Rente der Invalidenversicherung beantragt hatte, wies das Versicherungsgericht des Kantons Aargau mit Urteil vom 22. März 2021 ab. Es änderte die Verfügung vom 11. August 2020 insofern ab, als es den vom 1. bis 31. März 2019 befristeten Rentenanspruch aufhob, nachdem es A._ eine Schlechterstellung (reformatio in peius) angedroht und Gelegenheit zum Beschwerderückzug eingeräumt hatte.
C.
A._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen und beantragen, das vorinstanzliche Urteil sei aufzuheben und ihm sei ab 1. März 2019 eine unbefristete Invalidenrente zuzusprechen. Ferner wird um unentgeltliche Rechtspflege ersucht. Am 28. April 2021 reicht A._ eine Beschwerdeergänzung ein.
Die IV-Stelle beantragt Abweisung der Beschwerde. Das Bundesamt für Sozialversicherungen verzichtet auf eine Stellungnahme.

Erwägungen:
1.
Die Beschwerde gegen einen Entscheid ist innert 30 Tagen nach der Eröffnung der vollständigen Ausfertigung beim Bundesgericht einzureichen (Art. 100 Abs. 1 BGG). Die Beschwerde muss u.a. ein Begehren und dessen Begründung enthalten (Art. 42 Abs. 1 BGG). Beides ist innert der Beschwerdefrist einzureichen. Nicht vorausgesetzt wird, dass die Begründung des Rechtsmittels in einer einzigen Beschwerdeschrift enthalten ist. Es steht dem Rechtsuchenden demnach frei, seine in einer ersten Eingabe geäusserte Rechtsauffassung während der laufenden Beschwerdefrist mit Ergänzungen oder Verbesserungen zu untermauern, solange er sich dabei an den von Art. 99 BGG gesetzten Rahmen hält (<ref-ruling> E. 1.2.1 mit Hinweisen). Die vom Beschwerdeführer innert der Beschwerdefrist eingereichte Ergänzung vom 28. April 2021 ist somit zu berücksichtigen.
2.
Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (Art. 95 lit. a BGG). Das Bundesgericht wendet das Recht von Amtes wegen an (Art. 106 Abs. 1 BGG). Es legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (Art. 105 Abs. 1 BGG), und kann deren Sachverhaltsfeststellung von Amtes wegen nur berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 BGG beruht und die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (Art. 97 Abs. 1 und Art. 105 Abs. 2 BGG).
3.
3.1. Streitig und zu prüfen ist, ob die Vorinstanz Bundesrecht verletzte, indem sie - in Abänderung der Verfügung der IV-Stelle vom 11. August 2020 - den vom 1. bis 31. März 2019 befristeten Rentenanspruch aufhob.
3.2.
3.2.1. Bei einer Neuanmeldung zum Leistungsbezug finden die Grundsätze zur Rentenrevision analog Anwendung (Art. 17 Abs. 1 ATSG; Art. 87 Abs. 2 und 3 IVV [SR 831.201]; <ref-ruling> E. 3.2.3), weshalb zunächst eine anspruchsrelevante Veränderung des Sachverhalts erforderlich ist, und erst in einem zweiten Schritt der (Renten-) Anspruch in tatsächlicher und rechtlicher Hinsicht umfassend zu prüfen ist (<ref-ruling>; Urteile 9C_135/2021 vom 27. April 2021 E. 2.1; 9C_27/2019 vom 27. Juni 2019 E. 2).
3.2.2. Der für eine erhebliche Sachverhaltsveränderung massgebliche Referenzzeitpunkt ist hier der 27. Mai 2015, während sich der gerichtliche Überprüfungszeitraum bis zum 11. August 2020 erstreckt (vgl. <ref-ruling> E. 5.4 und 129 V 1 E. 1.2).
4.
4.1. Fest steht, dass mit Verfügung vom 27. Mai 2015 ein Rentenanspruch verneint wurde, da der Beschwerdeführer durch die depressive Symptomatik nicht in anspruchsrelevanter Weise in seiner Arbeitsfähigkeit eingeschränkt gewesen war. Wie die Vorinstanz feststellte, habe sowohl Dr. med. C._, Facharzt für Neurologie FMH sowie Psychiatrie und Psychotherapie FMH, als auch Dr. med. F._, Facharzt für Psychiatrie und Psychotherapie FMH, beides Vertrauensärzte des zuständigen Krankenversicherers, vom 31. März 2014 und 20. Februar 2014 (recte: 2015) Arbeitsplatzkonflikte (und somit einzig psychosoziale Faktoren) als Auslöser der psychischen Erkrankung genannt, was invalidenversicherungsrechtlich unbeachtlich sei.
4.2. Die Vorinstanz mass dem psychiatrischen Gutachten des Dr. med. B._ vom 26. Februar 2020 Beweiskraft zu. Gestützt darauf stellte sie fest, dass der Beschwerdeführer in einer leidensangepassten Tätigkeit zu 70 % arbeitsfähig sei. Das Einkommen, das der Beschwerdeführer hypothetisch als Gesunder im Jahr 2018 erzielt hätte (Valideneinkommen) legte die Vorinstanz anhand der Schweizerischen Lohnstrukturerhebung (LSE) für das Jahr 2018 auf Fr. 88'898.- fest und stellte diesem, ebenfalls abgestützt auf die LSE 2018, ein Invalideneinkommen von Fr. 55'684.- gegenüber (vgl. Art. 16 ATSG). Vor diesem Hintergrund hat sie einen nicht rentenbegründenden Invaliditätsgrad von 37 % per 12. Dezember 2018 ermittelt.
5.
5.1.
5.1.1. Der Beschwerdeführer bringt zunächst vor, das Gutachten des Dr. med. B._ vom 26. Februar 2020 beruhe auf einer unvollständigen Aktenlage, weil dieser nicht alle relevanten Arztberichte berücksichtigt habe. Insbesondere unbeachtet geblieben seien die Berichte des Hausarztes Dr. med. G._, Allgemeine Medizin FMH, vom 26. November 2013 und 9. Oktober 2018, des Psychiaters Dr. med. H._ vom 9. Januar 2014, die Beurteilungen der Dres. med. D._ und F._ sowie der Austrittsbericht der Klinik E._ vom 13. Juli 2018. Die Annahme der Vorinstanz, auf dem von der IV-Stelle übermittelten elektronischen Datenträger (CD) seien dem Gutachter die vollständigen IV-Akten zur Verfügung gestellt worden, sei willkürlich.
5.1.2. Die Vorinstanz hielt hierzu fest, der psychiatrische Experte Dr. med. B._ habe angemerkt, sein Gutachten basiere auf dem gesamten IV-Dossier ("auf CD"), wobei er beim Aktenauszug nur die neusten Berichte aufgeführt habe.
Eine vertiefte Auseinandersetzung mit jedem einzelnen Bericht ist nicht erforderlich, wenn sich - wie hier - insgesamt ein vollständig und schlüssig ermitteltes Bild des Gesundheitszustandes und der Entwicklung seit der rentenverneinenden Verfügung vom 27. Mai 2015 ergibt (vgl. Urteile 8C_737/2019 vom 19. Juli 2020 E. 5.1.4; 8C_642/2011 vom 14. Februar 2012 E. 5.2). Dass in den erwähnten Berichten der behandelnden Ärzte oder in den Beurteilungen der Dres. med. D._ und F._ Aspekte benannt werden, die bei der Begutachtung durch Dr. med. B._ unerkannt oder ungewürdigt geblieben sein sollen, vermag der Beschwerdeführer nicht aufzuzeigen (vgl. <ref-ruling> E. 4.5; <ref-ruling> E. 3b/cc; SVR 2017 IV Nr. 7 S. 19, 9C_793/2015 E. 4.1; Urteile 8C_630/2020 vom 28. Januar 2021 E. 4.2.1; 8C_370/2020 vom 15. Oktober 2020 E. 7.2). Daher durfte die Vorinstanz willkürfrei erkennen, dass eine Erörterung der medizinischen Einschätzung der Dres. med. D._ und F._ nicht zwingend gewesen sei. Was den Austrittsbericht der Klinik E._ vom 13. Juli 2018 betrifft, führte der Experte die vom 17. Mai bis 11. Juli 2018 dauernde stationäre Behandlung in der Klinik im Gutachten unter Ziff. 2 "Aktenauszug" auf. Er erwähnte an verschiedener Stelle im Gutachten den stationären Aufenthalt, so wies er beispielsweise im Rahmen der diagnostischen Beurteilung auf die damalige depressive Verschlechterung mit stationärer psychosomatischer Behandlung hin. Entgegen den Einwendungen in der Beschwerde verletzt es kein Bundesrecht, wenn die Vorinstanz annahm, dass dieser Bericht Dr. med. B._ vorlag. Insgesamt hält der vorinstanzliche Schluss, das Gutachten des Dr. med. B._ sei in Kenntnis der relevanten medizinischen Akten ergangen, vor Bundesrecht stand.
5.2. Was die gesundheitliche Entwicklung in psychischer Hinsicht anbelangt, so erkannte der Experte eine unveränderte Situation in Bezug auf die Arbeitsfähigkeit resp. den Gesundheitszustand des Beschwerdeführers. Wie die Vorinstanz feststellte, ging er bei der diagnostizierten rezidivierenden depressiven Störung, gegenwärtig leichte bis mittelgradige Episode (ICD 10 F33.00/F33.10), "auch gemittelt über den Verlauf" (mit Ausnahme der Zeiten stationärer Behandlung) nicht von einer anhaltenden höhergradigen als der attestierten Arbeitsunfähigkeit (von 30 %) in einer leidensangepassten Tätigkeit aus. Der wiederholte Einwand des Beschwerdeführers, Dr. med. B._ habe die Arbeitsfähigkeit nicht im "Längsschnitt" beurteilt, geht damit fehl. Gemäss den Feststellungen im angefochtenen Urteil teilte diese Einschätzung der Arbeitsfähigkeit im Übrigen auch der RAD-Arzt Dr. med. I._, Facharzt für Psychiatrie und Psychotherapie, in seinen Stellungnahmen vom 6. April und 25. Juni 2020. Der behandelnde Dr. med. J._, Facharzt für Neurologie FMH sowie Psychiatrie und Psychotherapie, wies in seiner Stellungnahme zum Gutachten des Dr. med. B._ vom 27. März 2020 überdies im Einklang damit darauf hin, dass hinsichtlich der diagnostizierten rezidivierenden depressiven Störung die Beurteilung des Experten im Schweregrad nur geringfügig von seinen eigenen bisherigen Explorationen abweiche. Dass sich Dr. med. B._ hinsichtlich der hier interessierenden Befundlage unzureichend mit den abweichenden medizinischen Beurteilungen auseinandergesetzt haben soll, ist insgesamt nicht ersichtlich.
Soweit der Beschwerdeführer bemängelt, dass der Gutachter psychosoziale Faktoren bei der Arbeitsfähigkeitsschätzung beiseite gelassen habe, ist festzuhalten, dass es in einer versicherungsmedizinischen Begutachtung, die sich nach den normativen Vorgaben der Rechtsprechung orientiert, nicht nur zulässig, sondern sogar geboten ist, solche invalidenversicherungsrechtlich nicht relevanten Umstände aufzuzeigen und gegebenenfalls bei der Einschätzung der Arbeitsfähigkeit auszuklammern, soweit sie direkt negative funktionelle Folgen zeitigen (vgl. <ref-ruling> E. 4.5.2 mit Hinweisen; <ref-ruling> E. 4.3.3; Urteile 9C_648/2017 vom 20. November 2017 E. 3.2.4.1, 9C_658/2018 vom 11. Januar 2019 E. 4.3 und 8C_407/2020 vom 3. März 2021 E. 4.1). Ob der psychiatrische Gutachter im Sinne dieser Rechtsprechung vorging, braucht im vorliegenden Kontext nicht beurteilt zu werden. Denn hinsichtlich der psychischen Erkrankung entfällt hier grundsätzlich eine Indikatorenprüfung nach <ref-ruling> mangels Vorliegens eines für eine Rentenzusprache bei Neuanmeldung erforderlichen Revisionsgrundes (vgl. vorstehende E. 3.2.1), wie sich aus dem soeben Dargelegten ergibt (Urteile 8C_719/2020 vom 7. April 2021 E. 7.2.2; 8C_539/2020 vom 3. November 2020 E. 6.2.3, 8C_603/2019 vom 22. November 2019 E. 6.2 und 8C_454/2018 vom 16. November 2018 E. 6.5). Damit erübrigen sich diesbezügliche Weiterungen, namentlich was die Vorbringen zu den einzelnen Indikatoren betrifft.
5.3. In somatischer Hinsicht stellte die Vorinstanz fest, gemäss dem Austrittsbericht der Klinik E._ vom 13. Juli 2018 hätten sich die körperlichen Beschwerden deutlich reduziert und bei Austritt nicht mehr im Vordergrund gestanden. Zudem habe der Beschwerdeführer gegenüber dem Gutachter angegeben, zur Zeit stehe er bei seinem Hausarzt nicht mehr in Behandlung. Seit der Neuanmeldung vom 14. September 2018 sei lediglich das Röntgen der Lendenwirbelsäule aktenkundig hinzugekommen. Gravierende Befunde seien dem Bericht des Röntgeninstituts K._ vom 14. September 2018 aber nicht zu entnehmen. Inwiefern diese Feststellungen willkürlich sein sollen oder anderweitig Bundesrecht verletzen, zeigt der Beschwerdeführer nicht auf. Eine invalidenversicherungsrechtlich relevante Verschlechterung des somatischen Gesundheitszustands seit Mai 2015 ist damit ebensowenig auszumachen. Einen solchen Schluss lassen auch die gutachterlichen Darlegungen nicht zu. Dem steht nicht entgegen, dass Dr. med. B._ nebst der depressiven Störung die dokumentierten somatischen Beschwerden ebenfalls im Vordergrund sah, wie der Beschwerdeführer korrekt vorbringt. Der Experte hielt fest, dass diagnostisch mit der depressiven Störung eine Somatisierungsstörung (ICD-10 F45.0) einhergehe, mit verschiedenen, wechselnden und deutlich ausgeprägten somatischen Beschwerden. Es lässt sich hieraus mit Blick auf die einzeln in der Beschwerde aufgezählten Befunde nicht ableiten, dass damit im Vergleich zu den früheren ärztlichen Einschätzungen eine Verschlechterung der somatischen Situation vorliegt. Eine solche Rüge bringt der Beschwerdeführer denn auch nicht vor. Weder dem mit der Neuanmeldung eingereichten IV-Bericht des Dr. med. G._ vom 9. Oktober 2018 oder den anderen bereits erwähnten Berichten der behandelnden Ärzte (vgl. vorangehende E. 5.1.1) noch der Zusammenfassung der medizinischen Aktenlage im Gutachten des Dr. med. B._ lassen sich Hinweise für die erforderliche Sachverhaltsveränderung entnehmen.
5.4. Die Schlussfolgerung der Vorinstanz, dass sich aus den Akten keine Hinweise für eine höhergradige, mehr als dreimonatige Arbeitsunfähigkeit (vgl. Art. 88a IVV) ergebe, weshalb zu keinem Zeitpunkt ein Rentenanspruch bestanden habe, verletzt kein Bundesrecht. Der vorinstanzliche Verzicht auf weitere Abklärungen erfolgte somit in zulässiger antizipierter Beweiswürdigung (<ref-ruling> E. 5.3 mit Hinweis; <ref-ruling> E. 4b) und damit ohne Verletzung des Untersuchungsgrundsatzes. Mit diesem Ergebnis hat das kantonale Gericht eine anspruchsrelevante Veränderung des Sachverhalts seit Erlass der rentenverneinenden Verfügung vom 27. Mai 2015 implizit verneint.
5.5. Zusammenfassend ist eine neuanmeldungsrechtlich bedeutsame (erheblich) veränderte Befundlage im relevanten Zeitraum (Urteil 9C_135/2021 vom 27. April 2021 E. 2.1 mit weiteren Hinweisen) nicht erstellt. Da somit der zweite Schritt einer umfassenden Überprüfung des Rentenanspruch in tatsächlicher und rechtlicher Hinsicht entfällt (vgl. vorstehende E. 3.2), braucht insbesondere weder näher auf die Einwendungen des Beschwerdeführers zum Umfang seiner Arbeitsfähigkeit noch auf seine Rügen zum angenommenen Valideneinkommen im vorinstanzlichen Entscheid eingegangen zu werden. Folglich hat die Vorinstanz im Ergebnis bundesrechtskonform im Zusammenhang mit der Neuanmeldung einen Rentenanspruch verneint. Die Beschwerde ist unbegründet.
6.
Dem Ausgang des Verfahrens entsprechend hat der Beschwerdeführer die Gerichtskosten zu tragen (Art. 66 Abs. 1 BGG). Seinem Gesuch um unentgeltliche Rechtspflege (im Sinne der Befreiung von den Gerichtskosten und der unentgeltlichen Verbeiständung) kann entsprochen werden, da die Bedürftigkeit ausgewiesen ist, die Beschwerde nicht als aussichtslos zu bezeichnen und die Vertretung durch einen Rechtsanwalt geboten war (Art. 64 Abs. 1 und 2 BGG). Es wird indessen ausdrücklich auf Art. 64 Abs. 4 BGG aufmerksam gemacht, wonach die begünstigte Partei der Bundesgerichtskasse Ersatz zu leisten haben wird, wenn sie später dazu im Stande ist.

Demnach erkennt das Bundesgericht:
1.
Die Beschwerde wird abgewiesen.
2.
Dem Beschwerdeführer wird die unentgeltliche Rechtspflege gewährt und Advokat Erich Züblin wird als unentgeltlicher Anwalt bestellt.
3.
Die Gerichtskosten von Fr. 800.- werden dem Beschwerdeführer auferlegt, indes vorläufig auf die Bundesgerichtskasse genommen.
4.
Dem Rechtsvertreter des Beschwerdeführers wird aus der Bundesgerichtskasse eine Entschädigung von Fr. 2800.- ausgerichtet.
5.
Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 4. Oktober 2021
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Maillard
Die Gerichtsschreiberin: Polla