Sachverhalt:
A. Der 1964 geborene R._ meldete sich am 13. April 2010 wegen körperlicher und psychischer Beschwerden bei der Invalidenversicherung zum Leistungsbezug an. Nach Abklärung des medizinischen Sachverhalts orientierte ihn die IV-Stelle des Kantons Aargau mit Vorbescheid vom 7. Januar 2011, dass sie beabsichtige, das Leistungsbegehren abzuweisen, da bei einem Invaliditätsgrad von weniger als 40 Prozent kein Rentenanspruch bestehe. Der Bescheid enthielt den Hinweis, dass innert 30 Tagen seit Zustellung schriftlich oder mündlich im Rahmen eines persönlichen Gesprächs bei der IV-Stelle Einwände vorgebracht werden können. Mit Schreiben vom 18. Januar 2011 gewährte die Verwaltung dem Versicherten für die Einreichung einer allfälligen Stellungnahme zum Vorbescheid eine Fristerstreckung bis Ende Februar 2011. Am 7. Februar 2011 ersuchte R._ um Akteneinsicht, worauf ihm die IV-Stelle am 10. Februar 2011 die Akten auf elektronischem Datenträger zustellte. Mit Datum vom 22. Februar 2011 erliess die IV-Stelle die im Sinne des Vorbescheids lautende, das Leistungsbegehren ablehnende Verfügung. Darin hielt sie fest, dass im Rahmen des Vorbescheidverfahrens keine Einwände gegen den vorgesehenen Entscheid gemacht worden seien. Am 24. Februar 2011 (Poststempel) reichte R._ der IV-Stelle einen schriftlichen Einwand gegen den Vorbescheid vom 7. Januar 2011 ein (Posteingang: 28. Februar 2011). In einer E-mail vom 22. März 2011 teilte die IV-Stelle diesem mit, die Verfügung vom 22. Februar 2011 sei vor Ablauf der bis Ende Februar erstreckten Frist für den Einwand zugestellt worden und somit ungültig; sie werde daher durch eine neue Verfügung ersetzt. Am 23. März 2011 erliess die IV-Stelle eine neue Verfügung, welche diejenige vom 22. Februar 2011 ersetzte. Darin nahm sie zum Einwand vom 24./28. Februar 2011 Stellung, wies das Leistungsbegehren jedoch erneut ab.
B. Ebenfalls am 23. März 2011 liess R._ beim Versicherungsgericht des Kantons Aargau (Posteingang: 24. März 2011) gegen die Verfügung vom 22. Februar 2011 Beschwerde erheben und beantragen, die Sache sei zur ergänzenden Abklärung an die IV-Stelle zurückzuweisen; eventualiter sei ihm in Aufhebung der Verfügung eine ganze Invalidenrente zuzusprechen. Mit Entscheid vom 16. Mai 2012 trat das Versicherungsgericht auf die Beschwerde nicht ein. Gleichzeitig wies es das Gesuch um unentgeltliche Rechtspflege ab.
C. R._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten erheben mit dem Rechtsbegehren, der kantonale Entscheid sei aufzuheben, und es sei die Sache zur Klärung des Rentenanspruchs an die Vorinstanz, eventuell die IV-Stelle zurückzuweisen. Eventualiter sei ihm eine IV-Rente zuzusprechen. Des Weitern wird um Gewährung der unentgeltlichen Rechtspflege für das vorinstanzliche und das bundesgerichtliche Verfahren ersucht.
Die IV-Stelle beantragt, die Beschwerde sei abzuweisen. Das kantonale Gericht und das Bundesamt für Sozialversicherungen verzichten auf eine Vernehmlassung.

Erwägungen:
1. Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Art. 95 beruht (<ref-law>).
2. Der Beschwerdeführer rügt die Verletzung von <ref-law> (SR 172.021). Diese erblickt er darin, dass die Vorinstanz zu Unrecht auf die Beschwerde vom 23. März 2011 nicht eingetreten ist.
3. 3.1 Das formlose Vorbescheidverfahren im Sinne von <ref-law> dient in Verwaltungsverfahren, in welchen keine Einsprachemöglichkeit besteht, zur Gewährung des rechtlichen Gehörs bereits vor Erlass der endgültigen Verfügung; dies im Interesse einer verbesserten Akzeptanz bei den Betroffenen (vgl. <ref-ruling> E. 2.6 f. S. 103; Urteile 8C_607/2011 vom 16. März 2012 E. 4.1; 2C_733/2010 vom 16. Februar 2011 E. 2.2). Nach der Rechtsprechung liegt eine Verletzung des rechtlichen Gehörs vor, wenn die IV-Stelle verfügt, bevor die der versicherten Person gesetzte Frist, sich zum Vorbescheid zu äussern, abgelaufen ist (ULRICH MEYER, Bundesgesetz über die Invalidenversicherung, 2. Aufl. 2011, S. 477). Ob die in <ref-law> (in der seit 1. Juli 2006 in Kraft stehenden Fassung) vorgesehene dreissigtägige Frist zum Vorbringen von Einwänden gegen den Vorbescheid verlängert werden kann (vgl. <ref-law> [SR 830.1]; dazu: UELI KIESER, ATSG-Kommentar, 2. Aufl. 2009, N. 3 zu <ref-law>), liess die Rechtsprechung bisher allerdings offen (Urteil 9C_50/2008 vom 8. September 2008 E. 2). Die Frage braucht indessen auch im vorliegenden Fall nicht beurteilt zu werden, wie sich aus den nachstehenden Erwägungen ergibt.
3.2 Gemäss <ref-law> kann der Versicherungsträger eine Verfügung oder einen Einspacheentscheid, gegen den Beschwerde erhoben wurde, so lange wiedererwägen, bis er gegenüber der Beschwerdebehörde Stellung nimmt. Diese Regelung entspricht derjenigen von <ref-law>. Aus <ref-law> ergibt sich, dass auch die weiteren Absätze der genannten Bestimmung massgebend sind (KIESER, a.a.O., N. 49 zu <ref-law>). Gemäss <ref-law> in Verbindung mit <ref-law> setzt die Beschwerdeinstanz die Behandlung der Beschwerde fort, soweit diese durch die neue Verfügung der Vorinstanz nicht gegenstandslos geworden ist.
4. 4.1 Die Vorinstanz begründet ihr Nichteintreten damit, dass die Beschwerde vom 23. März 2011 nach Treu und Glauben nicht anders als gegen die Verfügung vom 22. Februar 2011 gerichtet verstanden werden könne. Da diese Verfügung im Zeitpunkt der Beschwerdeerhebung jedoch bereits aufgehoben gewesen sei, fehle es am Anfechtungsobjekt für die hängige Beschwerde, weshalb darauf nicht einzutreten sei. Entgegen der Auffassung des kantonalen Gerichts erscheint es höchst unwahrscheinlich, dass die Aufhebungs- und Ersatzverfügung der IV-Stelle vom 23. März 2011 dem Beschwerdeführer bereits vor dessen Beschwerdeerhebung vom 23. März 2011 oder an diesem Tag zugestellt worden war. Dies wird denn auch selbst von der IV-Stelle nicht geltend gemacht.
4.2 Aufgrund der im Zeitpunkt, als die Wiedererwägungsverfügung zugestellt und wirksam wurde bereits eingereichten Beschwerdeschrift kommt, wie der Beschwerdeführer zu Recht einwendet, nur noch ein Verfahren nach <ref-law> in Verbindung mit <ref-law> in Frage.
Es ist ein allgemeiner Verfahrensgrundsatz, dass die Wiedererwägung der angefochtenen Verfügung während eines hängigen Verfahrens nur dann zur Gegenstandslosigkeit führt, wenn mit der Wiedererwägung den im Beschwerdeverfahren gestellten Rechtsbegehren vollumfänglich entsprochen worden ist; entspricht die nach Wiedererwägung erlassene Verfügung indessen nur teilweise den gestellten Begehren, darf die Beschwerde nicht insgesamt als gegenstandslos betrachtet werden; in diesem Fall ist das Beschwerdeverfahren weiterzuführen, soweit es durch die neue Verfügung nicht hinfällig geworden ist (bereits erwähntes Urteil 2C_733/2010 E. 3.2).
4.3 Mit der Verfügung vom 23. März 2011 ist dem Rechtsbegehren des Beschwerdeführers, das auf Rückweisung zur Klärung des Rentenanspruchs, eventualiter Aufhebung der Verfügung vom 22. Februar 2011 und Zusprechung einer ganzen Rente lautete, klarerweise nicht entsprochen worden. Der Rechtsstreit bleibt daher bestehen und es konnte - weil begrifflich ausgeschlossen - keine Gegenstandslosigkeit eintreten. Es ist daher unbehelflich, wenn das kantonale Gericht darauf verweist, die IV-Stelle habe ihre Rentenverfügung und damit den Anfechtungs- und Streitgegenstand gänzlich aufgehoben. Der angefochtene Nichteintretensentscheid verletzt Bundesrecht (<ref-law> in Verbindung mit <ref-law>), weshalb er aufzuheben und das vorinstanzliche Beschwerdeverfahren fortzusetzen ist.
4.4 Der Antrag auf Bewilligung der unentgeltlichen Rechtspflege für das Verfahren vor dem kantonalen Versicherungsgericht wird damit gegenstandslos.
5. Bei diesem Ausgang des Verfahrens sind die Gerichtskosten der Beschwerdegegnerin aufzuerlegen (<ref-law>). Der Beschwerdeführer hat Anspruch auf eine Parteientschädigung (<ref-law>). Das Gesuch um unentgeltliche Rechtspflege für das bundesgerichtliche Verfahren wird damit gegenstandslos.

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird gutgeheissen und der angefochtene Entscheid des Versicherungsgerichts des Kantons Aargau vom 16. Mai 2012 aufgehoben. Die Sache wird zur Weiterführung des Beschwerdeverfahrens an die Vorinstanz zurückgewiesen.
2. Die Gerichtskosten von Fr. 500.- werden der Beschwerdegegnerin auferlegt.
3. Die Beschwerdegegnerin hat den Beschwerdeführer für das bundesgerichtliche Verfahren mit Fr. 2800.- zu entschädigen.
4. Dieses Urteil wird den Parteien, dem Versicherungsgericht des Kantons Aargau und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 19. September 2012
Im Namen der I. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Ursprung
Die Gerichtsschreiberin: Hofer