Sachverhalt: A. A.a Der 1965 geborene C._ bezog ab 1. Februar 1999 eine halbe Invalidenrente samt Zusatzrente für die Ehefrau und zwei Kinderrenten. Auf sein Gesuch hin erhöhte die IV-Stelle des Kantons Aargau u.a. in Berücksichtigung der Berichte des behandelnden Psychiaters und Psychotherapeuten Dr. med. A._ vom 1. Juli und 9. Dezember 2005 die halbe Rente rückwirkend ab 1. Dezember 2004 auf eine ganze Rente (Verfügung vom 3. März 2006). Im Rahmen des im September 2007 eingeleiteten Revisionsverfahrens bestätigte die IV-Stelle im Wesentlichen gestützt auf den Verlaufsbericht des Dr. med. A._ vom 30. September 2007 die Rente (Mitteilung vom 5. Oktober 2007). Im Januar 2007 hatte C._ (ein zweites Mal) Hilflosenentschädigung beantragt. Nach Abklärungen wies die IV-Stelle mit Verfügung vom 29. April 2008 das Leistungsbegehren ab. In teilweiser Gutheissung der dagegen eingereichten Beschwerde hob das Versicherungsgericht des Kantons Aargau mit Entscheid vom 16. Juni 2009 diesen Verwaltungsakt auf und wies die Sache zur Vornahme weiterer Abklärungen im Sinne der Erwägungen sowie anschliessender Neuverfügung an die Verwaltung zurück. A.b Mit Schreiben vom 17. September 2009 ersuchte die IV-Stelle die Medizinische Abklärungsstelle (MEDAS) C._ rheumatologisch-orthopädisch und psychiatrisch zu begutachten, wobei insbesondere interessiere, inwieweit ab Oktober 2007 eine Verschlechterung des Gesundheitszustandes eingetreten sei. Nach Eingang der Expertise vom 10. März 2011 und nach durchgeführtem Vorbescheidverfahren verneinte die IV-Stelle mit Verfügung vom 22. Juni 2011 den Anspruch auf Hilflosenentschädigung. Mit Verfügung vom 12. August 2011 hob sie die ganze Rente auf Ende September 2011 auf. B. Die Beschwerde des C._ gegen die rentenaufhebende Verfügung wies das Versicherungsgericht des Kantons Aargau mit Entscheid vom 1. Mai 2012 ab. C. C._ lässt Beschwerde in öffentlich-rechtlichen Angelegenheiten führen mit den Rechtsbegehren, der Entscheid vom 1. Mai 2012 und die Verfügung vom 12. August 2011 seien aufzuheben und es sei ihm ab 1. Oktober 2011 eine volle (recte: ganze) Invalidenrente zuzusprechen; eventualiter sei die Sache zur Ergänzung des Beweisverfahrens, insbesondere zur Durchführung eines ergänzenden medizinischen Gutachtens, und gestützt darauf zur Neubeurteilung an die Vorinstanz zurückzuweisen. Weiter seien die vorinstanzlichen Verfahrenskosten der IV-Stelle aufzuerlegen und diese zu verpflichten, ihm die Parteikosten des Verwaltungs- und erstinstanzlichen Beschwerdeverfahrens zu ersetzen. Die IV-Stelle verweist auf ihre Ausführungen im angefochtenen Entscheid, ohne einen Antrag zu stellen. Das kantonale Versicherungsgericht verzichtet auf eine Stellungnahme, während das Bundesamt für Sozialversicherungen sich nicht vernehmen lässt.