Sachverhalt:
A. Mit Verfügung vom 13. April 2006 sprach die IV-Stelle Glarus dem 1967 geborenen M._ aufgrund psychischer Beeinträchtigungen eine ganze Invalidenrente ab 1. Juni 2005 bei einem Invaliditätsgrad von 100 % zu. Im Oktober 2006 nahm der Versicherte ein Studium der Rechtswissenschaft auf, nachdem er im November 1993 ein Studium der Lebensmittelwissenschaften und im Februar 1997 ein solches der Betriebswissenschaften abgeschlossen hatte. Als Ergebnis eines von Amtes wegen eingeleiteten Revisionsverfahrens bestätigte die Verwaltung einen unveränderten Invaliditätsgrad und Rentenanspruch (Mitteilung vom 10. März 2009). Im Dezember 2011 ersuchte M._ um Umschulung im Sinne einer Übernahme der Studienkosten ab Herbstsemester 2006. Nach Durchführung des Vorbescheidverfahrens wies die IV-Stelle mit Verfügung vom 29. Februar 2012 das Leistungsbegehren ab mit der Begründung, aufgrund gesundheitlicher Einschränkungen bestehe kein Potenzial für eine Reintegration in die freie Wirtschaft und mit beruflichen Massnahmen könne keine Verbesserung der Erwerbsfähigkeit erreicht werden.
B. Dagegen erhob M._ Beschwerde mit u.a. folgenden Anträgen:
"1 Die Verfügung vom 29.02.2012 der IV-Stelle Glarus sei nichtig zu erklären oder aufzuheben und zurückzuweisen zum Erlass einer förmlichen Verfügung und zum Abklärung des Sachverhalts und zu neuer Entscheidung. Dabei sollen die Begehren in den Schreiben vom 11.12. und 15.12.2011 bejaht werden (siehe einzelne Punkte) oder
2 Eigener Entscheid aufgrund der Unterlagen mit Gutheissung der Begehren des BF, wobei BF nicht wüsste, aufgrund welcher Unterlagen die VI den Entscheid fällte und dem BF daher eine Frist erlaubt werden müsste, innert der er die beigezogenen Akten der VI studieren dürfte. [...]
3 Übernahme der Umschulungskosten (<ref-law>) rückwirkend ab Herbstsemester 2006 an der Uni Zürich und an der HSG St. Gallen (<ref-law>)
4 Es sei festzustellen, dass das Nichtbehangen der Fenster der IV-Stelle Glarus mit Vorhängen die dortigen "Kunden" indirekt diskriminiert, weil die Nachbarn die verschiedenen Leute identifizieren können, womit <ref-law> und <ref-law> verletzt werden. Die Anonymität der "Kunden" der IV-Stelle sei zu gewähren und mittels eines genügenden blickdichten Vorhangs wiederherzustellen)
5 Es sei festzustellen, dass die IV-Stelle Glarus im Sommer eine Auskunftspflichtverletzung (<ref-law>) begangen hat, indem sie dem BF falsche Auskunft gab [...] und dass die IV-Stelle dafür haftet (Art. 10 EG IV GL)(<ref-law>)(<ref-law>)
6 alle zur Verfügung beigezogenen Akten seien aufzuführen und dem BF soll dazu Einsicht (<ref-law>, <ref-law>) gewährt werden. BF soll sich dazu äussern können.
7 Überdies sei festzustellen, dass die Vergütung der Umschulungskosten steuerlich neutral handzuhaben ist (Art. 26 Abs. 1 Ziff. 3 StG GL). [VG.2012.0004/05]"
Das Verwaltungsgericht des Kantons Glarus wies das Rechtsmittel mit Entscheid vom 8. August 2012 ab, soweit es darauf eintrat.
C. Mit Beschwerde in öffentlich-rechtlichen Angelegenheiten beantragt M._ die Aufhebung des Entscheids vom 8. August 2012 und erneuert die im vorinstanzlichen Verfahren gestellten Anträge Ziff. 1, 3 (auch in Verbindung mit 5) und 4.
D. Am 24. September 2012 hat M._ Einsicht in die Akten genommen.

Erwägungen:
1. 1.1 Mit der Beschwerde in öffentlich-rechtlichen Angelegenheiten kann u.a. die Verletzung von Bundesrecht gerügt werden (<ref-law>). Die Feststellung des Sachverhalts kann nur gerügt werden, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht und wenn die Behebung des Mangels für den Ausgang des Verfahrens entscheidend sein kann (<ref-law>). Das Bundesgericht legt seinem Urteil den Sachverhalt zugrunde, den die Vorinstanz festgestellt hat (<ref-law>). Es kann die Sachverhaltsfeststellung der Vorinstanz von Amtes wegen berichtigen oder ergänzen, wenn sie offensichtlich unrichtig ist oder auf einer Rechtsverletzung im Sinne von Artikel 95 beruht (<ref-law>).
1.2 Das Bundesgericht wendet das Recht von Amtes wegen an (<ref-law>). Es prüft indessen - unter Beachtung der Begründungspflicht in Beschwerdeverfahren (Art. 42 Abs. 1 und 2 BGG) - grundsätzlich nur die geltend gemachten Rügen, sofern die rechtlichen Mängel nicht geradezu offensichtlich sind (<ref-ruling> E. 1.4.1 S. 254). Hinsichtlich der Verletzung von Grundrechten und von kantonalem und interkantonalem Recht gilt eine qualifizierte Rügepflicht (vgl. <ref-law>). Das Bundesgericht prüft eine solche Rüge nur insofern, als sie in der Beschwerde präzise vorgebracht und begründet wird (<ref-ruling> E. 1.4.1 S. 53; vgl. auch <ref-ruling> E. 2.5 S. 314).
2. Die Vorinstanz ist auf das Begehren betreffend Vorhänge (Ziff. 4 der vorinstanzlichen Beschwerde) nicht eingetreten, weil sie es als aufsichtsrechtlich qualifiziert und sich daher als sachlich unzuständig erachtet hat. Auf den entsprechenden Antrag ist auch im bundesgerichtlichen Beschwerdeverfahren mangels eines Anfechtungsgegenstandes nicht einzutreten (vgl. <ref-ruling> E. 1 S. 414 f.). Im Übrigen ist nicht ersichtlich und wird auch nicht dargelegt, inwiefern die vorinstanzliche Auffassung eine Rechtsverweigerung resp. Verletzung des Anspruchs auf rechtliches Gehör (Art. 29 Abs. 1 und 2 BV) darstellen oder sonst wie Bundesrecht verletzen soll.
Ebenso ist auf die Vorbringen des Beschwerdeführers, soweit damit das Verhalten der IV-Stelle gerügt wird, nicht einzugehen. Nicht dieses, sondern ausschliesslich der vorinstanzliche Entscheid bildet Gegenstand des letztinstanzlichen Verfahrens (<ref-law>).
3. Invalide oder von einer Invalidität bedrohte Versicherte haben Anspruch auf Eingliederungsmassnahmen, soweit (a) diese notwendig und geeignet sind, die Erwerbsfähigkeit oder die Fähigkeit, sich im Aufgabenbereich zu betätigen, wieder herzustellen, zu erhalten oder zu verbessern und (b) die Voraussetzungen für den Anspruch auf die einzelnen Massnahmen erfüllt sind (<ref-law>). Laut dem seit 1. Januar 2012 in Kraft stehenden <ref-law> haben Rentenbezüger Anspruch auf Massnahmen zur Wiedereingliederung - wie der Umschulung nach <ref-law> (vgl. <ref-law>) - sofern (a) die Erwerbsfähigkeit voraussichtlich verbessert werden kann und (b) die Massnahmen geeignet sind, die Erwerbsfähigkeit zu verbessern.
Der Versicherte hat Anspruch auf Umschulung auf eine neue Erwerbstätigkeit, wenn die Umschulung infolge Invalidität notwendig ist und dadurch die Erwerbsfähigkeit voraussichtlich erhalten oder verbessert werden kann (<ref-law>). Dabei ist der Grundsatz der Verhältnismässigkeit zu beachten (<ref-ruling> E. 8.1 S. 186; <ref-ruling> E. 5.7 S. 218, 221 E. 3.3 S. 227; <ref-ruling> E. 3.4.1 S. 113). In diesem Sinn ist insbesondere von Bedeutung, dass die fragliche Massnahme - unter prospektiver Betrachtung - eingliederungswirksam ist, was eine subjektive und objektive Eingliederungsfähigkeit der betroffenen Person voraussetzt (ZAK 1991 S. 178, I 336/89 E. 3; Urteile 9C_726/2011 vom 1. Februar 2012 E. 5.1 mit Hinweis; 9C_128/2009 vom 4. Mai 2009 E. 5).
4. 4.1 Das kantonale Gericht hat die Verhältnismässigkeit der Umschulung zum Juristen verneint. Es hat festgestellt, dass der Beruf eines Ökonomen und die Arbeitstätigkeit eines Juristen grundsätzlich ähnlich ausgestaltet seien. Zudem erscheine eine Arbeitsstelle mit überwiegend analytischen Tätigkeiten und weitgehend ohne Kontakt zu anderen Menschen im Tätigkeitsfeld eines Juristen ebenso wenig vorhanden wie im Wirtschaftsbereich. Es hält für nicht nachvollziehbar, inwiefern der Beruf des Juristen eine Eingliederung des Beschwerdeführers in den Arbeitsmarkt besser ermöglichen könnte als sein erlernter Beruf als Ökonom. Ausgehend davon, dass sich der Gesundheitszustand, wie er 2005 dokumentiert worden war, nicht massgeblich verändert oder aber verschlechtert habe, erschienen beide Tätigkeiten nicht geeignet. Sei hingegen von einer verbesserten Gesundheit auszugehen, hätte sich der Versicherte um eine Anstellung im früher ausgeübten Beruf als Ökonom zu bemühen, was die Umschulung nicht erforderlich mache. Auch im Sommer 2006 seien angesichts der damaligen gesundheitlichen Verhältnisse die Voraussetzungen für die Zusprechung beruflicher Massnahmen nicht erfüllt gewesen. Folglich hat das Gericht die Abweisung des Gesuchs um Umschulung bestätigt.
4.2 Vorab ist auf die Rügen hinsichtlich der Verletzung formeller Ansprüche einzugehen.
4.2.1 Was die Vorbringen betreffend Erstellung eines Beilagenverzeichnisses anbelangt, scheint der Beschwerdeführer auf den im vorinstanzlichen Verfahren gestellten Antrag Ziff. 6 Bezug zu nehmen. Dazu hat sich die Vorinstanz zwar nicht explizit geäussert. Indessen stellte sie ihm die Beschwerdeantwort der IV-Stelle vom 2. Mai 2012 zu, worin als Beilage das "IV-Dossier. Act. 1-40" erwähnt wurde. Damit lag ein Beilagenverzeichnis vor, wodurch der entsprechende Antrag gegenstandslos wurde und darauf nicht mehr einzutreten war. Dieses Ergebnis ist vom Dispositiv im angefochtenen Entscheid erfasst, weshalb nicht von formeller Rechtsverweigerung gesprochen werden kann. Es wird nicht nachvollziehbar dargelegt und ist auch nicht ersichtlich, dass in diesem Zusammenhang der Anspruch auf Verfahrensgarantien oder rechtliches Gehör (Art. 29 Abs. 1 und 2 BV) verletzt sein soll, zumal der Beschwerdeführer spätestens anlässlich der Gerichtsverhandlung vom 8. August 2012 Gelegenheit hatte, Einsicht in die Akten zu nehmen und sich dazu zu äussern.
4.2.2 Beim "Feststellungsblatt Rentenrevision" (gedruckt am 29. Februar 2012) handelt es sich zwar um ein - in Bezug auf die Rentenbestätigung vom 10. März 2009 - neues Aktenstück in den Unterlagen der IV-Stelle. Es enthält indessen nebst administrativen Angaben lediglich Informationen über die verwaltungsinterne Entscheidfindung. So stellte denn auch die Verwaltung in medizinischer Hinsicht - entsprechend der Auffassung des Dr. med. G._ vom Regionalen Ärztlichen Dienst (RAD; vgl. <ref-law> und <ref-law> [SR 831.201]) - auf die bisherigen, dem Beschwerdeführer bekannten Unterlagen ab ohne neue Akten beizuziehen. Zudem sind die medizinischen Aspekte für die Beurteilung des konkreten Falls nicht entscheidwesentlich (vgl. E. 4.4.3). Dass dem Versicherten die Stellungnahme des RAD nicht zur Kenntnis gebracht wurde, stellt unter diesen Umständen jedenfalls keine schwerwiegende Verletzung des Anspruchs auf rechtliches Gehör (vgl. <ref-ruling> E. 5.1 S. 390 mit Hinweis) dar.
4.2.3 Weiter entspricht die vorinstanzliche Ankündigung einer Verschärfung der Praxis hinsichtlich der Heilung eines formellen Mangels (Verletzung der Begründungspflicht) an die Adresse der Verwaltung keinem im kantonalen Verfahren gestellten Antrag, weshalb dispositivmässig darauf nicht einzugehen war. Ein widersprüchliches Verhalten resp. eine Verletzung von <ref-law> liegt nicht vor.
4.3 Gründe für eine Nichtigkeit der Verfügung vom 29. Februar 2012 - die grundsätzlich von Amtes wegen zu berücksichtigen wäre (Urteil 9C_220/2011 vom 18. Mai 2011 E. 1; vgl. aber auch Art. 42 Abs. 1 und 2 BGG; E. 1.2) - sind nicht ersichtlich und werden auch nicht dargelegt; auf den entsprechenden Antrag ist nicht weiter einzugehen.
4.3 Gründe für eine Nichtigkeit der Verfügung vom 29. Februar 2012 - die grundsätzlich von Amtes wegen zu berücksichtigen wäre (Urteil 9C_220/2011 vom 18. Mai 2011 E. 1; vgl. aber auch Art. 42 Abs. 1 und 2 BGG; E. 1.2) - sind nicht ersichtlich und werden auch nicht dargelegt; auf den entsprechenden Antrag ist nicht weiter einzugehen.
4.4 4.4.1 Die Vorinstanz hat zu Recht die Verhältnismässigkeit der Umschulung geprüft, fällt diese Massnahme doch nur in Betracht, wenn sie die Chance des Beschwerdeführers auf Eingliederung in den Arbeitsmarkt erhöht. Dies steht im Einklang mit der Rechtsprechung zu <ref-law>, nach dessen Wortlaut explizit eine positive Auswirkung der Umschulung auf die Erwerbsfähigkeit verlangt wird (E. 3). Dass die Invalidenversicherung in diesem Sinn nur aufzukommen hat für geeignete und auch erforderliche Vorkehren, die zudem ein annehmbares Kosten-Nutzen-Verhältnis aufweisen, ist weder willkürlich noch sonstwie bundesrechtswidrig.
4.4.2 Die vorinstanzlichen Feststellungen betreffend die ökonomisch oder juristisch ausgerichteten Tätigkeiten (E. 4.1) sind nicht offensichtlich unrichtig und beruhen auch nicht auf einer Rechtsverletzung, zudem werden sie auch vom Beschwerdeführer nicht in Abrede gestellt. Sie bleiben daher für das Bundesgericht verbindlich (E. 1.1). In der Tat leuchtet nicht ein, weshalb die Erwerbsfähigkeit resp. die Aussicht auf Eingliederung dadurch gesteigert werden sollte, dass der Versicherte sich zum Juristen ausbilden lässt, anstatt - falls eine Arbeitsfähigkeit einträte - weiterhin im bereits ausgeübten Beruf als Ökonom zu arbeiten. Es gibt keine Anhaltspunkte für die Annahme, dass sich die gesundheitlich bedingten Einschränkungen in diesen beiden Tätigkeiten in anspruchserheblicher Weise unterschiedlich manifestieren sollten.
4.4.3 Nach dem Gesagten steht fest, dass bereits aufgrund der Art der Massnahme deren Verhältnismässigkeit zu verneinen ist. Dies trifft sowohl auf den Zeitpunkt der Geltendmachung des Anspruchs zu als auch auf jenen bei resp. vor Studienbeginn. Auf die Ausführungen in der Beschwerde zum Gesundheitszustand, die damit zusammenhängende Abklärungspflicht und den Vertrauensschutz ist daher nicht einzugehen. Die Beschwerde ist, soweit zulässig, unbegründet.
5. Entsprechend dem Ausgang des Verfahrens sind die Gerichtskosten dem Beschwerdeführer aufzuerlegen (<ref-law>).

Demnach erkennt das Bundesgericht:
1. Die Beschwerde wird abgewiesen, soweit darauf einzutreten ist.
2. Die Gerichtskosten von Fr. 500.- werden dem Beschwerdeführer auferlegt.
3. Dieses Urteil wird den Parteien, dem Verwaltungsgericht des Kantons Glarus und dem Bundesamt für Sozialversicherungen schriftlich mitgeteilt.
Luzern, 23. Oktober 2012
Im Namen der II. sozialrechtlichen Abteilung
des Schweizerischen Bundesgerichts
Der Präsident: Meyer
Die Gerichtsschreiberin: Dormann