Celkově se tank příliš neosvědčil, představoval jen nepatrné zlepšení oproti svým předchůdcům. Většina států Varšavské smlouvy si tedy ponechala stroje T-54/55, i kvůli vysoké ceně T-62. V sovětské armádě tank sloužil od roku 1961 a během války v Afghánistánu představoval hlavní tank sovětských jednotek. Během Irácko-íránské války si irácké T-62 vedly poměrně dobře. Spolu s T-54/55 se na počátku r. 1981 zúčastnily největší tankové bitvy této války, kdy (podle iráckých zdrojů) vyřadily 200 nepřátelských Chieftainů a Pattonů při ztrátě 50 vlastních strojů. Zbylé íránské tanky se stáhly.