С июня 1960 по август 1961 года и с апреля 1962 года — в Группе генеральных инспекторов МО СССР. В августе 1961 — апреле 1962 года, в период Берлинского кризиса — главнокомандующий Группой советских войск в Германии.