8 серпня 1940 року був призначений командиром 72-ї гірськострілецької дивізії Київського Особливого військового окргу (КОВО). Вже з 22 червня 1941 року дивізія брала участь в боях на Південно-Західному фронті в районі державного кордону СРСР. У перші дні війни дивізія стійко оборонялася в ході Львівсько-Чернівецької оборонної операції, за наказом відходячи від рубежу до рубежу. Під час битви під Уманню дивізія опинилася в оточенні. 8 серпня 1941 року генерал П. І. Абрамідзе  потрапив до німецького полону. Спочатку утримувався у таборі для військовополонених у польському місті Замостя, але потім був переведений до концентраційного табору Хаммельбург. Звідти за антинімецьку агітацію серед військовополонених був переправлений у Нюрнберг, а потім у Вайсенбург.