В ряды Рабоче-крестьянской Красной Армии П. Я. Поляков был призван в 1940 году. С началом Великой Отечественной войны его направили в Ворошиловградскую школу военных пилотов имени Пролетариата Донбасса, которую он окончил в 1942 году. В действующей армии младший лейтенант П. Я. Поляков с 18 марта 1943 года в должности лётчика 74-го гвардейского штурмового авиационного полка 1-й гвардейской штурмовой авиационной дивизии 8-й воздушной армии Южного фронта. 15 мая 1943 года 1-я гвардейская штурмовая дивизия перебазировалась на полевой аэродром у хутора Матвеевский Ростовской области, где начала подготовку к летнему наступлению. В боях с немецко-фашистскими захватчиками Павел Яковлевич участвовал с 17 июля 1943 года. Воевал на штурмовике Ил-2. Боевое крещение он принял в небе Донбасса в ходе Миусской наступательной операции Южного фронта. За время операции гвардии младший лейтенант П. Я. Поляков совершил 19 успешных боевых вылетов на штурмовку скоплений живой силы и техники противника и на поддержку своих наземных войск. Умелые действия лётчика в составе штурмовых групп способствовали взятию сильно укреплённых опорных пунктов немецкой обороны, таких как Степановка, Мариновка, Саур-Могильский и высота 277,9. 30 июля 1943 года Павел Яковлевич в составе группы из 8 штурмовиков Ил-2 участвовал в штурмовке немецкой танковой дивизии СС «Мёртвая голова», в ходе которой дивизия противника понесла тяжёлые потери, была снята с фронта и выведена в тыл. Во время этого боя самолёт гвардии младшего лейтенанта Полякова был сильно повреждён, но Павел Яковлевич сумел пересечь линию фронта и посадить машину на своей территории. За участие в разгроме немецкой танковой дивизии гвардии младшему лейтенанту П. Я. Полякову была объявлена благодарность командующего 5-й ударной армии.