Pavel Kalioujny est né le dans le village de Vassilivka (en ), dans l'actuelle oblast de Zaporijia, en Ukraine. Il s'entraîne d'abord à l'aéroclub de Zaporijia, avant de s'engager dans l'Armée rouge en 1937. Diplômé du collège militaire de l'Air de Katcha en 1938, et nommé lieutenant ("starchi leïtenant"), il fut engagé dès les premiers combats qui suivirent l'invasion de l'Union soviétique par l'Allemagne nazie, le . En , après que le 3 du même mois il eut obtenu 3 victoires homologuées en un combat, il fut promu au grade de capitaine ("kapitan"). En , il accomplit sa de combat dans les rangs du 487.IAP de l'IAP-PVO, régiment de chasse qui devait devenir le de chasse aérienne de la Garde (146.GuIAP). Il termina la guerre comme commandant ("major").