Im Zweiten Weltkrieg wurde Raubal zur Wehrmacht eingezogen. Während des Unternehmens Barbarossa, des Angriffs auf die Sowjetunion, war er Leutnant in der Pioniertruppe. Im Jahr 1942 geriet er während der Kampfhandlungen um Stalingrad in sowjetische Kriegsgefangenschaft. Sein Onkel Adolf Hitler, der zu Raubal und zu dessen Mutter ein überwiegend gutes Verhältnis pflegte, ordnete daraufhin an, die Möglichkeit eines Gefangenenaustausches mit Stalin auszuloten. Stalins Sohn Jakow Dschugaschwili, der 1941 von der Wehrmacht bei Smolensk gefangen genommen worden war, sollte demnach gegen Leo Raubal ausgetauscht werden. Stalin ließ sich allerdings nicht auf einen solchen Austausch ein. Jakow Dschugaschwili kam 1943 in deutscher Kriegsgefangenschaft zu Tode, Raubal wurde noch bis 1955 in Moskauer Gefängnissen festgehalten.