8 kwietnia 1940 Gollob został wyznaczany na dowódcę eskadry ("Staffelkapitän") 3./ZG 76. Jego jednostka wzięła udział w Operacji Weserübung, w której odniósł dwa zwycięstwa nad Norwegią. Rok później zestrzelił Spitfire'a podczas walk nad Wielką Brytanią.