Fra 1916 til 1920 var Coster assistent for Lodewijk Hendrik Siertsema og Wander de Haas ved Det tekniske universitetet i Delft, hvor han i 1919 ble ingeniør i elektroteknikk. I 1920 og 1921 forsket han på røntgenspektroskopi på ulike grunnstoffer ved Lunds universitet under Manne Siegbahn. Costers doktorgradsavhandling var om dette emnet og han fikk sin doktorgrad i 1922 i Leiden under Paul Ehrenfest. Avhandlingens navn var (nederlandsk: ).