Etter å ha mottatt en doktorgrad i rettsvitenskap fra Université Catholique de Louvain begynte Davignon i det belgiske utenriksdepartementet i 1959 og ble i løpet av to år attaché under utenriksminister Paul-Henri Spaak. Han forble i den belgiske regjeringen frem til 1965. I 1970 ledet han et ekspertutvalg som produserte Davignon-rapporten om utenrikspolitikk for Europa.