Né dans une famille de la noblesse pontificale, il progresse dans la curie, en tant que juriste dans la diplomatie vaticane. Nonce apostolique pendant la Première Guerre mondiale en Bavière puis en Allemagne, où il assiste à une révolte communiste et à la naissance du parti nazi, négociateur de plusieurs concordats, il est élu en 1929 cardinal puis nommé en février 1930 cardinal secrétaire d'Etat du pape . Il travaille avec lui au quotidien, en particulier sur les relations avec l'Allemagne où Hitler arrive au pouvoir avec l’appui du catholique Von Papen, avec lequel il négocie un concordat. Il travaille ensuite pour à la lettre de condamnation du nazisme : "Mit brennender Sorge". Ses capacités de diplomate et la confiance de , qui meurt en 1939, en font le favori du conclave qui l'élit peu avant le début de la guerre.