Yardley débute, petit employé, au chiffre du State Department où il fait son chemin. En 1917, bombardé directeur du MI-8 (Military Intelligence Section 8) chargé des codes et chiffres, il travaille à la sécurité des transmissions américaines et au décryptage des chiffres étrangers. En 1919, il est à la tête d'un bureau du chiffre commun au State Department et au War Department. La même année, il brise un code diplomatique japonais. Après le Jeudi noir, son bureau est licencié. En 1932, il publie "Le cabinet noir américain", récit d'activités illégales au service de l'État. En 1933, il tente de publier "Secrets diplomatiques japonais 1921-1922". Yardley est grillé.