Er war Sohn eines Arztes und trat bereits sehr jung in die Infanterieakademie von Toledo ein, wo er den Kadetten Francisco Franco kennenlernte. Sie dienten zusammen in Marokko, wo Yagüe mehrmals verletzt wurde und mehrere Auszeichnungen erhielt. 1932 wurde Yagüe in den Rang eines Oberstleutnants befördert. 1934 nahm er an der Seite von General Franco und General López Ochoa an der von der republikanischen Regierung angeordneten Niederschlagung der Revolte in Asturien teil. Politisch unterstützte er die Falange seines Freundes José Antonio Primo de Rivera.