Yan reçut sa formation militaire d’abord en Chine puis à l’Académie militaire impériale du Japon. Au Japon, il devint un membre de l’Alliance révolutionnaire (Tongmenghui) de Sun Yat-sen et à la suite de la Révolution chinoise de 1911 il prit le pouvoir dans la province du Shanxi. Bien que membre de l’Armée de Beiyang et affilié avec Duan Qirui, il évita les combats politiques violents de l’époque en appliquant une politique de neutralité qui libéra sa province des guerres civiles. Cette période se termina quand il rejoignit l’expédition du Nord du Guomindang et qu’il devint évident qu’elle serait victorieuse.