Yan fikk militær utdannelse i Kina og i Japan. I Japan ble han medlem av Sun Yat-sens revolusjonære allianse Tongmenghui, og etter Xinhai-revolusjonen i 1911 grep han makten i provinsen Shanxi. Selv om han var medlem av Beiyanghæren og tilknyttet Duan Qirui holdt han seg utenfor tidens stridigheter og erklærte Shanxi nøytralt. På den måten gikk provinsen fri fra krigsherretidens borgerkriger. En grunn til at han klarte å håndheve nøytraliteten var at Kinas eneste arsenal som kunne produsere feltartilleri lå i Shanxis hovedstad Taiyuan.