Tang Yulin est né en 1871 à Fuxin au Liaoning. En 1902, il rejoint le de défense du Fengtian en tant qu'officier. En 1912, il reçoit le commandement de la de cavalerie du et est promu l'année suivante au grade de commandant de la . En 1917, il participe à la restauration mandchoue de Zhang Xun, et après que Duan Qirui ait vaincu Zhang, il fuit à Fuxin pour vivre reclus.