十七岁时，西魏丞相宇文泰听闻他的大名后，写信给他父亲唐永，招募他和兄长唐陵一起入朝为官，被任命为员外散骑侍郎，后升任尚书员外郎、相府记室参军事。父亲武公（唐永谥号）去世丁忧，后起复太子舍人。他掌管宇文泰相府中的军书羽檄，参加了沙苑之战、河桥之战，以功封永昌县子。累迁尚书右丞、吏部郎中。他还担任过黄门侍郎、散骑常侍，寻领大着作、修国史及起居注，又为侍中、吏部尚书。他参与创建了西魏的朝章国典。加龙骧将军，改封临淄县伯。当时西魏八大柱国之一的燕国公于谨仰慕唐瑾学行兼修，与他一同为宇文泰赐姓为万纽于氏，并结为兄