14年（1517年），父亲让出葛尾城。永正17年（1520年），在父亲病死后继任家督而成为当主（另一说法则指父亲显国死去的年份是大永6年（1526年））。当时的村上家在北信浓与跟越后长尾氏有深厚关系的名族井上氏和水内郡的高梨氏斗争，而在东信浓亦与以关东管领上杉家为后盾的小县郡海野氏纠缠，在消灭信浓守护代‧佐久郡的大井氏后，持续与甲斐的武田氏抗争，虽然义清的佐久郡被武田氏夺去，但是在与武田信虎和诹访赖重联军的海野平之战中，击退海野栋纲和真田幸隆等，成功完全掌握小县郡。在大永元年（1521年）10月昇叙从四