Nomenat pel nou govern Meiji, va exercir com a governador de Hita, al nord de Kyūshū, entre 1868 i 1870, i després va ser traslladat a Tòquio. Els anys següents va encapçalar diversos departaments del ministeri de finances, esdevenint viceministre del mateix, encarregant-se de la reforma fiscal i de la promoció de la industrialització del país. El 1878 anà a Europa com a membre d'una delegació japonesa a l'Exposició Universal de París, i hi va conèixer Léon Say, el ministre de finances francès, les idees sobre el lliure mercat del qual van influenciar el pensament econòmic de Matsutaka. El 1880 és nomenat ministre de l'interior, però l'any següent, després de la destitució d'Okuma Shigenobu, va assolir el grau de conseller i fou nomenat ministre de finances.