的三八式歩枪逐渐成为部队的标准配备；到了明治43年（1910年），部队中的三十年式步枪就全面被三八式步枪取代了。该枪的正式名称为三八式步兵铳，但是“三八式小铳”的名称从大正初期就成了半官方的叫法。值得注意的是在大正3年（1914年）4月，原来枪身机匣上传统象征皇室的菊御纹章刻印宣布废除了，所以往后的三八式步枪就没有菊花刻印纹。大正10年（1921年）4月，三八式步枪又进行了一次防锈蚀（発锖防止）的改进工程，并且重新将右旋膛线从6条缩减改为4条。昭和13年（1938年），日本依据进行三八式步枪的紧急増