萨摩藩士・片冈喜藤太的次男。少年时期参加萨英战争和戊辰战争，作为兵学寮学生参加西南之役。他与日高壮之丞海军大将同时入寮，和日高同是第2期生。之后片冈作为伏见宫兄弟（爱贤王，即日后的伏见宫博恭王、元帅海军大将；以及菊麿王，即日后的山阶宫菊麿王、海军大佐）的德国留学随员。同时出去的还有号称明治海军之父的山本权兵卫。片冈在作为留学生考察列强军事的同时，展现了他的语言天才，除德语外，他还能熟练运用英语，法语，这在日本早期将领中是不多见的。回国后，他继续在兵学寮学习，明治14年（1881年）11月毕业，12月被晋升