V první čínsko-japonské válce byl Ójama jmenován velitelem Druhé armády a dobyl strategicky důležité město Port Arthur i pevnosti ve Wej-chaj. Poté jej císař jmenoval markýzem a o tři roky později, v roce 1898, se stal g"ensui" (polním maršálem).