Durant le conflit contre la Russie, il reçoit son premier commandement avec le croiseur "Otowa". Promu capitaine en juillet 1904, il commande le croiseur "" à la bataille de la mer Jaune. Durant la guerre, Arima est un officier supérieur de l'État-major de la Flotte combinée de Tōgō. Il est l'un des architectes du plan de blocus de la Flotte russe du Pacifique à Port-Arthur (qu'il avait visité à son retour d'Angleterre l'année précédente) et commande personnellement la tentative ratée de faire le blocus de Port-Arthur durant laquelle le commandant Takeo Hirose est tué. Peu de temps après, il est réaffecté à terre pour devenir commandant du district de garde de Takeshiki sur Tsushima où il reste jusqu'à la fin de la guerre.