В ходе Русско-японской войны в составе батальона укреплял позиции, устанавливал средства связи, наводил мосты, вёл разведку боем. Совершил подвиг в сражении под Мукденом. Но первая боевая награда офицера Карбышева — орден Святого Владимира IV степени с мечами и бантами — была вручена за бой у Вафангоу. Командуя кабельным отделением 4-й телеграфной роты 1-го Восточно-Сибирского сапёрного батальона (передача сигналов с помощью гелиографических установок), он вывел из окружения 60 военнослужащих с техникой и оружием. Войну закончил с пятью боевыми орденами и тремя медалями в чине поручика.