Прослужив в полку пять лет, Н. М. Литвинов 19 февраля 1868 года по домашним обстоятельствам вышел в отставку. Но 24 ноября 1874 года снова поступил на военную службу и затем в составе Нижегородского полка принимал участие в Русско-турецкой войне 1877—78 годов. Отличился во многих сражениях, в том числе во время трёхдневного боя с турками у Аладжинских высот, в кавалерийском набеге у села Джала, при штурме Карса и во время блокады Эрзерума.