В 1778 году был записан на воинскую службу в Конный лейб-гвардии полк, откуда 1 января 1793 года Оленин был выпущен ротмистром в Харьковский 4-й уланский полк. Принимал участие в польских событиях 1794 года.