В 1687-89 годах возглавлял Новгородский разрядный полк, прославился участием в Крымских походах 1687 и 1689 годов и в Азовских походах 1695—1696 годов. Во время первого, неудачного Азовского похода, Шеин командовал Преображенским и Семёновским полками. Во время удачного второго Азовского похода, в 1696 году, он был командующим сухопутными войсками.