По окончании войны с поляками, в начале 1832 года Жеребцов получил должность батальонного командира; 22 апреляв 1834 года произведён в генерал-майоры и назначен командиром 1-й бригады 11-й пехотной дивизии, а через два года был переведён на такую же должность в 16-ю пехотную дивизию. С переводом из лейб-гвардии Литовского полка начался его двадцатилетний период службы на Кавказе, в продолжение которого он исправлял весьма важные должности: был членом совета главного управления Закавказского края и управляющим Закавказским таможенным округом (с 1842), временно исполнял должность Грузинско-Имеретинского гражданского губернатора и управлял Закавказским карантинно-таможенным округом (с 1847). 1 декабря 1838 года за отличие в Кавказской войне Жеребцов был награждён орденом Св. Георгия 4-й степени (№ 5683 по списку Григоровича — Степанова). В 1839 году получил орден Св. Владимира 3-й степени. В 1847 году был произведён в генерал-лейтенанты.