1 августа 1942 года назначен исполняющим должность командира 395-й стрелковой дивизии 18-й армии Приморской группы войск Северо-Кавказского фронта (с 4 сентября — в Черноморской группе войск Закавказского фронта). Во главе дивизии участвовал в Армавиро-Майкопской и Туапсинской оборонительных операциях битвы за Кавказ. В боях на дальних подступах к Туапсе 15 сентября 1942 года недавно ставший полковником Сабир Рахимов получил второе ранение, но быстро вернулся в строй. В начале 1943 года во главе дивизии участвовал в Северо-Кавказской наступательной операции и в Краснодарской наступательной операции. За умелое командование дивизией в битве за Кавказ Рахимов был награждён сначала вторым орденом Красного Знамени, а 8 марта 1943 года — полководческим орденом Суворова 2-й степени. 19 марта 1943 года ему было присвоено воинское звание «генерал-майор». Однако совершенно неожиданно 8 апреля 1943 года генерал-майор Рахимов был снят с должности командира дивизией и направлен распоряжение Военного совета Северо-Кавказского фронта. Позднее его направили в Москву для учёбы в Высшей военной академии имени К. Е. Ворошилова.