Большую часть карьеры Рафф провёл в «Баффало», проведя три года с капитанской нашивкой, став первым капитаном «Сейбрз» после Жильбера Перро. Накануне «трейд-дедлайна» в сезоне 1988/89 он был обменен в «Нью-Йорк Рейнджерс» на выбор в пятом раунде драфта 1990 года (этот выбор «Баффало» потратит на защитника Рихарда Шмеглика, который позже будет играть под руководством Раффа).