Не, так не пойдёт. Почистишь этот файл из всех коммитов, в которых он есть?