Утечка оперативной памяти при использовании giga am v3 e2e rnnt на gpu
#4
by uadiasim - opened
Я использую модель GigaAM (v3_e2e_rnnt) для speech-to-text.
Столкнулся с проблемой: при работе на GPU наблюдается постоянный рост оперативной памяти (RAM).
При этом GPU память (VRAM) ведёт себя нормально, растёт именно RAM процесса, память не освобождается после завершения обработки. Если запускать на CPU, такой проблемы нет.
Это известная проблема?
Есть ли рекомендуемый способ использовать модель без роста RAM?