Также в нем реализована возможность выбора следующих гиперпараметров: обучение весов модуля лингвистической модели BERT; количество и размерности линейных слоев; skip connection для вариантов с количеством линейных слоев больше 1; использование batchnorm после линейных слоев; параметр dropout; функция активации.
Корректно (is_correct): 1