В связи с этим на последнем выходе на плато на 61-ой эпохе матрица скользящего среднего квадрата градиента v_t была проинициализирована равномерно, таким образом, чтобы L2 нормы параметров каждого слоя остались неизменными.
Корректно (is_correct): 1