Способ и сервер для обучения алгоритму машинного обучения для выполнения перевода

1. Способ выполнения офлайн-перевода исходного слова в целевое слово, причем исходное слово представлено на исходном языке, целевое слово представляется на целевом языке, офлайн-перевод выполняется нейронной сетью (NN), исполняемой электронным устройством, при этом NN обучена переводить слова с исходного языка на целевой язык, причем NN имеет кодирующую часть и декодирующую часть, причем способ является исполняемым электронным устройством и содержит:
разбиение электронным устройством исходного слова на последовательность входных токенов;
генерирование электронным устройством, использующим кодирующую часть, последовательности векторных представлений для соответствующих из последовательности входных токенов;
генерирование электронным устройством, использующим декодирующую часть, первой последовательности выходных токенов на основе последовательности векторных представлений,
первая последовательность представляет первое слово-кандидат, причем первое слово-кандидат является возможным переводом исходного слова на целевой язык;
в ответ на несоответствие первого слова-кандидата по меньшей мере одному предопределенному правилу:
приведение в действие декодирующей части для генерирования второй последовательности выходных токенов, причем вторая последовательность имеет по меньшей мере один последний выходной токен, отличный от по меньшей мере одного последнего выходного токена первой последовательности,
вторая последовательность представляет второе слово-кандидат, причем второе слово-кандидат является вторым возможным переводом исходного слова на целевой язык;
в ответ на соответствие второго слова-кандидата упомянутому по меньшей мере одному предопределенному правилу:
определение электронным устройством того, что второе слово-кандидат является целевым словом.
2. Способ по п. 1, при этом способ дополнительно содержит:
определение электронным устройством того, что первое слово-кандидат не соответствует упомянутому по меньшей мере одному предопределенному правилу, при этом это определение содержит:
сравнение электронным устройством первого слова-кандидата с предопределенным словарем слов.
3. Способ по п. 1, при этом способ дополнительно содержит:
определение электронным устройством того, что второе слово-кандидат соответствует упомянутому по меньшей мере одному предопределенному правилу, при этом это определение содержит:
сравнение электронным устройством второго слова-кандидата с предопределенным словарем слов.
4. Способ по п. 1, в котором упомянутый по меньшей мере один последний выходной токен в первой последовательности представляет собой по меньшей мере два последних выходных токена в первой последовательности.
5. Способ по п. 1, в котором декодирующая часть включает в себя механизм внимания, и в котором генерирование первой последовательности выходных токенов содержит:
генерирование электронным устройством, использующим декодирующую часть, первого выходного токена в первой последовательности на основе последовательности векторных представлений;
обеспечение электронным устройством указания первого выходного токена механизму внимания декодирующей части; и
генерирование электронным устройством, использующим декодирующую часть, второго выходного токена в первой последовательности на основе последовательности векторных представлений и указания первого выходного токена,
причем первым выходным токеном является предыдущий выходной токен относительно второго выходного токена в первой последовательности, второй выходной токен генерируется декодирующей частью с учетом по меньшей мере предыдущего выходного токена.
6. Способ по п. 1, в котором приведение в действие декодирующей части для генерирования второй последовательности содержит:
приведение в действие электронным устройством декодирующей части для возврата в предыдущее состояние,
причем предыдущим состоянием является состояние декодирующей части перед генерированием первого из по меньшей мере одного последнего выходного токена из первой последовательности; и
генерирование электронным устройством, использующим декодирующую часть в предыдущем состоянии, первого из по меньшей мере одного последнего выходного токена второй последовательности, при этом запрещая этому первому из по меньшей мере одного последнего выходного токена второй последовательности быть идентичным первому из по меньшей мере одного последнего выходного токена первой последовательности.
7. Способ по п. 6, в котором приведение в действие декодирующей части для возврата в предыдущее состояние содержит:
осуществление доступа электронным устройством к ранее сохраненным данным, связанным с декодирующей частью, в запоминающем устройстве.
8. Способ по п. 1, в котором перевод выполняется электронным устройством без доступа к серверу.
9. Способ по п. 1, в котором NN имеет коэффициент емкости ниже предопределенного порога.
10. Способ по п. 1, при этом способ содержит, в ответ на несоответствие второго слова-кандидата по меньшей мере одному предопределенному правилу:
приведение в действие электронным устройством декодирующей части для генерирования другой второй последовательности выходных токенов,
причем эта другая вторая последовательность имеет по меньшей мере один последний выходной токен, отличный от (i) по меньшей мере одного последнего выходного токена первой последовательности и (ii) по меньшей мере одного последнего выходного токена второй последовательности, причем другая вторая последовательность представляет другое второе слово-кандидат;
в ответ на соответствие другого второго слова-кандидата упомянутому по меньшей мере одному предопределенному правилу:
определение электронным устройством того, что другое второе слово-кандидат является целевым словом.
11. Способ по п. 10, при этом способ дополнительно содержит:
приведение в действие электронным устройством декодирующей части для генерирования предопределенного числа вторых последовательностей выходных токенов,
это предопределенное число вторых последовательностей включает в себя вторую последовательность и другую вторую последовательность,
предопределенное число вторых последовательностей представляет предопределенное число вторых слов-кандидатов;
в ответ на то, что ни одно из предопределенного числа вторых слов-кандидатов не соответствует упомянутому по меньшей мере одному предопределенному правилу:
определение электронным устройством того, что первое слово-кандидат является целевым словом.
12. Электронное устройство для выполнения офлайн-перевода исходного слова в целевое слово, причем исходное слово представлено на исходном языке, целевое слово представляется на целевом языке, офлайн-перевод выполняется нейронной сетью (NN), исполняемой электронным устройством, при этом NN обучена переводить слова с исходного языка на целевой язык, причем NN имеет кодирующую часть и декодирующую часть, причем электронное устройство выполнено с возможностью:
разбиения исходного слова на последовательность входных токенов;
генерирования, используя кодирующую часть, последовательности векторных представлений для соответствующих из последовательности входных токенов;
генерирования, используя декодирующую часть, первой последовательности выходных токенов на основе последовательности векторных представлений;
первая последовательность представляет первое слово-кандидат, причем первое слово-кандидат является возможным переводом исходного слова на целевой язык;
в ответ на несоответствие первого слова-кандидата по меньшей мере одному предопределенному правилу:
приведения в действие декодирующей части для генерирования второй последовательности выходных токенов, причем вторая последовательность имеет по меньшей мере один последний выходной токен, отличный от по меньшей мере одного последнего выходного токена первой последовательности,
вторая последовательность представляет второе слово-кандидат, причем второе слово-кандидат является вторым возможным переводом исходного слова на целевой язык;
в ответ на соответствие второго слова-кандидата упомянутому по меньшей мере одному предопределенному правилу:
определения того, что второе слово-кандидат является целевым словом.
13. Электронное устройство по п. 12, при этом электронное устройство дополнительно выполнено с возможностью:
определения того, что первое слово-кандидат не соответствует упомянутому по меньшей мере одному предопределенному правилу, причем электронное устройство, выполненное с возможностью определения, представляет собой электронное устройство, выполненное с возможностью сравнения первого слова-кандидата с предопределенным словарем слов.
14. Электронное устройство по п. 12, при этом электронное устройство дополнительно выполнено с возможностью:
определения того, что второе слово-кандидат соответствует упомянутому по меньшей мере одному предопределенному правилу, причем электронное устройство, выполненное с возможностью определения, представляет собой электронное устройство, выполненное с возможностью:
сравнения второго слова-кандидата с предопределенным словарем слов.
15. Электронное устройство по п. 12, в котором упомянутый по меньшей мере один последний выходной токен в первой последовательности представляет собой по меньшей мере два последних выходных токена в первой последовательности.
16. Электронное устройство по п. 12, в котором декодирующая часть включает в себя механизм внимания, и в котором электронное устройство, выполненное с возможностью генерирования первой последовательности выходных токенов, представляет собой электронное устройство, выполненное с возможностью:
генерирования, используя декодирующую часть, первого выходного токена в первой последовательности на основе последовательности векторных представлений;
обеспечения указания первого выходного токена механизму внимания декодирующей части; и
генерирования, используя декодирующую часть, второго выходного токена в первой последовательности на основе последовательности векторных представлений и указания первого выходного токена,
причем первым выходным токеном является предыдущий выходной токен относительно второго выходного токена в первой последовательности, второй выходной токен генерируется декодирующей частью с учетом по меньшей мере предыдущего выходного токена.
17. Электронное устройство по п. 12, при этом электронное устройство, выполненное с возможностью приведения в действие декодирующей части для генерирования второй последовательности, представляет собой электронное устройство, выполненное с возможностью:
приведения в действие декодирующей части для возврата в предыдущее состояние,
причем предыдущим состоянием является состояние декодирующей части перед генерированием первого из по меньшей мере одного последнего выходного токена из первой последовательности; и
генерирования, используя декодирующую часть в предыдущем состоянии, первого из по меньшей мере одного последнего выходного токена второй последовательности, при этом запрещая этому первому из по меньшей мере одного последнего выходного токена второй последовательности быть идентичным первому из по меньшей мере одного последнего выходного токена первой последовательности.
18. Электронное устройство по п. 17, при этом электронное устройство, выполненное с возможностью приведения в действие декодирующей части для возврата в предыдущее состояние, представляет собой электронное устройство, выполненное с возможностью:
осуществления доступа к ранее сохраненным данным, связанным с декодирующей частью, в запоминающем устройстве.
19. Электронное устройство по п. 12, в котором перевод выполняется электронным устройством без доступа к серверу.
20. Электронное устройство по п. 12, в котором NN имеет коэффициент емкости ниже предопределенного порога.
21. Электронное устройство по п. 12, в котором в ответ на несоответствие второго слова-кандидата по меньшей мере одному предопределенному правилу, электронное устройство выполнено с возможностью:
приведения в действие декодирующей части для генерирования другой второй последовательности выходных токенов,
причем эта другая вторая последовательность имеет по меньшей мере один последний выходной токен, отличный от (i) по меньшей мере одного последнего выходного токена первой последовательности и (ii) по меньшей мере одного последнего выходного токена второй последовательности, причем другая вторая последовательность представляет другое второе слово-кандидат;
в ответ на соответствие другого второго слова-кандидата упомянутому по меньшей мере одному предопределенному правилу:
определения того, что другое второе слово-кандидат является целевым словом.
22. Электронное устройство по п. 21, при этом электронное устройство дополнительно выполнено с возможностью:
приведения в действие декодирующей части для генерирования предопределенного числа вторых последовательностей выходных токенов,
это предопределенное число вторых последовательностей включает в себя вторую последовательность и другую вторую последовательность,
предопределенное число вторых последовательностей представляет предопределенное число вторых слов-кандидатов;
в ответ на то, что ни одно из предопределенного числа вторых слов-кандидатов не соответствует упомянутому по меньшей мере одному предопределенному правилу:
определения того, что первое слово-кандидат является целевым словом.