Атручэнне даных

Атручэнне даных — від , наўмысная падмена даных, што выкарыстоўваюцца для навучання сістэм штучнага інтэлекту, з мэтай спарадзіць памылкі ў працы сістэмы. Часта выклікана выкарыстаннем публічных і ненадзейных даных з адкрытых крыніц.

Існуюць розныя тыпы атручэння даных:
 Падмена разметкі: замена сапраўднай разметкі для невялікага падмноства даных, напрыклад каб мадэль класіфікацыі распазнавала злачынныя і небяспечныя элементы як бяспечныя.
 Атручэнне прыкмет: змена прыкмет у даных, каб збіць мадэль. Напрыклад, дадаванне нерэлевантных слоў у апісанне тавару каб заблытаць .
 Ін’екцыя даных: даданне несапраўдных даных у набор для навучання мадэлі. Напрыклад, фабрыкацыя водгукаў для скажэння вынікаў .
 Атака праз таемны ход: устаўка сакрэтнага ўзору (таемнага ходу) ў даныя для навучання. Мадэль пачынае паводзіць сябе хібна і небяспечна, калі сутыкаецца з сакрэтным узорам.

 Крыніцы 

Катэгорыя:Машыннае навучанне
Катэгорыя:Інфармацыйная бяспека