Хиймэл оюун ухааны аюулгүй байдал

thumb
Хиймэл оюун ухааны аюулгүй байдал гэдэг нь хиймэл оюун ухаан (ХОУ) системээс үүсэх осол, буруу ашиглалт, эсвэл бусад хортой үр дагавраас урьдчилан сэргийлэхэд чиглэсэн салбаруудын нэгдсэн судалгааны чиглэл юм. Энэ нь ХОУ-ийн ёс зүй, ХОУ-ийг зохицуулах асуудлыг хамардаг бөгөөд эдгээр нь ХОУ системийг ёс суртахуунтай, ашигтай байлгах, мөн эрсдэлээс хамгаалж найдвартай байдлыг нэмэгдүүлэхийг зорьдог. Тус салбар нь ялангуяа өндөр хөгжингүй ХОУ загваруудаас үүсэх оршин тогтнох эрсдэлд анхаардаг.

Техникийн судалгаанаас гадна ХОУ-ийн аюулгүй байдал нь аюулгүй байдлыг хангах дүрэм, бодлогыг боловсруулахыг багтаадаг. Энэ чиглэл 2023 онд хиймэл оюун ухаан бүтээх хурдтай хөгжлийн улмаас болон судлаачид, гүйцэтгэх захирлуудын дэвшүүлсэн санаа зовнилуудаас шалтгаалан ихээхэн алдартай болсон. 2023 оны ХОУ-ийн Аюулгүй байдлын дээд хэмжээний уулзалтын үеэр АНУ болон Их Британи улсууд ХОУ-ийн Аюулгүй байдлын өөрсдийн институтыг байгуулсан. Гэсэн хэдий ч судлаачид ХОУ-ийн чадварууд хэт хурдан хөгжиж буйтай харьцуулахад аюулгүй байдлын арга хэмжээ хангалттай хурдацтай биш байгаад санаа зовж байна.

Хөдөлгөгч хүчин зүйлс

Судлаачид ХОУ-тай холбоотой одоогийн эрсдэлүүдийг, тухайлбал, чухал системийн алдаанууд, гажуудал, ХОУ-д суурилсан хяналт, мөн шинэ эрсдэлүүд болох технологийн ажилгүйдэл, дижитал хууран мэхлэлт, зэвсэгжүүлэлт, ХОУ-д суурилсан кибер халдлага, биотерроризм зэрэг асуудлыг хэлэлцдэг. Түүнчлэн ирээдүйн ерөнхий хиймэл оюун ухаан (ЕХОУ)-ыг хянах чадвараа алдах эсвэл ХОУ-ийг ашиглан байнгын, тогтвортой дарангуйлал тогтоох магадлалтай гэх мэт таамаглалын эрсдэлүүдийг ч авч үздэг.

Оршин тогтнох аюулгүй байдал

Ерөнхий хиймэл оюун ухаанаас үүсэх оршин тогтнох эрсдэл: Зарим хүмүүс ЕХОУ-тай холбоотой санаа зовнилыг шүүмжилдэг. Жишээлбэл, Эндрю Нг 2015 онд үүнийг "Бид Марс дээр хөл тавиагүй байхад тэндхийн хүн ам хэт олшрох талаар санаа зовж буйтай адил" гэж хэлсэн. Харин Стюарт Ж. Рассел эсрэг байр суурьтай байж, "Хүний бүтээлч чадварыг үнэлж урьдчилан тооцоолох нь үл ойшоосноос илүү дээр" гэж анхааруулсан.

ХОУ-ийн судлаачид ХОУ технологиос үүсэх эрсдэлүүдийн ноцтой байдал, үндсэн шалтгааны талаар янз бүрийн саналтай байдаг ч судалгаанууд өндөр эрсдэлтэй нөхцөл байдлыг нухацтай авч үздэг болохыг харуулж байна. Судалгаагаар ХОУ-ийн судлаачдын ихэнх нь ХОУ-д ерөнхийдөө өөдрөг хандлагатай байсан ч 5%-ийн магадлалаар "маш ноцтой (жишээлбэл, хүн төрөлхтний мөхөл)" үр дүн гарах боломжтой гэж үзсэн. 2022 оны байгалийн хэл боловсруулалтын салбарын судалгаанд оролцогчдын 37% нь ХОУ-ийн шийдвэр нь "цөмийн дайнтай адил эсвэл түүнээс ч илүү ноцтой" гамшигт хүргэх боломжтой гэж хүлээн зөвшөөрсөн эсвэл бага зэрэг зөвшөөрсөн байна.