Tekoälyn suuntaaminen

Tekoälyn suuntaamisella (englannista AI alignment) pyritään ohjaamaan tekoälyjärjestelmiä ihmisten tarkoittamiin tavoitteisiin, mieltymyksiin tai eettisiin periaatteisiin. Tekoälyjärjestelmä katsotaan oikein suuntautuneeksi, jos se edistää tarkoitettuja tavoitteita. Suuntautumaton tekoälyjärjestelmä (tai huonosti suunnattu tekoälyjärjestelmä) pyrkii joihinkin tavoitteisiin, mutta ei niihin, joihin se oli alun perin tarkoitettu.

Tekoälysuunnittelijoille voi olla haastavaa suunnata tekoälyjärjestelmää, koska heille voi olla vaikeaa määrittää kaikki toivottu ja ei-toivottu käyttäytyminen. Välttääkseen vaikeuksia, suunnittelijat yleensä käyttävät yksinkertaisempia välitavoitteita, kuten ihmisten hyväksyntää. Mutta tämä lähestymistapa voi luoda porsaanreikiä, unohtaa tarvittavat rajoitukset tai palkita tekoälyjärjestelmän vain näyttämään suuntautuneelta.
Huonosti suunnatut tekoälyjärjestelmät voivat toimia virheellisesti tai aiheuttaa vahinkoa. Tekoälyjärjestelmät voivat löytää porsaanreikiä, jotka mahdollistavat niiden saavuttavan välitavoitteet tehokkaasti, mutta ei-toivotuilla, joskus haitallisilla tavoilla (palkintopetos). Ne voivat myös kehittää ei-toivottuja välineellisiä strategioita, kuten vallan tai selviytymisen tavoittelua, koska tällaiset strategiat auttavat niitä saavuttamaan annetut tavoitteensa. Lisäksi ne voivat kehittää ei-toivottuja emergenttejä tavoitteita, jotka voivat olla vaikeasti havaittavissa ennen järjestelmän käyttöönottoa, kun se kohtaa uudet tilanteet ja datan muodot.

Lähteet 

Tekoäly
Kybernetiikka