# Eettisesti kestävä tekoäly

Mika Hämäläinen

► To cite this version:

Mika Hämäläinen. Eettisesti kestävä tekoäly. Vastuullinen hankeviestintä, Metropolia Ammattiko- rkeakoulu, 2024, 978-952-328-422-7. hal-04438265

HAL Id: hal-04438265

https://hal.science/hal-04438265v1

Submitted on 5 Feb 2024

HAL is a multi-disciplinary open access
archive for the deposit and dissemination of sci-
entific research documents, whether they are pub-
lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.

L'archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d'enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.

<figure><img src="image_1.png" /></figure>

Distributed under a Creative Commons Attribution - ShareAlike 4.0 International License
Mika Hämäläinen, Al-projektipäällikkö, Metropolia Ammattikorkeakoulu

# EETTISESTI KESTÄVÄ TEKOÄLY

Viimeaikainen kehitys ja hypetys tekoälyn ympärillä on luonnollisesti johtanut siihen tilanteeseen, että tekoälyn käyttöä pohditaan myös monissa TKI-projekteissa sekä hankeviestinnässä. Tekoälyn käyttöön liittyy joitakin eettisiä haasteita, joita haluan nostaa esille tässä artikkelissa. Nämä liittyvät dataan, ilmiön ymmärtämi-seen sekä tekoälyn julkaisuun.

Elämme nyt tekoälyn ku Koistuskauden alkua – tekstiä itsenäisesti tuottavat tekoälytyökalut ovat nyt kaikkien saatavilla. Tekoälykehitys on mennyt kovaa vauhtia eteenpäin viimeisen kymmenen vuoden aikana. Ensin laajamittaiseen käyttöön tulivat neuroverkot. Ne ovat tietokonemalleja, jotka mukailevat ihmisen aivojen toimintaperiaatteita. Pian

neuroverkkojen pohjalta kehitettiin Transformer-malli¹, joka on perustana niin kuvia tuottavalle DALL-E 2:lle² kuin tekstiä kirjoittavalle ChatGPT:llekin³.

> Avoimuus on ollut merkittävä katalysaattori tekoälykehityksessä.

Hurja kehitysvauhti on tullut mahdolliseksi yhtäältä kasvavan laskentatehon ja toisaalta kiivaana käyvän, avoimen tekoälytutkimuksen ansiosta. Juuri avoimuus on ollut merkittävä katalysaattori tekoälykehityksessä. Yhdysvaltalaiset teknologiajätit ovat viime vuosina kilpailleet keskenään tekoälyn herruudesta ja julkaisseet tekoälyalgoritmeja ja -malleja kaikkien käytettäväksi. Tämä on mahdollistanut tieteellisen toimintatavan: tekoälyä on voitu sujuvasti kehittää vanhan tiedon päälle.
## VALKOISEN MIEHEN MYYTTI

Ensimmäisenä haluan kumota myytin valkoisista miehistä Piilaaksossa. Usein kuulen ihmisten kertovan, että tekoälyn suuri eettinen ongelma piilee siinä, että sitä kehittävät valkoiset miehet Piilaaksossa, jolloin esimerkiksi naiset ja tummaihoiset jäävät tekoälyn ulkopuolelle. Argumentti on itsessään virheellinen, sillä monet Piilaakson yritykset, etenkin teknologiajätit, ovat panostaneet työntekijöiden moninaisuuteen viime vuosina⁴⁵⁶, joten tekoälyä kehittää yhä moninaisempi joukko ihmisiä.

Toiseksi tekoäly oppii nykyään datasta. Sitä ei siis koodata käsin. On siis täysin yhdentekevää, minkälaiset ihmiset tekoälyä kehittävät **vinoumat** ja **ongelmakohdat** nousevat datasta, eivät kehittäjistä. Tämä on ongelmallista siinä suhteessa, että erityisesti akateemisessa maailmasa dataa kerätään joukkoistamisen avulla kyselemällä mielipiteitä pikkurahaa vastaan satunnaisilta internetin käyttäjiltä. On hyvin tavallista törmätä akateemisiin julkaisuihin, joissa vaikkapa valeuutisten tunnistamista varten on tuotettu dataa kyselemällä satunnaisilta ihmisiltä, onko jokin uutinen totta vai tarua. Jokaista uutista varten on värvätty kokonaiset kolme ihmistä, eikä faktantarkastusta ole tehty sen takia, että se on kallista. Datan laatu ja kuka sen lopulta tuottaa ovat siis paljon merkittävämpiä tekijöitä kuin tekoälykehittäjien sukupuoli tai etnisyys.

<figure><img src="image_2.png" /></figure>

> Koska tekoälymallit ovat riippuvaisia datasta, on ymmärrettävä, että data on valtaa.

## DATA ON VALTAA

Koska tekoälymallit ovat riippuvaisia datasta, on ymmärrettävä, että data on valtaa. Tämä tarkoittaa sitä, että omaa dataa ei kannata heti antaa pois jollekin ulkoiselle taholle, joka vastaa tekoälykehityksestä. Tekoäly on niin pitkällä, ettei sen kehittäminen itsessään enää vie juurikaan aikaa. Samat yleispätevät tekoälyratkaisut toimivat monen ongelman ratkaisemiseen. Esimerkiksi suosittua BERT-tekoälymallia⁷ on käytetty masennuksen tunnistamiseen⁸, vihapuheen tunnistamiseen⁹, opiskelijoiden esseiden arviointiin¹⁰, syövän diagnosointiin¹¹ ja niin edelleen. Ratkaiseva ero on vain siinä, mitä dataa on käytetty tekoälyn kouluttamiseen.
Koska data on valtaa, siitä seuraa myös suuri vastuu. Data asettaa rajoitteet sille, mitä tekoäly voi oppia. Tämä tarkoittaa sitä, että mikäli TKI-projekteissa käytetään dataa tekoälyn tuottamiseen, on ymmärrettävä, mitä rajoitteita datassa on. Jos treenaamme tekoälymallin vaikkapa tunnistamaan opiskelijoiden keskeyttämisris- kiä teknisten alojen opiskelijoiden datalla, se tuskin toimii sosiaali- ja terveysalalla, sillä syyt keskeyttämi- seen voivat olla erilaiset. Data ei voi koskaan kattaa aivan kaikkea. Siksi on hyvä pitää mielessä, että se, mitä data ei kata, menee arvauksen puolelle, kun tekoälyä käytetään. Esimerkiksi Googlen tekoäly tunnisti tummai- hoisia ihmisiä gorilloiksi vielä vuosia sitten¹², sillä data oli tämän suhteen rajoittunutta.

Oman **datan rajoitteet** on siis tunnistettava, mutta yhtä tärkeää on tunnistaa datassa olevat vinoumat. Tekoäly – vaikka se yleisellä tasolla niin hyvin toimiikin – oppii helposti kaikenlaiset vinoumat datasta. Jos haluamme opettaa mallin esimerkiksi tunnistamaan, onko uutinen totta vai propagandaa, ja esimerkiksi sana Putin esiintyy useimmiten datassa propagandauutisissa, tekoäly oppii nopeasti ennustamaan, että aina kun puhutaan Putinis- ta, on kyse propagandasta. Vastaavasti tekoäly saattaa oppia, että aina kun sana Biden esiintyy uutisessa, kyse ei voi olla propagandasta. Nämä ovat esimerkkejä vinoumista datassa.

Vinoumien tunnistaminen on hankalaa, sillä ne saattavat olla hyvinkin mielivaltaisen oloisia ihmisille. Esimerkiksi kysymysmerkin puuttuminen lauseen lopusta saattaa saada konekääntimen kääntämään kysymyslauseen väitelauseeksi. Vinoumista voi seurata eettisesti kestä- mättömiä seurauksia. Jos esimerkiksi lentokenttien turvatarkastusta sujuvoitetaan tekoälyllä ja tekoäly koulutetaan kerätyn datan perusteella, negatiiviset stereotypiat tulevat mahdollisesti korostumaan. Näin ollen tekoälymalli saattaakin esimerkiksi oppia nopeasti ohjaamaan matkustajat pelkän kansalaisuuden perus- teella satunnaistarkastukseen.

On myös syytä miettiä datan lisenssiä, tekijänoikeuksia sekä henkilötietojen käsittelyä. Tekoälyä kannattaa kehittää sellaisen datan avulla, jota TKI-projektilla on myös oikeus käyttää mahdollisimman rajattomasti. Arkaluonteisten henkilötietojen syöttäminen tekoäly- mallille treenatessa voi johtaa tilanteeseen, jossa henki- lötiedot voidaan poimia valmiista mallista joko suoraan tai välillisesti. Henkilötiedoilla treenattua mallia tulee siis käsitellä samoilla periaatteilla kuin henkilötietoja.
## TEKOÄLY EI KORVAA YMMÄRRYSTÄ

Koska tekoälyn kouluttaminen on nykyään helppoa, olemme siirtyneet maailmaan, jossa tekoälyä voi kehitää ja käyttää ymmärtämättä mitään ongelmasta, jota tekoälyllä pyritään ratkaisemaan. Haluaisin muistuttaa, että tekoäly ei ole mikään maaginen työkalu, jonka voi kouluttaa tekemään mitä vaan. Ensimmäinen kysymys, joka jokaisen tulee esittää, on yksinkertainen: voiko ihminen ratkaista ongelman sillä syötteellä, joka tekoälylle annetaan?

<figure><img src="image_3.png" /></figure>

> Koko tekoälyn maailmankuva perustuu siihen dataan, jolla se on koulutettu.

Kysymystä voi valottaa esimerkillä. Kuvitellaan tilanne, jossa näyttäisin pienelle lapselle paljon uutisia, jotka ovat valetta, ja paljon uutisia, jotka ovat totta. Opettaisin lasta näin tunnistamaan, mikä on totta ja mikä valetta. Uutiset rajaisin aikaan ennen vuoden 2021 loppua.

Opetuksen jälkeen läväyttäisin lapsen eteen uutisen vuodelta 2022, joka käsittelee Venäjän hyökkäystä Ukrainaan. Mitä olettaisit lapsen vastaavan? Totta vai tarua. On selkeää, että eihän lapsella ole mitään edellytyksiä tietää, onko kyseinen uutinen totta vai tarua. Aiemmat uutiset eivät mitenkään kata tällaista muuttunutta tilannetta, ja lapsen antama vastaus tuskin pohjaa siihen, mitä hänelle juuri opetin uutisista. Sama tilanne on tekoälyn kanssa.

Koko tekoälyn maailmankuva perustuu siihen dataan, jolla se on koulutettu. On selvää, että kun maailma pysyy samanlaisena, tekoäly voi suoriutua valeuutisten tunnistamisesta. Mutta kun maailma yhtäkkiä muuttuin, ei tekoälyllä ole mitään mahdollisuutta tunnistaa uutisia oikein. Jotta tekoäly voisi todentaa sen, että Venäjä todella hyökkäsi Ukrainaan, sen tulisi joko jotenkin matkustaa paikan päälle toteamaan tilanne tai sillä pitäisi olla kyky etsiä luotettavaa tietoa lisätueksi. Tällä hetkellä tekoäly ei kykene tämän tasoiseen aktiiviseen toimijuuteen vaan se luottaa aiemmin datasta oppimaansa käsitykseen maailmasta.

Niinpä meidän ihmisten tulee perusteellisesti ymmärtää se ilmiö, jota haluamme tekoälyllä mallintaa, ja kysyä itseltämme, voiko tekoäly ylipäätään oppia luotettavasti mallintamaan ilmiötä sen datan perusteella, jota me sille syötämme. Tähän haluaisin vielä lisätä sen varoituksen sanan, että tekoäly oppii datasta mitä vaan – myös
valeuutisten tunnistamisessa saadaan tekoälyllä erittäin hyviä tuloksia. Tällöin tekoäly valitettavasti oppii datan vinoumat, ei ilmiötä itseään. Tällöin tekoälyn ei voi odottaakaan toimivan kovinkaan hyvin tai ainakaan luotettavasti todellisen maailman datalla.

Näinpä jo TKI-projektia suunnitellessa tulee miettiä, voiko tekoäly mitenkään ratkaista ongelmaa, johon ollaan hakemassa ratkaisua. Tähän auttaa ajatuskoe pienestä lapsesta, joka on kuin tabula rasa. Jos lasta on mahdotonta edes teoreettisesti opettaa ratkaisemaan kyseistä ongelmaa sillä datalla, joka neuroverkolla olisi käytössä, voi olla, että ongelma tulee ratkaista jotenkin muuten.

Hankkeista viestittäessä tulee kiinnittää huomiota siihen, ymmärtääkö tekoäly hankkeen sisällön oikein. Suuret kielimallit saavat tällä hetkellä suuret linjat tuotetta oikein. Mitä tarkemmalle tasolle mennään, sitä enemmän kielimallin tietämyksen rajat tulevat vastaan. TKI-hankkeissa ratkotaan usein hyvin spesifiä ongelmaa ja tuotetaan hyvin spesifiä tietoa. Mikäli esimerkiksi ChatGPT valjastetaan hankkeesta viestimiseen, faktojen tarkastamiseen tulee kiinnittää yhä enemmän huomiota. TKI-toiminnassa syntyvä uusi tieto saattaa hyvinkin kumota vanhat olettamukset, joten on tärkeää, etteivät vanhat olettamat onnistu ujuttautumaan mukaan hankeviestintään.

## KUKA ISTUU TEKOÄLYN PÄÄLLÄ?

Jos data on valtaa, niin sen pohjalta treenattu tekoäly vasta valtaa onkin. Tekoäly sisältää datan kaikkine rajoitteineen sekä vinoumineen, joilla voi olla yllättäviäkin eettisiä seurauksia, kun tekoälyä sovelletaan todellisen maailman ongelmiin. TKI-projekteissa on tärkeää suunnitella jo alusta pitäen, miten tekoälymallit varastoidaan, kenen haltuun ne jäävät ja kuka niitä saa käyttää.

Itse suosittelen tekoälymallien julkaisua avoimesti kaikkien saataville. Esimerkiksi Hugging Face¹³ mahdollistaa tämän portaalinsa kautta ja myös Zenodoon¹⁴ voi tallettaa dataa ja tekoälymalleja pysyvästi ja versioidusti. Tekoälymallien yhteydessä on hyvä julkaista kuvaus datan rajoitteista ja vinoumista sekä mahdollisimman tarkka kuvaus siitä, millaisella datalla tekoälymalli mahdollisesti toimii ja millaisella datalla sen kanssa voi ilmetä ongelmia.

Rajoitteiden kuvaus on eettisen kestävyyden kannalta erittäin tärkeää, sillä harvalla on intoa tai edes kykyä tutkia erikseen tekoälymallin sisältämiä vinoumia tai rajoitteita. Rajoitteiden tunnistaminen vaatii pitkäjänteistä analyysiä, eikä siihen ole olemassa vielä valmista ratkaisua. Vastuuta on nykyään siirretty liikaa käyttäjälle, vaikka vastuun rajoitteiden kuvaamisesta tulisi olla tekoälytyökalun julkaisijalla.
Viimeisin suunta tekoälykehityksessä on niin kutsuttu valmiiden tekoälymallien hienosäätö. Tämä tarkoittaa sitä, että otetaan jokin tekoälymalli, joka on koulutettu kohtalaisen suurella datamäärällä, mutta sitä ei ole koulutettu varsinaisesti ratkaisemaan mitään todellista ongelmaa. Kielen kohdalla puhutaan kielimalleista. Nämä mallit on opetettu ymmärtämään jotain kielen sanojen suhteista, ja ne voidaan hienosäätää tekemään haluttua asiaa treenaamalla niitä omalla datalla. Tästä seuraa ongelma, että oma tekoälymalli ei enää olekaan rajoittunut vain oman treenidatan suhteen, vaan se saattaa sisältää vinoumia ja rajoitteita, jotka nousevat alkuperäisestä kielimallista.

Tästä ongelmasta suuremman tekee se, että nykyään käytetään enenevästi suuria kielimalleja. Nämä kielimallit ovat niin suuria, ettei niitä voi edes käyttää tavallisella tietokoneella. Näitäkin malleja voi hienosäätää omalla datalla, mutta tällöin oma data on ladattava verkkoon kielimallin tarjoajan palvelimelle. Esimerkiksi suuren Google Bardin¹⁵ hienosäätäminen vaatii, että data lada-taan Googlen palvelimelle, jonka jälkeen oma, hieno-säädetty tekoälymalli toimii Google Bard -mallin päällä. Oma tekoälymalli siis jää riippuvaiseksi Googlen mallis-ta, jolloin ajaudutaan toimittajaloukkuun, sillä oman tekoälymallin käyttämistä varten tarvittava malli on vain Googlella. Tällainen ratkaisu ei takaa tekoälymallin käytettävyyttä TKI-projektin jälkeen.

<figure><img src="image_4.png" /></figure>

> Mikäli TKI-projektilta puuttuu selkeä ymmärrys mallinnettavasta ongelmasta, tekoälyratkaisuista tulee toiminnaltaan erittäin rajoittuneita.

## KENEN VASTUULLE JÄÄ VINOUMIEN VALVOMINEN?

Kaikkiaan tekoälyn eettiset ongelmat eivät rajoitu vain Piilaakson valkoihoisiin miehiin tai siihen, että vähem-mistöt ovat aliedustettuina datassa. Eettiset ongelmat nousevat esiin datan rajoitteista ja vinoumista erityisesti tilanteessa, jossa tekoälyä käyttävät tahot eivät ole niistä tietoisia.

Kaikista tärkeintä tekoälykehityksessä on ihmisen ymmärrys tekoälyllä mallinnettavasta ilmiöstä. Tekoäly on hyvä renki, mutta huono isäntä. Mikäli TKI-projektilta puuttuu selkeä ymmärrys mallinnettavasta ongelmasta, tekoälyratkaisuista tulee toiminnaltaan erittäin rajoittuneita. Tekoälyn voi treenata tekemään mitä vain näen-näisesti hyvin, mutta sen treenaaminen tekemään asiat hyvin oikeista syistä onkin sitten hankalampaa.
## LÄHTEET

1 Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J., Jones, L., Gomez, A. N., Kaiser, Ł. & Polosukhin, I. 2017. Attention is all you need. Teoksessa Proceedings of the 31st International Conference on Neural Information Processing Systems. 6000–10.

2 OpenAI. Dall-E 2. Viitattu 16.8.2023.

3 OpenAI. Chat GPT. Viitattu 16.8.2023.

4 Google 2023. Google Diversity Annual Report. Viitattu 16.8.2023.

5 Meta 2022. Embracing Change Through Inclusion: Meta's 2022 Diversity Report. Viitattu 16.8.2023.

6 Microsoft 2022. Global Diversity & Inclusion Report. Viitattu 16.8.2023.

7 Devlin, J., Chang, M. W., Lee, K. & Toutanova, K. 2018. BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding. Teoksessa Proceedings of NAACL-HLT. 4171–4186.

8 Hämäläinen, M., Patpong, P., Alnajjar, K., Partanen, N. & Rueter, J. 2021. Detecting Depression in Thai Blog Posts: a Dataset and a Baseline. Teoksessa Proceedings of the Seventh Workshop on Noisy User-generated Text. 20–25.

9 Caselli, T., Basile, V., Mitrović, J. & Granitzer, M. 2021. Hate BERT: Retraining BERT for Abusive Language Detection in English. Teoksessa Proceedings of the 5th Workshop on Online Abuse and Harms. 17–25.

10 Mayfield, E. & Black, A.W. 2020. Should you fine-tune BERT for automated essay scoring?. Teoksessa Proceedings of the Fifteenth Workshop on Innovative Use of NLP for Building Educational Applications. 151–162.

11 Uskaner Hepsağ, P., Özel, S. A., Dalcı, K. & Yazıcı, A. 2023. Using BERT models for breast cancer diagnosis from Turkish radiology reports. Language Resources and Evaluation. 1–32.

12 BBC 2015. Google apologises for Photos app's racist blunder. Uutinen 1.7.2015. Viitattu 16.8.2023.

13 Hugging Face. Viitattu 16.8.2023.

14 Zenodo. Viitattu 16.8.2023.

15 Bard. Viitattu 16.8.2023.
## SUMMARY IN ENGLISH

GENERATED BY CHATGPT 3.5

The article discusses ethical considerations in research and communication related to Artificial Intelligence (AI) projects. The author, Mika Hämäläinen, an AI project manager at Metropolia University of Applied Sciences, addresses the ethical challenges associated with AI development, focusing on data, understanding phenomena, and AI deployment.

Hämäläinen begins by highlighting the recent surge in AI development, emphasising the accessibility of AI tools for generating text independently. He traces the rapid progress in AI development, from neural networks to advanced models like Transformers. The acceleration is attributed to increased computing power and open AI research.

The article challenges the myth that AI development is dominated by white males in Silicon Valley, asserting that diversity in AI development teams has increased. Hämäläinen argues that the key issue lies in the data used to train AI, not the developers' demographics. He emphasises the importance of recognizing data limitations and biases, particularly in academic settings where data is often collected through crowd-sourcing.

The narrative underscores the power of data in AI development and the responsibility associated with

handling it. It cautions against indiscriminate sharing of sensitive data for AI training and encourages a thorough understanding of data limitations. The quality and source of data are deemed crucial factors in AI training.

The article delves into the concept that AI does not replace human understanding. It emphasises that AI models are only as good as the data they are trained on and raises questions about the model's adaptability to changing scenarios. The need for human comprehension of the problems AI aims to solve is stressed, cautioning against over-reliance on AI as a magical solution.

Hämäläinen suggests considering whether AI can effectively address the specific problem at hand, drawing parallels with teaching a child to differentiate between true and false news based on historical data. He warns that AI's worldview is shaped by its training data, limiting its ability to adapt to unforeseen changes.

In the context of AI projects, the article advocates careful consideration of whether AI can genuinely solve the intended problem. It urges a thorough understanding of AI's limitations, especially when applied to real-world issues. The communication of AI projects should align with the model's understanding, with a focus on accuracy when dealing with specific problems.
The narrative concludes by addressing the responsibility of managing AI models post-project. It recommends open publication of AI models, emphasising platforms like Hugging Face and Zenodo for transparent sharing. The importance of providing detailed descriptions of data limitations and biases is underscored, placing responsibility on AI tool publishers to ensure ethical considerations.

Overall, the article provides a comprehensive exploration of ethical aspects in AI research and communication, emphasising the need for responsible data handling, understanding AI limitations, and transparent model sharing. •