Deepseek
Deepseek-kielimallit > Tietoturva heikkoa, tietoturvariskejä, käyttö kyberrikollisuuden edistämiseen

Tietoturvatutkijat toivat 29. tammikuuta 2025 julkisuuteen, että tekoälyohjelma Deepseek R1:n tietoturvassa oli havaittu useita puutteita. Esimerkiksi eräs ohjelman tietokanta, jonne oli keräätty ja tallennettu keskusteluja asiakkaiden kanssa, oli jätetty lokitietoineen (sis. käyttäjätiedot ja API-avaimet) suojaamattomaan, julkiseen verkko-osoitteeseen. Tämä tietokanta on sittemmin kuitenkin suojattu. Suomalaisen tietoturvayhtiön tutkimusjohtaja Mikko Hyppönen arvioi tapahtuman aloittelevan yrityksen virheeksi.
Tietoturvayhtiö Checkpointin mukaan Deepseekin käyttö aiheuttaa yrityksille (ja muillekin käyttäjille) ilmeisiä tietoturvariskejä. Deepseek R1:n käyttöehdot (erityisesti tiedonkeruukäytännöt) poikkeavat paljon tavanomaisesta. Alustan yksityisyyskäytäntöjen mukaan kaikki vuorovaikutus – mukaan luettuna ladatut tiedostot, chat-historiat, puhe, kuvat, jopa näppäinpainallukset – lähetetään ja tallennetaan ulkopuoliselle (kiinalaiselle) palvelimelle. Lisäksi Deepseek varaa oikeuden tarkastella kaikkea käyttäjältä saatua sisältöä. Näin esimerkiksi tekoälylle lähetettyjä sensitiivisiä aiheita käsitteleviä tekstejä saatetaan hyödyntää jatkossa mallin edelleenkouluttamiseen. Siksi käyttäjien kannattaa olla varovainen ja harkita mitä Deepseekin ja muiden kielimallien syötteeksi antaa, mikäli kielimallia ajetaan vieraalla palvelimella. Esimerkiksi kielimallin käyttämiseen ohjelmoinnin koodauksessa sisältyy omat tietoturvariskinsä, joska koodi siirretään kiinalaiselle palvelimelle. Mikäli koodi päätyisi vihamieliselle toimijalle, tämä saattaisi helpottaa tietoturvaheikkouksien löytämistä jos ohjelmakoodin sisältämään järjestelmään haluttaisiin tunkeutua jatkossa. Myös epätietoisuus koodauksen koulutuksessa käytettyjen koodikirjastojen puhtaudesta (haittakoodista) on aiheuttanut huolestuneisuutta. Checkpointin mukaan Deepseekin käytännöillä on myös suora yhteensopivuusriski esimerkiksi EU:n yleisen tietosuoja-asetuksen (GDPR, General Data Protection Regulation) kanssa. Tämä voi saattaa Deepseekin ja sitä käyttävät tahot korvausvastuuseen. GDPR:n keskeisten säädösten rikkomisesta voi seurata hallinnollinen sakko, jonka suuruus voi asetuksen pykälän 83 mukaan olla enimmillään 20 miljoonaa euroa tai 4 prosenttia yhtiön maailmanlaajuisesta liikevaihdosta edeltävän tilivuoden aikana.
Kun tutkijat testasivat keskustelubotin tietoturvaa paljastui, että Deepseekin keskustelubotti R1:n ohjelmointi ei estänyt botin käyttöä kyberrikollisuuden edistämiseksi. Tekoälymallin suojaus rikollisuutta palvelevan käytön estämiseksi oli heikkoa. Ohjelma muodostaa siksi merkittävän tietoturvariskin. Tietoturvayhtiö Checkpoint havaitsi, että monet kyberrikolliset olivat jo siirtyneet käyttämään Deepseekiä ja kiinalaista Qwenia helpottamaan haittakoodin tekemistä. Löytyi ohjeita, kuinka Deepseekin rajoituksia ja huijaustenestoa pääsi kiertämään sekä haittakoodia tällä tekoälyohjelmalla kehittämään. Ciscon tietoturvatesteissä paljastui, ettei Deepseekille oltu ohjelmoitu yhtään toimivaa estoa tietoturvatutkijoiden testaamalle 50 tunnetulle jailbreak-väärinkäyttötavalle, jotka useissa muissa kehittyneissä laajoihin kielimalleihin pohjautuvassa keskusteluboteissa ovat jo arkea. Testissä oli mukana kyberrikollisuuteen, valeuutisiin, rikolliseen toimintaan, ja yleiseen vahingontekoon liittyvien tekoälymallin toimintatapojen testaamista. Jailbreak-lähestymisessä tekoälyohjelman käyttäjä kiertää keskustelubotin mahdollisia suojamekanismeja ('vapautuu tekoälyn rajoituksista'), ja saa ohjelman neuvomaan kyberrikollisuutta edistäviä toimintatapoja, jopa kirjoittamaan toimivaa haittakoodia esimerkiksi kiristyshaittaohjelmiin. Toisaalta uusia jailbreak-heikkouksia on raportoitu äskettäin muistakin tekoälyohjelmista, esimerkiksi tammikuun 2025 lopulla ohjelmointytyökalu GitHub Copilotista ja keskustelubotti ChatGPT-4o:sta.