Rinnakkaisuus

Rinnakkaisuus () tarkoittaa tietojenkäsittelytieteessä ongelman ratkaisemista siten, että sen osaongelmat ratkaistaan joko näennäisesti tai aidosti yhtä aikaa rinnakkaisissa laskennoissa. 

Laskennat voidaan suorittaa myös monessa tietokoneessa eli klusterissa, jolloin yleensä käytetään termiä hajautettu järjestelmä.

Eräissä tapauksissa erotellaan rinnakkaisuus () ja yhtäaikaisuus () käsitteen selkeyden vuoksi. Esimerkiksi Flynnin luokittelussa SIMD-malli kuvataan rinnakkaisena mutta ei yhtäaikaisena, koska käsittelymalli ei sisällä vuoronnusta.

Rinnakkaisuustyypit 

Rinnakkaisuus voidaan jakaa kolmeen kategoriaan seuraavasti:
 bittitason rinnakkaisuus
 esimerkiksi suorittimen "dataleveys": 8-bittinen, 16-bittinen, 32-bittinen ja 64-bittinen suoritinarkkitehtuuri
 käskytason rinnakkaisuus
 rinnakkain kellojaksoa kohden suoritettavien käskyjen määrä (), superskalaariset suorittimet
 riippuen myös mm. kääntäjästä ja suoritinarkkitehtuurista
 tehtävätason rinnakkaisuus
 yhtä tai useampaa ohjelmaa yhdelle tai useammalle datajoukolle
 tehtävätasolla tyypillisesti käsitellä prosesseja ja säikeitä

Tehtävätason rinnakkaisuus 

Perinteisesti prosessi () on tarkoittanut yhtä ajossa olevaa ohjelmaa. Rinnakkaisuus on tällöin sitä, että järjestelmässä on useita prosesseja ajossa yhtä aikaa. Näillä prosesseilla ei tarvitse olla mitään yhteistä, ja kukin niistä voi ratkaista omaa laskentaansa. Toisaalta prosessit voivat myös kommunikoida keskenään, jolloin niiden välille syntyy riippuvuuksia ja suoritettava laskenta on ainakin jossain määrin yhteinen. Käyttöjärjestelmän tehtävänä on suojata prosessit toisiltaan, tarjota niille mekanismeja keskinäiseen kommunikointiin ja päättää, mikä prosessi milloinkin on ajovuorossa (skedulointi,  eli vuoronnus). 

Saman prosessin sisällä olevia rinnakkaisia itsenäisesti vuoronnettavia ohjelman osia kutsutaan yleensä säikeiksi (), mutta myös termejä tehtävä () ja kevytprosessi () käytetään jonkin verran. Säie eroaa prosessista siten, että säikeellä ei ole omia resursseja kuten muistia, auki olevia tiedostoja ja niin edelleen, vaan se käyttää sen prosessin resursseja, johon se kuuluu. Säikeet ovat nykyään suosittu tapa toteuttaa laskennan rinnakkaisuutta yhden koneen sisällä,
jos käyttöjärjestelmä tukee säikeitä.

Jos tietokoneessa on vain yksi suoritin, voi ainoastaan yksi prosessi (tai yksi säie) kerrallaan olla ajossa. Muut prosessit joutuvat odottamaan vuoroaan. Tämä ei aina aiheuta todellista hidastumista, sillä useimmat prosessit pyytävät välillä oheislaitteilta palvelupyyntöjä, joita ne joutuvat odottamaan. Odotuksen aikana voidaan hyvin suorittaa toista prosessia.

Mikäli tietokoneessa on useita suorittimia (moniprosessointi), voi ajossa olla niin monta prosessia (tai säiettä) kuin on suorittimiakin. Yleensä järjestelmän teho ei kuitenkaan kasva lineaarisesti suorittimien määrän myötä, sillä suorittimet häiritsevät hieman toisiaan käsitellessään yhteistä fyysistä muistia tai ajaessaan käyttöjärjestelmän ytimen koodia.

Synkronointi 

Rinnakkaisissa järjestelmissä tulee aina vastaan kilpailutilanne (), vaikka ohjelmat eivät muuten olisi sidoksissa toisiinsa. Tämä tarkoittaa sitä, että ne tarvitsevat edetäkseen samoja resursseja kuten muistia, levytilaa ja suoritinaikaa. Mikäli ohjelmat käyttävät yhteistä muistia (saman prosessin säikeet tai käyttöjärjestelmältä pyydetty yhteinen muistialue), ohjelmat voivat päivittää yhtä aikaa samaa muuttujaa tai tietorakennetta, mikä yleensä johtaa virheeseen. Tämän takia käyttöjärjestelmä tarjoaa mekanismeja resurssien hallittuun synkronointiin ().

Testaaminen 

Testauksen kannalta rinnakkaisohjelmien perusongelma on ajoituksen muuttuminen ajokerrasta toiseen. Ajoituksen muuttuminen aiheuttaa sen, että sama ohjelma voidaan ajaa läpi hyvin monella eri tapaa, ja testausvaiheessa on mahdotonta saada aikaan kaikkia näitä mahdollisia laskentoja. Pienikin muutos ympäristössä voi muuttaa olennaisesti ajoitusta ja jokin piilevä virhe tulee näkyviin. Tätä voi kuvata myös tilaräjähdyksenä: perinteinen ohjelma suoritetaan sarjallisesti mahdollisten kontrollirakenteiden ohjaamana, mutta kuitenkin siten, että ohjelmalla on yksi ohjelmalaskuri, joka määrää laskennan sen hetkisen tilan yhdessä muistin sisällön kanssa. Rinnakkaisessa järjestelmässä ohjelmalaskureita on useita, eivätkä kaikki ohjelmat suorita samaa ohjelmakoodia. Laskennan tila on siis ohjelmalaskureiden ja muistin sisällön määräämä, jolloin mahdollisia tiloja on moninkertainen määrä sarjalliseen ohjelmaan verrattuna.

Bernsteinin ehdot 

A. J. Bernstein listasi vuonna 1966 ehdot rinnakkaisuuden toteuttamiseen:
 mikäli prosessi Pi kirjoittaa muistialkioon Mi, niin mikään prosessi Pj ei voi lukea alkiota Mi
 mikäli prosessi Pi lukee muistialkiosta Mi, niin mikään prosessi Pj ei voi kirjoittaa alkioon Mi
 mikäli prosessi Pi kirjoittaa muistialkioon Mi, niin mikään prosessi Pj ei voi kirjoittaa alkioon Mi

Ehdot on suunniteltu tarkastelemaan muuttuuko ohjelman tulos mikäli ajosuoritusta muutetaan.

Ehdot ovat kuitenkin hyvin rajoittavat mikäli tietoa halutaan jakaa prosessien välillä. Jakamisen tapauksessa on siis voitava pakottaa käsittelyvuoroihin prosessien synkronoinnilla.

Amdahlin laki 

Gene Amdahl esitti vuonna 1967 lain rinnakkaisuudesta saatavalle suoritusnopeuden kasvulle.

Operaatioiden rinnakkaistamista rajoittaa se, että tehtävän loogisesti sarjamuotoiset operaatiot on aina suoritettava peräkkäin. Siksi suorittimien lukumäärän kasvattamisesta saatava hyöty vähitellen vähenee rinnakkaisten prosessorien lukumäärän kasvaessa.

Amdahlin laki voidaan esittää muodossa:

 

missä:
 Slatenssi on teoreettinen rinnakkaistamisella saavutettava koko tehtävän nopeutuminen (nopeutumiskerroin),
 p on alkuperäisen (sarjallisen) suoritusajan se osuus, joka voidaan rinnakkaistaa,
 s rinnakkaistettavan tehtäväosuuden nopeutuminen, eli tämän osan suorittamiseen käytettävien säikeiden lukumäärä.

Katso myös 
 Aterioivat filosofit – klassinen rinnakkaisuusongelma
 Amdahl's law 
 Gustafson's law 
 Rinnakkaisohjelmointi
 Moniajo
 Fengin luokittelu
 Handlerin luokittelu
 Flynnin luokittelu

Lähteet

Aiheesta muualla 
 Validity of the single processor approach to achieving large scale computing capabilities (PDF) 

Tietojenkäsittelytiede