Nvidia Jetson

**Nvidia Jetson** on Nvidia manussüsteemide seeria, mis on kavandatud tehisintellekti rakendamisele erinevates tööstusharudes ning masinõppe rakenduste kiirendamisele. Jetsonit kasutavad mitmed ettevõtted nagu ANYbotics oma ANYmal robotis, kuhu saab lisada Nvidia Jetson AGX Xavier, et arendada roboti nägemist. Samuti utiliseerivad mitmed droonid Jetsoni erinevaid manussüsteeme peamiste protsessoritena nagu Skydio autonoomsed droonid. Kuna Nvidia Jetsoni seeriate hinnad varieeruvad palju (100–2200 dollarit, olenevalt seeriast), saavad seda kasutada üksikisikud, kui ka ettevõtted.

## Jetsoni seeriad

Nvidia Jetson seeriate alla kuuluvad:

* **Jetson Nano**
** Mõeldud üksikisikute kasutamiseks oma madala hinna ja gabariidi tõttu. Samuti saab osta ***Developer Kit*** (arendaja komplekt), kus kõik vajalik on olemas, et mooduliga tööle hakata. Arendaja komplekti jaoks on ka tehtud ülesseadmise õpetus ning Jetsoni harrastajate projektide veebisait, kus saab erinevaid projekte vaadelda ning enda projekte üles laadida. Nano on 472 GFLOPS arvutusjõudlus ning on väga energiasäästlik, tarbib ainult 5 vatti. Nano graafikaprotsessor on 128-tuumaline, NVIDIA Maxwell arhitektuuriga ja töötab taktsagedusega 921 MHz. Protsessor on neljatuumaline ARM arhitektuuriga, mis töötab taktsagedusega 1,43 GHz. Tihti võrreldakse Jetson Nano-t Raspberry Pi-ga, kuna neil on sarnased kujud ja hinnad. 
* **Jetson TX2**
** Avaldati 2017. aasta märtsis, mis asendas tema eelkäija TX2 ning on pea kaks korda võimsam. TX2 on kasutatud mitmes erinevas valdkonnas nagu Skydio 2 droon või SAGE projektis, kus kasutati TX2, et arendada autonoomseid sõidukeid ning teha neid energiasäästlikumaks. Samuti nagu Nano, oli TX2 ***Developer Kit*** üksikisikutele, kuid see võeti müügilt maha, sest tuli uued moodulid, mis olid palju võimsamad ning sama hinnaga, kui TX2. TX2 on 1.33 TFLOPS arvutusjõudlus, palju rohkem kui Nano, seega tarbib ka rohkem energiat, maksimaalselt 15 vatti. graafikaprotsessor on 256-tuumaline NVIDIA Pascal arhitektuuriga. Protsessor on 6-tuumaline, kuid need on jaotatud kaheks. 2 tuuma on võimsamad, kuid tarbivad rohkem energiat ning 4 tuuma on energiasäästlikumad.
***Jetson Xavier**
**Xavier NX:
***Avaldati 2019. aasta augustis pidi NX hüppeliselt suurema jõudlusega olema, kui tema eelkäijad, nimelt on NX pea 20 korda võimsam, kui Nano ja TX2, tarbides ainult 10–15 vatti. Samuti oli NX ka ***Developer Ki***t, kuid see võeti samuti müügilt maha. NX seerial on 21 TOPS arvutusjõudlus ning on sama suure gabariidiga, kui Jetson Nano. Graafikaprotsessor on 384-tuumaline, 48 on Tensor tuumad, Volta arhitektuuriga. Protsessor on 6-tuumaline NVIDIA Carmel Arm arhitektuuriga. Kasutatakse mõnes turvakaamerate süsteemides, nagu Adlink kaamerasüsteemis, kuid saab ka kasutada teistes valdkondades nagu robotites või tehastes.
**AGX Xavier:
***Avaldati 2018. aasta oktoobris, aasta enne NX, spetsiaalselt loodud autonoomsetele masinatele, et arendada masinate takistuste tuvastamist, tee planeerimist ning kaardistamist. AGX Xavieri tööstuslik moodul suudab tehases varakult ennustada toote kvaliteeti, nii saab vältida hilisemaid kulusid. Nagu oli NX ja TX2 puhul, nii juhtus ka AGX Xavier Developer kit-iga. Arhitektuuri suhtes on AGX väga sarnane NX, nimelt on AGX samuti Volta arhitektuuriga graafikaprotsessor, kuid tal on 512 tuuma. Protsessor on samuti Carmel Arm arhitektuuriga, kuid 6 tuuma asemel on 8 tuuma ning 2 MB suurem protsessori vahemälu. Seega on AGX arvutusjõudlus ka võimsam, 30–32 TOPS-i.
***Jetson Orin**
**Jetson Orin Nano:
***Avaldati 2022. septembris, kuid ametlikult läks turule alles järgmise aasta jaanuaris. Pärast Orini seeria tulekut hakkasid järgmiste moodulite arvutusjõudlused kiirelt kasvama. Peamiseks põhjuseks oli uus graafikaprotsessori mikroarhitektuur Ampere, millele pandi kolmanda põlvkonna Tensor tuumi, kolmanda põlvkonna NVLink ning teise põlvkonna RT tuumad ehk *[[Kiirtejälitus|Ray-tracing]]* tuumad. Orin Nano Seerial on kaks moodulit: 4 GB vahemäluga, 512 tuuma ja 16 Tensor tuumaga on 34 TOPS, 8 GB vahemäluga, 1024 tuuma ja 32 Tensor tuumaga on 67 TOPS. Mõlema seeria graafikaprotsessorid toimivad samal, 1020 MHz taktsagedusel ning on sama protsessor, 6-tuumaline ARM Cortex.
****Kõikidel Jetson seeriatel (välja arvatud Jetson Orin Nano, TX2 ning Nano) on Deep Learning Accelerator (DLA) ehk sügavõppe kiirendi, mis kiirendab tehisintellekti arvutusi süsteemis, kuigi Orini seeriale paigutati teise põlvkonna DLA, mis aitas süsteemil arvutusjõudlust suurendada.
**Jetson Orin NX:
***2023. aasta veebruaris tuli turule Orin NX, mis on nagu Orin Nano uuendus, kuna gabariidi suurus jäi samaks ning oluliselt suuri muudatusi ei tehtud. Peamised vahed on suurem arvutusjõudlus ning tuumade arv protsessoris ja graafikaprotsessoris. Orin NX on kaks moodulit: 8 GB ja 16 GB. 8 GB on 6-tuumaline Arm Cortex protsessor, kuid 16 GB on 8-tuumaline, seega on 16 GB suurem arvutusjõudlus 157 TOPS ja 8 GB 117 TOPS. Graafikaprotsessor on mõlemal sama, 1024-tuumaline, 32 Tensor tuumaga Ampere arhitektuuriga. Kuigi 16 GB on suurem arvutusjõudlus, tarbivad mõlemad sama palju energiat, 10–40 vatti. Orin NX on kasutatud Hongkongi ülikooli projekti raames, et määrata kaameraga filmitud raami sügavust.
**Jetson AGX Orin:
***AGX Orin on praegu kõige uuem Jetsoni pere seeria, mis avaldati 2023. aasta märtsis. Nagu oli Orin NX, pole suuri mikroarhitektuurilisi muudatusi sellega tehtud, kuid väga palju on suurendatud arvutusjõudlust. AGX Orini seerial on kolm moodulit, mille peamised vahed on arvutusjõudlus, graafikaprotsessori tuumade arv ning energiatarve. 32 GB on 200 TOPS, 1792-tuumaline koos 56 Tensor tuumaga ning tarbib 15–40 vatti. Industrial on 248 TOPS, 2042-tuumaline koos 64 Tensor tuumaga ja tarbib 15–75 vatti. 64 GB on 275 TOPS, 2042-tuumaline koos 64 Tensor tuumaga ja tarbib 15–60 vatti. Kõik moodulid on suurte arvutusjõudlustega, mis suudavad mitu suurt tehisintellekti mudelit korraga jooksutada, seega kasutatakse neid suuremates süsteemides, kus on vaja suuremat arvutusjõudlust.
****AGX Orin Industrial on ainuke AGX Orin seeriast, mis on spetsiaalselt loodud rasketööstusele. Ta talub temperatuure –40 ... 80 °C, AGX Orin 64 GB, aga –20 ... 80 °C. Samuti suudab taluda paremini lööke, vibratsioone ja niiskust ning eluiga on kuni 10 aastat, 64 GB aga ainult 5 aastat.

## Tarkvara

* **NVIDIA JetPack SDK**
**Jetpack SDK on Jetsoni seeriale, mis pakub Jetson Linuxit (põhineb Ubuntul), arendaja tööriistu, kiirendatud programmeerimise teeke ja muid NVIDIA tehnoloogiaid. Jetpack SDK annab arendajatele tööriistad, millega testida, treenida ning arendada enda programme ehk arendajad ei pea kõike algusest tegema vaid saavad kohe tööle hakata.
***Jetson Generative AI Lab**
**Generative AI Lab annab ligipääsu mitmele suurele keelemudelile ehk LLM (Large Language Model). Neid tehisintellekti mudeleid võib igaüks kasutada, kellel on Jetsoni seeria süsteem olemas. Seega ei pea arendajad midagi juurde maksma, et tehisintellekti mudeleid kasutada saaks.
***TAO & Pretrained AI Models**
**Pakub valmis treenitud ning arendatud tehisintellekti mudeleid, et lihtsustada ning kiirendada tehisintellekti treenimist. Näiteks on osad mudelid, arvutinägemise ja vestluspõhise tehisintellekti mudelid, väga täpseks treenitud. Neid mudeleid saab igaüks kasutada, kellel on riistvara, mis toetab ONNX-RT-d või on kompilaator, mis oskab ONNX-i riistvaraliseks käitusajaks teisendada. Neid mudeleid kasutades ei pea iga arendaja tehisintellekti massiivsete andmetekogumitega treenima vaid saab kasutada juba valmis treenitud mudeleid.

***Riva**
**Riva on tarkvaraarenduskomplekt, mis aitab kohendada suuri keelemudeleid enda otstarbeks. Riva sisaldab automaatset kõnetuvastust, teksti kõneks muutmist ning neuraalset masintõlget. Seega lihtsustab Riva suurte keelemudelite muutmist.
***Deepstream SDK**
**Tarkvaraarenduskomplekt, mis aitab arendajatel mitme anduri, video, heli ja pildi töötlemist. Deepstream võimaldab reaalajas analüüsi video, pildi ning anduri andmetega läbi torujuhtme.

***Isaac**
**Isaac ROS (Robotite Operatsioonisüsteem) on kiirendatud andmetöötluspakettide ja tehisintellektimudelite kogum. mis on loodud robootika täiustamiseks ja arendamiseks. See pakub pakette tavaliste ülesannete jaoks, nagu navigeerimine ja ümbrustaju, samuti kasutab optimaalse jõudluse tagamiseks NVIDIA raamistikke. NVIDIA pakub mitu juhendit, kuidas Isaaci üles seada enda süsteemis, et oleks lihtsam tarkvara oma tööjaamadesse implementeerida.

## Kasutus

* 2020. aasta mais teatas BMW, et valis oma autotehaste täiustamiseks uue NVIDIA Isaac robootikaplatvormi, kasutades tehisintellekti andmetöötlus- ja visualiseerimistehnoloogiatele ehitatud logistikaroboteid. BMW kasutab Isaac-ut, et treenida ja testida logistikaroboteid algusest kasutuselevõtuni välja. BMW eesmärk on tõsta eritellimuse sõidukite efektiivset tootmist ning kiirendada tervet protsessi. Kui välja töötatud, võetakse süsteem kasutusele paljudes BMW tehastes üle maailma.
* 2024. aasta septembris teatas NVIDIA et teeb koostööd Teradyneiga, tehaste tootmise automatiseerimisettevõte, et tuua tuua tehisintellekti võimalused tööstusseadmete tootjate kommertsrobotite juurde. Teradyne samuti teatas uuest kaubaaluste robotist, mis suudab tuvastada, korjata ja tarnida kaupa dünaamilistes ja keerukates keskkondades. 
* 2021. aasta märtsis kasutasid Cornelli Ülikooli üliõpilased NVIDIA Jetson Nanot, et kontrollida neuroprosteetilist kätt. Kuna inimese närvivõrgustiku ja prosteetilise käe liikuma panemiseks on vaja suurt arvutusjõudlust, kasutasid tudengid Jetson Nanot, sest ta on piisavalt väikse gabariidi ning piisavalt suure arvutusjõudlusega. Lõpptulemusena saavutasid nad suure täpsusega ja madala latentsiga sõrmede liigutuste juhtumise erinevates labori- ja reaalmaailma keskkondades.

## Viited