Aldınǵa jóneltirilgen neyron tarmaqları (tuwrı tarqalıw algoritmları)

|
Aldınǵa jóneltirilgen neyron tarmaqları (tuwrı tarqalıw algoritmları)
|
bet | 3/3 | Sana | 16.01.2024 | Hajmi | 238,5 Kb. | | #139144 |
Bog'liq 17-ámeliy jumıs (1)Aldınǵa jóneltirilgen neyron tarmaqları (tuwrı tarqalıw algoritmları)
1. Aldınǵa jóneltirilgen neyron tarmaq ne?
Aldınǵa jóneltirilgen neyron tarmaq bul biologiyalıq ihamlanǵan klassifikaciya algoritmı bolıp tabıladı. Ol (itimal úlken) sanlı neyronǵa uqsas protsessor bólimlerinen quralǵan bolıp, olar qatlamlarǵa jaylastırılǵan. Qatlam daǵı hár bir birlik aldınǵı qabatdaǵı barlıq birlikler menen baylanısqan. Bul jalǵanıwlardıń barlıǵı teń emes: hár bir jalǵanıw hár túrlı kúshke yamasa salmaqqa iye bolıwı múmkin. Bul jalǵanıwlardıń salmaqları tarmaq haqqındaǵı bilimlerdi kodlaydı. Kóbinese neyron tarmaǵındaǵı birlikler túyin dep da ataladı.
Maǵlıwmatlar kiriw jaylarına kiredi hám tarmaqqa qatlamlar qatlamına shekem, olar shıqqanǵa shekem keledi. Ápiwayı islew waqtında, yaǵnıy ol klassifikator wazıypasın atqarǵanda, qatlamlar ortasında hesh qanday teris baylanıs bolmaydı. Sol sebepli olardı bes neyron tarmaqları dep ataydı.
Tómendegi suwretde biz joqarıdan tómengeshe bolǵan 2 qatlamlı tarmaqtıń úlgisin kóremiz: 5 birlikten ibarat shıǵıw qatlamı, uyqas túrde 4 birlikten ibarat jasırın qatlam. Tarmaqta 3 kiriw birligi bar.
3 kiriw sheńber formasında kórsetiledi hám olar tarmaqtıń qandayda bir qatlamına tiyisli emes (eger geyde maǵlıwmatlar 0 qatlamlı virtual qatlam retinde qaralalsada ). Shıǵıw qatlamı bolmaǵan hár qanday qatlam jasırın qatlam bolıp tabıladı. Sol sebepli bul tarmaq 1 jasırın qatlam hám 1 shıǵıw qatlamına iye. Sonıń menen birge, súwretde túrli qatlamlardaǵı birlikler arasındaǵı barlıq baylanıslar kórsetilgen. Qatlam tek aldınǵı qatlamǵa jalǵanadı.
Bul tarmaqtıń islewin eki basqıshqa bólıw múmkin:
1. Tálim basqıshı
2. Klassifikaciyalaw basqıshı
Keri tarqalıw algoritmları
Arqaǵa qaray tarqalıw, " qátelerdi arqaǵa qaray tekseriw" qısqartpası - bul gradiyent túsiw járdeminde jasalma neyron tarmaqların qadaǵalaw astında úyreniw algoritmı. Jasalma neyron tarmaq hám qáte funktsiyasın esapqa alǵan halda, usıl neyron tarmaqtıń salmaqlarına salıstırǵanda qáte funktsiyasınıń gradyanın esaplap shıǵadı. Bul pertseptronlar ushın kóp qabatlı neyron tarmaqları ushın delta qaǵıydasın ulıwmalastırıw esaplanadı.
Atamanıń " arqaǵa qaray" bólegi, gradientti esaplaw tarmaq arqalı arqaǵa qaray ketip atırǵanlıgınan kelip shıǵadı, birinshi náwbette salmaqlardıń aqırǵı qatlamı gradiyenti birinshi bolıp salmaqlardıń birinshi qatlamı gradienti esaplanadı. Aldınǵı qatlam ushın gradientti esaplawda bir qatlamnan derlik gradient esap-sanaqları qayta qollanıladı. Qáteler haqqındaǵı maǵlıwmatlardıń bul arqaǵa qaray aǵıwı hár bir qatlamnıń gradiyentin bólek esaplawdıń ápiwayılıǵı menen salıstırılaǵanda hár bir qatlamda gradyandı nátiyjeli esaplaw imkaniyatın beredi.
Keri tarqalıwdıń belgililigi sońǵı payıtlarda qayta tiklenip, súwretti anıqlaw hám sóylewdi anıqlaw ushın tereń neyron tarmaqların keń qabıl etkenligi sebepli payda boldı. Bul nátiyjeli algoritm esaplanadı hám zamanagóy programmalar islewdi jáne de jaqsılaw ushın qánigelesken GPU-lardan paydalanadı.
|
| |