Parametrlerdi optimallastırıw - Ózbekstan respublikasí joqarí bilimlendiriw, ilim hám innovaciyalar ministrligi

|
Ózbekstan respublikasí joqarí bilimlendiriw, ilim hám innovaciyalar ministrligi
|
bet | 2/4 | Sana | 05.12.2023 | Hajmi | 1,4 Mb. | | #111426 |
Bog'liq Baxitjan Bayniyazov Neural Network trainingParametrlerdi optimallastırıw
Saylanǵan E(w) funksiyanı minimallastırıwshı w salmaq vektorın tabıw wazıypası janına ótemiz. Bul waqıtta qáte funksiyasınıń geometriyalıq suwretine ıyelew paydalı bolıp, onı 5.5-suwretde kórsetilgeni sıyaqlı, salmaqlıq keńisliksinde otırǵan sirt retinde kóriwimiz múmkin. Aldın sonı aytymizki, eger biz w den w + δw ge shekem salmaqlıq keńisliksinde kishi bir qádem taslasak, qáte funksiyasınıń ózgeriwi δE≈ δwT∇E(w) boladı, bul erda vektor ∇E(w) boladı.
qáte funksiyasınıń eń úlken ósiw tezligi baǵdarın kórsetedi. E(w) qátesi w dıń tegis úzliksiz funksiyası bolǵanı ushın onıń eń kishi ma`nisi de júz boladı
Salmaqlıq keńisliksinde sonday noqat qoyıngki, qáte funksiyasınıń gradienti joǵaladı, sol sebepli
∇E(w) = 0
Keri jaǵdayda biz −∇E(w) baǵdarında kishi qádem qoyıwımız múmkin hám ol erda qáteni jáne de kemeytiremiz. Gradient joǵalǵan noqatlar statsionar noqatlar dep ataladı hám olardı keyinirek minimal, maksimal hám er noqatlarına klassifikaciyalaw múmkin. Biziń maqsetimiz E(w) eń kishi ma`nisin alatuǵın w vektordı tabıw bolıp tabıladı. Biraq, qáte funksiyası ádetde salmaqlar hám iymeyiw parametrlerine júdá nochiziqli baylanıslılıqqa iye hám sol sebepli salmaqlıq keńisliksinde gradient joǵalıp ketetuǵın (yamasa san tárepten júdá kishi) kóplegen noqatlar boladı. Haqıyqattan da, 5. 1. 1-bólimdegi talqılawdan sonı kóremizki, jergilikli minimum bolǵan hár qanday w noqatı ushın salmaq keńisliksinde ekvivalent minimal bolǵan basqa noqatlar da boladı. Mısalı, 5. 1-suwretde kórsetilgen eki qabatlı tarmaqta M jasırın birlikleri menen salmaqlıq keńisliksiniń hár bir noqatı M!2M ekvivalent noqatlar shańaraǵınıń aǵzası esaplanadı.
Bunnan tısqarı, ádetde bir neshe ekvivalent statsionar noqatlar hám atap aytqanda, bir neshe ekvivalent minimal boladı. Hár qanday salmaq vektorı ushın qáte funksiyasınıń eń kishi ma`nisine sáykes keletuǵın minimal global minimum dep ataladı. Qáte funksiyasınıń joqarı bahalarına sáykes keletuǵın hár qanday basqa minimallar jergilikli minimal dep ataladı. Neyron tarmaqlardı tabıslı qóllaw ushın global minimumni tabıw shárt bolmawi múmkin (hám ulıwma alǵanda, global minimum tabılǵan yamasa joq ekenligi belgisiz boladı ), lekin onı tabıw ushın bir neshe jergilikli minimallardı salıstırıw kerek bolıwı múmkin. etarlicha jaqsı sheshim. ∇E (w) = 0 teńlemesiniń analitik sheshimin tabıwǵa úmit joq ekenligi anıq, sebebi biz tákirarlanıwshı sanlı proceduralarǵa shaqırıq etemiz. Úzliksiz sızıqlı bolmaǵan funkciyalardı optimallastırıw keń úyrenilgen mashqala bolıp, onı nátiyjeli sheshiw boyınsha keń ádebiyatlar bar. Kóplegen usıllar salmaq vektorı ushın w(0) baslanǵısh ma`nisin tańlawdı hám keyininen formanıń izbe-iz basqıshlarında salmaq boslig'ida háreket qılıwdı óz ishine aladı.
Bul jerde τ iteratsiya basqıshın belgileydi. Hár qıylı algoritmlar salmaq vektorın jańalaw ushın hár qıylı tańlawlardı óz ishine aladı ∆w(τ ).Kóplegen algoritmlar gradient maǵlıwmatlarınan paydalanadı hám sol sebepli hár bir jańalawdan keyin ∇E(w) ma`nisi jańa salmaqlıq vektorı w(τ +1) de bahalanishini talap etedi. Gradient maǵlıwmatlarınıń áhmiyetin túsiniw ushın Teylor keńeyiwine tiykarlanǵan qáte funksiyasınıń jergilikli jaqınlasıwın kórip shıǵıw paydalı boladı.
|
| |