Tabiiy gradient tushishi va kSGD - Toshkent axborot texnologiyalari universiteti urganch filiali kompyuter injineringi fakulteti

|
Toshkent axborot texnologiyalari universiteti urganch filiali kompyuter injineringi fakulteti
|
bet | 7/8 | Sana | 22.05.2024 | Hajmi | 117,37 Kb. | | #250384 |
Bog'liq Vaisbek Davlatov Mustaqil ishi ishi
Kalman joylashgan Stochastic Gradient Descent (kSGD)[27] - bu chiziqli modellar, chiziqli bo'lmagan modellar, umumiylashtirilgan chiziqli modellar va ildiz kvadrat yo'qotuvchi neyron tarmoqlarni maxsus holat sifatida o'z ichiga olgan kvazi-ehtimollik modellar uchun statistik muammolarni o'rganish parametrlarini o'rganish uchun onlayn va oflayn algoritm. Onlayn o'quv vazifalari uchun kSGD chiziqli regressiya muammolari uchun Kallmann filtrining maxsus holati, chiziqli bo'lmagan regressiya muammolari uchun kengaytirilgan Kallmann filtrining maxsus holati bo'lib, uni ko'paytirilgan Gauss–Nyuton usuli deb hisoblash mumkin. Bundan tashqari, kSGD ning Kallmann filtri bilan aloqasi va tabiiy gradient tushishi[28] Kallmann filtri bilan aloqasi tufayli[29] kSGD ommabop tabiiy gradientli pastga tushish usulida katta yaxshilanishdir.
Boshqa usullarga qaraganda kSGD ning afzalliklari:
1) vazifaning ko'rsatkichlari soniga e'tiborsiz,[b]
2) mustahkam giperparametrli selektsiyaga ega,
3) To'xtash holati bor.
kSGD ning noqulayligi shundaki, algoritmda iteratsiyalar orasidagi zich kovariance matritsani yodlash talab etiladi va har bir iteratsiyada vektorning matrisa bo'yicha mahsulini topish kerak.
Algoritmni tasvirlash uchun taxmin qiling:
𝑄
𝑖
(
𝑤
)
{ Q_{i}(w)}, где
𝑤
∈
𝑅
𝑝
{ w\in \mathbb {R} ^{p}}, bilan aniqlangan
(
𝑌
𝑖
,
𝑋
𝑖
)
∈
𝑅
×
𝑅
𝑑
{ (Y_{i},X_{i})\in \mathbb {R} \times \mathbb {R} ^{d}} так, так, ттто
∇
𝑤
𝑄
𝑖
(
𝑤
)
=
𝑌
𝑖
−
μ
(
𝑋
𝑖
,
𝑤
)
𝑉
(
μ
(
𝑋
𝑖
,
𝑤
)
)
∇
𝑤
μ
(
𝑋
𝑖
,
𝑤
)
{ \nabla _{w}Q_{i}(w)={\frac {Y_{i}-\mu (X_{i},w)}{V(\mu (X_{i},w)}}\nabla _{w}\mu (X_{i},w)}
Qayerda
μ
(
𝑋
𝑖
,
𝑤
)
{ \mu (X_{i},w)} oʻrtacha funksiyasi (yaʼni kutilgan qiymat
𝑌
𝑖
{ Y_{i}} oʻt
𝑋
𝑖
{ X_{i}}), an
𝑉
(
μ
(
𝑋
𝑖
,
𝑤
)
)
{ V(\mu (X_{i},w))} – variance (ya'ni variance) funksiyasi
𝑌
𝑖
{ Y_{i}} для
𝑋
𝑖
{ X_{i}}). Keyin parametrni qayta hisoblang
𝑤
(
𝑡
+
1
)
{ w(t+1)} va kovariant matritsani qayta hisoblash
𝑀
(
𝑡
+
1
)
{ M(t+1)} quyidagi ifodalar bilan belgilangan
𝑝
=
∇
𝑤
μ
(
𝑋
𝑡
+
1
,
𝑤
(
𝑡
)
)
{ p=\nabla _{w}\mu (X_{t+1},w(t))}
𝑚
=
μ
(
𝑋
𝑡
+
1
,
𝑤
(
𝑡
)
)
{ m=\mu (X_{t+1},w(t))}
𝑣
=
𝑀
(
𝑡
)
𝑝
{ v=M(t)p}
𝑠
=
min
{
γ
1
,
maksimal
{
γ
2
,
𝑉
(
𝑚
)
}
}
+
𝑣
𝑇
𝑝
{ s=\min \lbrace \gamma _{1},\max \lbrace \gamma _{2},V(m)\rbrace \rbrace +v^{\mathsf {T}}p}
𝑤
(
𝑡
+
1
)
=
𝑤
(
𝑡
)
+
𝑌
𝑡
+
1
−
𝑚
𝑠
𝑣
{ w(t+1)=w(t)+{\frac {Y_{t+1}-m}{s}}v}
𝑀
(
𝑡
+
1
)
=
𝑀
(
𝑡
)
−
1
𝑠
𝑣
𝑣
𝑇
{ M(t+1)=M(t)-{\frac {1}{s}}vv^{\mathsf {T}}}
Qayerda
γ
1
,
γ
2
{ \gamma_{1},\gamma_{2}} giperparametrlardir. Aylantirish
𝑀
(
𝑡
)
{ M(t)} kovariant matritsaning aniqlanmagan bo'lib qolishiga sabab bo'lishi mumkin. Matritsani matritsa bo'yicha ko'paytirish orqali bu matritsadan qochish mumkin.
𝑀
(
0
)
{ M(0)} har qanday musbat aniqlangan simmetrik matritsa bo'lishi mumkin, lekin odatda birlik matritsa olinadi. Patel[27] ta'kidlaganidek, chiziqli regressiyadan boshqa barcha muammolar algoritmning konvergensiyasini ta'minlash uchun qayta ishlashni talab qiladi, ammo hech qanday nazariy yoki amalga oshirish tafsilotlari berilmaydi. Bertsekas [30] tomonidan tahlil qilingan chiziqli bo'lmagan regressiya uchun yaqin aloqada bo'lgan oflayn multipaket usulida kovariant matritsani qayta hisoblashda konversiyani isbotlash uchun undirish koeffitsienti qo'llanilgan.
Ikkinchi tartibli usullar
Ma'lumki, standart (deterministik) Nyuton–Raphson algoritmining stoxematik analogi ("ikkinchi tartibli" metod) stochastik yaqinlashish sharoitida iterativ optimallashtirishning asimptotik optimal yoki yaqin optimal shaklini beradi. Empirik risk funksiyasida Hesse matrislarini summa terminlarining bevosita hisoblashidan foydalanadigan usul Qush, Xansen, Nocedal va Singer tomonidan ishlab chiqilgan. Biroq, optimallashtirish uchun zarur Hesse matrisalar to'g'ridan-to'g'ri aniqlash amaliyotda mumkin emas mumkin. SGD algoritmining Hessian haqida to'g'ridan-to'g'ri ma'lumot talab qilmaydigan ikkinchi tartibli versiyasi uchun amaliy va nazariy ko'rinishdagi usullar Spall va boshqalar tomonidan berilgan.[32][33][34] (Ruppert tomonidan bir vaqtning o'zida qayta hisoblash o'rniga cheklangan farqlarga asoslangan kamroq samarali usul berilgan[35]). Bu usullar, hessian to'g'risidagi ma'lumotlarni to'g'ridan-to'g'ri talab qilmasa-da, yuqorida berilgan empirik risk funksiyasidagi summaning qiymatlariga yoki summaning shartlar gradientlari qiymatlariga (ya'ni SGDning kirishiga) asoslanadi. Ayniqsa, ikkinchi tartib optimalligi empirik xavf funktsiyasida yig'indi shartlarining Hesse matrislarini to'g'ridan-to'g'ri hisoblamasdan asimptotik tarzda erishiladi.
Xulosa
Koordinata pastga tushish - Bir vaqtning o'zida bitta koordinatani o'zgartiradi
Chiziqli klassifikatori
Onlayn mashina o'rganish
• Chiziqli regressiya uchun C++, Boost, Ublasda stochastik gradient tushishidan foydalanish
• Mashina o'rganish algoritmlari
• Gradient pastga tushish, neyron tarmoqlari qanday o'rganadi. 3Blue1Brown (16 oктябrя 2017).
∘{ \circ } element bo'yicha ishdir.
Chiziqli regressiya muammosi uchun kSGD ning iteratsiyaga nisbatan ob'ektiv funksiyani (ya'ni umumiy xato va varyans) burish
𝑘
{ k} ʼa n ʼa n n ʼa
1+ε𝑘𝑝σ2
{ {\frac {1+\epsilon }{k}}p\sigma ^{2}} bog'liq bo'lgan ko'rsatkich bo'yicha 1 ga moyil bo'lish ehtimoli bilan
ε∈(0,1)
{ \epsilon \in (0,1)}, где
σ2
{ \sigma ^{2}} — qoldiqlarning dispersiyasi. Bundan tashqari, ma'lum bir tanlov uchun
γ1,γ2{ \gamma_{1},\gamma_{2}}, shuni ko'rsatish mumkinki, kSGD ning iteratsiyalarda target funksiyani chetga
𝑘{ k} ʼa n ʼa n n ʼa (1+ε)22𝑘2‖𝑤(0)−𝑤∗‖22
{ {\frac {(1+\epsilon )^{2}}{2k^{2}}}}\Vert w(0)-w_{*}\Vert _{2}^{2}} ga qarab ko'rsatkich bo'yicha 1 ga moyil bo'lgan ehtimollik bilan
ε∈(0,1)
{ \epsilon \in (0,1)}, где
𝑤
∗{ w_{*}} optimal sharoit hisoblanadi.
|
| |