Sun’iy neyron to’rlarini o’rganish jarayonidagi xatolik sabablari

Sun’iy neyron to’rlarini o’rganish jarayonidagi xatolik sabablari.
Ushbu maqolada neyron tarmoqlari bilan ishlashda yuzaga kelishi mumkin bo'lgan muammolar, shuningdek ularni qanday hal qilish kerakligi muhokama qilinadi.
Kalit so'zlar: neyron tarmoqlari, o'qitish, dastlabki vazn qiymatlarini tayyorlash, chiqish qiymatlarini rejalashtirish.
Neyron tarmoqlari har doim ham rejalashtirilganidek ishlamaydi. O'quv ma'lumotlari va tarozilarning boshlang'ich qiymatlarini rejalashtirish, shuningdek chiqish qiymatlarini rejalashtirish kerak. Neyron tarmog'ining rejadan tashqari ishlashiga ta'sir qiluvchi va ushbu ishda ko'rib chiqiladigan omillar.
Umumiy muammo-bu tarmoqning to'yinganligi. Agar signallarning katta qiymatlari mavjud bo'lsa, ko'pincha katta boshlang'ich vazn koeffitsientlari tomonidan qo'zg'atilsa paydo bo'ladi. Shunday qilib, signallar faollashtirish funktsiyasining gradienti nolga yaqin bo'lgan hududga tushadi. Bu, o'z navbatida, o'rganish qobiliyatiga, ya'ni eng yaxshi koeffitsientlarni tanlashga ta'sir qiladi.
1.Kirish qiymatlari
Agar siz faollashtirish funktsiyasi sifatida foydalansangiz — sigmoid, keyin kirish ma'lumotlari juda katta bo'lsa, chiziq to'g'ri chiziqqa o'xshaydi. Shuning uchun kichik qiymatlarni belgilash tavsiya etiladi. Shu bilan birga, juda kichik qiymatlar ham o'rganishga yomon ta'sir qiladi, chunki kompyuter hisoblashining aniqligi pasayadi. Shuning uchun 0.0 dan 1.0 gacha bo'lgan kirish qiymatlarini tanlash tavsiya etiladi. Bunday holda siz 0.01 ga teng ofsetni kiritishingiz mumkin. [2, c. 124]. 1-rasmda shuni ko'rsatadiki, kirish ma'lumotlarining ko'payishi bilan neyron tarmoqning o'rganish qobiliyati pasayadi, chunki sigmoid deyarli to'g'rilanadi.
z
Shakl: 1. Kirish ma'lumotlarini tayyorlash
Chiqish qiymatlari
Chiqish qiymatlari tanlangan faollashtirish funktsiyasiga qarab tanlanishi kerak. Agar u 1.0 dan yuqori qiymatlarni ta'minlay olmasa, lekin biz chiqish qiymatlarini 1.0 dan ortiq olishni istasak, unda vaziyatga moslashish uchun vazn koeffitsientlari oshadi. Ammo hech narsa chiqmaydi, chiqish qiymatlari hali ham faollashtirish funktsiyasining maksimal qiymatidan katta bo'lmaydi. Shuning uchun chiqish qiymatlari 0.0 dan 1.0 gacha bo'lishi kerak. Chegara qiymatlariga erishilmaganligi sababli, 0.01 dan 0.99 gacha bo'lgan qiymatlarni tanlash tavsiya etiladi. Shaklda. 2 ushbu qoida namoyish etildi.
Shakl: 2. Chiqish qiymatlari chegarasi
Tasodifiy boshlang'ich vazn qiymatlari
Og'irlik koeffitsientlarining boshlang'ich qiymatlarini tanlashning eng oson varianti ularni -1.0 dan +1.0 gacha bo'lgan diapazondan tanlashdir. Ammo tarmoq konfiguratsiyasiga qarab koeffitsientlarni aniqlashga imkon beradigan yondashuvlar mavjud. Maqsad shundaki, agar tarmoq tuguniga ko'plab signallar kirsa va ularning xatti-harakatlari ma'lum bo'lsa, unda vazn koeffitsientlari ularning holatini buzmasligi kerak. Ya'ni, og'irliklar 1 va 2-bandlarda tavsiflangan kirish va chiqish qiymatlarini puxta tayyorlashni buzmasligi kerak.
Agar qoidani taxminan tasvirlab beradigan bo'lsak, unda shunday bo'ladi: "og'irlik koeffitsientlari tasodifiy diapazondan tanlangan raqamlar bilan boshlanadi, ular tugunga olib boradigan bog'lanishlar sonining kvadrat ildizining o'zaro bog'liqligi bilan belgilanadi"
Shakl: 3. Vazn koeffitsientlarini tanlashga yondashuvlar
Bir xil vaznni o'rnatmaslik tavsiya etiladi. Shunday qilib, tugunlarga bir xil signallar keladi va chiqish qiymatlari bir xil bo'ladi. Va tarozi yangilangandan so'ng, ularning qiymatlari hali ham teng bo'ladi.
Bundan tashqari, vazn koeffitsientlari uchun nol qiymatlarni belgilash mumkin emas, chunki bu holda kirish qiymatlari "kuchini yo'qotadi".
|