CHIQISH QATLAMI VAZNLARNI SOZLASH
Keywords:
vaznlar, neyron tarmoq, chiqish qatlami, Xavier initialization,o‘qitish barqarorligi (training stability), konvergensiya (convergence)Abstract
Ushbu tezisda neyron tarmoqlarning chiqish qatlami vaznlarini boshlang‘ich qiymatlar bilan belgilashning turli usullari tahlil qilinadi. Vaznlarni boshlash usullarining tarmoqning o‘rganish jarayoni, konvergensiyasi va aniqligiga ta’siri ko‘rib chiqildi. Tasodifiy, Xavier (Glorot), He (Kaiming), LeCun va tasodifiy ortogonal ishga tushirish usullari sharhlanib, ular orasida chiqish qatlami uchun muvozanatli boshlang‘ich qiymatlar yondashuvi taklif qilindi. Ushbu yondashuv vaznlarning boshlang‘ich dispersiyasini kirish va chiqish neyronlari soniga bog‘lab, gradientlarning barqarorligini ta’minlashga qaratilgan. Eksperimental natijalar taklif etilgan usulning an’anaviy usullarga nisbatan o‘qitish jarayonida yuqori aniqlik va tez konvergensiya berishini ko‘rsatdi. Maqola neyron tarmoqlar arxitekturasi va optimallashtirish sohasida ilmiy-tadqiqot ishlari bilan shug‘ullanayotgan mutaxassislar uchun qiziqarli bo‘ladi.
