یادگیری فعال عمیق راهکار جدیدی برای شناسایی نواقص جاده

کتابخانه یادگیری فعال عمیق Baal به سرعت زمینه را برای انتقال از فاز برچسب‌زنی به فاز بهره برداریاز مدل یادگیری ماشین فراهم می‌کند. اخیراً هم قابلیت شناسایی نواقص سطوح جاده به موضوع جالبی برای یادگیری فعال تبدیل شده است. هدف نهایی این است که مشخص شود چه بخش‌هایی از جاده یا خیابان نیاز به ترمیم دارد. همچنین نیاز است که برآورد مناسبی از ناحیه نیازمند تعمیر به دست آید. به همین منظور، مسئله مورد نظر به عنوان «مسئله بخش‌بندی معنایی»در نظر گرفته شد.تعریف دادهما توانستیم یک دیتاست عمومی پیدا کنیم، اما متاسفانه، برچسب‌های گذاشته شده تنها شامل اطلاعات خطوط بود. در نتیجه، برای استفاده از این داده‌ها به منظور بخش‌بندی معنایی، نیاز داشتیم تا به ایجاد برچسب‌های چندضلعی بپردازیم که توسط تیم ما انجام شد. در همین راستا، سه نوع نقص و ویژگی دیگری برای شناسایی در نظر گرفته شد:۱. ترک‌خوردگی۲. وصله۳. چاله‌هاتعریف مدل یادگیری فعالانجام فرایند یادگیری فعال مستلزم استفاده از MC-Dropout و BALD است. این دو در برآورد عدم قطعیت هر کدام از نمونه‌هایِ فاقد برچسب نقش دارند. مدلِ ما U-Net (رونبرگر و همکاران) نام دارد. پیش از کانولوشننهایی، یک لایه Dropout به آن اضافه شد.لایه Dropout زمینه را برای استفاده از MC-Dropout مهیا می‌کند. ما شبکه خود را با استفاده از انتروپی وزنی استانداردآموزش دادیم. وزن‌ها به طور خودکار توسط بخشی از پیکسل‌ها در هر مرحله یادگیری فعال شناسایی می‌شوند.بدون یادگیری فعال (روش سنتی)در فرایند خطی، برچسب‌زنی پیش از آموزشِ مدل انجام می‌شود.با یادگیری فعال (روش مبتنی بر هوش مصنوعی)مدل هوش مصنوعی همواره در تصمیم‌گیری‌ها نقش مهمی دارد و در طول فرایند برچسب‌زنی به یادگیری می‌پردازد.روش MC-Dropout روشِ پیشنهادیِ گال و همکارانش است و در تخمین توزیع پسینمدل با استفاده از Dropout نقش دارد. Dropout عملاً مثل مجموعه بیزی عمل می‌کند. با تخمین بر پایه روش مونت کارلو، اگر پارامترهای مدل نامعلوم باشند، به توزیعی از پیش‌بینی دست می‌یابیم که واریانس بالایی دارد. این روش فقط می‌تواند عدم قطعیت شناختی را برآورد کند.یادگیری فعال بیزی با ناهمخوانییا به اختصار BALD به یک روش کلی گفته می‌شود که می‌تواند به همراه MC-Dropout برای تعیین میزان عدم قطعیت توزیع استفاده شود. یکی از ویژگی‌های جالب BALD این است که هیچ فرض گاوسی در توزیع در نظر نمی‌گیرد.هایپر پارامترهاآنچه باید در هنگام استفاده از یادگیری فعال در پروژه‌های واقعی به خاطر داشت این است که باید عدم قطعیت را هر چه سریع‌تر به طور مجدد محاسبه کرد. برای انجام این کار، باید تعداد برآوردهای MC را محدود کنیم زیرا سرعت فرایند را پایین می‌آورد. در این مورد، تعداد نمونه‌های MC به ۲۰ عدد کاهش یافت. ما در آزمایش‌های خود متوجه این موضوع شدیم که تعامل خوبی بین سرعت و کیفیت موارد عدم قطعیتِ محاسبه شده با روش ما برقرار است.برچسب‌زنی با یادگیری فعالباید تیمی از متخصصان برچسب زنی با تیم یادگیری فعال همکاری کنند. این متخصصان می‌بایست با دانشمندان داده نیز همکاری نزدیکی داشته باشند تا امکان بکارگیریِ یکپارچۀ داده‌ها در مسیر پردازشییادگیری ماشین فراهم می‌شود. ما بر این باوریم که تعامل نزدیک با متخصصان و کارشناسان یادگیری ماشین می‌تواند به تیم برچسب‌زنی کمک کند تا برچسب‌های خوب و باکیفیتی ایجاد کنند و کارشناسان هم داده‌ها را به شکل بهتری درک نمایند.مسئله شروع سردیادگیری فعال با مسئله شروع سرد دست‌وپنجه نرم می‌کند؛ یعنی امکان استفاده از آن پیش از برچسب‌زنیِ نمونه‌ها وجود ندارد. اگرچه روش‌هایی نظیر مجموعه داده اصلی(مانند Sener – Savarese ) و یادگیری با داده های محدود(طبق تحقیق snell و همکاران) پیشنهاد شده است، اما هیچ اقدام آزمایشی با آنها انجام نشده است. متعاقباً، تعداد اندکی از داده‌ها را به صورت تصادفی برچسب می‌زنیم تا یک مجموعه آزمایشی و دیتاست آموزش اولیه ایجاد کنیم. ما در کارهای آتیِ خود قصد داریم مجموعه‌های اصلی را به عنوان مرحله نخستِ مسیر پردازشی یادگیری فعال به کار گیریم.چه زمان باید دست از کار کشید؟ما چند معیار را در طول فرایند برچسب‌زنی بررسی کردیم. متریک‌ها به تیم برچسب‌زنی توضیح داده شدند. ویژگی‌های فرایند همگرا شده نیز به آنها نشان داده شد. با این اقدام، تیم برچسب‌زنی می‌تواند به طور مستقل عمل کرده و با کارشناسان علم داده ارتباط برقرار کند.نتایجپس از چند روز برچسب‌زنی، این فعالیت با همگرا شدنِ مدل متوقف شد. به یافته‌های ما در زیر توجه کنید.عکس سمت چپ: دقت و یادآوری در شناسایی ترک‌خوردگی‌ها، وصله‌ها و دریچه‌ها با افزایش تعداد نمونه‌های برچسب زده شده.عکس سمت راست: برچسب زدنِ آن دسته از نمونه‌هایی در اولویت قرار گرفت که به بیشینه‌سازی عملکرد کمک می‌کند؛ یعنی مدل در مدت زمان اندک و با استفاده از نقاط داده‌ای ناچیز آموزش داده شد.صرفه‌جویی در زمان۹۹۰۰ نمونه در این دادگان وجود دارد؛ ۹۰۰ نمونه برای آموزش و ۹۰ نمونه برای اعتبارسنجی برچسب زده شد. بر اساس مطالعه بازار، هزینه برچسب زدنِ یک تصویر حدود ۵۰ سِنت تخمین زده شده است. بر طبق دادگان عمومیِ بکار گرفته شده، احتمال می‌دهیم ۳۰ ثانیه برای برچسب زدن یک تصویر نیاز باشد. چون فقط ۹۹۰ تصویر از مجموعِ ۹۹۰۰ تصویر برچسب زده شد، مبلغ ۴۵۰۰ دلار در هزینه و ۷۵ ساعت در زمان صرفه‌جویی کردیم.پیش‌بینیدر بخش زیر، پیش‌بینیِ مدل‌های آموزش دیده با کمتر از ۱۰ درصد داده نشان داده شده است.هم‌اکنون نسخه BaaL 1.2.0 منتشر شده است. می‌توانید در لینک زیر به آن دسترسی داشته باشید:دانلود Baal 1.2.0منبع: hooshio.com