1- دانشکده برق، دانشگاه صنعتی شریف، تهران، ایران 2- پژوهشکده الکترونیک، دانشگاه صنعتی شریف، تهران، ایران
چکیده: (586 مشاهده)
کاربردهای یادگیری عمیق بهسرعت در حال گسترش هستند. با این حال، در حوزههای حساسی مانند امنیت و سلامت، حملات خصمانه - که در آن اغتشاشات جزئی در ورودی، باعث افت شدید عملکرد مدل میشوند - همچنان مانعی جدی برای پذیرش این کاربردها هستند. مدلهای مولد با توانایی یادگیری توزیع دادهها، گزینههایی امیدوارکننده برای بازیابی تصویر اصلی از روی نمونههای خصمانه در طی فرآیندی به نام تصفیه هستند. در این مقاله روندی جدید برای تصفیه پیشنهاد میدهیم که در آن مدل مبتنی بر انرژی Mp، پیش از طبقهبند M بهکار میرود. برخلاف رویکردهای قبلی و برای اولین بار، Mp بهگونهای آموزش میبیند که به نمونههای خصمانه M (نمونههای منفی در آموزش )، انرژی بالا (احتمال پایین) اختصاص دهد. بر اساس نتایج، روش ما در برابر نمونههای خصمانه، دقت مقاوم بالاتری نسبت به مدل تصفیهی استاندارد Mp داشته و بهبودهایی به میزان %12.3، %22.87 و %12.30 روی پایگاههای داده MNIST، FashionMNIST و CIFAR10 تحت AutoAttack (L∞) نشان داده است. همچنین با وجود سادگی فرآیند آموزش، روش ما روی پایگاه داده CIFAR10 نسبت به یک مدل پیشرفته مبتنی بر انرژی، بهبودی معادل %3 در دقت مقاوم نشان میدهد. افزونبر این، یک حملهی وفقی نیز طراحی کردهایم که دفاع ما را هدف قرار میدهد و نشان میدهیم Mp همچنان قادر به خنثیسازی آن است.
