1- دانشکده برق، دانشگاه صنعتی شریف، تهران، ایران 2- پژوهشکده الکترونیک، دانشگاه صنعتی شریف، تهران، ایران
چکیده: (73 مشاهده)
کاربردهای یادگیری عمیق بهسرعت در حال گسترش هستند. با این حال، در حوزههای حساسی مانند امنیت و سلامت، حملات خصمانه - که در آن اغتشاشات جزئی در ورودی، باعث افت شدید عملکرد مدل میشوند - همچنان مانعی جدی برای پذیرش این کاربردها هستند. مدلهای مولد با توانایی یادگیری توزیع دادهها، گزینههایی امیدوارکننده برای بازیابی تصویر اصلی از روی نمونههای خصمانه در طی فرآیندی به نام تصفیه هستند. در این مقاله روندی جدید برای تصفیه پیشنهاد میدهیم که در آن مدل مبتنی بر انرژی Mp، پیش از طبقهبند M بهکار میرود. برخلاف رویکردهای قبلی و برای اولین بار، Mp بهگونهای آموزش میبیند که به نمونههای خصمانه M (نمونههای منفی در آموزش )، انرژی بالا (احتمال پایین) اختصاص دهد. بر اساس نتایج، روش ما در برابر نمونههای خصمانه، دقت مقاوم بالاتری نسبت به مدل تصفیهی استاندارد Mp داشته و بهبودهایی به میزان %12.3، %22.87 و %12.30 روی پایگاههای داده MNIST، FashionMNIST و CIFAR10 تحت AutoAttack (L∞) نشان داده است. همچنین با وجود سادگی فرآیند آموزش، روش ما روی پایگاه داده CIFAR10 نسبت به یک مدل پیشرفته مبتنی بر انرژی، بهبودی معادل %3 در دقت مقاوم نشان میدهد. افزونبر این، یک حملهی وفقی نیز طراحی کردهایم که دفاع ما را هدف قرار میدهد و نشان میدهیم Mp همچنان قادر به خنثیسازی آن است.
Hajimohammadi Tabriz R, Amini S, Kazemi R. A novel method for training energy-based models for efficient purification of adversarial images. منادی 2026; 14 (2) :82-97 URL: http://monadi.isc.org.ir/article-1-336-fa.html
حاجی محمدی تبریز رضا، امینی سجاد، کاظمی رضا. روشی نوین در آموزش مدلهای مبتنی بر انرژی به منظور تصفیه کارآمدتر تصاویر خصمانه. امنیت فضای تولید و تبادل اطلاعات (منادی). 1404; 14 (2) :82-97
