Suatu Usulan Kerangka Kerja Regularisasi Minimax untuk Meningkatkan Ketahanan Jaringan Saraf Tiruan

Abstrak

Dalam pengembangan deep learning, teknik regularisasi telah banyak digunakan untuk meningkatkan kemampuan generalisasi dan ketahanan model. Namun, metode regularisasi tradisional seringkali didasarkan pada asumsi apriori dan gagal memperhitungkan sepenuhnya kinerja kasus terburuk model. Makalah ini mengusulkan mekanisme regularisasi berdasarkan teorema Minimax, yang memperkenalkan konsep "adversarial kasus terburuk" selama pelatihan untuk meningkatkan ketahanan model. Melalui verifikasi eksperimental pada dataset Canadian Institute for Advanced Research (CIFAR), subset berlabel 10 kelas dari dataset Tiny Images, telah berhasil diuji coba bahwa metode ini memperlihatkan performa lebih baik daripada model multi-layer perceptron (MLP) standar di berbagai matrik evaluasi dan menunjukkan kinerja generalisasi yang baik. Metode ini memiliki penerapan yang luas dan dapat diperluas ke berbagai arsitektur, termasuk jaringan saraf tiruan konvolusional, jaringan saraf tiruan graf, dan model pemrosesan bahasa alami.