Chuyển giao sự mạnh mẽ đối nghịch giữa các loại nhiễu loạn

Tóm tắt

Chúng tôi nghiên cứu sự chuyển giao tính mạnh mẽ đối nghịch của mạng nơ-ron sâu giữa các loại nhiễu loạn khác nhau. Trong khi hầu hết các công trình về các ví dụ đối nghịch tập trung vào L∞L∞​ Và L2L2​- nhiễu loạn bị chặn, những nhiễu loạn này không nắm bắt được tất cả các loại nhiễu loạn mà kẻ thù có thể gặp phải. Công trình hiện tại đánh giá 32 cuộc tấn công thuộc 5 loại khác nhau chống lại các mô hình được đào tạo đối nghịch trên một tập hợp con 100 lớp của ImageNet. Kết quả thực nghiệm của chúng tôi cho thấy rằng việc đánh giá trên nhiều kích thước nhiễu loạn là cần thiết để hiểu liệu tính mạnh mẽ đối nghịch có chuyển giữa các loại nhiễu loạn hay không. Chúng tôi tiếp tục chứng minh rằng tính mạnh mẽ đối với một loại nhiễu loạn không phải lúc nào cũng ngụ ý và đôi khi có thể gây tổn hại đến tính mạnh mẽ đối với các loại nhiễu loạn khác. Dựa trên những kết quả này, chúng tôi khuyến nghị nên đánh giá các biện pháp phòng thủ đối nghịch trên nhiều loại nhiễu loạn và kích thước khác nhau.