Đầu vào đối nghịch mạnh mẽ

Chúng tôi đã tạo ra những hình ảnh có thể đánh lừa bộ phân loại mạng nơ-ron một cách đáng tin cậy khi xem từ nhiều tỷ lệ và góc nhìn khác nhau. Điều này thách thức tuyên bố từ tuần trước rằng xe tự lái sẽ khó bị đánh lừa một cách ác ý vì chúng chụp ảnh từ nhiều tỷ lệ, góc nhìn, góc nhìn, v.v.

• Tài khoản ChatGPT 4 chỉ với vài bước đơn giản tại Vua Quảng Cáo

Ví dụ đối kháng ngoài luồng không thành công khi chuyển đổi hình ảnh. Dưới đây, chúng tôi hiển thị cùng một hình ảnh con mèo, được làm nhiễu loạn đối nghịch để được phân loại không chính xác là máy tính để bàn bởi  Inception v3 được đào tạo trên  ImageNet. Chỉ cần phóng to ở mức 1,002 là có thể khiến xác suất phân loại cho nhãn mèo vằn chính xác ghi đè lên nhãn đối nghịch  desktop computer.

Tuy nhiên, chúng tôi nghi ngờ rằng nỗ lực tích cực có thể tạo ra một ví dụ đối kháng mạnh mẽ, vì các ví dụ đối kháng đã được chứng minh là có thể chuyển giao với thế giới vật chất.

Các ví dụ đối nghịch có thể được tạo ra bằng cách sử dụng phương pháp tối ưu hóa được gọi là giảm dần độ dốc dự kiến ​​để tìm ra những nhiễu loạn nhỏ trong hình ảnh có thể đánh lừa bộ phân loại một cách tùy ý.

Thay vì tối ưu hóa để tìm một đầu vào có tính đối nghịch từ một quan điểm duy nhất, chúng tôi tối ưu hóa trên một  tập hợp lớn của các bộ phân loại ngẫu nhiên ngẫu nhiên thay đổi tỷ lệ đầu vào trước khi phân loại nó. Tối ưu hóa chống lại một tập hợp như vậy tạo ra các ví dụ đối nghịch mạnh mẽ không thay đổi tỷ lệ.

Ngay cả khi chúng ta chỉ giới hạn bản thân trong việc sửa đổi các điểm ảnh tương ứng với con mèo, chúng ta vẫn có thể tạo ra một hình ảnh nhiễu loạn duy nhất có tính đối nghịch đồng thời ở mọi tỷ lệ mong muốn.

Bằng cách thêm các phép quay, phép tịnh tiến, phép chia tỷ lệ, nhiễu và phép dịch chuyển trung bình ngẫu nhiên vào các nhiễu loạn trong quá trình đào tạo, kỹ thuật tương tự sẽ tạo ra một đầu vào duy nhất vẫn mang tính đối nghịch dưới bất kỳ phép biến đổi nào trong số này.

Các phép biến đổi của chúng tôi được lấy mẫu ngẫu nhiên tại thời điểm thử nghiệm, chứng minh rằng ví dụ của chúng tôi không thay đổi theo toàn bộ phân phối của các phép biến đổi.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ