Quy định về AI tiên tiến: Quản lý các rủi ro mới nổi đối với an toàn công cộng

Tóm tắt

Các mô hình AI tiên tiến hứa hẹn mang lại lợi ích to lớn cho nhân loại, nhưng xã hội cần chủ động quản lý các rủi ro đi kèm. Trong bài báo này, chúng tôi tập trung vào những gì chúng tôi gọi là các mô hình "AI tiên phong": các mô hình nền tảng có khả năng cao có thể sở hữu các khả năng nguy hiểm đủ để gây ra rủi ro nghiêm trọng cho an toàn công cộng. Các mô hình AI tiên phong đặt ra một thách thức quản lý riêng biệt: các khả năng nguy hiểm có thể phát sinh bất ngờ; khó có thể ngăn chặn mạnh mẽ một mô hình đã triển khai khỏi việc bị sử dụng sai mục đích; và khó có thể ngăn chặn các khả năng của mô hình phát triển rộng rãi. Để giải quyết những thách thức này, cần có ít nhất ba khối xây dựng để quản lý các mô hình tiên phong:

+ các quy trình thiết lập tiêu chuẩn để xác định các yêu cầu phù hợp đối với các nhà phát triển AI tiên phong

+ các yêu cầu đăng ký và báo cáo để cung cấp cho các cơ quan quản lý khả năng hiển thị vào các quy trình phát triển AI tiên phong và các cơ chế để đảm bảo tuân thủ các tiêu chuẩn an toàn cho việc phát triển và triển khai các mô hình AI tiên phong. Tự quản lý của ngành là bước đầu tiên quan trọng. Tuy nhiên, cần có các cuộc thảo luận rộng rãi hơn của xã hội và sự can thiệp của chính phủ để tạo ra các tiêu chuẩn và đảm bảo tuân thủ các tiêu chuẩn đó. Chúng tôi xem xét một số lựa chọn cho mục đích này, bao gồm cấp quyền thực thi cho các cơ quan giám sát và chế độ cấp phép cho các mô hình AI tiên phong. Cuối cùng, chúng tôi đề xuất một bộ tiêu chuẩn an toàn ban đầu. Bao gồm tiến hành đánh giá rủi ro trước khi triển khai; giám sát bên ngoài hành vi của mô hình; sử dụng đánh giá rủi ro để đưa ra quyết định triển khai; và giám sát và phản hồi thông tin mới về khả năng và cách sử dụng mô hình sau khi triển khai. Chúng tôi hy vọng cuộc thảo luận này sẽ góp phần vào cuộc thảo luận rộng hơn về cách cân bằng rủi ro an toàn công cộng và lợi ích đổi mới từ những tiến bộ trong lĩnh vực phát triển AI.

Xem thêm: trong tay tài khoản ChatGPT Plus và tài khoản ChatGPT 4 chính hãng giá rẻ duy nhất ngày hôm nay!