Phá vỡ hoạt động gây ảnh hưởng bí mật của Iran

OpenAI cam kết ngăn chặn tình trạng lạm dụng và cải thiện tính minh bạch xung quanh nội dung do AI tạo ra. Điều này bao gồm công việc của chúng tôi nhằm phát hiện và ngăn chặn các hoạt động gây ảnh hưởng bí mật (IO), cố gắng thao túng dư luận hoặc tác động đến kết quả chính trị trong khi che giấu danh tính thực sự hoặc ý định của những người đứng sau chúng. Điều này đặc biệt quan trọng trong bối cảnh nhiều cuộc bầu cử sẽ được tổ chức vào năm 2024. Chúng tôi đã mở rộng công việc của mình trong lĩnh vực này trong suốt cả năm, bao gồm cả việc tận dụng các mô hình AI của riêng mình để phát hiện và hiểu rõ hơn về tình trạng lạm dụng. 

Tuần này chúng tôi đã xác định và xóa bỏ một nhóm tài khoản ChatGPT đang tạo nội dung cho một hoạt động gây ảnh hưởng bí mật của Iran được xác định là Storm-2035. Chúng tôi đã cấm những tài khoản này sử dụng dịch vụ của chúng tôi và chúng tôi tiếp tục theo dõi mọi nỗ lực vi phạm chính sách của chúng tôi. Hoạt động này đã sử dụng ChatGPT để tạo nội dung tập trung vào một số chủ đề—bao gồm bình luận về các ứng cử viên ở cả hai bên trong cuộc bầu cử tổng thống Hoa Kỳ—sau đó chia sẻ qua các tài khoản mạng xã hội và trang web. 

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ với nhiều ưu đãi hấp dẫn 

Tương tự như các hoạt động gây ảnh hưởng bí mật mà chúng tôi đã báo cáo vào tháng 5, hoạt động này dường như không đạt được sự tham gia có ý nghĩa của khán giả. Phần lớn các bài đăng trên mạng xã hội mà chúng tôi xác định nhận được ít hoặc không có lượt thích, chia sẻ hoặc bình luận. Tương tự như vậy, chúng tôi không tìm thấy dấu hiệu nào cho thấy các bài viết trên web được chia sẻ trên mạng xã hội. Sử dụng thang đo đột phá của Brookings, đánh giá tác động của IO bí mật trên thang điểm từ 1 (thấp nhất) đến 6 (cao nhất), hoạt động này nằm ở mức thấp nhất của Hạng mục 2 (hoạt động trên nhiều nền tảng, nhưng không có bằng chứng cho thấy người thật đã chọn hoặc chia sẻ rộng rãi nội dung của họ). Cuộc điều tra của chúng tôi được hưởng lợi từ thông tin về hoạt động này do Microsoft công bố vào tuần trước.

Cuộc điều tra của chúng tôi cho thấy hoạt động này sử dụng ChatGPT cho hai mục đích: tạo ra các bài viết dài và các bình luận ngắn hơn trên mạng xã hội. Luồng công việc đầu tiên tạo ra các bài viết về chính trị Hoa Kỳ và các sự kiện toàn cầu, được xuất bản trên năm trang web đóng giả là các kênh tin tức tiến bộ và bảo thủ. Luồng công việc thứ hai tạo ra các bình luận ngắn bằng tiếng Anh và tiếng Tây Ban Nha, được đăng trên mạng xã hội. Chúng tôi đã xác định được một tá tài khoản trên X và một tài khoản trên Instagram có liên quan đến hoạt động này. Một số tài khoản X đóng giả là những người tiến bộ, và những tài khoản khác đóng giả là những người bảo thủ. Họ tạo ra một số bình luận này bằng cách yêu cầu các mô hình của chúng tôi viết lại các bình luận do những người dùng mạng xã hội khác đăng.

Hoạt động này tạo ra nội dung về một số chủ đề: chủ yếu là xung đột ở Gaza, sự hiện diện của Israel tại Thế vận hội Olympic và cuộc bầu cử tổng thống Hoa Kỳ—và ở mức độ thấp hơn là chính trị ở Venezuela, quyền của cộng đồng Latinx tại Hoa Kỳ (cả tiếng Tây Ban Nha và tiếng Anh), và nền độc lập của Scotland. Họ xen kẽ nội dung chính trị của mình với các bình luận về thời trang và làm đẹp, có thể là để có vẻ chân thực hơn hoặc trong nỗ lực xây dựng lượng người theo dõi.

Bất chấp việc thiếu sự tham gia có ý nghĩa của khán giả do hoạt động này, chúng tôi coi trọng mọi nỗ lực sử dụng dịch vụ của mình trong các hoạt động gây ảnh hưởng ở nước ngoài. Theo đó, như một phần trong công việc hỗ trợ cộng đồng rộng lớn hơn trong việc phá vỡ hoạt động này sau khi xóa các tài khoản khỏi dịch vụ của chúng tôi, chúng tôi đã chia sẻ thông tin tình báo về mối đe dọa với các bên liên quan là chính phủ, chiến dịch và ngành. OpenAI vẫn tận tâm phát hiện và giảm thiểu loại lạm dụng này ở quy mô lớn bằng cách hợp tác với ngành, xã hội dân sự và chính phủ, và bằng cách khai thác sức mạnh của AI tạo ra để trở thành một lực lượng nhân lên trong công việc của chúng tôi. Chúng tôi sẽ tiếp tục công bố những phát hiện như thế này để thúc đẩy việc chia sẻ thông tin và các biện pháp thực hành tốt nhất.