Ngăn chặn việc sử dụng AI có mục đích xấu của các tác nhân đe dọa có liên hệ với nhà nước

Chúng tôi xây dựng các công cụ AI giúp cải thiện cuộc sống và giúp giải quyết những thách thức phức tạp, nhưng chúng tôi biết rằng những kẻ xấu đôi khi sẽ cố gắng lạm dụng các công cụ của chúng tôi để gây hại cho người khác, bao gồm cả việc thúc đẩy các hoạt động mạng. Trong số những kẻ xấu đó, các nhóm có liên kết với nhà nước—có thể tiếp cận công nghệ tiên tiến, nguồn tài chính lớn và nhân sự có tay nghề—có thể gây ra những rủi ro đặc biệt cho hệ sinh thái kỹ thuật số và phúc lợi của con người. 

• Tài khoản ChatGPT 4 với nhiều ưu đãi hấp dẫn! 

Hợp tác với Microsoft Threat Intelligence, chúng tôi đã phá vỡ năm tác nhân liên kết với nhà nước tìm cách sử dụng dịch vụ AI để hỗ trợ các hoạt động mạng độc hại. Chúng tôi cũng phác thảo cách tiếp cận của mình để phát hiện và phá vỡ các tác nhân như vậy nhằm thúc đẩy việc chia sẻ thông tin và minh bạch về các hoạt động của họ.

Dựa trên sự hợp tác và chia sẻ thông tin với Microsoft, chúng tôi đã phá vỡ năm tác nhân độc hại có liên quan đến nhà nước: hai tác nhân đe dọa có liên quan đến Trung Quốc được gọi là Charcoal Typhoon và Salmon Typhoon; tác nhân đe dọa có liên quan đến Iran được gọi là Crimson Sandstorm; tác nhân có liên quan đến Triều Tiên được gọi là Emerald Sleet; và tác nhân có liên quan đến Nga được gọi là Forest Blizzard. Các tài khoản OpenAI được xác định có liên quan đến các tác nhân này đã bị chấm dứt.

Những tác nhân này thường tìm cách sử dụng các dịch vụ OpenAI để truy vấn thông tin nguồn mở, dịch thuật, tìm lỗi mã hóa và chạy các tác vụ mã hóa cơ bản. 

Cụ thể: 

+ Charcoal Typhoon đã sử dụng dịch vụ của chúng tôi để nghiên cứu nhiều công ty và công cụ an ninh mạng, gỡ lỗi mã và tạo tập lệnh, đồng thời tạo nội dung có thể sử dụng trong các chiến dịch lừa đảo.

+ Salmon Typhoon đã sử dụng dịch vụ của chúng tôi để dịch các tài liệu kỹ thuật, thu thập thông tin công khai về nhiều cơ quan tình báo và tác nhân đe dọa khu vực, hỗ trợ mã hóa và nghiên cứu những cách phổ biến để ẩn các quy trình trong hệ thống.

+ Crimson Sandstorm đã sử dụng dịch vụ của chúng tôi để hỗ trợ viết kịch bản liên quan đến phát triển ứng dụng và web, tạo nội dung có khả năng phục vụ cho các chiến dịch lừa đảo trực tuyến và nghiên cứu những cách phổ biến mà phần mềm độc hại có thể tránh bị phát hiện.

+ Emerald Sleet đã sử dụng dịch vụ của chúng tôi để xác định các chuyên gia và tổ chức tập trung vào các vấn đề quốc phòng ở khu vực Châu Á - Thái Bình Dương, hiểu các lỗ hổng công khai, hỗ trợ thực hiện các tác vụ viết tập lệnh cơ bản và soạn thảo nội dung có thể được sử dụng trong các chiến dịch lừa đảo.

+ Forest Blizzard chủ yếu sử dụng dịch vụ của chúng tôi cho mục đích nghiên cứu nguồn mở về giao thức truyền thông vệ tinh và công nghệ hình ảnh radar, cũng như để hỗ trợ các tác vụ viết kịch bản.

Các chi tiết kỹ thuật bổ sung về bản chất của các tác nhân đe dọa và hoạt động của chúng có thể được tìm thấy trong bài đăng trên blog của Microsoft được xuất bản ngày hôm nay. 

Các hoạt động của những diễn viên này phù hợp với các đánh giá trước đây của đội đỏ chúng tôi đã tiến hành hợp tác với các chuyên gia an ninh mạng bên ngoài, họ phát hiện ra rằng GPT-4 chỉ cung cấp các khả năng gia tăng hạn chế cho các tác vụ an ninh mạng độc hại ngoài những gì có thể đạt được bằng các công cụ không sử dụng AI có sẵn công khai.

Mặc dù khả năng của các mô hình hiện tại của chúng tôi đối với các nhiệm vụ an ninh mạng độc hại còn hạn chế, chúng tôi tin rằng điều quan trọng là phải đi trước các mối đe dọa đáng kể và đang phát triển. Để ứng phó với mối đe dọa, chúng tôi đang áp dụng cách tiếp cận đa hướng để chống lại việc các tác nhân độc hại có liên kết với nhà nước sử dụng nền tảng của chúng tôi: 

+ Giám sát và phá vỡ các tác nhân liên kết với nhà nước độc hại. Chúng tôi đầu tư vào công nghệ và các nhóm để xác định và phá vỡ các hoạt động của các tác nhân đe dọa tinh vi. Các nhóm Tình báo và Điều tra, An toàn, Bảo mật và Chính trực của chúng tôi điều tra các tác nhân độc hại theo nhiều cách khác nhau, bao gồm sử dụng các mô hình của chúng tôi để theo đuổi các đầu mối, phân tích cách kẻ thù tương tác với nền tảng của chúng tôi và đánh giá các ý định rộng hơn của chúng. Khi phát hiện ra, OpenAI sẽ thực hiện hành động thích hợp để phá vỡ các hoạt động của chúng, chẳng hạn như vô hiệu hóa tài khoản của chúng, chấm dứt dịch vụ hoặc hạn chế quyền truy cập vào tài nguyên. 

+ Hợp tác với hệ sinh thái AI. OpenAI hợp tác với các đối tác trong ngành và các bên liên quan khác để thường xuyên trao đổi thông tin về việc phát hiện các tác nhân có liên quan đến nhà nước sử dụng AI. Sự hợp tác này phản ánh cam kết tự nguyện của chúng tôi nhằm thúc đẩy sự phát triển và sử dụng công nghệ AI một cách an toàn, bảo mật và minh bạch, đồng thời hướng đến mục tiêu thúc đẩy các phản ứng chung đối với các rủi ro trên toàn hệ sinh thái thông qua việc chia sẻ thông tin. 

+ Lặp lại các biện pháp giảm thiểu an toàn. Học hỏi từ việc sử dụng (và sử dụng sai) trong thế giới thực là một thành phần quan trọng để tạo ra và phát hành các hệ thống AI ngày càng an toàn hơn theo thời gian. Chúng tôi rút ra bài học kinh nghiệm từ việc lạm dụng của những tác nhân này và sử dụng chúng để thông báo cho cách tiếp cận lặp lại của chúng tôi đối với vấn đề an toàn. Hiểu được cách những tác nhân độc hại tinh vi nhất tìm cách sử dụng hệ thống của chúng tôi để gây hại sẽ cho chúng tôi một tín hiệu về các hoạt động có thể trở nên phổ biến hơn trong tương lai và cho phép chúng tôi liên tục phát triển các biện pháp bảo vệ của mình. 

+ Minh bạch công khai. Chúng tôi từ lâu đã tìm cách làm nổi bật những hành vi sử dụng sai tiềm ẩn của AI [ liên kết 1, liên kết 2 ] và chia sẻ những gì chúng tôi đã học được về an toàn [ liên kết 1, liên kết 2] với ngành và công chúng. Là một phần trong những nỗ lực liên tục của chúng tôi nhằm thúc đẩy việc sử dụng AI có trách nhiệm, OpenAI sẽ tiếp tục thông báo cho công chúng và các bên liên quan về bản chất và mức độ sử dụng AI của các tác nhân có liên kết với nhà nước độc hại được phát hiện trong hệ thống của chúng tôi và các biện pháp được thực hiện để chống lại chúng, khi cần thiết. Chúng tôi tin rằng việc chia sẻ và minh bạch sẽ thúc đẩy nhận thức và sự chuẩn bị tốt hơn giữa tất cả các bên liên quan, dẫn đến phòng thủ tập thể mạnh mẽ hơn chống lại các đối thủ đang không ngừng phát triển. 

Phần lớn mọi người sử dụng hệ thống của chúng tôi để giúp cải thiện cuộc sống hàng ngày của họ, từ gia sư ảo cho học sinh đến các ứng dụng có thể phiên âm thế giới cho những người khiếm thị. Giống như nhiều hệ sinh thái khác, có một số ít tác nhân độc hại cần được chú ý liên tục để mọi người khác có thể tiếp tục tận hưởng những lợi ích. Mặc dù chúng tôi nỗ lực giảm thiểu khả năng sử dụng sai mục đích của những tác nhân như vậy, nhưng chúng tôi sẽ không thể ngăn chặn mọi trường hợp. Nhưng bằng cách tiếp tục đổi mới, điều tra, hợp tác và chia sẻ, chúng tôi khiến những tác nhân độc hại khó có thể ẩn náu trong toàn bộ hệ sinh thái kỹ thuật số và cải thiện trải nghiệm cho mọi người khác.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ!