Dự báo khả năng sử dụng sai mô hình ngôn ngữ cho các chiến dịch thông tin sai lệch và cách giảm thiểu rủi ro

Các nhà nghiên cứu OpenAI đã hợp tác với Trung tâm An ninh và Công nghệ mới nổi của Đại học Georgetown và Đài quan sát Internet Stanford để điều tra cách các mô hình ngôn ngữ lớn có thể bị sử dụng sai mục đích cho mục đích thông tin sai lệch. Sự hợp tác bao gồm một hội thảo vào tháng 10 năm 2021 quy tụ 30 nhà nghiên cứu thông tin sai lệch, chuyên gia học máy và nhà phân tích chính sách, và đạt đến đỉnh cao là một báo cáo đồng tác giả dựa trên hơn một năm nghiên cứu. Báo cáo này phác thảo các mối đe dọa mà các mô hình ngôn ngữ gây ra cho môi trường thông tin nếu được sử dụng để tăng cường các chiến dịch thông tin sai lệch và giới thiệu một khuôn khổ để phân tích các biện pháp giảm thiểu tiềm năng. 

Khi các mô hình ngôn ngữ tạo sinh được cải thiện, chúng mở ra những khả năng mới trong các lĩnh vực đa dạng như chăm sóc sức khỏe, luật pháp, giáo dục và khoa học. Nhưng, giống như bất kỳ công nghệ mới nào, chúng ta nên cân nhắc cách chúng có thể bị sử dụng sai. Trong bối cảnh các hoạt động gây ảnh hưởng trực tuyến liên tục diễn ra— những nỗ lực bí mật hoặc lừa dối nhằm tác động đến ý kiến ​​của đối tượng mục tiêu—bài báo đặt câu hỏi:

Mô hình ngôn ngữ có thể thay đổi ảnh hưởng đến hoạt động như thế nào và có thể thực hiện những bước nào để giảm thiểu mối đe dọa này?

Công trình của chúng tôi tập hợp nhiều nền tảng và chuyên môn khác nhau—các nhà nghiên cứu có kiến ​​thức nền tảng về chiến thuật, kỹ thuật và quy trình của các chiến dịch phát tán thông tin sai lệch trực tuyến, cũng như các chuyên gia về máy học trong lĩnh vực trí tuệ nhân tạo tạo ra—để dựa trên các xu hướng trong cả hai lĩnh vực để phân tích.

• Tài khoản ChatGPT 4 TẠI ĐÂY với nhiều ưu đãi hấp dẫn 

Chúng tôi tin rằng việc phân tích mối đe dọa của các hoạt động gây ảnh hưởng do AI hỗ trợ và phác thảo các bước có thể thực hiện  trước khi  sử dụng các mô hình ngôn ngữ cho các hoạt động gây ảnh hưởng ở quy mô lớn là rất quan trọng. Chúng tôi hy vọng nghiên cứu của chúng tôi sẽ cung cấp thông tin cho các nhà hoạch định chính sách mới tham gia vào lĩnh vực AI hoặc thông tin sai lệch, đồng thời thúc đẩy nghiên cứu chuyên sâu về các chiến lược giảm thiểu tiềm năng cho các nhà phát triển AI, nhà hoạch định chính sách và nhà nghiên cứu thông tin sai lệch.

Khi các nhà nghiên cứu đánh giá các hoạt động ảnh hưởng, họ xem xét các  tác nhân, hành vi và nội dung. Tính phổ biến rộng rãi của công nghệ được hỗ trợ bởi các mô hình ngôn ngữ có khả năng tác động đến cả ba khía cạnh:

+ Diễn viên : Các mô hình ngôn ngữ có thể giảm chi phí vận hành các hoạt động gây ảnh hưởng, đưa chúng vào tầm với của các diễn viên và loại diễn viên mới. Tương tự như vậy, những người tuyên truyền được thuê tự động hóa việc sản xuất văn bản có thể đạt được lợi thế cạnh tranh mới.

+ Hành vi : Các hoạt động ảnh hưởng với mô hình ngôn ngữ sẽ dễ dàng mở rộng hơn và các chiến thuật hiện đang tốn kém (ví dụ: tạo nội dung được cá nhân hóa) có thể trở nên rẻ hơn. Các mô hình ngôn ngữ cũng có thể cho phép các chiến thuật mới xuất hiện—như tạo nội dung theo thời gian thực trong chatbot.

+ Nội dung : Các công cụ tạo văn bản được hỗ trợ bởi các mô hình ngôn ngữ có thể tạo ra thông điệp có sức tác động hoặc thuyết phục hơn so với những người tuyên truyền, đặc biệt là những người không có kiến ​​thức ngôn ngữ hoặc văn hóa cần thiết về mục tiêu của họ. Họ cũng có thể khiến các hoạt động gây ảnh hưởng ít bị phát hiện hơn, vì họ liên tục tạo nội dung mới mà không cần phải sao chép-dán và các hành vi tiết kiệm thời gian đáng chú ý khác.

Phán đoán cuối cùng của chúng tôi là các mô hình ngôn ngữ sẽ hữu ích cho những người tuyên truyền và có khả năng sẽ chuyển đổi các hoạt động gây ảnh hưởng trực tuyến. Ngay cả khi các mô hình tiên tiến nhất được giữ riêng tư hoặc được kiểm soát thông qua quyền truy cập giao diện lập trình ứng dụng (API), những người tuyên truyền có khả năng sẽ hướng tới các giải pháp thay thế nguồn mở và các quốc gia có thể tự đầu tư vào công nghệ.

Nhiều yếu tố tác động đến việc liệu các mô hình ngôn ngữ có được sử dụng trong các hoạt động ảnh hưởng hay không và ở mức độ nào. Báo cáo của chúng tôi đi sâu vào nhiều cân nhắc này. Ví dụ:

+ Những khả năng mới nào về ảnh hưởng sẽ xuất hiện như một tác dụng phụ của nghiên cứu có chủ đích hoặc đầu tư thương mại? Những tác nhân nào sẽ đầu tư đáng kể vào các mô hình ngôn ngữ?

+ Khi nào các công cụ dễ sử dụng để tạo văn bản sẽ được công khai? Liệu việc thiết kế các mô hình ngôn ngữ cụ thể cho các hoạt động gây ảnh hưởng có hiệu quả hơn là áp dụng các mô hình chung không?

+ Liệu các chuẩn mực có phát triển để ngăn cản các tác nhân tiến hành các hoạt động gây ảnh hưởng bằng AI không? Ý định của tác nhân sẽ phát triển như thế nào?

Trong khi chúng tôi mong đợi thấy sự lan tỏa của công nghệ cũng như sự cải thiện về khả năng sử dụng, độ tin cậy và hiệu quả của các mô hình ngôn ngữ, nhiều câu hỏi về tương lai vẫn chưa được giải đáp. Vì đây là những khả năng quan trọng có thể thay đổi cách các mô hình ngôn ngữ có thể tác động đến các hoạt động ảnh hưởng, nên nghiên cứu bổ sung để giảm sự không chắc chắn là rất có giá trị.

Để vạch ra một con đường phía trước, báo cáo nêu ra các giai đoạn chính trong đường ống hoạt động từ mô hình ngôn ngữ đến tác động. Mỗi giai đoạn này là một điểm cho các biện pháp giảm thiểu tiềm năng. Để tiến hành thành công một hoạt động tác động tận dụng mô hình ngôn ngữ, những người tuyên truyền sẽ yêu cầu:

(1) có một mô hình tồn tại,

(2) họ có thể truy cập đáng tin cậy vào mô hình đó,

(3) họ có thể truyền bá nội dung từ mô hình và

(4) người dùng cuối bị ảnh hưởng. Nhiều chiến lược giảm thiểu khả thi nằm trong bốn bước này, như được hiển thị bên dưới.

Chỉ vì biện pháp giảm thiểu có thể làm giảm mối đe dọa của các hoạt động gây ảnh hưởng do AI kích hoạt không có nghĩa là biện pháp đó nên được đưa vào áp dụng. Một số biện pháp giảm thiểu có rủi ro bất lợi riêng. Một số khác có thể không khả thi. Mặc dù chúng tôi không xác nhận hoặc đánh giá rõ ràng các biện pháp giảm thiểu, nhưng bài báo cung cấp một bộ câu hỏi hướng dẫn để các nhà hoạch định chính sách và những người khác cân nhắc:

+ Tính khả thi về mặt kỹ thuật: Biện pháp giảm thiểu được đề xuất có khả thi về mặt kỹ thuật không? Nó có đòi hỏi những thay đổi đáng kể về cơ sở hạ tầng kỹ thuật không?

+ Tính khả thi về mặt xã hội: Liệu biện pháp giảm thiểu có khả thi theo quan điểm chính trị, pháp lý và thể chế không? Liệu nó có đòi hỏi sự phối hợp tốn kém không, các bên liên quan chính có được khuyến khích thực hiện không và liệu nó có thể thực hiện được theo luật, quy định và tiêu chuẩn ngành hiện hành không?

+ Rủi ro tiêu cực: Những tác động tiêu cực tiềm ẩn của việc giảm thiểu là gì và chúng đáng kể đến mức nào?

+ Tác động: Biện pháp giảm thiểu được đề xuất có hiệu quả như thế nào trong việc giảm thiểu mối đe dọa?

Chúng tôi hy vọng khuôn khổ này sẽ thúc đẩy các ý tưởng cho các chiến lược giảm thiểu khác và các câu hỏi hướng dẫn sẽ giúp các tổ chức có liên quan bắt đầu xem xét liệu các biện pháp giảm thiểu khác nhau có đáng để theo đuổi hay không.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ!