Hiểu nguồn gốc của những gì chúng ta thấy và nghe trực tuyến

Nghiên cứu giải pháp văn bản

+ Nhóm của chúng tôi đã ưu tiên triển khai các giải pháp xuất xứ nội dung nghe nhìn, vốn được coi là có mức độ rủi ro cao hơn ở giai đoạn khả năng này của mô hình.

+ Chúng tôi cũng đã thực hiện nghiên cứu sâu rộng về lĩnh vực xuất xứ văn bản và đã khám phá một loạt các giải pháp, bao gồm phân loại, hình mờ và siêu dữ liệu. Bạn có thể đọc thêm về những nỗ lực này trong nghiên cứu điển hình này mà chúng tôi đã thực hiện với Đối tác về AI(mở trong cửa sổ mới).

+ Một số cập nhật về một số phương pháp mà chúng tôi hiện đang nghiên cứu và xem xét:

• Chèn hình mờ văn bản
  • Nhóm của chúng tôi đã phát triển một phương pháp thêm hình mờ văn bản mà chúng tôi vẫn đang xem xét khi nghiên cứu các giải pháp thay thế.
  • Mặc dù có độ chính xác cao và thậm chí hiệu quả trong việc chống lại hành vi giả mạo cục bộ, chẳng hạn như diễn đạt lại, nhưng lại kém hiệu quả hơn trong việc chống lại hành vi giả mạo toàn cầu; chẳng hạn như sử dụng hệ thống dịch, diễn đạt lại bằng một mô hình tạo sinh khác hoặc yêu cầu mô hình chèn một ký tự đặc biệt vào giữa mỗi từ rồi xóa ký tự đó - khiến kẻ xấu dễ dàng lách luật.
  • Một rủi ro quan trọng khác mà chúng tôi đang cân nhắc là nghiên cứu của chúng tôi cho thấy phương pháp đóng dấu văn bản có khả năng tác động không cân xứng đến một số nhóm. Ví dụ, nó có thể kỳ thị việc sử dụng AI như một công cụ viết hữu ích cho những người không nói tiếng Anh bản xứ.
• Siêu dữ liệu văn bản
• Nhóm của chúng tôi cũng đang nghiên cứu cách sử dụng siêu dữ liệu như một phương pháp xác định nguồn gốc văn bản.
• Chúng tôi vẫn đang trong giai đoạn đầu của quá trình khám phá, vì vậy còn quá sớm để đánh giá mức độ hiệu quả của phương pháp này, nhưng có những đặc điểm của siêu dữ liệu khiến phương pháp này đặc biệt hứa hẹn.
• Ví dụ, không giống như watermarking, siêu dữ liệu được ký bằng mật mã, nghĩa là không có kết quả dương tính giả. Chúng tôi dự đoán điều này sẽ ngày càng quan trọng khi khối lượng văn bản được tạo ra tăng lên. Mặc dù watermarking văn bản có tỷ lệ dương tính giả thấp, nhưng việc áp dụng nó cho khối lượng văn bản lớn sẽ dẫn đến số lượng lớn kết quả dương tính giả.

Mở rộng các công cụ phát hiện hình ảnh của chúng tôi khi chúng tôi xây dựng các tính năng mới

+ Là một phần trong những nỗ lực liên tục của chúng tôi về nguồn gốc nội dung, chúng tôi đã nỗ lực đưa C2PA vào (mở trong cửa sổ mới)siêu dữ liệu – một tiêu chuẩn được sử dụng rộng rãi cho nội dung kỹ thuật số – khi chúng tôi cập nhật các tính năng trong sản phẩm của mình. Vì người dùng hiện có thể chỉnh sửa hình ảnh do DALL-E 3 tạo ra trong ChatGPT Plus, chúng tôi muốn đảm bảo rằng thông tin về nguồn gốc tiếp tục được chứng minh cùng với các chỉnh sửa đó. Nếu người dùng chỉnh sửa hình + ảnh, chúng tôi đã xây dựng một phương tiện để thông tin xác thực C2PA của mình cho thấy hình ảnh đã được chỉnh sửa và chỉnh sửa như thế nào.

+ Trong hình ảnh ví dụ, bạn có thể thấy hình ảnh gốc do AI tạo ra về một con sâu bướm, sau đó được chỉnh sửa để con sâu bướm đội mũ ông già Noel. Khi người dùng chỉnh sửa hình ảnh này, thông tin xác thực C2PA sẽ cập nhật để phản ánh những thay đổi này, đảm bảo tính minh bạch. Thông tin xác thực C2PA bao gồm các chi tiết như ứng dụng và công cụ được sử dụng (DALL-E của OpenAI), các hành động đã thực hiện (như chuyển đổi định dạng và chỉnh sửa) và các sửa đổi khác. Theo cách này, toàn bộ lịch sử của hình ảnh được theo dõi và hiển thị.

• Tài khoản ChatGPT 4 tại đây với nhiều ưu đãi hấp dẫn