Giảm thiểu sự thiên vị và cải thiện sự an toàn trong DALL·E 2

Ngày nay, chúng tôi đang triển khai một kỹ thuật mới để DALL·E tạo ra hình ảnh của mọi người phản ánh chính xác hơn sự đa dạng của dân số thế giới. Kỹ thuật này được áp dụng ở cấp độ hệ thống khi DALL·E được đưa ra lời nhắc mô tả một người không chỉ rõ chủng tộc hoặc giới tính, như "lính cứu hỏa".

Dựa trên đánh giá nội bộ của chúng tôi, người dùng có khả năng nói rằng hình ảnh DALL·E bao gồm những người có nhiều xuất thân khác nhau sau khi áp dụng kỹ thuật này cao hơn 12 lần. Chúng tôi có kế hoạch cải thiện kỹ thuật này theo thời gian khi chúng tôi thu thập thêm dữ liệu và phản hồi.

Vào tháng 4, chúng tôi đã bắt đầu xem trước nghiên cứu DALL·E 2 cho một số lượng người hạn chế, điều này cho phép chúng tôi hiểu rõ hơn về khả năng và hạn chế của hệ thống cũng như cải thiện hệ thống an toàn của mình.

Trong giai đoạn xem trước này, những người dùng đầu tiên đã đánh dấu những hình ảnh nhạy cảm và có tính thiên vị, giúp cung cấp thông tin và đánh giá biện pháp giảm thiểu mới này.

Chúng tôi đang tiếp tục nghiên cứu cách các hệ thống AI, như DALL·E, có thể phản ánh sự thiên vị trong dữ liệu đào tạo của nó và những cách khác nhau để chúng tôi có thể giải quyết chúng.

Trong quá trình xem trước nghiên cứu, chúng tôi đã thực hiện các bước khác để cải thiện hệ thống an toàn của mình, bao gồm:

+ Giảm thiểu nguy cơ DALL·E bị sử dụng sai mục đích để tạo ra nội dung lừa đảo bằng cách từ chối tải lên hình ảnh có khuôn mặt thật và các nỗ lực tạo ra hình ảnh giống với người của công chúng, bao gồm người nổi tiếng và các chính trị gia nổi tiếng.

+ Làm cho bộ lọc nội dung của chúng tôi chính xác hơn để chúng có hiệu quả hơn trong việc chặn các lời nhắc và tải lên hình ảnh vi phạm  chính sách nội dung của chúng tôi (mở trong cửa sổ mới) trong khi vẫn cho phép thể hiện sự sáng tạo.

+ Cải tiến các hệ thống giám sát tự động và giám sát của con người để ngăn ngừa việc sử dụng sai mục đích.

Những cải tiến này đã giúp chúng tôi tự tin hơn vào khả năng mời nhiều người dùng hơn trải nghiệm DALL·E.

Mở rộng quyền truy cập là một phần quan trọng trong việc  triển khai các hệ thống AI một cách có trách nhiệm  vì nó cho phép chúng tôi tìm hiểu thêm về cách sử dụng trong thế giới thực và tiếp tục lặp lại các hệ thống an toàn của mình.

Xem thêm: mua tài khoản ChatGPT Plus và tài khoản ChatGPT 4 chính hãng giá rẻ với nhiều ưu đãi đặc biệt duy nhất ngày hôm nay!