Để giúp các nhà phát triển bảo vệ ứng dụng của họ khỏi nguy cơ bị sử dụng sai mục đích, chúng tôi giới thiệu điểm cuối Kiểm duyệt nhanh hơn và chính xác hơn(mở trong cửa sổ mới). Điểm cuối này cung cấp cho các nhà phát triển API OpenAI quyền truy cập miễn phí vào các trình phân loại dựa trên GPT phát hiện nội dung không mong muốn—một ví dụ về việc sử dụng các hệ thống AI để hỗ trợ giám sát của con người đối với các hệ thống này. Chúng tôi cũng đã phát hành cả một bài báo kỹ thuật (mở trong cửa sổ mới) mô tả phương pháp luận và tập dữ liệu của chúng tôi(mở trong cửa sổ mới) được sử dụng để đánh giá.
Khi được cung cấp một văn bản đầu vào, điểm cuối Kiểm duyệt sẽ đánh giá xem nội dung có mang tính khiêu dâm, thù hận, bạo lực hay khuyến khích tự làm hại bản thân hay không—nội dung bị cấm theo chính sách nội dung của chúng tôi (mở trong cửa sổ mới). Điểm cuối đã được đào tạo để nhanh chóng, chính xác và hoạt động mạnh mẽ trên nhiều ứng dụng. Điều quan trọng là điều này làm giảm khả năng sản phẩm "nói" sai, ngay cả khi triển khai cho người dùng ở quy mô lớn. Do đó, AI có thể mở khóa các lợi ích trong các bối cảnh nhạy cảm, như giáo dục, nơi mà nếu không thì không thể sử dụng một cách tự tin.
Điểm cuối Moderation giúp các nhà phát triển hưởng lợi từ khoản đầu tư cơ sở hạ tầng của chúng tôi. Thay vì xây dựng và duy trì các bộ phân loại của riêng họ—một quá trình mở rộng, như chúng tôi ghi lại trong bài báo của mình (mở trong cửa sổ mới)—thay vào đó, họ có thể truy cập các trình phân loại chính xác thông qua một lệnh gọi API duy nhất.
Là một phần trong cam kết của OpenAI nhằm làm cho hệ sinh thái AI an toàn hơn , chúng tôi cung cấp điểm cuối này để cho phép kiểm duyệt miễn phí tất cả nội dung do API OpenAI tạo ra. Ví dụ: Inworld (mở trong cửa sổ mới), một khách hàng của OpenAI API, sử dụng điểm cuối Moderation để giúp các nhân vật ảo dựa trên AI của họ vẫn phù hợp với đối tượng của họ. Bằng cách tận dụng công nghệ của OpenAI, Inworld có thể tập trung vào sản phẩm cốt lõi của họ: tạo ra các nhân vật đáng nhớ. Hiện tại, chúng tôi không hỗ trợ giám sát lưu lượng truy cập của bên thứ ba.
Bắt đầu với điểm cuối Kiểm duyệt bằng cách kiểm tra tài liệu (mở trong cửa sổ mới). Chi tiết hơn về quá trình đào tạo và hiệu suất mô hình có sẵn trong bài báo của chúng tôi (mở trong cửa sổ mới). Chúng tôi cũng đã phát hành một tập dữ liệu đánh giá (mở trong cửa sổ mới), có dữ liệu Common Crawl được gắn nhãn trong các danh mục này, chúng tôi hy vọng sẽ thúc đẩy nghiên cứu sâu hơn trong lĩnh vực này.
Xem thêm: mua tài khoản ChatGPT 4 và tài khoản ChatGPT Plus chính hãng giá rẻ