Công cụ kiểm duyệt nội dung mới và được cải tiến

Chúng tôi đang giới thiệu một công cụ kiểm duyệt nội dung mới và được cải tiến. Điểm cuối Kiểm duyệt cải thiện bộ lọc nội dung trước đây của chúng tôi và hiện có sẵn miễn phí cho các nhà phát triển API OpenAI

 

Để giúp các nhà phát triển bảo vệ ứng dụng của họ khỏi nguy cơ bị sử dụng sai mục đích, chúng tôi giới thiệu  điểm cuối Kiểm duyệt nhanh hơn và chính xác hơn(mở trong cửa sổ mới). Điểm cuối này cung cấp cho các nhà phát triển API OpenAI quyền truy cập miễn phí vào  các trình phân loại dựa trên GPT  phát hiện nội dung không mong muốn—một ví dụ về  việc sử dụng các hệ thống AI  để hỗ trợ giám sát của con người đối với các hệ thống này. Chúng tôi cũng đã phát hành cả một  bài báo kỹ thuật (mở trong cửa sổ mới) mô tả phương pháp luận và  tập dữ liệu của chúng tôi(mở trong cửa sổ mới) được sử dụng để đánh giá.

Khi được cung cấp một văn bản đầu vào, điểm cuối Kiểm duyệt sẽ đánh giá xem nội dung có mang tính khiêu dâm, thù hận, bạo lực hay khuyến khích tự làm hại bản thân hay không—nội dung bị cấm theo chính sách nội dung của chúng tôi (mở trong cửa sổ mới). Điểm cuối đã được đào tạo để nhanh chóng, chính xác và hoạt động mạnh mẽ trên nhiều ứng dụng. Điều quan trọng là điều này làm giảm khả năng sản phẩm "nói" sai, ngay cả khi triển khai cho người dùng ở quy mô lớn. Do đó, AI có thể mở khóa các lợi ích trong các bối cảnh nhạy cảm, như giáo dục, nơi mà nếu không thì không thể sử dụng một cách tự tin.

Điểm cuối Moderation giúp các nhà phát triển hưởng lợi từ khoản đầu tư cơ sở hạ tầng của chúng tôi. Thay vì xây dựng và duy trì các bộ phân loại của riêng họ—một quá trình mở rộng, như chúng tôi ghi lại trong  bài báo của mình (mở trong cửa sổ mới)—thay vào đó, họ có thể truy cập các trình phân loại chính xác thông qua một lệnh gọi API duy nhất.

Là một phần trong cam kết của OpenAI  nhằm  làm cho hệ sinh thái AI an toàn hơn , chúng tôi cung cấp điểm cuối này để cho phép kiểm duyệt miễn phí tất cả nội dung do API OpenAI tạo ra. Ví dụ:  Inworld (mở trong cửa sổ mới), một khách hàng của OpenAI API, sử dụng điểm cuối Moderation để giúp các nhân vật ảo dựa trên AI của họ vẫn phù hợp với đối tượng của họ. Bằng cách tận dụng công nghệ của OpenAI, Inworld có thể tập trung vào sản phẩm cốt lõi của họ: tạo ra các nhân vật đáng nhớ. Hiện tại, chúng tôi không hỗ trợ giám sát lưu lượng truy cập của bên thứ ba.

Bắt đầu với điểm cuối Kiểm duyệt bằng cách kiểm tra  tài liệu (mở trong cửa sổ mới). Chi tiết hơn về quá trình đào tạo và hiệu suất mô hình có sẵn trong  bài báo của chúng tôi (mở trong cửa sổ mới). Chúng tôi cũng đã phát hành một  tập dữ liệu đánh giá (mở trong cửa sổ mới), có dữ liệu Common Crawl được gắn nhãn trong các danh mục này, chúng tôi hy vọng sẽ thúc đẩy nghiên cứu sâu hơn trong lĩnh vực này.

Xem thêm: mua tài khoản ChatGPT 4 và tài khoản ChatGPT Plus chính hãng giá rẻ

Hot Deal

Họ tên (*)

Số điện thoại (*)

Email (*)

Dịch vụ

Đăng ký để nhận bản tin mới nhất !