Thực hành tốt nhất để triển khai các mô hình ngôn ngữ

Cohere, OpenAI và AI21 Labs đã phát triển một bộ sơ bộ các phương pháp hay nhất áp dụng cho bất kỳ tổ chức nào đang phát triển hoặc triển khai các mô hình ngôn ngữ lớn. Máy tính có thể đọc và viết đã có mặt ở đây và chúng có tiềm năng tác động cơ bản đến cuộc sống hàng ngày. Tương lai của tương tác giữa con người và máy móc đầy khả năng và hứa hẹn, nhưng bất kỳ công nghệ mạnh mẽ nào cũng cần được triển khai cẩn thận.

Tuyên bố chung dưới đây là một bước tiến tới việc xây dựng một cộng đồng để giải quyết những thách thức toàn cầu do sự tiến bộ của AI đặt ra và chúng tôi khuyến khích các tổ chức khác muốn tham gia hãy liên hệ.

Chúng tôi đề xuất một số nguyên tắc chính để giúp các nhà cung cấp mô hình ngôn ngữ lớn (LLM) giảm thiểu rủi ro của công nghệ này nhằm đạt được mục tiêu tăng cường năng lực của con người.

• Trong tay tài khoản ChatGPT 4 chỉ với vài bước đơn giản!

Mặc dù các nguyên tắc này được phát triển cụ thể dựa trên kinh nghiệm của chúng tôi trong việc cung cấp LLM thông qua API, chúng tôi hy vọng chúng sẽ hữu ích bất kể chiến lược phát hành nào (chẳng hạn như mã nguồn mở hoặc sử dụng trong công ty). Chúng tôi mong đợi những khuyến nghị này sẽ thay đổi đáng kể theo thời gian vì việc sử dụng LLM thương mại và các cân nhắc về an toàn đi kèm là mới và đang phát triển. Chúng tôi đang tích cực tìm hiểu và giải quyết các hạn chế và con đường sử dụng sai mục đích của LLM, và sẽ cập nhật các nguyên tắc và thực hành này thông qua sự hợp tác với cộng đồng rộng lớn hơn theo thời gian.

Chúng tôi chia sẻ những nguyên tắc này với hy vọng rằng các nhà cung cấp LLM khác có thể học hỏi và áp dụng chúng, đồng thời thúc đẩy thảo luận công khai về phát triển và triển khai LLM.

Công bố hướng dẫn sử dụng và điều khoản sử dụng  LLM theo cách cấm gây tổn hại vật chất cho cá nhân, cộng đồng và xã hội như thông qua thư rác, gian lận hoặc astroturfing. Hướng dẫn sử dụng cũng nên chỉ định các lĩnh vực mà việc sử dụng LLM đòi hỏi phải xem xét kỹ lưỡng hơn và cấm các trường hợp sử dụng có rủi ro cao không phù hợp, chẳng hạn như phân loại mọi người dựa trên các đặc điểm được bảo vệ.

Xây dựng hệ thống và cơ sở hạ tầng để thực thi các hướng dẫn sử dụng . Điều này có thể bao gồm giới hạn tỷ lệ, lọc nội dung, phê duyệt ứng dụng trước khi truy cập sản xuất, giám sát hoạt động bất thường và các biện pháp giảm thiểu khác.

Chủ động giảm thiểu hành vi mô hình có hại. Các biện pháp thực hành tốt nhất bao gồm đánh giá mô hình toàn diện để đánh giá đúng các hạn chế, giảm thiểu các nguồn sai lệch tiềm ẩn trong tập hợp dữ liệu đào tạo và các kỹ thuật để giảm thiểu hành vi không an toàn như thông qua học hỏi từ phản hồi của con người.

Tài liệu về các điểm yếu và lỗ hổng đã biết, chẳng hạn như thiên vị hoặc khả năng tạo ra mã không an toàn, vì trong một số trường hợp, không có biện pháp phòng ngừa nào có thể loại bỏ hoàn toàn khả năng gây hại ngoài ý muốn. Tài liệu cũng nên bao gồm các biện pháp an toàn tốt nhất cụ thể cho từng trường hợp sử dụng và mô hình.

Xây dựng các nhóm có nhiều nền tảng khác nhau  và thu thập ý kiến ​​đóng góp rộng rãi. Cần có nhiều quan điểm khác nhau để mô tả và giải quyết cách các mô hình ngôn ngữ sẽ hoạt động trong sự đa dạng của thế giới thực, nơi mà nếu không được kiểm soát, chúng có thể củng cố sự thiên vị hoặc không hiệu quả đối với một số nhóm.

Công khai các bài học kinh nghiệm liên quan đến an toàn và việc sử dụng sai mục đích LLM  để có thể áp dụng rộng rãi và hỗ trợ việc lặp lại các biện pháp thực hành tốt nhất trên toàn ngành.

Đối xử với tất cả lao động trong chuỗi cung ứng mô hình ngôn ngữ một cách tôn trọng . Ví dụ, nhà cung cấp phải có tiêu chuẩn cao về điều kiện làm việc của những người xem xét đầu ra của mô hình nội bộ và yêu cầu nhà cung cấp tuân thủ các tiêu chuẩn được chỉ định rõ ràng (ví dụ: đảm bảo người dán nhãn có thể từ chối một nhiệm vụ nhất định).

Với tư cách là nhà cung cấp LLM, việc công bố các nguyên tắc này là bước đầu tiên trong việc hướng dẫn hợp tác phát triển và triển khai mô hình ngôn ngữ lớn an toàn hơn. Chúng tôi rất vui mừng được tiếp tục làm việc với nhau và với các bên khác để xác định các cơ hội khác nhằm giảm thiểu tác hại không chủ ý và ngăn chặn việc sử dụng mô hình ngôn ngữ một cách có chủ đích.