WebGPT: Cải thiện độ chính xác thực tế của các mô hình ngôn ngữ thông qua trình duyệt web

Để cung cấp phản hồi nhằm cải thiện độ chính xác thực tế, con người phải có khả năng đánh giá độ chính xác thực tế của các tuyên bố do mô hình đưa ra. Điều này có thể cực kỳ khó khăn, vì các tuyên bố có thể mang tính kỹ thuật, chủ quan hoặc mơ hồ. Vì lý do này, chúng tôi yêu cầu mô hình trích dẫn nguồn của nó. Điều này cho phép con người đánh giá độ chính xác thực tế bằng cách kiểm tra xem một tuyên bố có được  hỗ trợ bởi một nguồn đáng tin cậy hay không . Cũng như làm cho nhiệm vụ dễ quản lý hơn, nó cũng làm cho nó ít mơ hồ hơn, điều này rất quan trọng để giảm nhiễu nhãn.

Tuy nhiên, cách tiếp cận này đặt ra một số câu hỏi. Điều gì làm cho một nguồn đáng tin cậy? Những tuyên bố nào đủ rõ ràng để không cần hỗ trợ? Cần phải đánh đổi điều gì giữa các đánh giá về độ chính xác của sự kiện và các tiêu chí khác như tính mạch lạc? Tất cả những điều này đều là những phán đoán khó khăn. Chúng tôi không nghĩ rằng mô hình của chúng tôi nắm bắt được nhiều sắc thái này, vì nó vẫn mắc phải những lỗi cơ bản. Nhưng chúng tôi mong đợi những loại quyết định này trở nên quan trọng hơn khi các hệ thống AI được cải thiện và cần có nghiên cứu liên ngành để phát triển các tiêu chí vừa thực tế vừa có cơ sở nhận thức. Chúng tôi cũng mong đợi những cân nhắc sâu hơn như tính minh bạch sẽ trở nên quan trọng.

Cuối cùng, việc các mô hình trích dẫn nguồn của họ sẽ không đủ để đánh giá độ chính xác thực tế. Một mô hình đủ khả năng sẽ chọn lọc các nguồn mà nó mong đợi con người thấy thuyết phục, ngay cả khi chúng không phản ánh đánh giá công bằng về bằng chứng. Đã có những dấu hiệu cho thấy điều này đang xảy ra (xem các câu hỏi về thuyền ở trên ). Chúng tôi hy vọng có thể giảm thiểu điều này bằng các phương pháp như  tranh luận .

Mặc dù mô hình của chúng tôi thường trung thực hơn GPT-3 (vì nó ít tạo ra các tuyên bố sai hơn), nhưng nó vẫn có rủi ro. Các câu trả lời có trích dẫn thường được coi là có vẻ uy quyền, điều này có thể che giấu thực tế là mô hình của chúng tôi vẫn mắc các lỗi cơ bản. Mô hình cũng có xu hướng củng cố niềm tin hiện có của người dùng. Chúng tôi đang nghiên cứu cách tốt nhất để giải quyết những mối quan tâm này và các mối quan tâm khác.

Ngoài những rủi ro triển khai này, cách tiếp cận của chúng tôi còn đưa ra những rủi ro mới  tại thời điểm đào tạo  bằng cách cấp cho mô hình quyền truy cập vào web. Môi trường duyệt web của chúng tôi không cho phép truy cập web đầy đủ, nhưng cho phép mô hình gửi truy vấn đến  Microsoft Bing Web Search API (mở trong cửa sổ mới) và theo các liên kết đã tồn tại trên web, có thể có tác dụng phụ. Theo kinh nghiệm của chúng tôi với GPT-3, mô hình dường như không đủ khả năng để khai thác các tác dụng phụ này một cách nguy hiểm. Tuy nhiên, những rủi ro này tăng lên theo khả năng của mô hình và chúng tôi đang nỗ lực thiết lập các biện pháp bảo vệ nội bộ chống lại chúng.

Phản hồi của con người và các công cụ như trình duyệt web cung cấp một con đường đầy hứa hẹn hướng tới các hệ thống AI có mục đích chung, trung thực và mạnh mẽ. Hệ thống hiện tại của chúng ta đang phải vật lộn với những hoàn cảnh đầy thách thức hoặc không quen thuộc, nhưng vẫn thể hiện sự tiến bộ đáng kể theo hướng này.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ!