Plugin ChatGPT

Các mô hình ngôn ngữ ngày nay, mặc dù hữu ích cho nhiều nhiệm vụ khác nhau, vẫn còn hạn chế. Thông tin duy nhất mà chúng có thể học được là dữ liệu đào tạo của chúng. Thông tin này có thể lỗi thời và phù hợp với mọi ứng dụng. Hơn nữa, điều duy nhất mà các mô hình ngôn ngữ có thể làm ngay lập tức là phát ra văn bản. Văn bản này có thể chứa các hướng dẫn hữu ích, nhưng để thực sự làm theo các hướng dẫn này, bạn cần một quy trình khác.

Mặc dù không phải là một phép loại suy hoàn hảo, các plugin có thể là "mắt và tai" cho các mô hình ngôn ngữ, cho phép chúng truy cập vào thông tin quá mới, quá riêng tư hoặc quá cụ thể để đưa vào dữ liệu đào tạo. Để đáp ứng yêu cầu rõ ràng của người dùng, các plugin cũng có thể cho phép các mô hình ngôn ngữ thực hiện các hành động an toàn, bị hạn chế thay mặt cho chúng, làm tăng tính hữu ích của toàn bộ hệ thống.

Chúng tôi hy vọng rằng các tiêu chuẩn mở sẽ xuất hiện để thống nhất các cách thức mà các ứng dụng hiển thị giao diện hướng đến AI. Chúng tôi đang nỗ lực thử nghiệm ban đầu về việc một tiêu chuẩn như vậy có thể trông như thế nào và chúng tôi đang tìm kiếm phản hồi từ các nhà phát triển quan tâm đến việc xây dựng cùng chúng tôi.

Hôm nay, chúng tôi đang bắt đầu dần dần kích hoạt các plugin hiện có từ những cộng tác viên đầu tiên của chúng tôi cho người dùng ChatGPT, bắt đầu với những người đăng ký mua tài khoản ChatGPT Plus. Chúng tôi cũng đang bắt đầu triển khai khả năng cho phép các nhà phát triển tạo plugin riêng cho ChatGPT.

Trong những tháng tới, khi chúng tôi rút kinh nghiệm từ quá trình triển khai và tiếp tục cải thiện hệ thống an toàn, chúng tôi sẽ lặp lại giao thức này và có kế hoạch cho phép các nhà phát triển sử dụng mô hình OpenAI tích hợp plugin vào ứng dụng của riêng họ ngoài ChatGPT.

Việc kết nối các mô hình ngôn ngữ với các công cụ bên ngoài mang đến những cơ hội mới cũng như những rủi ro mới đáng kể.

Các plugin cung cấp tiềm năng giải quyết nhiều thách thức liên quan đến các mô hình ngôn ngữ lớn, bao gồm "ảo giác", theo kịp các sự kiện gần đây và truy cập (với sự cho phép) các nguồn thông tin độc quyền. Bằng cách tích hợp quyền truy cập rõ ràng vào dữ liệu bên ngoài—chẳng hạn như thông tin cập nhật trực tuyến, tính toán dựa trên mã hoặc thông tin tùy chỉnh được plugin truy xuất—các mô hình ngôn ngữ có thể củng cố phản hồi của chúng bằng các tham chiếu dựa trên bằng chứng.

Những tài liệu tham khảo này không chỉ nâng cao tiện ích của mô hình mà còn cho phép người dùng đánh giá độ tin cậy của đầu ra của mô hình và kiểm tra lại độ chính xác của nó, có khả năng giảm thiểu rủi ro liên quan đến việc phụ thuộc quá mức như đã thảo luận trong thẻ hệ thống GPT-4 gần đây của chúng tôi(mở trong cửa sổ mới). Cuối cùng, giá trị của plugin có thể vượt xa việc giải quyết những hạn chế hiện tại bằng cách giúp người dùng sử dụng nhiều trường hợp mới, từ duyệt danh mục sản phẩm đến đặt vé máy bay hoặc đặt đồ ăn.

Đồng thời, có nguy cơ là các plugin có thể làm tăng các thách thức về an toàn bằng cách thực hiện các hành động có hại hoặc không chủ ý, làm tăng khả năng của những kẻ xấu có thể lừa đảo, gây hiểu lầm hoặc lạm dụng người khác. Bằng cách tăng phạm vi các ứng dụng có thể, các plugin có thể làm tăng nguy cơ gây ra hậu quả tiêu cực từ các hành động nhầm lẫn hoặc không phù hợp của mô hình trong các miền mới. Ngay từ ngày đầu tiên, các yếu tố này đã hướng dẫn quá trình phát triển nền tảng plugin của chúng tôi và chúng tôi đã triển khai một số biện pháp bảo vệ.

Chúng tôi đã thực hiện các bài tập nhóm đỏ, cả nội bộ và với các cộng tác viên bên ngoài, đã tiết lộ một số tình huống đáng lo ngại có thể xảy ra. Ví dụ, các nhóm đỏ của chúng tôi đã phát hiện ra các cách để các plugin—nếu được phát hành mà không có biện pháp bảo vệ—thực hiện tiêm nhắc tinh vi, gửi email lừa đảo và thư rác, bỏ qua các hạn chế về an toàn hoặc sử dụng sai thông tin được gửi đến plugin. Chúng tôi đang sử dụng những phát hiện này để cung cấp thông tin cho các biện pháp giảm thiểu an toàn theo thiết kế nhằm hạn chế các hành vi rủi ro của plugin và cải thiện tính minh bạch về cách thức và thời điểm chúng hoạt động như một phần của trải nghiệm người dùng. Chúng tôi cũng đang sử dụng những phát hiện này để cung cấp thông tin cho quyết định triển khai dần quyền truy cập vào các plugin.

Nếu bạn là nhà nghiên cứu quan tâm đến việc nghiên cứu rủi ro an toàn hoặc các biện pháp giảm thiểu trong lĩnh vực này, chúng tôi khuyến khích bạn sử dụng Chương trình tiếp cận nhà nghiên cứu của chúng tôi. Chúng tôi cũng mời các nhà phát triển và nhà nghiên cứu gửi các đánh giá về khả năng và an toàn liên quan đến plugin như một phần của khuôn khổ Evals mã nguồn mở gần đây của chúng tôi.

Các plugin có thể có những tác động xã hội rộng rãi. Ví dụ, chúng tôi vừa mới phát hành một bài báo làm việc (mở trong cửa sổ mới)trong đó phát hiện ra rằng các mô hình ngôn ngữ có quyền truy cập vào các công cụ có khả năng sẽ có tác động kinh tế lớn hơn nhiều so với các mô hình không có và nói chung, phù hợp với các mô hình khác (mở trong cửa sổ mới) các nhà nghiên cứu (mở trong cửa sổ mới)phát hiện, chúng tôi mong đợi làn sóng công nghệ AI hiện tại sẽ có tác động lớn đến tốc độ chuyển đổi, thay thế và tạo việc làm. Chúng tôi mong muốn hợp tác với các nhà nghiên cứu bên ngoài (mở trong cửa sổ mới)và khách hàng của chúng tôi (mở trong cửa sổ mới)để nghiên cứu những tác động này.

Được thúc đẩy bởi công việc trước đây ( WebGPT của chúng tôi cũng như GopherCite(mở trong cửa sổ mới), Máy xay sinh tố 2 (mở trong cửa sổ mới), LaMDA2 (mở trong cửa sổ mới)và những người khác (mở trong cửa sổ mới)), cho phép các mô hình ngôn ngữ đọc thông tin từ internet sẽ mở rộng đáng kể lượng nội dung mà chúng có thể thảo luận, vượt ra ngoài phạm vi ngữ liệu đào tạo để tiếp cận thông tin mới từ thời điểm hiện tại.

Đây là một ví dụ về loại trải nghiệm mà việc duyệt mở ra cho người dùng ChatGPT, trước đây mô hình sẽ lịch sự chỉ ra rằng dữ liệu đào tạo của nó không bao gồm đủ thông tin để cho phép nó trả lời. Ví dụ này, trong đó ChatGPT lấy thông tin gần đây về giải Oscar mới nhất, sau đó thực hiện các kỳ công thơ ChatGPT quen thuộc, là một cách mà việc duyệt có thể là một trải nghiệm bổ sung.

Cân nhắc về an toàn

Cân nhắc chính khi kết nối các mô hình của chúng tôi với trình thông dịch ngôn ngữ lập trình là thực hiện đúng cách trong hộp cát để mã do AI tạo ra không có tác dụng phụ ngoài ý muốn trong thế giới thực. Chúng tôi thực hiện mã trong môi trường an toàn và sử dụng các biện pháp kiểm soát mạng nghiêm ngặt để ngăn chặn truy cập internet bên ngoài từ mã được thực hiện. Ngoài ra, chúng tôi đã đặt giới hạn tài nguyên cho mỗi phiên. Việc vô hiệu hóa quyền truy cập internet sẽ hạn chế chức năng của hộp cát mã của chúng tôi, nhưng chúng tôi tin rằng đó là sự đánh đổi ban đầu đúng đắn. Các plugin của bên thứ ba được thiết kế như một phương pháp an toàn đầu tiên để kết nối các mô hình của chúng tôi với thế giới bên ngoài.

Lấy lại

Plugin truy xuất nguồn mở cho phép ChatGPT truy cập các nguồn thông tin cá nhân hoặc tổ chức (có sự cho phép). Nó cho phép người dùng lấy các đoạn trích tài liệu có liên quan nhất từ ​​các nguồn dữ liệu của họ, chẳng hạn như tệp, ghi chú, email hoặc tài liệu công khai, bằng cách đặt câu hỏi hoặc thể hiện nhu cầu bằng ngôn ngữ tự nhiên.

Là một giải pháp mã nguồn mở và tự lưu trữ, các nhà phát triển có thể triển khai phiên bản plugin của riêng họ và đăng ký nó với ChatGPT. Plugin tận dụng nhúng OpenAI(mở trong cửa sổ mới)và cho phép các nhà phát triển lựa chọn một cơ sở dữ liệu vector ( Milvus (mở trong cửa sổ mới), Quả thông(mở trong cửa sổ mới), Qdrant (mở trong cửa sổ mới), Đỏ (mở trong cửa sổ mới), Weaviate (mở trong cửa sổ mới)hoặc Zilliz (mở trong cửa sổ mới)) để lập chỉ mục và tìm kiếm tài liệu. Nguồn thông tin có thể được đồng bộ hóa với cơ sở dữ liệu bằng webhooks.

Xem thêm: mua tài khoản ChatGPT 4 chính hãng giá rẻ với nhiều ưu đãi đặc biệt