Giới thiệu những cải tiến cho API tinh chỉnh và mở rộng chương trình mô hình tùy chỉnh của chúng tôi

Có nhiều kỹ thuật khác nhau (mở trong cửa sổ mới)mà các nhà phát triển có thể sử dụng để tăng hiệu suất mô hình nhằm giảm độ trễ, cải thiện độ chính xác và giảm chi phí. Cho dù đó là mở rộng kiến thức mô hình với thế hệ tăng cường truy xuất (RAG), tùy chỉnh hành vi của mô hình bằng cách tinh chỉnh hay xây dựng mô hình được đào tạo tùy chỉnh với kiến thức mới dành riêng cho từng miền, chúng tôi đã phát triển một loạt các tùy chọn để hỗ trợ triển khai AI của khách hàng. Hôm nay, chúng tôi đang ra mắt các tính năng mới để cung cấp cho các nhà phát triển nhiều quyền kiểm soát hơn đối với việc tinh chỉnh bằng API và giới thiệu nhiều cách hơn để làm việc với nhóm chuyên gia và nhà nghiên cứu AI của chúng tôi để xây dựng các mô hình tùy chỉnh.

Chúng tôi đã ra mắt API tinh chỉnh tự phục vụ (mở trong cửa sổ mới) cho GPT-3.5 vào tháng 8 năm 2023. Kể từ đó, hàng nghìn tổ chức đã đào tạo hàng trăm nghìn mô hình bằng API của chúng tôi. Tinh chỉnh có thể giúp các mô hình hiểu sâu sắc nội dung và tăng cường kiến thức và khả năng hiện có của mô hình cho một nhiệm vụ cụ thể. API tinh chỉnh của chúng tôi cũng hỗ trợ khối lượng ví dụ lớn hơn có thể phù hợp với một lời nhắc duy nhất để đạt được kết quả chất lượng cao hơn trong khi giảm chi phí và độ trễ. Một số trường hợp sử dụng phổ biến của tinh chỉnh bao gồm đào tạo mô hình để tạo mã tốt hơn trong một ngôn ngữ lập trình cụ thể, để tóm tắt văn bản theo định dạng cụ thể hoặc để tạo nội dung được cá nhân hóa dựa trên hành vi của người dùng.

Ví dụ, Thật vậy(mở trong cửa sổ mới), một nền tảng tuyển dụng và kết nối việc làm toàn cầu, muốn đơn giản hóa quy trình tuyển dụng. Là một phần của điều này, Indeed đã ra mắt một tính năng gửi các đề xuất được cá nhân hóa cho người tìm việc, làm nổi bật các công việc có liên quan dựa trên kỹ năng, kinh nghiệm và sở thích của họ. Họ đã tinh chỉnh GPT-3.5 Turbo để tạo ra các giải thích chất lượng cao hơn và chính xác hơn. Kết quả là, Indeed đã có thể cải thiện chi phí và độ trễ bằng cách giảm số lượng mã thông báo trong lời nhắc xuống 80%. Điều này cho phép họ mở rộng quy mô từ dưới một triệu tin nhắn cho người tìm việc mỗi tháng lên khoảng 20 triệu.

Hôm nay, chúng tôi giới thiệu các tính năng mới (mở trong cửa sổ mới)để cung cấp cho các nhà phát triển quyền kiểm soát nhiều hơn đối với công việc tinh chỉnh của họ, bao gồm:

+ Tạo điểm kiểm tra dựa trên kỷ nguyên: Tự động tạo một điểm kiểm tra mô hình được tinh chỉnh đầy đủ trong mỗi kỷ nguyên đào tạo, giúp giảm nhu cầu đào tạo lại sau đó, đặc biệt là trong trường hợp quá khớp

+ Sân chơi so sánh : Giao diện người dùng Sân chơi cạnh nhau mới để so sánh chất lượng và hiệu suất của mô hình, cho phép con người đánh giá đầu ra của nhiều mô hình hoặc tinh chỉnh ảnh chụp nhanh so với một lời nhắc duy nhất

+ Tích hợp của bên thứ ba: Hỗ trợ tích hợp với các nền tảng của bên thứ ba (bắt đầu với Weights và Biases (mở trong cửa sổ mới)tuần này) để cho phép các nhà phát triển chia sẻ dữ liệu tinh chỉnh chi tiết với phần còn lại của ngăn xếp của họ

+ Số liệu xác thực toàn diện : Khả năng tính toán các số liệu như mất mát và độ chính xác trên toàn bộ tập dữ liệu xác thực thay vì một lô mẫu, cung cấp thông tin chi tiết tốt hơn về chất lượng mô hình

+ Cấu hình siêu tham số : Khả năng cấu hình các siêu tham số có sẵn từ Bảng điều khiển (mở trong cửa sổ mới)(thay vì chỉ thông qua API hoặc SDK)

+ Cải tiến Bảng điều khiển tinh chỉnh : Bao gồm khả năng cấu hình siêu tham số, xem số liệu đào tạo chi tiết hơn và chạy lại các tác vụ từ cấu hình trước đó

Mở rộng Chương trình Mô hình Tùy chỉnh của chúng tôi

Hỗ trợ tinh chỉnh

Tại DevDay vào tháng 11 năm ngoái, chúng tôi đã công bố chương trình Custom Model được thiết kế để đào tạo và tối ưu hóa các mô hình cho một miền cụ thể, hợp tác với một nhóm các nhà nghiên cứu OpenAI tận tụy. Kể từ đó, chúng tôi đã gặp hàng chục khách hàng để đánh giá nhu cầu mô hình tùy chỉnh của họ và phát triển chương trình của mình để tối đa hóa hiệu suất hơn nữa.

Hôm nay, chúng tôi chính thức công bố dịch vụ tinh chỉnh được hỗ trợ của mình như một phần của chương trình Mô hình tùy chỉnh. Tinh chỉnh được hỗ trợ là nỗ lực hợp tác với các nhóm kỹ thuật của chúng tôi để tận dụng các kỹ thuật vượt ra ngoài API tinh chỉnh, chẳng hạn như các siêu tham số bổ sung và nhiều phương pháp tinh chỉnh hiệu quả tham số (PEFT) khác nhau ở quy mô lớn hơn. Nó đặc biệt hữu ích cho các tổ chức cần hỗ trợ thiết lập đường ống dữ liệu đào tạo hiệu quả, hệ thống đánh giá và các tham số và phương pháp tùy chỉnh để tối đa hóa hiệu suất mô hình cho trường hợp sử dụng hoặc nhiệm vụ của họ.

Ví dụ, SK Telecom (mở trong cửa sổ mới), một nhà khai thác viễn thông phục vụ hơn 30 triệu thuê bao tại Hàn Quốc, muốn tùy chỉnh một mô hình để trở thành chuyên gia trong lĩnh vực viễn thông với trọng tâm ban đầu là dịch vụ khách hàng. Họ đã làm việc với OpenAI để tinh chỉnh GPT-4 nhằm cải thiện hiệu suất của nó trong các cuộc trò chuyện liên quan đến viễn thông bằng tiếng Hàn. Trong nhiều tuần, SKT và OpenAI đã thúc đẩy cải thiện hiệu suất có ý nghĩa trong các tác vụ dịch vụ khách hàng viễn thông—tăng 35% về chất lượng tóm tắt cuộc trò chuyện, tăng 33% về độ chính xác nhận dạng ý định và tăng điểm hài lòng từ 3,6 lên 4,5 (trên 5) khi so sánh mô hình tinh chỉnh với tài khoản GPT-4.

Mô hình được đào tạo tùy chỉnh

Trong một số trường hợp, các tổ chức cần đào tạo một mô hình được xây dựng có mục đích từ đầu để hiểu được doanh nghiệp, ngành hoặc lĩnh vực của họ. Các mô hình được đào tạo hoàn toàn tùy chỉnh truyền tải kiến thức mới từ một lĩnh vực cụ thể bằng cách sửa đổi các bước chính của quy trình đào tạo mô hình bằng các kỹ thuật giữa và sau đào tạo mới lạ. Các tổ chức thấy được thành công với một mô hình được đào tạo hoàn toàn tùy chỉnh thường có lượng lớn dữ liệu độc quyền—hàng triệu ví dụ hoặc hàng tỷ mã thông báo—mà họ muốn sử dụng để dạy cho mô hình kiến thức mới hoặc các hành vi phức tạp, độc đáo cho các trường hợp sử dụng rất cụ thể.

Ví dụ, Harvey (mở trong cửa sổ mới), một công cụ pháp lý gốc AI dành cho luật sư, đã hợp tác với OpenAI để tạo ra một mô hình ngôn ngữ lớn được đào tạo tùy chỉnh cho luật lệ . Mặc dù các mô hình nền tảng rất mạnh về lý luận, nhưng chúng lại thiếu kiến thức sâu rộng về lịch sử vụ án pháp lý và các kiến thức khác cần thiết cho công việc pháp lý. Sau khi thử nghiệm kỹ thuật nhanh chóng, RAG và tinh chỉnh, Harvey đã làm việc với nhóm của chúng tôi để thêm chiều sâu ngữ cảnh cần thiết vào mô hình—tương đương với dữ liệu trị giá 10 tỷ token. Nhóm của chúng tôi đã sửa đổi mọi bước của quy trình đào tạo mô hình, từ đào tạo giữa chừng theo từng lĩnh vực cụ thể đến tùy chỉnh các quy trình sau đào tạo và kết hợp phản hồi của luật sư chuyên gia. Mô hình kết quả đạt được mức tăng 83% trong các phản hồi thực tế và các luật sư thích kết quả đầu ra của mô hình tùy chỉnh 97% thời gian hơn GPT-4.