zalo
Chat ngay

Tinh chỉnh GPT-3.5 Turbo và cập nhật API

Các nhà phát triển hiện có thể sử dụng dữ liệu của riêng mình để tùy chỉnh GPT-3.5 Turbo cho các trường hợp sử dụng của họ

Tinh chỉnh cho GPT-3.5 Turbo hiện đã khả dụng, với tinh chỉnh cho tài khoản Chat GPT-4 sẽ ra mắt vào mùa thu năm nay. Bản cập nhật này cung cấp cho các nhà phát triển khả năng tùy chỉnh các mô hình hoạt động tốt hơn cho các trường hợp sử dụng của họ và chạy các mô hình tùy chỉnh này ở quy mô lớn. Các thử nghiệm ban đầu đã chỉ ra rằng phiên bản tinh chỉnh của GPT-3.5 Turbo có thể phù hợp hoặc thậm chí vượt trội hơn các khả năng cơ bản của GPT-4 ở một số tác vụ hẹp nhất định. Cũng như tất cả các API của chúng tôi, dữ liệu được gửi vào và ra khỏi API tinh chỉnh thuộc sở hữu của khách hàng và không được OpenAI hoặc bất kỳ tổ chức nào khác sử dụng để đào tạo các mô hình khác.

Tinh chỉnh các trường hợp sử dụng

Kể từ khi phát hành GPT-3.5 Turbo, các nhà phát triển và doanh nghiệp đã yêu cầu khả năng tùy chỉnh mô hình để tạo ra trải nghiệm độc đáo và khác biệt cho người dùng của họ. Với lần ra mắt này, các nhà phát triển hiện có thể chạy tinh chỉnh có giám sát để làm cho mô hình này hoạt động tốt hơn cho các trường hợp sử dụng của họ.

Trong phiên bản beta riêng tư của chúng tôi, khách hàng tinh chỉnh đã có thể cải thiện đáng kể hiệu suất mô hình trong các trường hợp sử dụng phổ biến, chẳng hạn như:

+ Cải thiện khả năng điều khiển : Tinh chỉnh cho phép các doanh nghiệp làm cho mô hình tuân theo hướng dẫn tốt hơn, chẳng hạn như làm cho đầu ra ngắn gọn hoặc luôn phản hồi bằng một ngôn ngữ nhất định. Ví dụ, các nhà phát triển có thể sử dụng tinh chỉnh để đảm bảo rằng mô hình luôn phản hồi bằng tiếng Đức khi được nhắc sử dụng ngôn ngữ đó.

+ Định dạng đầu ra đáng tin cậy: Tinh chỉnh cải thiện khả năng định dạng phản hồi nhất quán của mô hình—một khía cạnh quan trọng đối với các ứng dụng yêu cầu định dạng phản hồi cụ thể, chẳng hạn như hoàn thành mã hoặc soạn lệnh gọi API. Nhà phát triển có thể sử dụng tinh chỉnh để chuyển đổi lời nhắc của người dùng thành các đoạn mã JSON chất lượng cao một cách đáng tin cậy hơn, có thể sử dụng với hệ thống của riêng họ.

+ Tông màu tùy chỉnh: Tinh chỉnh là một cách tuyệt vời để mài giũa cảm nhận định tính của đầu ra mô hình, chẳng hạn như tông màu của nó, để phù hợp hơn với giọng điệu của các thương hiệu doanh nghiệp. Một doanh nghiệp có giọng điệu thương hiệu dễ nhận biết có thể sử dụng tinh chỉnh cho mô hình để phù hợp hơn với tông màu của họ.

Ngoài việc tăng hiệu suất, tinh chỉnh cũng cho phép các doanh nghiệp rút ngắn lời nhắc của họ trong khi vẫn đảm bảo hiệu suất tương tự. Tinh chỉnh với GPT-3.5-Turbo cũng có thể xử lý 4k token—gấp đôi các mô hình tinh chỉnh trước đây của chúng tôi. Những người thử nghiệm ban đầu đã giảm kích thước lời nhắc tới 90% bằng cách tinh chỉnh các hướng dẫn vào chính mô hình, tăng tốc mỗi lệnh gọi API và cắt giảm chi phí.

Sự tinh chỉnh sẽ hiệu quả nhất khi kết hợp với các kỹ thuật khác (mở trong cửa sổ mới) chẳng hạn như kỹ thuật nhanh chóng, truy xuất thông tin và gọi hàm. Kiểm tra hướng dẫn tinh chỉnh của chúng tôi (mở trong cửa sổ mới) để tìm hiểu thêm. Hỗ trợ tinh chỉnh bằng cách gọi hàm và gpt-3.5-turbo-16ksẽ ra mắt vào cuối mùa thu này.

Sự an toàn

Đối với chúng tôi, việc triển khai tinh chỉnh phải an toàn. Để bảo toàn các tính năng an toàn của mô hình mặc định thông qua quy trình tinh chỉnh, dữ liệu đào tạo tinh chỉnh được truyền qua API điều độ của chúng tôi và hệ thống điều độ được hỗ trợ bởi GPT-4 để phát hiện dữ liệu đào tạo không an toàn xung đột với các tiêu chuẩn an toàn của chúng tôi.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ!

Giá cả

Chi phí tinh chỉnh được chia thành hai nhóm: chi phí đào tạo ban đầu và chi phí sử dụng:

+ Đào tạo: $0,008 / 1K Token

+ Đầu vào sử dụng: $0,012 / 1K Token

+ Đầu ra sử dụng: $0,016 / 1K Token

Ví dụ, một gpt-3.5-turbocông việc tinh chỉnh với tệp đào tạo gồm 100.000 mã thông báo được đào tạo trong 3 kỷ nguyên sẽ có chi phí dự kiến ​​là 2,40 đô la.

Các mô hình GPT-3 được cập nhật

Vào tháng 7, chúng tôi đã thông báo rằng các mô hình cơ sở GPT-3 ban đầu ( adababbagecurie, và davinci) sẽ bị tắt vào ngày 4 tháng 1 năm 2024. Ngày nay, chúng tôi đang sản xuất babbage-002và davinci-002cung cấp các mô hình thay thế cho các mô hình này, dưới dạng mô hình cơ sở hoặc mô hình được tinh chỉnh. Khách hàng có thể truy cập các mô hình đó bằng cách truy vấn API Hoàn thành (mở trong cửa sổ mới).

Các mô hình này có thể được tinh chỉnh bằng điểm cuối API mới của chúng tôi /v1/fine_tuning/jobs. Điểm cuối mới này cung cấp tính năng phân trang và khả năng mở rộng hơn để hỗ trợ sự phát triển trong tương lai của API tinh chỉnh. Việc chuyển đổi từ điểm cuối này sang điểm cuối được cập nhật rất đơn giản và bạn có thể tìm thấy thêm thông tin chi tiết trong hướng dẫn tinh chỉnh/v1/fine-tunes mới của chúng tôi (mở trong cửa sổ mới). Điều này sẽ loại bỏ điểm cuối cũ  /v1/fine-tunesvà sẽ bị tắt vào ngày 4 tháng 1 năm 2024.

Giá cho các mẫu GPT-3 cơ bản và được tinh chỉnh như sau:

Mô hình cơ sở
Các mô hình tinh chỉnh
Người mẫu
Mã thông báo đầu vào
Mã thông báo đầu ra
Đào tạo
Mã thông báo đầu vào
Mã thông báo đầu ra
babbage-002
0,0004 đô la  / 1 nghìn token
0,0004 đô la  / 1 nghìn token
0,0004 đô la  / 1 nghìn token
0,0016 đô la  / 1 nghìn token
0,0016 đô la  / 1 nghìn token
davinci-002
0,002 đô la  / 1 nghìn token
0,002 đô la  / 1 nghìn token
0,006 đô la  /1 nghìn token
0,012 đô la  /1 nghìn token
0,012 đô la  /1 nghìn token
Hot Deal

Họ tên (*)

Số điện thoại (*)

Email (*)

Dịch vụ

Đăng ký để nhận bản tin mới nhất !