Các mô hình nhúng mới và cập nhật API

text-embedding-3-smalllà mô hình nhúng hiệu quả cao mới của chúng tôi và mang đến bản nâng cấp đáng kể so với mô hình tiền nhiệm, mô text-embedding-ada-002hình được phát hành vào tháng 12 năm 2022 . 

Hiệu suất mạnh hơn. So text-embedding-ada-002với text-embedding-3-small, điểm trung bình trên chuẩn mực thường dùng cho việc truy xuất đa ngôn ngữ ( MIRACL (mở trong cửa sổ mới)) đã tăng từ 31,4% lên 44,0%, trong khi điểm trung bình trên chuẩn mực thường dùng cho các nhiệm vụ tiếng Anh ( MTEB (mở trong cửa sổ mới)) đã tăng từ 61,0% lên 62,3%.

Giá giảm. cũng hiệu quả hơn đáng kể so với mô hình thế hệ trước của chúng tôi. Do đó, giá cho đã giảm 5X so với , từ giá cho mỗi 1k token là 0,0001 đô la xuống còn 0,00002 đô la. text-embedding-3-smalltext-embedding-ada-002text-embedding-3-smalltext-embedding-ada-002

Chúng tôi không loại bỏ sản phẩm cũ text-embedding-ada-002, vì vậy mặc dù chúng tôi khuyến nghị sử dụng mẫu mới hơn, khách hàng vẫn có thể tiếp tục sử dụng mẫu thế hệ trước.

Một mô hình nhúng văn bản lớn mới:text-embedding-3-large

text-embedding-3-largelà mô hình nhúng lớn hơn thế hệ tiếp theo của chúng tôi và tạo ra các nhúng có kích thước lên tới 3072.

Hiệu suất mạnh hơn. là mô hình hiệu suất tốt nhất mới của chúng tôi. So sánh với : trên MIRACL, điểm trung bình đã tăng từ 31,4% lên 54,9%, trong khi trên MTEB, điểm trung bình đã tăng từ 61,0% lên 64,6%. text-embedding-3-largetext-embedding-ada-002text-embedding-3-large

text-embedding-3-largesẽ có giá là $0,00013/1k token.

Bạn có thể tìm hiểu thêm về cách sử dụng các mô hình nhúng mới trong hướng dẫn Nhúng của chúng tôi (mở trong cửa sổ mới).

Sử dụng các nhúng lớn hơn, ví dụ như lưu trữ chúng trong kho lưu trữ vector để truy xuất, thường tốn kém hơn và tiêu tốn nhiều tài nguyên tính toán, bộ nhớ và dung lượng lưu trữ hơn so với sử dụng các nhúng nhỏ hơn.

Cả hai mô hình nhúng mới của chúng tôi đều được đào tạo bằng kỹ thuật cho phép các nhà phát triển cân bằng hiệu suất và chi phí sử dụng nhúng. Cụ thể, các nhà phát triển có thể rút ngắn nhúng (tức là xóa một số số khỏi cuối chuỗi) mà không làm mất các thuộc tính biểu diễn khái niệm của nhúng bằng cách truyền tham dimensionssố API. Ví dụ, trên chuẩn MTEB, một text-embedding-3-largenhúng có thể được rút ngắn xuống kích thước 256 trong khi vẫn vượt trội hơn một text-embedding-ada-002nhúng không rút ngắn có kích thước 1536.

Điều này cho phép sử dụng rất linh hoạt. Ví dụ, khi sử dụng kho dữ liệu vector chỉ hỗ trợ nhúng có chiều dài lên đến 1024 chiều, các nhà phát triển hiện vẫn có thể sử dụng mô hình nhúng tốt nhất của chúng tôi text-embedding-3-largevà chỉ định giá trị 1024 cho dimensionstham số API, điều này sẽ rút ngắn nhúng xuống từ 3072 chiều, đánh đổi một số độ chính xác để đổi lấy kích thước vector nhỏ hơn.

Tuần tới, chúng tôi sẽ giới thiệu một mẫu GPT-3.5 Turbo mới, gpt-3.5-turbo-0125và lần thứ ba trong năm qua, chúng tôi sẽ giảm giá GPT-3.5 Turbo để giúp khách hàng mở rộng quy mô. Giá đầu vào cho mẫu mới được giảm 50% xuống còn 0,0005 đô la/1.000 token và giá đầu ra được giảm 25% xuống còn 0,0015 đô la/1.000 token. Mẫu này cũng sẽ có nhiều cải tiến khác nhau bao gồm độ chính xác cao hơn khi phản hồi ở các định dạng được yêu cầu và bản sửa lỗi (mở trong cửa sổ mới)gây ra sự cố mã hóa văn bản cho các lệnh gọi hàm không phải ngôn ngữ tiếng Anh.

Khách hàng sử dụng gpt-3.5-turbobí danh mô hình chưa ghim sẽ được tự động nâng cấp từ 1 gpt-3.5-turbo-0613 đến gpt-3.5-turbo-01252 tuần sau khi mô hình này ra mắt.

Hơn 70% yêu cầu từ khách hàng API tài khoản Chat GPT-4 đã chuyển sang GPT-4 Turbo kể từ khi phiên bản này được phát hành, vì các nhà phát triển tận dụng lợi thế của ngưỡng kiến ​​thức được cập nhật, cửa sổ ngữ cảnh 128k lớn hơn và giá thấp hơn. 

Hôm nay, chúng tôi phát hành bản cập nhật mô hình xem trước GPT-4 Turbo gpt-4-0125-preview. Mô hình này hoàn thành các tác vụ như tạo mã kỹ lưỡng hơn so với mô hình xem trước trước đó và nhằm mục đích giảm các trường hợp "lười biếng" khi mô hình không hoàn thành tác vụ. Mô hình mới cũng bao gồm bản sửa lỗi cho lỗi ảnh hưởng đến các thế hệ UTF-8 không phải tiếng Anh.

Đối với những ai muốn được tự động nâng cấp lên phiên bản xem trước GPT-4 Turbo mới, chúng tôi cũng giới thiệu một gpt-4-turbo-previewbí danh tên model mới, luôn trỏ đến model xem trước GPT-4 Turbo mới nhất của chúng tôi. 

Chúng tôi có kế hoạch ra mắt GPT-4 Turbo với tầm nhìn trở nên phổ biến rộng rãi trong những tháng tới.

API Kiểm duyệt miễn phí cho phép các nhà phát triển xác định văn bản có khả năng gây hại. Là một phần trong công tác an toàn đang diễn ra, chúng tôi đang phát hành text-moderation-007, mô hình kiểm duyệt mạnh mẽ nhất của chúng tôi cho đến nay. Các bí danh text-moderation-latestvà text-moderation-stableđã được cập nhật để trỏ đến nó. Bạn có thể tìm hiểu thêm về việc xây dựng các hệ thống AI an toàn thông qua hướng dẫn về các biện pháp thực hành an toàn tốt nhất của chúng tôi (mở trong cửa sổ mới).

Chúng tôi đang triển khai hai cải tiến nền tảng để cung cấp cho các nhà phát triển khả năng hiển thị tốt hơn về cách sử dụng và quyền kiểm soát đối với khóa API.

Đầu tiên, các nhà phát triển hiện có thể chỉ định quyền cho khóa API từ trang khóa API (mở trong cửa sổ mới). Ví dụ, một khóa có thể được chỉ định quyền truy cập chỉ đọc để cấp nguồn cho bảng điều khiển theo dõi nội bộ hoặc bị hạn chế chỉ truy cập vào một số điểm cuối nhất định.

Thứ hai, bảng điều khiển sử dụng và chức năng xuất dữ liệu sử dụng hiện hiển thị số liệu ở cấp độ khóa API sau khi bật theo dõi (mở trong cửa sổ mới). Điều này giúp dễ dàng xem mức sử dụng theo từng tính năng, nhóm, sản phẩm hoặc dự án chỉ bằng cách có khóa API riêng cho từng tính năng, nhóm, sản phẩm hoặc dự án.

Trong những tháng tới, chúng tôi có kế hoạch cải thiện hơn nữa khả năng cho phép các nhà phát triển xem mức sử dụng API và quản lý khóa API, đặc biệt là trong các tổ chức lớn hơn.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ!