Giới thiệu API cho GPT-3.5 Turbo và Whisper

Mô hình : Họ mô hình ChatGPT mà chúng tôi phát hành hôm nay, gpt-3.5-turbo, là mô hình tương tự được sử dụng trong sản phẩm ChatGPT. Nó có giá 0,002 đô la cho 1k token, rẻ hơn 10 lần so với các mô hình GPT-3.5 hiện tại của chúng tôi. Đây cũng là mô hình tốt nhất của chúng tôi cho nhiều trường hợp sử dụng không phải trò chuyện—chúng tôi đã thấy những người thử nghiệm ban đầu di chuyển từ text-davinci-003đến gpt-3.5-turbochỉ cần một lượng nhỏ điều chỉnh cho lời nhắc của họ.

API : Theo truyền thống, các mô hình GPT sử dụng văn bản phi cấu trúc, được biểu diễn cho mô hình dưới dạng một chuỗi "mã thông báo". Thay vào đó, các mô hình ChatGPT sử dụng một chuỗi các thông báo cùng với siêu dữ liệu. (Đối với những ai tò mò: bên trong, dữ liệu đầu vào vẫn được hiển thị cho mô hình dưới dạng một chuỗi "mã thông báo" để mô hình sử dụng; định dạng thô mà mô hình sử dụng là một định dạng mới có tên là Ngôn ngữ đánh dấu trò chuyện (mở trong cửa sổ mới) (“ChatML”).)

Chúng tôi đã tạo một điểm cuối mới để tương tác với các mô hình ChatGPT của chúng tôi:

Chúng tôi liên tục cải thiện các mô hình ChatGPT của mình và muốn cung cấp những cải tiến này cho cả các nhà phát triển. Các nhà phát triển sử dụng mô gpt-3.5-turbohình sẽ luôn nhận được mô hình ổn định được chúng tôi đề xuất, đồng thời vẫn có sự linh hoạt để lựa chọn phiên bản mô hình cụ thể. Ví dụ, hôm nay chúng tôi đang phát hành gpt-3.5-turbo-0301, sẽ được hỗ trợ ít nhất đến ngày 1 tháng 6 và chúng tôi sẽ cập nhật gpt-3.5-turbolên bản phát hành ổn định mới vào tháng 4. Trang mô hình (mở trong cửa sổ mới) sẽ cung cấp thông tin cập nhật chuyển đổi.

Chúng tôi hiện cũng cung cấp các phiên bản chuyên dụng cho người dùng muốn kiểm soát sâu hơn đối với phiên bản mô hình cụ thể và hiệu suất hệ thống. Theo mặc định, các yêu cầu được chạy trên cơ sở hạ tầng tính toán được chia sẻ với những người dùng khác, những người trả tiền cho mỗi yêu cầu. API của chúng tôi chạy trên Azure và với các phiên bản chuyên dụng, các nhà phát triển sẽ trả tiền theo khoảng thời gian cho một phân bổ cơ sở hạ tầng tính toán được dành riêng để phục vụ các yêu cầu của họ.

Các nhà phát triển có toàn quyền kiểm soát tải của phiên bản (tải cao hơn sẽ cải thiện thông lượng nhưng làm cho mỗi yêu cầu chậm hơn), tùy chọn bật các tính năng như giới hạn ngữ cảnh dài hơn và khả năng ghim ảnh chụp nhanh mô hình.

Các phiên bản chuyên dụng có thể có ý nghĩa kinh tế đối với các nhà phát triển chạy hơn ~450M token mỗi ngày. Ngoài ra, nó cho phép tối ưu hóa trực tiếp khối lượng công việc của nhà phát triển so với hiệu suất phần cứng, có thể giảm đáng kể chi phí so với cơ sở hạ tầng dùng chung. Đối với các yêu cầu về phiên bản chuyên dụng, hãy liên hệ với chúng tôi .

Whisper , mô hình chuyển giọng nói thành văn bản mà chúng tôi đã mã nguồn mở vào tháng 9 năm 2022, đã nhận được lời khen ngợi to lớn từ cộng đồng nhà phát triển nhưng cũng có thể khó chạy. Hiện chúng tôi đã cung cấp mô hình large-v2 thông qua API của mình, cung cấp quyền truy cập theo yêu cầu thuận tiện với mức giá 0,006 đô la/phút. Ngoài ra, ngăn xếp phục vụ được tối ưu hóa cao của chúng tôi đảm bảo hiệu suất nhanh hơn so với các dịch vụ khác.

Whisper API có sẵn thông qua các điểm cuối transcriptions(phiên âm sang ngôn ngữ nguồn) hoặc translations(phiên âm sang tiếng Anh) của chúng tôi và chấp nhận nhiều định dạng khác nhau (m4a, mp3, mp4, mpeg, mpga, wav, webm):

Để tìm hiểu thêm về Whisper API, hãy truy cập hướng dẫn Chuyển giọng nói thành văn bản của chúng tôi  (mở trong cửa sổ mới).

Trong sáu tháng qua, chúng tôi đã thu thập phản hồi từ khách hàng API của mình để hiểu cách chúng tôi có thể phục vụ họ tốt hơn. Chúng tôi đã thực hiện những thay đổi cụ thể, chẳng hạn như:

+ Dữ liệu được gửi qua API không còn được sử dụng để cải thiện dịch vụ (bao gồm đào tạo mô hình) trừ khi tổ chức lựa chọn tham gia

+ Triển khai chính sách lưu giữ dữ liệu mặc định trong 30 ngày cho người dùng API, với các tùy chọn lưu giữ chặt chẽ hơn tùy thuộc vào nhu cầu của người dùng.

+ Xóa bỏ đánh giá trước khi ra mắt của chúng tôi (mở khóa bằng cách cải thiện giám sát tự động của chúng tôi)

+ Cải thiện tài liệu dành cho nhà phát triển

+ Đơn giản hóa Điều khoản dịch vụ và Chính sách sử dụng của chúng tôi (mở trong cửa sổ mới), bao gồm các điều khoản xung quanh quyền sở hữu dữ liệu: người dùng sở hữu đầu vào và đầu ra của các mô hình.

+ Trong hai tháng qua, thời gian hoạt động của chúng tôi không đáp ứng được kỳ vọng của chúng tôi cũng như của người dùng. Ưu tiên hàng đầu của nhóm kỹ thuật của chúng tôi hiện là tính ổn định của các trường hợp sử dụng sản xuất—chúng tôi biết rằng việc đảm bảo AI mang lại lợi ích cho toàn thể nhân loại đòi hỏi phải là một nhà cung cấp dịch vụ đáng tin cậy. Hãy yêu cầu chúng tôi chịu trách nhiệm cải thiện thời gian hoạt động trong những tháng tới!

Chúng tôi tin rằng AI có thể mang lại những cơ hội tuyệt vời và trao quyền kinh tế cho mọi người, và cách tốt nhất để đạt được điều đó là cho phép mọi người xây dựng với AI. Chúng tôi hy vọng rằng những thay đổi mà chúng tôi công bố hôm nay sẽ dẫn đến nhiều ứng dụng mà mọi người đều có thể hưởng lợi. Bắt đầu xây dựng các ứng dụng thế hệ tiếp theo được hỗ trợ bởi ChatGPT & Whisper.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ với nhiều ưu đãi đặc biệt