Tìm hiểu về GPT-4, điểm khác biệt so với GPT 3.5

GPT-4 là một mô hình đa phương thức lớn (chấp nhận đầu vào hình ảnh và văn bản, phát ra đầu ra văn bản) mặc dù kém khả năng hơn con người trong nhiều tình huống thực tế, nhưng thể hiện hiệu suất ngang bằng con người trên nhiều chuẩn mực chuyên môn và học thuật khác nhau. Ví dụ, nó vượt qua kỳ thi luật sư mô phỏng với số điểm nằm trong khoảng 10% số người tham gia kỳ thi cao nhất; ngược lại, điểm số của GPT-3.5 nằm trong khoảng 10% thấp nhất. Chúng tôi đã dành 6 tháng để  liên kết  GPT-4 theo từng giai đoạn bằng cách sử dụng các bài học từ chương trình thử nghiệm đối nghịch của chúng tôi cũng như ChatGPT, dẫn đến kết quả tốt nhất từ ​​trước đến nay của chúng tôi (mặc dù còn lâu mới hoàn hảo) về tính thực tế, khả năng điều khiển và từ chối vượt ra ngoài các rào cản.

Trong hai năm qua, chúng tôi đã xây dựng lại toàn bộ ngăn xếp học sâu của mình và cùng với Azure đồng thiết kế một siêu máy tính từ đầu cho khối lượng công việc của chúng tôi. Một năm trước, chúng tôi đã đào tạo GPT-3.5 như một "lần chạy thử nghiệm" đầu tiên của hệ thống. Chúng tôi đã tìm thấy và sửa một số lỗi và cải thiện nền tảng lý thuyết của mình. Kết quả là, lần chạy đào tạo GPT-4 của chúng tôi (ít nhất là đối với chúng tôi!) đã ổn định chưa từng có, trở thành mô hình lớn đầu tiên của chúng tôi có hiệu suất đào tạo mà chúng tôi có thể dự đoán chính xác trước thời hạn. Khi chúng tôi tiếp tục tập trung vào khả năng mở rộng đáng tin cậy, chúng tôi đặt mục tiêu hoàn thiện phương pháp luận của mình để giúp chúng tôi dự đoán và chuẩn bị cho các khả năng trong tương lai ngày càng xa hơn—điều mà chúng tôi coi là quan trọng đối với sự an toàn.

Chúng tôi đang phát hành khả năng nhập văn bản của GPT-4 thông qua ChatGPT và API (có danh sách chờ ). Để chuẩn bị khả năng nhập hình ảnh cho tính khả dụng rộng rãi hơn, chúng tôi đang hợp tác chặt chẽ với một đối tác duy nhất(mở trong cửa sổ mới)để bắt đầu. Chúng tôi cũng đang mở nguồn OpenAI Evals(mở trong cửa sổ mới), khuôn khổ của chúng tôi để đánh giá tự động hiệu suất của mô hình AI, cho phép bất kỳ ai báo cáo những thiếu sót trong mô hình của chúng tôi để giúp hướng dẫn những cải tiến hơn nữa.

Trong một cuộc trò chuyện thông thường, sự khác biệt giữa GPT-3.5 và GPT-4 có thể rất tinh tế. Sự khác biệt xuất hiện khi độ phức tạp của tác vụ đạt đến ngưỡng đủ lớn—GPT-4 đáng tin cậy hơn, sáng tạo hơn và có thể xử lý các hướng dẫn phức tạp hơn nhiều so với GPT-3.5.

Để hiểu được sự khác biệt giữa hai mô hình, chúng tôi đã thử nghiệm trên nhiều chuẩn mực khác nhau, bao gồm cả việc mô phỏng các kỳ thi ban đầu được thiết kế cho con người. Chúng tôi tiến hành bằng cách sử dụng các bài kiểm tra công khai mới nhất (trong trường hợp của các kỳ thi Olympic và câu hỏi trả lời tự do AP) hoặc bằng cách mua các phiên bản kỳ thi thực hành năm 2022–2023. Chúng tôi không đào tạo cụ thể cho các kỳ thi này. Một số ít các vấn đề trong các kỳ thi đã được mô hình nhìn thấy trong quá trình đào tạo, nhưng chúng tôi tin rằng kết quả mang tính đại diện—xem báo cáo kỹ thuật của chúng tôi (mở trong cửa sổ mới) để biết thêm chi tiết. Tham chiếu nội bộ

Chúng tôi cũng đã đánh giá GPT-4 trên các chuẩn mực truyền thống được thiết kế cho các mô hình học máy. GPT-4 vượt trội hơn đáng kể so với các mô hình ngôn ngữ lớn hiện có, cùng với hầu hết các mô hình tiên tiến (SOTA) có thể bao gồm chế tạo chuẩn mực cụ thể hoặc các giao thức đào tạo bổ sung:

Nhiều chuẩn mực ML hiện có được viết bằng tiếng Anh. Để có được cảm nhận ban đầu về khả năng ở các ngôn ngữ khác, chúng tôi đã dịch chuẩn mực MMLU—một bộ gồm 14.000 bài toán trắc nghiệm trải dài trên 57 môn học—sang nhiều ngôn ngữ khác nhau bằng Azure Translate. Trong 24 trong số 26 ngôn ngữ được thử nghiệm, GPT-4 vượt trội hơn hiệu suất tiếng Anh của GPT-3.5 và các LLM khác (Chinchilla, PaLM), bao gồm cả đối với các ngôn ngữ có ít tài nguyên như tiếng Latvia, tiếng Wales và tiếng Swahili:

Chúng tôi cũng đã sử dụng GPT-4 nội bộ, có tác động lớn đến các chức năng như hỗ trợ, bán hàng, kiểm duyệt nội dung và lập trình. Chúng tôi cũng đang sử dụng nó để hỗ trợ con người đánh giá đầu ra của AI, bắt đầu giai đoạn thứ hai trong chiến lược liên kết của chúng tôi .

GPT-4 có thể chấp nhận lời nhắc bằng văn bản và hình ảnh, song song với thiết lập chỉ có văn bản, cho phép người dùng chỉ định bất kỳ nhiệm vụ thị giác hoặc ngôn ngữ nào. Cụ thể, nó tạo ra các đầu ra văn bản (ngôn ngữ tự nhiên, mã, v.v.) cho các đầu vào bao gồm văn bản và hình ảnh xen kẽ. Trên một loạt các miền, bao gồm các tài liệu có văn bản và ảnh, sơ đồ hoặc ảnh chụp màn hình, GPT-4 thể hiện các khả năng tương tự như trên các đầu vào chỉ có văn bản. Hơn nữa, nó có thể được tăng cường bằng các kỹ thuật thời gian kiểm tra được phát triển cho các mô hình ngôn ngữ chỉ có văn bản, bao gồm few-shot và chain-of-thought(mở trong cửa sổ mới)nhắc nhở. Đầu vào hình ảnh vẫn là bản xem trước nghiên cứu và không được công khai

Có gì buồn cười ở hình ảnh này? Hãy mô tả từng khung hình một.

 

Nguồn: hmmm (Reddit)

 

Sự hài hước trong hình ảnh này đến từ sự vô lý khi cắm một đầu nối VGA lớn, lỗi thời vào một cổng sạc điện thoại thông minh nhỏ, hiện đại.

Chúng tôi xem trước hiệu suất của GPT-4 bằng cách đánh giá nó trên một bộ tiêu chuẩn hẹp về tầm nhìn học thuật. Tuy nhiên, những con số này không thể hiện đầy đủ mức độ khả năng của nó vì chúng tôi liên tục khám phá ra những nhiệm vụ mới và thú vị mà mô hình có thể giải quyết. Chúng tôi có kế hoạch công bố thêm các phân tích và số liệu đánh giá cũng như điều tra kỹ lưỡng về tác động của các kỹ thuật thời gian thử nghiệm sớm.

chú thích bên trong

Chúng tôi đã làm việc trên từng khía cạnh của kế hoạch được nêu trong bài đăng của chúng tôi về việc xác định hành vi của AI , bao gồm khả năng điều khiển. Thay vì tính cách ChatGPT cổ điển với độ dài dòng, giọng điệu và phong cách cố định, các nhà phát triển (và người dùng ChatGPT sớm) hiện có thể chỉ định phong cách và nhiệm vụ của AI bằng cách mô tả các hướng đó trong thông báo "hệ thống". Thông báo hệ thống cho phép người dùng API tùy chỉnh đáng kể trải nghiệm của người dùng trong phạm vi giới hạn(mở trong cửa sổ mới). Chúng tôi sẽ tiếp tục cải tiến ở đây (và đặc biệt lưu ý rằng thông báo hệ thống là cách dễ nhất để "bẻ khóa" mô hình hiện tại, tức là việc tuân thủ các giới hạn không hoàn hảo), nhưng chúng tôi khuyến khích bạn dùng thử và cho chúng tôi biết suy nghĩ của bạn.

Mặc dù có khả năng như vậy, GPT-4 vẫn có những hạn chế tương tự như các mô hình GPT trước đó. Quan trọng nhất là nó vẫn chưa hoàn toàn đáng tin cậy (nó "ảo tưởng" các sự kiện và mắc lỗi lý luận). Cần hết sức cẩn thận khi sử dụng đầu ra của mô hình ngôn ngữ, đặc biệt là trong các bối cảnh có rủi ro cao, với giao thức chính xác (chẳng hạn như đánh giá của con người, dựa trên bối cảnh bổ sung hoặc tránh hoàn toàn các cách sử dụng có rủi ro cao) phù hợp với nhu cầu của một trường hợp sử dụng cụ thể.

Mặc dù vẫn là một vấn đề thực sự, GPT-4 làm giảm đáng kể ảo giác so với các mô hình trước đó (bản thân chúng đã được cải thiện qua mỗi lần lặp lại). GPT-4 đạt điểm cao hơn 40% so với GPT-3.5 mới nhất của chúng tôi trong các đánh giá thực tế đối nghịch nội bộ của chúng tôi:

Chúng tôi đã đạt được tiến bộ trong các chuẩn mực bên ngoài như TruthfulQA, kiểm tra khả năng của mô hình trong việc tách biệt sự thật khỏi một tập hợp các tuyên bố không chính xác được lựa chọn theo hướng đối nghịch. Những câu hỏi này được ghép nối với các câu trả lời không chính xác về mặt sự thật nhưng có sức hấp dẫn về mặt thống kê.

Mô hình cơ sở GPT-4 chỉ tốt hơn một chút so với GPT-3.5 trong nhiệm vụ này; tuy nhiên, sau khi đào tạo sau RLHF (áp dụng cùng quy trình mà chúng tôi đã sử dụng với GPT-3.5 ), có một khoảng cách lớn. Xem xét một số ví dụ dưới đây, GPT-4 chống lại việc chọn những câu nói phổ biến (bạn không thể dạy một con chó già những trò mới), tuy nhiên nó vẫn có thể bỏ qua những chi tiết tinh tế (Elvis Presley không phải là con trai của một diễn viên).

Xem thêm: mua tài khoản Chat GPT Plus chính hãng giá rẻ 

Mô hình có thể có nhiều sai lệch trong kết quả đầu ra của nó—chúng tôi đã đạt được tiến bộ về những điều này nhưng vẫn còn nhiều việc phải làm. Theo bài đăng trên blog gần đây của chúng tôi , chúng tôi đặt mục tiêu tạo ra các hệ thống AI mà chúng tôi xây dựng có các hành vi mặc định hợp lý phản ánh nhiều giá trị của người dùng, cho phép các hệ thống đó được tùy chỉnh trong phạm vi rộng và nhận được ý kiến ​​đóng góp của công chúng về những gì các giới hạn đó nên là.

GPT-4 thường không biết về các sự kiện đã xảy ra sau khi phần lớn dữ liệu của nó bị cắt (tháng 9 năm 2021) và không học hỏi từ kinh nghiệm của mình. Đôi khi, nó có thể mắc lỗi suy luận đơn giản mà dường như không phù hợp với năng lực trên nhiều miền hoặc quá cả tin khi chấp nhận các tuyên bố sai rõ ràng từ người dùng. Và đôi khi, nó có thể thất bại trong các vấn đề khó giống như con người, chẳng hạn như đưa lỗ hổng bảo mật vào mã mà nó tạo ra.

GPT-4 cũng có thể tự tin sai trong các dự đoán của mình, không cẩn thận kiểm tra lại công việc khi có khả năng mắc lỗi. Điều thú vị là mô hình được đào tạo trước cơ sở được hiệu chuẩn cao (mức độ tin cậy dự đoán của nó trong một câu trả lời thường khớp với xác suất đúng). Tuy nhiên, thông qua quy trình đào tạo sau hiện tại của chúng tôi, hiệu chuẩn được giảm xuống.

Chúng tôi đã lặp lại GPT-4 để làm cho nó an toàn hơn và phù hợp hơn ngay từ đầu quá trình đào tạo, với những nỗ lực bao gồm lựa chọn và lọc dữ liệu trước khi đào tạo, đánh giá và thu hút sự tham gia của chuyên gia, cải thiện tính an toàn của mô hình, cũng như giám sát và thực thi.

GPT-4 đặt ra những rủi ro tương tự như các mô hình trước đó, chẳng hạn như tạo ra lời khuyên có hại, mã lỗi hoặc thông tin không chính xác. Tuy nhiên, các khả năng bổ sung của GPT-4 dẫn đến các bề mặt rủi ro mới. Để hiểu mức độ của những rủi ro này, chúng tôi đã thuê hơn 50 chuyên gia từ các lĩnh vực như rủi ro căn chỉnh AI, an ninh mạng, rủi ro sinh học, sự tin cậy và an toàn, và an ninh quốc tế để thử nghiệm mô hình theo cách đối đầu. Những phát hiện của họ cho phép chúng tôi kiểm tra hành vi của mô hình trong các lĩnh vực có rủi ro cao, đòi hỏi chuyên môn để đánh giá. Phản hồi và dữ liệu từ các chuyên gia này đã đưa vào các biện pháp giảm thiểu và cải tiến của chúng tôi cho mô hình; ví dụ, chúng tôi đã thu thập thêm dữ liệu để cải thiện khả năng từ chối các yêu cầu về cách tổng hợp các hóa chất nguy hiểm của GPT-4.

GPT-4 kết hợp tín hiệu phần thưởng an toàn bổ sung trong quá trình đào tạo RLHF để giảm các đầu ra có hại (như được định nghĩa trong hướng dẫn sử dụng của chúng tôi(mở trong cửa sổ mới)) bằng cách đào tạo mô hình để từ chối các yêu cầu cho nội dung như vậy. Phần thưởng được cung cấp bởi bộ phân loại GPT-4 zero-shot đánh giá ranh giới an toàn và phong cách hoàn thành trên các lời nhắc liên quan đến an toàn. Để ngăn mô hình từ chối các yêu cầu hợp lệ, chúng tôi thu thập một tập dữ liệu đa dạng từ nhiều nguồn khác nhau (ví dụ: dữ liệu sản xuất được gắn nhãn, nhóm đỏ của con người, lời nhắc do mô hình tạo ra) và áp dụng tín hiệu phần thưởng an toàn (có giá trị dương hoặc âm) cho cả các danh mục được phép và không được phép. 

Các biện pháp giảm thiểu của chúng tôi đã cải thiện đáng kể nhiều thuộc tính an toàn của GPT-4 so với GPT-3.5. Chúng tôi đã giảm 82% xu hướng phản hồi các yêu cầu về nội dung không được phép của mô hình so với GPT-3.5 và GPT-4 phản hồi các yêu cầu nhạy cảm (ví dụ: tư vấn y tế và tự gây thương tích) theo chính sách của chúng tôi thường xuyên hơn 29%.

Nhìn chung, các can thiệp ở cấp độ mô hình của chúng tôi làm tăng độ khó trong việc khơi gợi hành vi xấu nhưng vẫn có thể thực hiện được. Ngoài ra, vẫn còn tồn tại các "bẻ khóa" để tạo ra nội dung vi phạm các nguyên tắc sử dụng của chúng tôi . Khi "rủi ro trên mỗi mã thông báo" của các hệ thống AI tăng lên, việc đạt được mức độ tin cậy cực cao trong các can thiệp này sẽ trở nên quan trọng; hiện tại, điều quan trọng là phải bổ sung những hạn chế này bằng các kỹ thuật an toàn trong thời gian triển khai như giám sát để phát hiện hành vi lạm dụng.

GPT-4 và các mô hình kế thừa có khả năng ảnh hưởng đáng kể đến xã hội theo cả hướng có lợi và có hại. Chúng tôi đang hợp tác với các nhà nghiên cứu bên ngoài để cải thiện cách chúng tôi hiểu và đánh giá các tác động tiềm ẩn, cũng như xây dựng các đánh giá về các khả năng nguy hiểm có thể xuất hiện trong các hệ thống trong tương lai. Chúng tôi sẽ sớm chia sẻ thêm suy nghĩ của mình về các tác động xã hội và kinh tế tiềm ẩn của GPT-4 và các hệ thống AI khác.

Giống như các mô hình GPT trước đây, mô hình cơ sở GPT-4 được đào tạo để dự đoán từ tiếp theo trong một tài liệu và được đào tạo bằng dữ liệu có sẵn công khai (chẳng hạn như dữ liệu internet) cũng như dữ liệu chúng tôi đã cấp phép. Dữ liệu là một tập hợp dữ liệu quy mô web bao gồm các giải pháp đúng và sai cho các bài toán, lý luận yếu và mạnh, các tuyên bố tự mâu thuẫn và nhất quán, và đại diện cho nhiều hệ tư tưởng và ý tưởng khác nhau.

Vì vậy, khi được hỏi, mô hình cơ sở có thể phản hồi theo nhiều cách khác nhau, có thể không theo ý định của người dùng. Để phù hợp với ý định của người dùng trong phạm vi bảo vệ, chúng tôi tinh chỉnh hành vi của mô hình bằng cách sử dụng học tăng cường với phản hồi của con người ( RLHF ).

Lưu ý rằng khả năng của mô hình có vẻ chủ yếu đến từ quá trình đào tạo trước—RLHF không cải thiện hiệu suất thi (nếu không có nỗ lực chủ động, nó thực sự làm giảm hiệu suất). Nhưng việc điều khiển mô hình đến từ quá trình đào tạo sau—mô hình cơ sở yêu cầu kỹ thuật nhanh chóng để biết rằng nó phải trả lời các câu hỏi.

Trọng tâm lớn của dự án GPT-4 là xây dựng một ngăn xếp học sâu có khả năng mở rộng theo dự đoán. Lý do chính là, đối với các đợt đào tạo rất lớn như GPT-4, không khả thi khi thực hiện điều chỉnh mô hình cụ thể mở rộng. Chúng tôi đã phát triển cơ sở hạ tầng và tối ưu hóa có hành vi rất có thể dự đoán được trên nhiều quy mô. Để xác minh khả năng mở rộng này, chúng tôi đã dự đoán chính xác trước mức mất mát cuối cùng của GPT-4 trên cơ sở mã nội bộ của chúng tôi (không phải là một phần của bộ đào tạo) bằng cách ngoại suy từ các mô hình được đào tạo bằng cùng một phương pháp nhưng sử dụng ít hơn 10.000 lần tính toán:

Bây giờ chúng ta có thể dự đoán chính xác số liệu mà chúng ta tối ưu hóa trong quá trình đào tạo (mất mát), chúng ta đang bắt đầu phát triển phương pháp luận để dự đoán các số liệu dễ hiểu hơn. Ví dụ, chúng ta đã dự đoán thành công tỷ lệ vượt qua trên một tập hợp con của HumanEval(mở trong cửa sổ mới)tập dữ liệu, ngoại suy từ các mô hình có khả năng tính toán ít hơn 1.000 lần:

Một số khả năng vẫn khó dự đoán. Ví dụ, Giải thưởng Inverse Scaling là một cuộc thi tìm ra một số liệu trở nên tệ hơn khi tính toán mô hình tăng lên và bỏ qua sự việc đã xảy ra(mở trong cửa sổ mới)là một trong những người chiến thắng. Giống như với một kết quả gần đây khác,(mở trong cửa sổ mới)GPT-4 đảo ngược xu hướng:

Chúng tôi tin rằng việc dự đoán chính xác khả năng học máy trong tương lai là một phần quan trọng của an toàn nhưng lại không nhận được đủ sự chú ý so với tác động tiềm tàng của nó (mặc dù chúng tôi đã được khuyến khích bởi những nỗ lực trên nhiều tổ chức). Chúng tôi đang mở rộng quy mô nỗ lực của mình để phát triển các phương pháp cung cấp cho xã hội hướng dẫn tốt hơn về những gì mong đợi từ các hệ thống trong tương lai và chúng tôi hy vọng đây sẽ trở thành mục tiêu chung trong lĩnh vực này.

Chúng tôi đang mở mã nguồn OpenAI Evals(mở trong cửa sổ mới), khuôn khổ phần mềm của chúng tôi để tạo và chạy các chuẩn mực đánh giá các mô hình như GPT-4, đồng thời kiểm tra hiệu suất của chúng theo từng mẫu. Chúng tôi sử dụng Evals để hướng dẫn phát triển các mô hình của mình (cả việc xác định các thiếu sót và ngăn ngừa sự thoái triển), và người dùng của chúng tôi có thể áp dụng nó để theo dõi hiệu suất trên các phiên bản mô hình (hiện sẽ được phát hành thường xuyên) và phát triển các tích hợp sản phẩm. Ví dụ, Stripe đã sử dụng Evals để bổ sung cho các đánh giá của con người nhằm đo độ chính xác của công cụ tài liệu hỗ trợ GPT của họ.

Vì mã nguồn mở nên Evals hỗ trợ viết các lớp mới để triển khai logic đánh giá tùy chỉnh(mở trong cửa sổ mới). Tuy nhiên, theo kinh nghiệm của chúng tôi, nhiều chuẩn mực tuân theo một trong số ít “mẫu”, vì vậy chúng tôi cũng đã đưa vào các mẫu(mở trong cửa sổ mới)hữu ích nhất trong nội bộ (bao gồm một mẫu cho "đánh giá được phân loại theo mô hình"—chúng tôi thấy rằng GPT-4 có khả năng kiểm tra công việc của chính nó một cách đáng ngạc nhiên). Nhìn chung, cách hiệu quả nhất để xây dựng một đánh giá mới(mở trong cửa sổ mới)sẽ là khởi tạo một trong những mẫu này cùng với việc cung cấp dữ liệu. Chúng tôi rất mong chờ xem những người khác có thể xây dựng những gì với các mẫu này và với Evals nói chung.

Chúng tôi hy vọng Evals sẽ trở thành phương tiện để chia sẻ và huy động cộng đồng đánh giá chuẩn, đại diện cho một tập hợp rộng nhất các chế độ lỗi và nhiệm vụ khó khăn. Để làm ví dụ, chúng tôi đã tạo ra một câu đố logic(mở trong cửa sổ mới)eval có chứa mười lời nhắc mà GPT-4 không thành công. Evals cũng tương thích với việc triển khai các chuẩn mực hiện có; chúng tôi đã bao gồm một số máy tính xách tay(mở trong cửa sổ mới)thực hiện các chuẩn mực học thuật và một vài biến thể của việc tích hợp (các tập hợp con nhỏ của) CoQA(mở trong cửa sổ mới)như một ví dụ.

Chúng tôi mời mọi người sử dụng Evals để kiểm tra các mô hình của chúng tôi và gửi các ví dụ thú vị nhất. Chúng tôi tin rằng Evals sẽ là một phần không thể thiếu của quá trình sử dụng và xây dựng trên các mô hình của chúng tôi và chúng tôi hoan nghênh các đóng góp trực tiếp, câu hỏi và phản hồi(mở trong cửa sổ mới).

Người đăng ký ChatGPT Plus sẽ được quyền truy cập GPT-4 trên chatgpt.com(mở trong cửa sổ mới)với giới hạn sử dụng. Chúng tôi sẽ điều chỉnh giới hạn sử dụng chính xác tùy thuộc vào nhu cầu và hiệu suất hệ thống trong thực tế, nhưng chúng tôi dự kiến ​​sẽ bị hạn chế nghiêm trọng về năng lực (mặc dù chúng tôi sẽ mở rộng quy mô và tối ưu hóa trong những tháng tới).

Tùy thuộc vào các mẫu lưu lượng truy cập mà chúng tôi thấy, chúng tôi có thể giới thiệu mức đăng ký mới cho việc sử dụng GPT-4 với khối lượng lớn hơn; chúng tôi cũng hy vọng tại một thời điểm nào đó có thể cung cấp một số lượng truy vấn GPT-4 miễn phí để những người không đăng ký cũng có thể dùng thử.

Để có quyền truy cập vào API GPT-4 (sử dụng cùng API ChatCompletions(mở trong cửa sổ mới)như gpt-3.5-turbo), vui lòng đăng ký danh sách chờ của chúng tôi . Chúng tôi sẽ bắt đầu mời một số nhà phát triển ngay hôm nay và mở rộng dần dần để cân bằng năng lực với nhu cầu. Nếu bạn là nhà nghiên cứu đang nghiên cứu tác động xã hội của AI hoặc các vấn đề liên kết AI, bạn cũng có thể nộp đơn xin trợ cấp quyền truy cập thông qua Chương trình truy cập dành cho nhà nghiên cứu của chúng tôi .

Sau khi bạn có quyền truy cập, bạn có thể thực hiện các yêu cầu chỉ có văn bản tới mô hình gpt-4 (đầu vào hình ảnh vẫn còn trong giai đoạn alpha hạn chế), chúng tôi sẽ tự động cập nhật lên mô hình ổn định được đề xuất của mình khi chúng tôi tạo ra các phiên bản mới theo thời gian (bạn có thể ghim phiên bản hiện tại bằng cách gọi gpt-4-0314, chúng tôi sẽ hỗ trợ cho đến ngày 14 tháng 6). Giá là 0,03 đô la cho mỗi 1.000 mã thông báo nhắc nhở và 0,06 đô la cho mỗi 1.000 mã thông báo hoàn thành. Giới hạn tỷ lệ mặc định là 40.000 mã thông báo mỗi phút và 200 yêu cầu mỗi phút.

gpt-4 có độ dài ngữ cảnh là 8.192 mã thông báo. Chúng tôi cũng cung cấp quyền truy cập hạn chế vào phiên bản 32.768 ngữ cảnh (khoảng 50 trang văn bản) của chúng tôi, gpt-4-32k, phiên bản này cũng sẽ được tự động cập nhật theo thời gian (phiên bản hiện tại gpt-4-32k-0314, cũng được hỗ trợ cho đến ngày 14 tháng 6). Giá là 0,06 đô la cho mỗi 1.000 mã thông báo nhắc nhở và 0,12 đô la cho mỗi 1.000 mã thông báo hoàn thành. Chúng tôi vẫn đang cải thiện chất lượng mô hình cho ngữ cảnh dài và rất mong nhận được phản hồi về hiệu suất của mô hình đối với trường hợp sử dụng của bạn. Chúng tôi đang xử lý các yêu cầu cho các công cụ 8K và 32K ở các mức giá khác nhau dựa trên dung lượng, vì vậy bạn có thể nhận được quyền truy cập vào chúng vào các thời điểm khác nhau.

Chúng tôi mong muốn GPT-4 trở thành một công cụ có giá trị trong việc cải thiện cuộc sống của mọi người bằng cách cung cấp năng lượng cho nhiều ứng dụng. Vẫn còn rất nhiều việc phải làm và chúng tôi mong muốn cải thiện mô hình này thông qua những nỗ lực chung của cộng đồng xây dựng, khám phá và đóng góp cho mô hình.