Thẻ hệ thống GPT-4o

GPT-4o là mô hình omni tự hồi quy, chấp nhận bất kỳ sự kết hợp nào của văn bản, âm thanh, hình ảnh và video làm đầu vào và tạo ra bất kỳ sự kết hợp nào của đầu ra văn bản, âm thanh và hình ảnh. Nó được đào tạo từ đầu đến cuối trên văn bản, hình ảnh và âm thanh, nghĩa là tất cả đầu vào và đầu ra đều được xử lý bởi cùng một mạng nơ-ron. 

GPT-4o có thể phản hồi đầu vào âm thanh chỉ trong vòng 232 mili giây, trung bình là 320 mili giây, tương tự như thời gian phản hồi của con người (mở trong cửa sổ mới) trong một cuộc trò chuyện. Nó phù hợp với hiệu suất GPT-4 Turbo trên văn bản bằng tiếng Anh và mã, với cải thiện đáng kể trên văn bản bằng các ngôn ngữ không phải tiếng Anh, đồng thời cũng nhanh hơn nhiều và rẻ hơn 50% trong API. GPT-4o đặc biệt tốt hơn về khả năng hiểu thị giác và âm thanh so với các mô hình hiện có.

Phù hợp với cam kết của chúng tôi về việc xây dựng AI một cách an toàn và nhất quán với các cam kết tự nguyện của chúng tôi đối với Nhà Trắng, Khung chuẩn bị của chúng tôi (mở trong cửa sổ mới) đánh giá. Trong Thẻ hệ thống này, chúng tôi cung cấp cái nhìn chi tiết về khả năng, hạn chế và đánh giá an toàn của GPT-4o trên nhiều danh mục, tập trung vào giọng nói thành giọng nói (giọng nói) đồng thời cũng đánh giá khả năng văn bản và hình ảnh, và các biện pháp chúng tôi đã thực hiện để tăng cường tính an toàn và sự liên kết. Chúng tôi cũng bao gồm các đánh giá của bên thứ ba về khả năng tự động nói chung, cũng như thảo luận về tác động xã hội tiềm tàng của khả năng văn bản và thị giác của GPT-4o.

Khả năng của GPT-4o được đào tạo trước bằng cách sử dụng dữ liệu tính đến tháng 10 năm 2023, có nguồn gốc từ nhiều loại vật liệu khác nhau bao gồm:

1. Chọn dữ liệu có sẵn công khai, chủ yếu được thu thập từ các tập dữ liệu học máy theo tiêu chuẩn công nghiệp và dữ liệu thu thập trên web.

2. Dữ liệu độc quyền từ quan hệ đối tác dữ liệu . Chúng tôi hình thành quan hệ đối tác để truy cập dữ liệu không công khai, chẳng hạn như nội dung có tường thu phí, lưu trữ và siêu dữ liệu. Ví dụ, chúng tôi hợp tác với Shutterstock (mở trong cửa sổ mới) về việc xây dựng và cung cấp hình ảnh do AI tạo ra. 

Các thành phần tập dữ liệu chính góp phần tạo nên khả năng của GPT-4o là:

1. Dữ liệu web – Dữ liệu từ các trang web công cộng cung cấp nhiều thông tin phong phú và đa dạng, đảm bảo mô hình có thể học hỏi từ nhiều góc nhìn và chủ đề khác nhau.

2. Mã và toán học – Việc đưa mã và dữ liệu toán học vào quá trình đào tạo giúp mô hình phát triển các kỹ năng lập luận mạnh mẽ bằng cách tiếp xúc với logic có cấu trúc và các quy trình giải quyết vấn đề.

3. Dữ liệu đa phương thức – Bộ dữ liệu của chúng tôi bao gồm hình ảnh, âm thanh và video để dạy cho các LLM cách diễn giải và tạo đầu vào và đầu ra không phải văn bản. Từ dữ liệu này, mô hình học cách diễn giải hình ảnh trực quan, hành động và trình tự trong bối cảnh thế giới thực, các mẫu ngôn ngữ và sắc thái lời nói.

Trước khi triển khai, OpenAI đánh giá và giảm thiểu các rủi ro tiềm ẩn có thể phát sinh từ các mô hình tạo sinh, chẳng hạn như gây hại thông tin, thiên vị và phân biệt đối xử hoặc nội dung khác vi phạm chính sách an toàn của chúng tôi. Chúng tôi sử dụng kết hợp các phương pháp, trải dài tất cả các giai đoạn phát triển trong quá trình đào tạo trước, sau đào tạo, phát triển sản phẩm và chính sách. Ví dụ, trong quá trình đào tạo sau, chúng tôi căn chỉnh mô hình theo sở thích của con người; chúng tôi lập nhóm đỏ các mô hình kết quả và thêm các biện pháp giảm thiểu ở cấp độ sản phẩm như giám sát và thực thi; và chúng tôi cung cấp các công cụ kiểm duyệt và báo cáo minh bạch cho người dùng của mình.

Chúng tôi thấy rằng phần lớn các thử nghiệm và biện pháp giảm thiểu hiệu quả được thực hiện sau giai đoạn tiền đào tạo vì việc lọc dữ liệu được đào tạo trước không thể giải quyết được các tác hại cụ thể theo ngữ cảnh và sắc thái. Đồng thời, một số biện pháp giảm thiểu lọc tiền đào tạo trước có thể cung cấp một lớp phòng thủ bổ sung, cùng với các biện pháp giảm thiểu an toàn khác, giúp loại trừ thông tin không mong muốn và có hại khỏi các tập dữ liệu của chúng tôi:

• Chúng tôi sử dụng API kiểm duyệt và trình phân loại an toàn để lọc ra dữ liệu có thể góp phần tạo ra nội dung có hại hoặc mối nguy hiểm về thông tin, bao gồm CSAM, nội dung thù địch, bạo lực và CBRN. 

• Giống như các hệ thống tạo hình ảnh trước đây, chúng tôi lọc các tập dữ liệu tạo hình ảnh để tìm nội dung nhạy cảm như tài liệu khiêu dâm và CSAM. 

• Chúng tôi sử dụng quy trình lọc dữ liệu tiên tiến để giảm thông tin cá nhân khỏi dữ liệu đào tạo. 

• Khi phát hành DALL·E 3, chúng tôi đã thử nghiệm một phương pháp mới để trao cho người dùng quyền từ chối hình ảnh khỏi quá trình đào tạo . Để tôn trọng những quyền từ chối đó, chúng tôi đã lấy dấu vân tay hình ảnh và sử dụng dấu vân tay để xóa tất cả các trường hợp hình ảnh khỏi tập dữ liệu đào tạo cho loạt mô hình GPT-4o.

Chuẩn bị triển khai được thực hiện thông qua việc khám phá các rủi ro mới lạ bổ sung thông qua nhóm chuyên gia, bắt đầu bằng các điểm kiểm tra ban đầu của mô hình trong khi đang phát triển, chuyển các rủi ro đã xác định thành các phép đo có cấu trúc và xây dựng các biện pháp giảm thiểu cho chúng. Chúng tôi cũng đã đánh giá GPT-4o theo Khung chuẩn bị của chúng tôi .

OpenAI đã làm việc với hơn 100 thành viên nhóm đỏ bên ngoài, nói tổng cộng 45 ngôn ngữ khác nhau và đại diện cho bối cảnh địa lý của 29 quốc gia khác nhau. Các thành viên nhóm đỏ đã có quyền truy cập vào nhiều ảnh chụp nhanh khác nhau của mô hình ở các giai đoạn khác nhau của quá trình đào tạo và mức độ trưởng thành giảm thiểu an toàn bắt đầu từ đầu tháng 3 và tiếp tục đến cuối tháng 6 năm 2024. 

Red teaming bên ngoài được thực hiện trong bốn giai đoạn. Ba giai đoạn đầu tiên đã thử nghiệm mô hình thông qua một công cụ nội bộ và giai đoạn cuối cùng sử dụng toàn bộ trải nghiệm iOS để thử nghiệm mô hình. Tại thời điểm viết bài, red teaming bên ngoài của API GPT-4o vẫn đang được tiến hành.

Ngoài dữ liệu từ nhóm đỏ, một loạt các tập dữ liệu đánh giá hiện có đã được chuyển đổi thành các đánh giá cho các mô hình giọng nói thành giọng nói bằng cách sử dụng các hệ thống văn bản thành giọng nói (TTS) như Voice Engine . Chúng tôi đã chuyển đổi các tác vụ đánh giá dựa trên văn bản thành các tác vụ đánh giá dựa trên âm thanh bằng cách chuyển đổi các đầu vào văn bản thành âm thanh. Điều này cho phép chúng tôi sử dụng lại các tập dữ liệu hiện có và các công cụ xung quanh việc đo lường khả năng của mô hình, hành vi an toàn và giám sát các đầu ra của mô hình, mở rộng đáng kể bộ các đánh giá có thể sử dụng của chúng tôi.

Chúng tôi đã sử dụng Voice Engine để chuyển đổi đầu vào văn bản thành âm thanh, đưa vào GPT-4o và chấm điểm đầu ra theo mô hình. Chúng tôi luôn chỉ chấm điểm nội dung văn bản của đầu ra mô hình, ngoại trừ trong trường hợp âm thanh cần được đánh giá trực tiếp (Xem Voice Generation ).

Đầu tiên, tính hợp lệ của định dạng đánh giá này phụ thuộc vào khả năng và độ tin cậy của mô hình TTS. Một số đầu vào văn bản không phù hợp hoặc khó chuyển đổi thành âm thanh; ví dụ: mã phương trình toán học. Ngoài ra, chúng tôi mong đợi TTS sẽ bị mất dữ liệu đối với một số đầu vào văn bản, chẳng hạn như văn bản sử dụng nhiều khoảng trắng hoặc ký hiệu để định dạng trực quan. Vì chúng tôi mong đợi rằng người dùng cũng không có khả năng cung cấp các đầu vào như vậy qua Chế độ giọng nói nâng cao, nên chúng tôi hoặc là tránh đánh giá mô hình chuyển giọng nói thành giọng nói trên các tác vụ như vậy hoặc là xử lý trước các ví dụ bằng các đầu vào như vậy. Tuy nhiên, chúng tôi nhấn mạnh rằng bất kỳ lỗi nào được xác định trong các đánh giá của chúng tôi có thể phát sinh do khả năng của mô hình hoặc do mô hình TTS không dịch chính xác các đầu vào văn bản thành âm thanh.

Xem thêm: mua tài khoản Chat GPT Plus chính hãng giá rẻ 

Rủi ro tiềm ẩn với mô hình đã được giảm thiểu bằng cách kết hợp nhiều phương pháp. Chúng tôi đã đào tạo mô hình để tuân thủ hành vi giúp giảm rủi ro thông qua các phương pháp sau đào tạo và cũng tích hợp các bộ phân loại để chặn các thế hệ cụ thể như một phần của hệ thống được triển khai. 

Đối với các thách thức về an toàn được quan sát nêu dưới đây, chúng tôi cung cấp mô tả về rủi ro, các biện pháp giảm thiểu được áp dụng và kết quả của các đánh giá có liên quan khi áp dụng. Các rủi ro được nêu dưới đây mang tính minh họa và không đầy đủ, và tập trung vào trải nghiệm trong giao diện ChatGPT. Trong phần này, chúng tôi tập trung vào các rủi ro do khả năng chuyển giọng nói thành giọng nói và cách chúng có thể tương tác với các phương thức đã có từ trước (văn bản, hình ảnh ).

Mô tả rủi ro: Tạo giọng nói là khả năng tạo ra âm thanh bằng giọng nói tổng hợp giống giọng người và bao gồm việc tạo ra giọng nói dựa trên một đoạn clip đầu vào ngắn. 

Trong các tình huống đối đầu, khả năng này có thể tạo điều kiện cho các tác hại như gia tăng gian lận do mạo danh và có thể được khai thác để phát tán thông tin sai lệch(ví dụ, nếu chúng tôi cho phép người dùng tải lên một đoạn âm thanh của một diễn giả nhất định và yêu cầu GPT-4o tạo ra bài phát biểu bằng giọng nói của diễn giả đó). Những điều này rất giống với các rủi ro mà chúng tôi đã xác định với Voice Engine.

Việc tạo giọng nói cũng có thể xảy ra trong những tình huống không đối đầu, chẳng hạn như khi chúng tôi sử dụng khả năng đó để tạo giọng nói cho chế độ giọng nói nâng cao của ChatGPT. Trong quá trình thử nghiệm, chúng tôi cũng quan sát thấy những trường hợp hiếm hoi mà mô hình vô tình tạo ra đầu ra mô phỏng giọng nói của người dùng.

Ví dụ về việc tạo ra giọng nói không chủ ý, người mẫu thốt lên "Không!" rồi bắt đầu tiếp tục câu bằng giọng nói có âm thanh tương tự như giọng của thành viên đội đỏ

Mô tả rủi ro: Nhận dạng người nói là khả năng nhận dạng người nói dựa trên âm thanh đầu vào. Điều này gây ra rủi ro tiềm ẩn về quyền riêng tư, đặc biệt là đối với cá nhân riêng tư cũng như đối với âm thanh không rõ ràng của cá nhân công khai, cùng với rủi ro giám sát tiềm ẩn.

Giảm thiểu rủi ro: Chúng tôi đã đào tạo sau GPT-4o để từ chối tuân thủ các yêu cầu xác định danh tính của một người dựa trên giọng nói trong đầu vào âm thanh. GPT-4o vẫn tuân thủ các yêu cầu xác định danh tính của những câu trích dẫn nổi tiếng. Ví dụ, yêu cầu xác định danh tính của một người ngẫu nhiên nói "bốn điểm bảy năm trước" sẽ xác định người nói là Abraham Lincoln, trong khi yêu cầu xác định danh tính của một người nổi tiếng nói một câu ngẫu nhiên sẽ bị từ chối.

Đánh giá:
So với mô hình ban đầu, chúng tôi thấy có sự cải thiện 14 điểm về thời điểm mô hình từ chối nhận dạng giọng nói trong đầu vào âm thanh và cải thiện 12 điểm về thời điểm mô hình tuân thủ yêu cầu đó. 

Điều trước đây có nghĩa là mô hình sẽ gần như luôn từ chối xác định đúng người nói dựa trên giọng nói của họ, giảm thiểu vấn đề riêng tư tiềm ẩn. Điều sau có nghĩa là có thể có những tình huống mà mô hình từ chối xác định sai người nói trong một câu trích dẫn nổi tiếng.

Mô tả rủi ro : Các mô hình có thể hoạt động khác nhau với người dùng nói giọng khác nhau. Hiệu suất khác nhau có thể dẫn đến sự khác biệt về chất lượng dịch vụ đối với những người dùng khác nhau của mô hình.

Giảm thiểu rủi ro : Chúng tôi đã đào tạo sau GPT-4o với nhiều giọng nói đầu vào khác nhau để hiệu suất và hành vi của mô hình không thay đổi đối với các giọng nói khác nhau của người dùng.

Đánh giá : Chúng tôi chạy các đánh giá trên GPT-4o Advanced Voice Mode bằng giọng nói trợ lý cố định (“shimmer”) và Voice Engine để tạo đầu vào của người dùng trên một loạt các mẫu giọng nói. Chúng tôi sử dụng hai bộ mẫu giọng nói cho TTS:

• Giọng nói hệ thống chính thức (3 giọng nói khác nhau)

• Một tập hợp đa dạng các giọng nói được thu thập từ hai chiến dịch dữ liệu. Bao gồm 27 mẫu giọng nói tiếng Anh khác nhau từ những người nói ở nhiều quốc gia khác nhau và sự kết hợp của nhiều giới tính.

Chúng tôi đánh giá trên hai bộ nhiệm vụ: Năng lực và Hành vi an toàn

Khả năng : Chúng tôi đánh giá trên bốn nhiệm vụ: TriviaQA, một tập hợp con của MMLU, HellaSwag và LAMBADA. TriviaQA và MMLU là các nhiệm vụ tập trung vào kiến ​​thức, trong khi HellaSwag và LAMBADA là các nhiệm vụ tập trung vào ý nghĩa thông thường hoặc tiếp tục văn bản. Nhìn chung, chúng tôi thấy rằng hiệu suất trên tập hợp đa dạng các giọng nói của con người thực hiện kém hơn một chút nhưng không đáng kể so với giọng nói hệ thống trên cả bốn nhiệm vụ.

Hành vi an toàn: Chúng tôi đánh giá trên một tập dữ liệu nội bộ về các cuộc hội thoại và đánh giá tính nhất quán của hành vi tuân thủ và từ chối của mô hình trên các giọng nói khác nhau của người dùng. Nhìn chung, chúng tôi không thấy rằng hành vi của mô hình khác nhau giữa các giọng nói khác nhau.

Mô tả rủi ro: Đầu vào âm thanh có thể dẫn đến việc mô hình đưa ra những suy luận có khả năng thiên vị về người nói. Chúng tôi định nghĩa hai loại:

• Suy luận không có căn cứ (UGI): đưa ra suy luận về người nói mà không thể xác định chỉ từ nội dung âm thanh. Điều này bao gồm suy luận về những thứ như chủng tộc, địa vị kinh tế xã hội/nghề nghiệp, tín ngưỡng tôn giáo, đặc điểm tính cách, thuộc tính chính trị, trí thông minh, ngoại hình (ví dụ, màu mắt, sức hấp dẫn), bản dạng giới tính, sở thích tình dục hoặc tiền sử phạm tội của người nói. Điều này có thể dẫn đến cả tác hại phân bổ và tác hại biểu thị, tùy thuộc vào cách hành vi đó biểu hiện.

• Quy kết đặc điểm nhạy cảm (STA): đưa ra suy luận về người nói mà có thể xác định được chỉ từ nội dung âm thanh. Điều này bao gồm suy luận về những thứ như giọng nói hoặc quốc tịch của người nói. Những tác hại tiềm ẩn từ STA bao gồm sự gia tăng rủi ro từ giám sát và sự khác biệt về chất lượng dịch vụ đối với những người nói có các thuộc tính giọng nói khác nhau.