Tài trợ nhanh cho Superalignment

Chúng tôi đang triển khai khoản tài trợ 10 triệu đô la để hỗ trợ nghiên cứu kỹ thuật hướng đến sự liên kết và an toàn của các hệ thống AI siêu phàm, bao gồm khả năng khái quát hóa từ yếu đến mạnh, khả năng diễn giải, giám sát có thể mở rộng quy mô, v.v.

Chúng tôi tin rằng siêu trí tuệ có thể xuất hiện trong vòng 10 năm tới. Các hệ thống AI này sẽ có khả năng to lớn—chúng có thể cực kỳ có lợi, nhưng cũng có khả năng gây ra rủi ro lớn.

• Tài khoản ChatGPT 4 TẠI ĐÂY với nhiều ưu đãi đặc biệt

Ngày nay, chúng ta sắp xếp các hệ thống AI để đảm bảo chúng an toàn bằng cách sử dụng học tăng cường từ phản hồi của con người (RLHF). Tuy nhiên, việc sắp xếp các hệ thống AI siêu phàm trong tương lai sẽ đặt ra những thách thức kỹ thuật mới về cơ bản và khác biệt về mặt chất lượng. 

Các hệ thống AI siêu phàm sẽ có khả năng thực hiện các hành vi phức tạp và sáng tạo mà con người không thể hiểu hết. Ví dụ, nếu một mô hình siêu phàm tạo ra một triệu dòng mã cực kỳ phức tạp, con người sẽ không thể đánh giá một cách đáng tin cậy liệu mã đó có an toàn hay nguy hiểm để thực thi hay không. Các kỹ thuật căn chỉnh hiện có như RLHF dựa vào sự giám sát của con người có thể không còn đủ nữa. Điều này dẫn đến thách thức cơ bản: làm thế nào con người có thể điều khiển và tin tưởng các hệ thống AI thông minh hơn nhiều so với họ? 

Đây là một trong những vấn đề kỹ thuật quan trọng nhất chưa được giải quyết trên thế giới. Nhưng chúng tôi nghĩ rằng có thể giải quyết được bằng nỗ lực chung. Có nhiều cách tiếp cận đầy hứa hẹn và hướng đi thú vị, với nhiều thành quả dễ đạt được. Chúng tôi nghĩ rằng có một cơ hội to lớn cho cộng đồng nghiên cứu ML và các nhà nghiên cứu cá nhân để đạt được tiến bộ lớn về vấn đề này ngày nay. 

Là một phần của dự án Siêu liên kết , chúng tôi muốn tập hợp những nhà nghiên cứu và kỹ sư giỏi nhất trên thế giới để đáp ứng thách thức này—và chúng tôi đặc biệt vui mừng khi đưa những người mới vào lĩnh vực này.

Hợp tác với Eric Schmidt, chúng tôi đang triển khai chương trình tài trợ trị giá 10 triệu đô la để hỗ trợ nghiên cứu kỹ thuật nhằm đảm bảo các hệ thống AI siêu phàm được sắp xếp hợp lý và an toàn:

+ Chúng tôi cung cấp các khoản tài trợ từ 100.000 đến 2 triệu đô la cho các phòng thí nghiệm học thuật, tổ chức phi lợi nhuận và các nhà nghiên cứu cá nhân.

+ Đối với sinh viên sau đại học, chúng tôi tài trợ Học bổng OpenAI Superalignment trị giá 150.000 đô la trong một năm : 75.000 đô la tiền trợ cấp