Diễn đàn Frontier Model

Chúng tôi đang thành lập một cơ quan công nghiệp mới nhằm thúc đẩy sự phát triển an toàn và có trách nhiệm của các hệ thống AI tiên tiến: thúc đẩy nghiên cứu về an toàn AI, xác định các tiêu chuẩn và phương pháp hay nhất, đồng thời tạo điều kiện chia sẻ thông tin giữa các nhà hoạch định chính sách và ngành công nghiệp.

Sau đây là thông báo và nỗ lực chung của Anthropic, Google và Microsoft.

+ Anthropic, Google, Microsoft và OpenAI đang ra mắt Diễn đàn Mô hình Biên giới, một tổ chức trong ngành tập trung vào việc đảm bảo phát triển an toàn và có trách nhiệm các mô hình AI biên giới. 

+ Diễn đàn nhằm mục đích giúp (i) thúc đẩy nghiên cứu về an toàn AI để thúc đẩy phát triển có trách nhiệm các mô hình tiên tiến và giảm thiểu rủi ro tiềm ẩn, (ii) xác định các biện pháp an toàn tốt nhất cho các mô hình tiên tiến, (iii) chia sẻ kiến ​​thức với các nhà hoạch định chính sách, học giả, xã hội dân sự và những bên khác để thúc đẩy phát triển AI có trách nhiệm; và (iv) hỗ trợ các nỗ lực tận dụng AI để giải quyết những thách thức lớn nhất của xã hội.

+ Diễn đàn Mô hình Biên giới sẽ thành lập một Ban cố vấn để giúp định hướng chiến lược và các ưu tiên của mình.

+ Diễn đàn hoan nghênh sự tham gia của các tổ chức khác đang phát triển các mô hình AI tiên tiến, sẵn sàng hợp tác để phát triển các mô hình này một cách an toàn.

Hôm nay, Anthropic, Google, Microsoft và OpenAI thông báo thành lập Frontier Model Forum, một tổ chức công nghiệp mới tập trung vào việc đảm bảo phát triển an toàn và có trách nhiệm các mô hình AI biên giới. Frontier Model Forum sẽ tận dụng chuyên môn kỹ thuật và vận hành của các công ty thành viên để mang lại lợi ích cho toàn bộ hệ sinh thái AI, chẳng hạn như thông qua việc thúc đẩy các đánh giá và chuẩn mực kỹ thuật, và phát triển thư viện công cộng các giải pháp để hỗ trợ các tiêu chuẩn và thông lệ tốt nhất của ngành. 

• Tài khoản ChatGPT 4 chính hãng giá rẻ TẠI ĐÂY!

Mục tiêu cốt lõi của Diễn đàn là:

+ Thúc đẩy nghiên cứu về an toàn AI để thúc đẩy phát triển có trách nhiệm các mô hình tiên tiến, giảm thiểu rủi ro và cho phép đánh giá độc lập, tiêu chuẩn về năng lực và sự an toàn.

+ Xác định các biện pháp tốt nhất cho việc phát triển và triển khai có trách nhiệm các mô hình tiên tiến, giúp công chúng hiểu được bản chất, khả năng, hạn chế và tác động của công nghệ.

+ Hợp tác với các nhà hoạch định chính sách, học giả, xã hội dân sự và các công ty để chia sẻ kiến ​​thức về rủi ro về lòng tin và an toàn.

+ Hỗ trợ các nỗ lực phát triển các ứng dụng có thể giúp giải quyết những thách thức lớn nhất của xã hội, chẳng hạn như giảm thiểu và thích ứng với biến đổi khí hậu, phát hiện và phòng ngừa ung thư sớm, và chống lại các mối đe dọa mạng.

Diễn đàn định nghĩa các mô hình biên giới là các mô hình học máy quy mô lớn vượt quá khả năng hiện có của các mô hình tiên tiến nhất hiện có và có thể thực hiện nhiều loại nhiệm vụ khác nhau. 

Các tổ chức:

+ Phát triển và triển khai các mô hình biên giới (theo định nghĩa của Diễn đàn).

+ Thể hiện cam kết mạnh mẽ đối với mô hình an toàn tiên tiến, bao gồm thông qua các phương pháp tiếp cận về mặt kỹ thuật và thể chế.

+ Sẵn sàng đóng góp vào việc thúc đẩy các nỗ lực của Diễn đàn bao gồm tham gia vào các sáng kiến ​​chung và hỗ trợ sự phát triển và hoạt động của sáng kiến.

Diễn đàn hoan nghênh các tổ chức đáp ứng các tiêu chí này tham gia nỗ lực này và hợp tác để đảm bảo phát triển các mô hình AI tiên tiến một cách an toàn và có trách nhiệm.

Các chính phủ và ngành công nghiệp đồng ý rằng, trong khi AI hứa hẹn mang lại lợi ích to lớn cho thế giới, thì cần có các rào chắn phù hợp để giảm thiểu rủi ro. Những đóng góp quan trọng cho những nỗ lực này đã được thực hiện bởi chính phủ Hoa Kỳ và Vương quốc Anh, Liên minh Châu Âu, OECD, G7 (thông qua quy trình AI Hiroshima) và các bên khác. 

Để xây dựng trên những nỗ lực này, cần phải có thêm nhiều công việc về tiêu chuẩn an toàn và đánh giá để đảm bảo các mô hình AI tiên tiến được phát triển và triển khai một cách có trách nhiệm. Diễn đàn sẽ là một phương tiện cho các cuộc thảo luận và hành động liên tổ chức về an toàn và trách nhiệm của AI.  

Diễn đàn sẽ tập trung vào ba lĩnh vực chính trong năm tới để hỗ trợ sự phát triển an toàn và có trách nhiệm của các mô hình AI tiên tiến:

+ Xác định các thông lệ tốt nhất: Thúc đẩy chia sẻ kiến ​​thức và thông lệ tốt nhất giữa ngành, chính phủ, xã hội dân sự và học viện, tập trung vào các tiêu chuẩn an toàn và thông lệ an toàn để giảm thiểu nhiều rủi ro tiềm ẩn. 

+ Thúc đẩy nghiên cứu an toàn AI: Hỗ trợ hệ sinh thái an toàn AI bằng cách xác định các câu hỏi nghiên cứu mở quan trọng nhất về an toàn AI. Diễn đàn sẽ phối hợp nghiên cứu để thúc đẩy những nỗ lực này trong các lĩnh vực như tính mạnh mẽ đối nghịch, khả năng diễn giải cơ học, giám sát có thể mở rộng, quyền truy cập nghiên cứu độc lập, hành vi mới nổi và phát hiện bất thường. Ban đầu sẽ tập trung mạnh vào việc phát triển và chia sẻ thư viện công cộng về các đánh giá kỹ thuật và chuẩn mực cho các mô hình AI biên giới.

+ Tạo điều kiện chia sẻ thông tin giữa các công ty và chính phủ: Thiết lập các cơ chế đáng tin cậy, an toàn để chia sẻ thông tin giữa các công ty, chính phủ và các bên liên quan liên quan đến an toàn và rủi ro AI. Diễn đàn sẽ tuân theo các thông lệ tốt nhất trong việc tiết lộ có trách nhiệm từ các lĩnh vực như an ninh mạng.

Kent Walker, Chủ tịch, Bộ phận Quan hệ Toàn cầu, Google & Alphabet cho biết: "Chúng tôi rất vui mừng được hợp tác với các công ty hàng đầu khác, chia sẻ chuyên môn kỹ thuật để thúc đẩy đổi mới AI có trách nhiệm. Tất cả chúng ta sẽ cần phải hợp tác với nhau để đảm bảo AI mang lại lợi ích cho tất cả mọi người".

Brad Smith, Phó Chủ tịch kiêm Tổng giám đốc Microsoft cho biết : "Các công ty tạo ra công nghệ AI có trách nhiệm đảm bảo rằng công nghệ này an toàn, bảo mật và nằm trong tầm kiểm soát của con người. Sáng kiến ​​này là bước đi quan trọng để đưa ngành công nghệ lại với nhau trong việc thúc đẩy AI một cách có trách nhiệm và giải quyết các thách thức để AI mang lại lợi ích cho toàn thể nhân loại".

Anna Makanju, Phó chủ tịch phụ trách các vấn đề toàn cầu của OpenAI cho biết: “Các công nghệ AI tiên tiến có tiềm năng mang lại lợi ích sâu sắc cho xã hội và khả năng đạt được tiềm năng này đòi hỏi sự giám sát và quản lý. Điều quan trọng là các công ty AI, đặc biệt là những công ty đang làm việc trên các mô hình mạnh nhất, phải thống nhất trên nền tảng chung và thúc đẩy các biện pháp an toàn chu đáo và thích ứng để đảm bảo các công cụ AI mạnh mẽ có lợi ích rộng rãi nhất có thể. Đây là công việc cấp bách và diễn đàn này có vị thế tốt để hành động nhanh chóng nhằm thúc đẩy tình trạng an toàn của AI”. 

Dario Amodei, Tổng giám đốc điều hành Anthropic cho biết: “Anthropic tin rằng AI có tiềm năng thay đổi cơ bản cách thế giới vận hành. Chúng tôi rất vui mừng được hợp tác với ngành công nghiệp, xã hội dân sự, chính phủ và học viện để thúc đẩy sự phát triển an toàn và có trách nhiệm của công nghệ này. Frontier Model Forum sẽ đóng vai trò quan trọng trong việc phối hợp các hoạt động thực hành tốt nhất và chia sẻ nghiên cứu về an toàn AI tiên tiến”.

Trong những tháng tới, Diễn đàn Mô hình Biên giới sẽ thành lập một Ban cố vấn để giúp định hướng chiến lược và ưu tiên của mình, đại diện cho nhiều nền tảng và quan điểm khác nhau. 

Các công ty sáng lập cũng sẽ thiết lập các thỏa thuận thể chế quan trọng bao gồm điều lệ, quản trị và tài trợ với một nhóm làm việc và ban điều hành để lãnh đạo những nỗ lực này. Chúng tôi có kế hoạch tham vấn với xã hội dân sự và chính phủ trong những tuần tới về thiết kế Diễn đàn và về những cách thức hợp tác có ý nghĩa. 

Diễn đàn Mô hình Biên giới hoan nghênh cơ hội hỗ trợ và đưa vào các sáng kiến ​​hiện có của chính phủ và đa phương như quy trình Hiroshima của G7, công trình của OECD về rủi ro, tiêu chuẩn và tác động xã hội của AI, cũng như Hội đồng Thương mại và Công nghệ Hoa Kỳ-EU. 

Diễn đàn cũng sẽ tìm cách xây dựng dựa trên công trình có giá trị của ngành công nghiệp hiện tại, xã hội dân sự và các nỗ lực nghiên cứu trên mỗi luồng công việc của mình. Các sáng kiến ​​như Đối tác về AI và MLCommons tiếp tục có những đóng góp quan trọng cho cộng đồng AI và Diễn đàn sẽ khám phá những cách thức hợp tác và hỗ trợ những nỗ lực có giá trị của nhiều bên liên quan này.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ tại đây