Tái thiết cơ sở hạ tầng an toàn cho AI tiên tiến

Việc bảo mật các hệ thống AI tiên tiến sẽ đòi hỏi sự phát triển về bảo mật cơ sở hạ tầng. Chúng tôi chia sẻ sáu biện pháp bảo mật mà chúng tôi tin rằng sẽ bổ sung cho các biện pháp kiểm soát bảo mật hiện nay và góp phần bảo vệ AI tiên tiến.

Sứ mệnh của OpenAI là đảm bảo rằng AI tiên tiến mang lại lợi ích cho tất cả mọi người, từ các nhà cung cấp dịch vụ chăm sóc sức khỏe đến các nhà khoa học, nhà giáo dục - và thậm chí là các kỹ sư an ninh mạng. Công việc đó bắt đầu bằng việc xây dựng các hệ thống AI an toàn, đáng tin cậy để bảo vệ công nghệ cơ bản khỏi những kẻ tìm cách phá hoại nó.

AI là công nghệ chiến lược và được săn đón nhất trong thời đại của chúng ta. Nó được các tác nhân đe dọa mạng tinh vi theo đuổi với mục tiêu chiến lược. Tại OpenAI, chúng tôi bảo vệ chống lại các mối đe dọa này mỗi ngày. Chúng tôi dự kiến ​​các mối đe dọa này sẽ ngày càng gia tăng về cường độ khi AI tiếp tục tăng tầm quan trọng về mặt chiến lược.

Bảo vệ trọng số mô hình là ưu tiên quan trọng đối với nhiều nhà phát triển AI. Trọng số mô hình là đầu ra của quá trình đào tạo mô hình. Đào tạo mô hình kết hợp ba thành phần thiết yếu: thuật toán phức tạp, bộ dữ liệu đào tạo được quản lý và lượng lớn tài nguyên điện toán. Trọng số mô hình kết quả là chuỗi số được lưu trữ trong một tệp hoặc một loạt tệp. Các nhà phát triển AI có thể muốn bảo vệ các tệp này vì chúng thể hiện sức mạnh và tiềm năng của các thuật toán, dữ liệu đào tạo và tài nguyên điện toán đã đưa vào chúng.

Vì hầu hết tiện ích xã hội của trọng số mô hình đều bắt nguồn từ việc sử dụng trực tuyến, nên để tận dụng được lợi ích của chúng, cần phải có tính khả dụng trực tuyến của chúng:

+ Để cung cấp năng lượng cho các công cụ như ChatGPT và OpenAI API Platform, người dùng phải có khả năng gửi yêu cầu API đến cơ sở hạ tầng lưu trữ trọng số mô hình. Trong khi lưu trữ trọng số mô hình cho phép bất kỳ ai có kết nối Internet khai thác sức mạnh của AI, thì nó cũng là mục tiêu cho tin tặc.

+ Để phát triển các mô hình AI mới, trọng số mô hình phải được triển khai vào cơ sở hạ tầng nghiên cứu để các nhà nghiên cứu có thể thực hiện đào tạo mô hình. Mặc dù điều này cho phép khám phá các ranh giới khoa học mới, cơ sở hạ tầng nghiên cứu và thông tin xác thực cung cấp quyền truy cập vào nó cũng đại diện cho bề mặt tấn công tiềm ẩn.

• Tài khoản ChatGTP 4 TẠI ĐÂY!

Yêu cầu về tính khả dụng trực tuyến này là yếu tố phân biệt thách thức trong việc bảo vệ trọng số mô hình với thách thức trong việc bảo vệ các tài sản phần mềm có giá trị cao khác.

Trọng số mô hình chỉ là các tệp phải được giải mã và triển khai để sử dụng và nếu cơ sở hạ tầng và hoạt động cung cấp tính khả dụng của chúng bị xâm phạm thì trọng số mô hình có khả năng bị đánh cắp. Các biện pháp kiểm soát bảo mật thông thường như giám sát bảo mật mạng và kiểm soát truy cập có thể cho phép phòng thủ mạnh mẽ, tuy nhiên cần có các phương pháp tiếp cận mới để tối đa hóa khả năng bảo vệ trong khi vẫn đảm bảo tính khả dụng.

Chúng tôi tin rằng việc bảo vệ các hệ thống AI tiên tiến sẽ đòi hỏi sự phát triển của cơ sở hạ tầng an toàn. Tương tự như cách sự ra đời của ô tô đòi hỏi những phát triển mới về an toàn hoặc sự ra đời của Internet đòi hỏi những ranh giới mới về an ninh, AI tiên tiến cũng sẽ đòi hỏi những đổi mới.

An ninh là một môn thể thao đồng đội và cách tiếp cận tốt nhất là thông qua sự hợp tác và minh bạch. Chương trình an ninh của chúng tôi đã tìm cách thể hiện nguyên tắc này thông qua các cam kết an ninh tự nguyện được cung cấp cho Nhà Trắng, quan hệ đối tác nghiên cứu thông qua Chương trình tài trợ an ninh mạng , tham gia vào các sáng kiến ​​của ngành như Sáng kiến ​​an toàn AI của Liên minh an ninh đám mây và tính minh bạch thông qua việc tuân thủ và kiểm toán của bên thứ ba và Khung chuẩn bị của chúng tôi. Hiện nay, chúng tôi tìm cách phát triển các cơ chế bảo mật hướng tới tương lai cho các hệ thống AI tiên tiến thông qua sự hợp tác liên tục với ngành công nghiệp, cộng đồng nghiên cứu và chính phủ.

Với tinh thần làm việc chung và trách nhiệm chung gắn kết tất cả các nhóm bảo mật, hôm nay chúng tôi chia sẻ sáu biện pháp bảo mật cho cơ sở hạ tầng AI tiên tiến . Các biện pháp này nhằm bổ sung cho các biện pháp thực hành an ninh mạng tốt nhất hiện có và xây dựng dựa trên các biện pháp kiểm soát hiện tại để bảo vệ AI tiên tiến:

+ Điện toán đáng tin cậy cho các trình tăng tốc AI
+ Đảm bảo cô lập mạng và người thuê
+ Đổi mới trong bảo mật vận hành và vật lý cho các trung tâm dữ liệu
+ Các chương trình kiểm toán và tuân thủ dành riêng cho AI
+ AI cho phòng thủ mạng
+ Khả năng phục hồi, dự phòng và nghiên cứu

Các cơ chế kiểm soát kỹ thuật và hoạt động sau đây được xây dựng dựa trên các khái niệm bảo mật hiện có. Tuy nhiên, để đạt được chúng cho các yêu cầu về quy mô và tính khả dụng độc đáo của AI tiên tiến sẽ đòi hỏi nghiên cứu, đầu tư và cam kết.

Các mô hình bảo vệ dữ liệu và điện toán đáng tin cậy có khả năng tạo ra các lớp phòng thủ mới để bảo vệ khối lượng công việc AI tiên tiến.

Công nghệ bảo mật phần cứng và mã hóa mới nổi như điện toán bảo mật hứa hẹn bảo vệ trọng số mô hình và dữ liệu suy luận bằng cách mở rộng các nguyên hàm điện toán đáng tin cậy vượt ra ngoài máy chủ CPU và vào chính các bộ tăng tốc AI. Việc mở rộng bảo vệ mật mã sang lớp phần cứng có khả năng đạt được các thuộc tính sau:

+ GPU có thể được chứng thực bằng mật mã để đảm bảo tính xác thực và toàn vẹn.

+ GPU có các nguyên mẫu mã hóa có thể cho phép trọng số mô hình được mã hóa cho đến khi chúng được dàn dựng và tải trên GPU. Điều này bổ sung thêm một lớp phòng thủ quan trọng trong trường hợp máy chủ hoặc cơ sở hạ tầng lưu trữ bị xâm phạm.

+ GPU có danh tính mật mã duy nhất có thể cho phép mã hóa trọng số mô hình và dữ liệu suy luận cho các GPU hoặc nhóm GPU cụ thể. Hoàn toàn thực hiện được điều này có thể cho phép chỉ các GPU thuộc các bên được ủy quyền mới có thể giải mã được trọng số mô hình và có thể cho phép mã hóa dữ liệu suy luận từ máy khách đến các GPU cụ thể đang phục vụ yêu cầu của họ.

Những công nghệ mới này có thể cho phép bảo vệ trọng lượng mô hình bằng các biện pháp kiểm soát mạnh mẽ ở lớp phần cứng.

Điện toán tin cậy không phải là một khái niệm mới: những nguyên tắc này từ lâu đã có thể đạt được trên các CPU thông thường được neo trên các mô-đun nền tảng tin cậy phần cứng hoặc môi trường thực thi tin cậy. Tuy nhiên, các khả năng này vẫn chưa được GPU và bộ tăng tốc AI triển khai cho đến gần đây và các phiên bản đầu tiên của điện toán bảo mật cho GPU mới chỉ xuất hiện trên thị trường. Mặc dù điện toán bảo mật cho GPU có triển vọng, nhưng công nghệ này vẫn còn mới mẻ. Cần phải đầu tư vào cả phần cứng và phần mềm để mở khóa quy mô và hiệu suất cần thiết cho nhiều mô hình ngôn ngữ và trường hợp sử dụng lớn. Ngoài ra, các công nghệ điện toán bảo mật trên CPU cũng có một số lỗ hổng và chúng ta không thể mong đợi các công nghệ tương đương GPU sẽ hoàn hảo. Thành công của nó còn lâu mới được chứng minh, đó là lý do tại sao bây giờ là lúc đầu tư và lặp lại để một ngày nào đó chúng ta có thể nhận ra tiềm năng của nó.

Sự cô lập mạng và đối tượng thuê có thể cung cấp ranh giới vững chắc để bảo vệ cơ sở hạ tầng AI khỏi các mối đe dọa cố hữu và ăn sâu.

“Khoảng cách không khí” thường được trích dẫn như một cơ chế bảo mật thiết yếu và điều đó không phải là không có cơ sở: phân đoạn mạng là một biện pháp kiểm soát mạnh mẽ được sử dụng để bảo vệ khối lượng công việc nhạy cảm như hệ thống kiểm soát cho cơ sở hạ tầng quan trọng. Tuy nhiên, “khoảng cách không khí” là một thuật ngữ chưa được xác định rõ ràng và không đề cao thiết kế và sự thỏa hiệp cần thiết khi thảo luận về các hệ thống được kết nối cố hữu như dịch vụ AI.

Thay vào đó, chúng tôi ưu tiên cô lập mạng linh hoạt cho phép các hệ thống AI hoạt động ngoại tuyến – tách biệt khỏi các mạng không đáng tin cậy bao gồm Internet – để giảm thiểu bề mặt tấn công và các vectơ để đánh cắp tài sản trí tuệ và dữ liệu có giá trị khác. Các mạng quản lý sẽ cần được thiết kế cẩn thận và tuân thủ các thuộc tính tương tự. Điều này thừa nhận thực tế rằng cơ sở hạ tầng điện toán đòi hỏi phải quản lý và quản lý đòi hỏi phải có quyền truy cập, thay vào đó tập trung vào các thuộc tính mong muốn là loại bỏ bề mặt tấn công và các vectơ để đánh cắp dữ liệu. Loại kiểm soát này không phù hợp với mọi trường hợp sử dụng, ví dụ như các công cụ hướng đến Internet, nhưng có thể phù hợp với các khối lượng công việc nhạy cảm nhất.

Việc cô lập mạnh mẽ đối với người thuê phải đảm bảo rằng khối lượng công việc và tài sản AI không thể bị xâm phạm bởi các lỗ hổng kỹ thuật hoặc hoạt động bắt nguồn từ nhà cung cấp cơ sở hạ tầng. Các hệ thống AI phải có khả năng phục hồi trước quyền truy cập của nhiều người thuê. Ví dụ, kiến ​​trúc của chúng phải loại bỏ các lớp lỗ hổng có thể cho phép một tác nhân đe dọa có quyền truy cập vào một người thuê xâm phạm trọng số mô hình được lưu trữ trong một người thuê khác. Ngoài ra, phải có các biện pháp kiểm soát kỹ thuật và hoạt động mạnh mẽ để bảo vệ khối lượng công việc AI khỏi các rủi ro phát sinh từ chính nền tảng hoặc nhà cung cấp cơ sở hạ tầng. Cụ thể, các trọng số mô hình không được phép truy cập bởi các kỹ sư đám mây hoặc kỹ thuật viên trung tâm dữ liệu trái phép hoặc các đối thủ lạm dụng thông tin xác thực hoặc mua chuộc họ.

Các hoạt động và biện pháp bảo mật vật lý cho các trung tâm dữ liệu AI là cần thiết để đảm bảo khả năng phục hồi trước các mối đe dọa nội bộ có thể làm tổn hại đến tính bảo mật, tính toàn vẹn và tính khả dụng của trung tâm dữ liệu và khối lượng công việc của trung tâm. Chúng tôi dự đoán các biện pháp kiểm soát nghiêm ngặt bao gồm các phương pháp thông thường và mới. Các phương pháp thông thường bao gồm tăng cường bảo vệ rộng rãi, kiểm soát truy cập, giám sát 24/7, lệnh cấm các thiết bị mang dữ liệu ra vào cơ sở, yêu cầu hủy dữ liệu và các quy tắc dành cho hai người.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ với nhiều ưu đãi đặc biệt duy nhất hôm nay! 

Chúng tôi mong muốn khám phá các phương pháp mới để đạt được bảo mật vật lý và vận hành của trung tâm dữ liệu. Các lĩnh vực nghiên cứu có thể bao gồm những tiến bộ trong xác minh chuỗi cung ứng, 'công tắc tắt' từ xa để cô lập trung tâm dữ liệu hoặc xóa dữ liệu trong trường hợp truy cập trái phép hoặc nghi ngờ bị xâm phạm và các hệ thống chống giả mạo thực hiện tương tự.

Vì các nhà phát triển AI cần đảm bảo rằng quyền sở hữu trí tuệ của họ được bảo vệ khi làm việc với các nhà cung cấp cơ sở hạ tầng, nên cơ sở hạ tầng AI phải được kiểm tra và tuân thủ các tiêu chuẩn bảo mật hiện hành.

Trong khi các tiêu chuẩn hiện có như các họ SOC2, ISO/IEC và NIST vẫn sẽ được áp dụng, chúng tôi hy vọng danh sách này sẽ mở rộng để bao gồm các tiêu chuẩn bảo mật và quy định dành riêng cho AI giải quyết những thách thức độc đáo trong việc bảo mật hệ thống AI. Điều này có thể bao gồm các nỗ lực xuất phát từ Sáng kiến ​​An toàn AI của Liên minh Bảo mật Đám mây hoặc các bản cập nhật AI của NIST SP 800-218. OpenAI là thành viên của ủy ban điều hành Sáng kiến ​​An toàn AI của CSA.

Chúng tôi tin rằng AI sẽ có tác dụng biến đổi phòng thủ mạng và có khả năng cân bằng thế trận giữa bên tấn công và bên phòng thủ.

Những người bảo vệ trên toàn cầu đang phải vật lộn để tiếp nhận và phân tích các tín hiệu cần thiết để phát hiện và ứng phó với các mối đe dọa đối với mạng lưới của họ. Ngoài ra, các nguồn lực cần thiết để xây dựng một chương trình bảo mật tinh vi là rất lớn, khiến nhiều người không thể tiếp cận được với phòng thủ mạng có ý nghĩa.

AI mang đến cơ hội cho phép những người bảo vệ mạng và cải thiện bảo mật. AI có thể được tích hợp vào quy trình làm việc bảo mật để tăng tốc cho các kỹ sư bảo mật và giảm bớt công sức trong công việc của họ. Tự động hóa bảo mật có thể được triển khai một cách có trách nhiệm để tối đa hóa lợi ích của nó và tránh những nhược điểm ngay cả với công nghệ hiện nay. Tại OpenAI, chúng tôi sử dụng các mô hình của mình để phân tích dữ liệu từ xa bảo mật nhạy cảm và khối lượng lớn mà nếu không thì sẽ nằm ngoài tầm với của các nhóm phân tích viên. Chúng tôi cam kết áp dụng các mô hình ngôn ngữ vào các ứng dụng bảo mật phòng thủ và sẽ tiếp tục hỗ trợ các nhà nghiên cứu bảo mật độc lập và các nhóm bảo mật khác khi họ thử nghiệm các cách sáng tạo để áp dụng công nghệ của chúng tôi nhằm bảo vệ thế giới.

Chúng ta cần thử nghiệm các biện pháp này và hiểu rằng những khái niệm này có thể chỉ là khởi đầu. Nghiên cứu bảo mật liên tục là cần thiết do tình trạng bảo mật AI còn mới mẻ và đang phát triển nhanh chóng. Điều này bao gồm nghiên cứu về cách né tránh các biện pháp nêu trên, cũng như thu hẹp các khoảng cách chắc chắn sẽ được tiết lộ.

Cuối cùng, các biện pháp kiểm soát này phải cung cấp khả năng phòng thủ sâu. Không có hệ thống nào hoàn hảo và không có bảo mật hoàn hảo. Do đó, các biện pháp kiểm soát này phải đạt được khả năng phục hồi bằng cách hoạt động cùng nhau. Nếu chúng ta cho rằng các biện pháp kiểm soát riêng lẻ sẽ thất bại, thay vào đó, chúng ta có thể giải quyết trạng thái cuối cùng mà tính toàn vẹn của toàn bộ hệ thống vẫn có thể duy trì được với thiết kế thông minh. Bằng cách xây dựng các biện pháp kiểm soát dự phòng, nâng cao tiêu chuẩn cho những kẻ tấn công và xây dựng sức mạnh hoạt động để ngăn chặn các cuộc tấn công, chúng ta có thể chuẩn bị để bảo vệ AI trong tương lai khỏi các mối đe dọa ngày càng gia tăng.

Tại OpenAI, công việc phát triển và bảo vệ AI tiên tiến vẫn tiếp tục diễn ra hàng ngày. Chúng tôi mời cộng đồng AI và bảo mật tham gia cùng chúng tôi trong việc khám phá và phát triển các phương pháp mới để bảo vệ AI tiên tiến. Sau đây là cách bạn có thể tham gia:

Chương trình Tài trợ An ninh mạng của chúng tôi tìm cách hỗ trợ những người bảo vệ thay đổi động lực quyền lực của an ninh mạng thông qua việc ứng dụng AI. Vui lòng cân nhắc nộp đơn ngay hôm nay nếu bạn có nghiên cứu phù hợp với sứ mệnh này hoặc các khái niệm được mô tả ở trên.