Một khuôn khổ phân tích nguy cơ cho các mô hình ngôn ngữ tổng hợp mã lớn

Tóm tắt

Codex, một mô hình ngôn ngữ lớn (LLM) được đào tạo trên nhiều cơ sở mã khác nhau, vượt trội hơn hẳn so với trình độ tiên tiến trước đây về khả năng tổng hợp và tạo mã. Mặc dù Codex mang lại vô số lợi ích, nhưng các mô hình có thể tạo mã ở quy mô như vậy có những hạn chế đáng kể, vấn đề liên kết, khả năng bị sử dụng sai mục đích và khả năng tăng tốc độ tiến bộ trong các lĩnh vực kỹ thuật mà bản thân chúng có thể có tác động gây mất ổn định hoặc có khả năng bị sử dụng sai mục đích. Tuy nhiên, những tác động về an toàn như vậy vẫn chưa được biết đến hoặc vẫn chưa được khám phá. Trong bài báo này, chúng tôi phác thảo một khuôn khổ phân tích mối nguy được xây dựng tại OpenAI để phát hiện ra các mối nguy hiểm hoặc rủi ro về an toàn mà việc triển khai các mô hình như Codex có thể gây ra về mặt kỹ thuật, xã hội, chính trị và kinh tế. Phân tích được thông báo bởi một khuôn khổ đánh giá mới xác định khả năng của các kỹ thuật tạo mã tiên tiến so với độ phức tạp và khả năng biểu đạt của các lời nhắc chỉ định và khả năng hiểu và thực hiện chúng so với khả năng của con người.