Sự tiến hóa thông qua các mô hình lớn

Tóm tắt

• Tài khoản ChatGPT 4 tại đây với nhiều ưu đãi hấp dẫn duy nhất ngày hôm nay! 

Bài báo này theo đuổi hiểu biết sâu sắc rằng các mô hình ngôn ngữ lớn (LLM) được đào tạo để tạo mã có thể cải thiện đáng kể hiệu quả của các toán tử đột biến được áp dụng cho các chương trình trong lập trình di truyền (GP). Vì các LLM như vậy được hưởng lợi từ dữ liệu đào tạo bao gồm các thay đổi và sửa đổi tuần tự, nên chúng có thể ước tính các thay đổi có khả năng xảy ra mà con người sẽ thực hiện. Để làm nổi bật phạm vi ý nghĩa của quá trình tiến hóa như vậy thông qua các mô hình lớn (ELM), trong thí nghiệm chính, ELM kết hợp với MAP-Elites tạo ra hàng trăm nghìn ví dụ chức năng về các chương trình Python tạo ra các rô-bốt đi lại hoạt động trong miền Sodarace, điều mà LLM ban đầu chưa từng thấy trong quá trình đào tạo trước. Sau đó, các ví dụ này giúp khởi động quá trình đào tạo một mô hình ngôn ngữ có điều kiện mới có thể tạo ra người đi bộ phù hợp cho một địa hình cụ thể. Khả năng khởi động các mô hình mới có thể tạo ra các hiện vật phù hợp cho một bối cảnh nhất định trong một miền mà trước đó không có dữ liệu đào tạo nào có ý nghĩa đối với tính mở, học sâu và học tăng cường. Những ý nghĩa này được khám phá sâu sắc ở đây với hy vọng truyền cảm hứng cho các hướng nghiên cứu mới hiện đang được ELM mở ra.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ