Giải các bài toán bằng lời

Chúng tôi đã đào tạo một hệ thống giải quyết các bài toán tiểu học với độ chính xác gần gấp đôi so với mô hình GPT-3 được tinh chỉnh. Nó giải quyết được khoảng 90% số bài toán so với trẻ em thực sự: một mẫu nhỏ trẻ em từ 9-12 tuổi đạt 60% trong bài kiểm tra từ tập dữ liệu của chúng tôi, trong khi hệ thống của chúng tôi đạt 55% trong cùng các bài toán đó.

Tại sao nó quan trọng

Điều này quan trọng vì AI ngày nay vẫn còn khá yếu trong việc suy luận nhiều bước theo lẽ thường, điều này dễ dàng ngay cả với trẻ em tiểu học. Chúng tôi đã đạt được những kết quả này bằng cách đào tạo mô hình của mình để nhận ra lỗi của nó, để nó có thể thử lại nhiều lần cho đến khi tìm ra giải pháp hiệu quả.

Các mô hình ngôn ngữ lớn như GPT-3 có nhiều kỹ năng ấn tượng, bao gồm khả năng bắt chước nhiều phong cách viết và kiến ​​thức thực tế sâu rộng của chúng. Tuy nhiên, chúng gặp khó khăn khi thực hiện các nhiệm vụ đòi hỏi lý luận nhiều bước chính xác, như giải các bài toán bằng lời ở trường tiểu học. Mặc dù mô hình có thể bắt chước nhịp điệu của các giải pháp đúng, nhưng nó thường xuyên tạo ra các lỗi logic nghiêm trọng.

Để phù hợp với hiệu suất của con người trong các miền logic phức tạp, các mô hình của chúng tôi phải học cách nhận ra lỗi của mình và lựa chọn các bước một cách cẩn thận. Để đạt được mục đích đó, chúng tôi đào tạo các trình xác minh để đánh giá xem giải pháp được đề xuất có đúng hay không. Để giải quyết một vấn đề mới, chúng tôi sử dụng các trình xác minh để chọn giải pháp tốt nhất trong số nhiều giải pháp được đề xuất. Chúng tôi đã thu thập bộ dữ liệu GSM8K mới để đánh giá các phương pháp của mình và chúng tôi đang phát hành bộ dữ liệu này để tạo điều kiện thuận lợi cho nghiên cứu.

Trong mười ví dụ dưới đây, chúng tôi trình bày các giải pháp được tạo ra bằng phương pháp mới, xác minh và phương pháp cơ bản, tinh chỉnh.