Sức mạnh của việc học tập liên tục

Các mô hình học sâu hiện tại không hoàn hảo. Chúng được đào tạo bằng một lượng dữ liệu khổng lồ do con người tạo ra (ví dụ, trên Internet, được quản lý và tài liệu) và không thể tránh khỏi việc hấp thụ rất nhiều sai sót và thành kiến ​​đã tồn tại từ lâu trong xã hội của chúng ta. Ví dụ, khi DALL·E được yêu cầu miêu tả một y tá, nó sẽ chỉ tạo ra các nhân vật nữ hoặc đối với một giáo sư, nó sẽ chỉ tạo ra người da trắng. Mô hình nắm bắt được các thành kiến ​​trong số liệu thống kê thế giới thực hoặc các thành kiến ​​trong dữ liệu đào tạo của chúng ta.

Tôi đã có động lực để thiết kế một phương pháp nhằm giảm thiểu loại thiên kiến ​​xã hội này và đánh giá mức độ hiệu quả của phương pháp. Với nhóm, chúng tôi đã thiết kế một quy trình để giảm thiểu thiên kiến ​​như vậy cũng như một quy trình làm việc để chạy đánh giá vòng lặp của con người. Giảm thiên kiến ​​xã hội không phải là một vấn đề dễ dàng, vì nó xuất hiện trong nhiều khía cạnh của cuộc sống và đôi khi có thể khó nhận thấy. Nhưng tôi rất vui vì nhóm DALL·E đã xử lý vấn đề một cách nghiêm túc và hành động ngay từ giai đoạn rất sớm. Những gì chúng tôi có ngay bây giờ chỉ là bước khởi đầu và chúng tôi sẽ tiếp tục tiến bộ. Tôi tự hào được làm việc trong lĩnh vực này và vui mừng khi thấy từng bước một, chúng tôi đang làm cho AI hiện đại an toàn hơn và tốt hơn.

Tôi tin vào sức mạnh của việc học và không bao giờ là quá muộn để học. Duy trì blog cá nhân của tôi là một cách tốt để duy trì sự tò mò này và tìm hiểu về những tiến bộ mới trong cộng đồng học sâu thường xuyên. Tôi cũng khuyến khích nhóm của mình tiếp tục học, dù có liên quan hay không liên quan đến các dự án hiện tại của họ. Những ý tưởng trong các chủ đề hoặc lĩnh vực khác nhau thường có thể truyền cảm hứng cho những ý tưởng mới và mở rộng không gian giải pháp tiềm năng.

Tôi cũng là người tin tưởng mạnh mẽ vào tinh thần làm việc nhóm. Nếu mọi người đều tỏa sáng hết khả năng của mình, chúng ta sẽ có 1+1 > 2. Trong khi đó, chúng ta thường gặp phải công việc “bẩn thỉu” và cá nhân tôi rất sẵn lòng đảm nhận những nhiệm vụ đó, bởi vì miễn là đó là rào cản lớn nhất hoặc nhiệm vụ đó có thể mang lại giá trị lớn nhất cho dự án, thì không có gì được coi là “bẩn thỉu” hoặc “tầm thường”. Tôi khuyến khích mọi người xung quanh mình làm như vậy, trở thành một người chơi trong nhóm và cùng nhau làm việc để đẩy nhanh năng suất của nhóm.

Mọi thứ bắt đầu như một tập hợp các ghi chú học tập cá nhân. Tôi đã không bước vào lĩnh vực học sâu quá sớm và vẫn coi mình là "người mới". Ban đầu, khi tôi bắt đầu đào sâu vào rất nhiều bài báo, tôi đã rất ngạc nhiên về khái niệm không phải là thiết kế một thuật toán để giải quyết một vấn đề, mà là đào tạo một mô hình để học thuật toán nhằm giải quyết một vấn đề. Tôi càng đọc, tôi càng trở nên tò mò. Thực tế là việc sắp xếp tất cả các bài báo tôi đã đọc và các khái niệm mới tôi đã học trở nên rất khó khăn. Vì vậy, tôi quyết định bắt đầu một blog để ghi lại và sắp xếp các ghi chú học tập của mình. Tôi cũng tin rằng cách tốt nhất để học một điều gì đó là đảm bảo rằng bạn có thể truyền đạt kiến ​​thức cho người khác một cách chính xác và rõ ràng. Viết giúp tôi đạt được điều đó.

Tôi không mong đợi nó sẽ trở nên phổ biến trong cộng đồng ML, nhưng bất cứ khi nào tôi nhận được email cảm ơn hoặc được nói trực tiếp rằng họ đã học được rất nhiều điều từ việc đọc blog của tôi, tôi cảm thấy rất vinh dự và biết ơn. Đã gần 6 năm kể từ khi tôi bắt đầu blog vào năm 2017 và tôi sẽ duy trì nó lâu nhất có thể.

Cộng đồng AI đã đạt được nhiều tiến bộ trong những năm gần đây. Sự tiến bộ trong phần cứng, kiến ​​trúc mô hình và dữ liệu giúp có thể đào tạo các mô hình khổng lồ và kết quả là chúng ta tiếp tục thấy được năng lực ngày càng lớn hơn. Tôi tin rằng chúng ta đang đi đúng hướng hướng tới AGI, nhưng việc mở rộng quy mô không phải là công thức duy nhất. Theo tôi, những thách thức cấp bách nhất hiện nay là sự liên kết và an toàn. Ở một mức độ nào đó, chúng có thể là cùng một vấn đề về khả năng kiểm soát hoặc khả năng điều khiển.

Đầu tiên, ngay cả khi chúng ta đã có một hệ thống AI cực kỳ mạnh mẽ trong tay, nếu chúng ta không thể truyền đạt hiệu quả các mục tiêu của mình và đảm bảo mô hình phù hợp với những gì chúng ta muốn, thì sẽ không thể tạo ra nhiều giá trị như chúng ta cần. Mô hình mạnh mẽ nhất hiện tại học hỏi từ một lượng dữ liệu khổng lồ và tập dữ liệu không thể tránh khỏi việc nắm bắt các lỗi và thành kiến ​​không hoàn hảo trong thế giới thực. Trên phương diện này, các mô hình không phù hợp gây ra mối lo ngại về an toàn, vì chúng không nhận thức được những gì cần tránh.

Đây không phải là lời khuyên cụ thể mà ai đó đã cho tôi, mà dựa trên kinh nghiệm của tôi tại OpenAI cho đến nay. Đó là, hãy nghĩ lớn. Chúng ta đang tạo ra một cái gì đó mới và chúng ta nên có tham vọng, dũng cảm và có đủ sự kiên trì để tiếp tục nỗ lực.

Sách. Tôi thường đọc sách ngoài lĩnh vực học sâu và lấy cảm hứng từ nhiều lĩnh vực khác nhau; Ví dụ, việc một nhà văn kiên trì trong 50 năm là điều quan trọng như thế nào, một bác sĩ phẫu thuật phải chú ý đến từng chi tiết một cách hoàn hảo và một doanh nhân phải có "ý tưởng điên rồ" ra sao.

Những người xung quanh tôi. Tôi rất vinh dự được làm việc với một nhóm lớn các đồng nghiệp cực kỳ tài năng tại OpenAI. Mọi người đều có điều gì đó lấp lánh, truyền cảm hứng hoặc đáng tôn trọng và tôi thích học hỏi từ họ.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ