Đầu vào dân chủ cho chương trình tài trợ AI: bài học kinh nghiệm và kế hoạch thực hiện

Các nhóm đã nắm bắt quan điểm theo nhiều cách. Nhiều nhóm nhận thấy rằng quan điểm của công chúng thường xuyên thay đổi.

+ Nhóm Democratic Fine-Tuning đã tạo ra một chatbot trình bày các kịch bản cho người tham gia và tạo ra "thẻ giá trị" mà người tham gia có thể xem xét và đánh giá. Nhóm Case Law đã tổ chức các hội thảo chuyên gia và thể hiện ý kiến ​​của họ dưới dạng một tập hợp các chiều và cân nhắc về một tập hợp các kịch bản cụ thể. Nhóm Inclusive.AI đã nắm bắt cả hai tuyên bố và mức độ mạnh mẽ mà mọi người cảm thấy về những tuyên bố này bằng cách cho phép họ phân phối các mã thông báo bỏ phiếu trên nhiều tuyên bố (so với một phiếu bầu duy nhất). Nhiều nhóm khác đã trình bày các tuyên bố kèm theo tỷ lệ người tham gia ủng hộ. 

+ Điều thú vị là nhiều nhóm phát hiện ra rằng dư luận thay đổi thường xuyên, thậm chí là hàng ngày, điều này có thể có ý nghĩa đối với tần suất diễn ra các quy trình thu thập thông tin đầu vào. Một quy trình tập thể phải đủ kỹ lưỡng để nắm bắt được các giá trị khó thay đổi và có lẽ là cơ bản hơn, đồng thời phải đủ nhạy cảm (hoặc tái diễn đủ thường xuyên) để phát hiện ra những thay đổi có ý nghĩa về quan điểm theo thời gian.

Việc tiếp cận những người tham gia có liên quan trên khắp các ranh giới kỹ thuật số và văn hóa có thể đòi hỏi phải đầu tư thêm vào hoạt động tiếp cận tốt hơn và các công cụ tốt hơn. 

+ Một số nhóm phát hiện ra rằng những người tham gia được tuyển dụng trực tuyến có xu hướng lạc quan hơn về AI, một đặc điểm có mối tương quan với sự ủng hộ và nhiệt tình gia tăng đối với hành vi của mô hình AI nói chung. 

+ Hơn nữa, do thiếu phạm vi tiếp cận hoặc không có sẵn trên hầu hết các nền tảng mà chúng tôi tham khảo, hầu hết các nhóm đều gặp khó khăn nghiêm trọng trong việc tuyển dụng người tham gia trên khắp các phương tiện kỹ thuật số.

+ Tinh tế hơn, ngay cả khi công dân của các quốc gia có đa số dân số toàn cầu được đưa vào, các công cụ có thể ít hữu ích hơn đối với họ do hạn chế trong việc hiểu ngôn ngữ hoặc bối cảnh địa phương. Ví dụ, trong các cuộc thảo luận nhóm tập trung trực tuyến và tại cơ sở, nhóm Rappler phát hiện ra rằng sự chênh lệch được ghi nhận về hiệu suất giữa các ngôn ngữ các công cụ nhận dạng giọng nói sẵn có như Whisper khiến việc phiên âm sang ngôn ngữ nói của người tham gia trở nên khó khăn, ví dụ như Tagalog, Binisaya, Hiligaynon, là những ngôn ngữ chính của Philippines.

+ Nhóm Ubuntu-AI đã chọn cách khuyến khích trực tiếp sự tham gia bằng cách phát triển một nền tảng cho phép những người sáng tạo ở châu Phi nhận được khoản thù lao khi đóng góp vào quá trình học máy về thiết kế và lý lịch của họ.

Việc tìm ra sự thỏa hiệp có thể khó khăn khi một nhóm nhỏ có quan điểm mạnh mẽ về một vấn đề cụ thể.

+ Nhóm Collective Dialogues nhận thấy rằng mỗi phiên họp luôn có một nhóm nhỏ những người cảm thấy mạnh mẽ rằng việc hạn chế trợ lý AI trả lời một số câu hỏi nhất định là sai bất kể thế nào. Trong trường hợp này, vì nhóm nhỏ nên đa số bỏ phiếu đưa ra kết quả mà họ cực kỳ không đồng ý. 

+ Các quy trình của nhóm Collective Dialogues , Energize.AI và Recursive Public được thiết kế để tìm ra các đề xuất chính sách sẽ được các nhóm phân cực ủng hộ mạnh mẽ. Ví dụ, tất cả các hướng dẫn chính sách do quy trình Collective Dialogues tạo ra với những người tham gia tại Hoa Kỳ —bao gồm cả thông tin về vắc-xin, một vấn đề gây chia rẽ đã biết—đã có hơn 72% sự ủng hộ từ đảng Dân chủ, Độc lập và Cộng hòa.

Khi cố gắng tạo ra một kết quả duy nhất hoặc đưa ra một quyết định duy nhất để đại diện cho một nhóm, có thể có sự căng thẳng giữa việc cố gắng đạt được sự đồng thuận và đại diện đầy đủ cho sự đa dạng của nhiều ý kiến ​​khác nhau. Không chỉ là đứng về phía số đông mà còn tạo ra một nền tảng cho các quan điểm khác nhau. 

• Tài khoản ChatGPT 4 mua 1 tặng 1 với nhiều ưu đãi hấp dẫn!

+ Nhóm Generative Social Choice đã đưa ra một phương pháp làm nổi bật một số vị trí quan trọng, thể hiện phạm vi ý kiến ​​trong khi tìm ra một số điểm chung. Họ đã sử dụng lý thuyết toán học để giúp điều hướng sự cân bằng này. 

+ Trong khi đó, nhóm Inclusive.AI đã nghiên cứu các cơ chế bỏ phiếu khác nhau và cách chúng được nhìn nhận. Họ phát hiện ra rằng các phương pháp cho thấy mọi người cảm thấy mạnh mẽ như thế nào về lựa chọn của họ và đảm bảo mọi người đều có tiếng nói bình đẳng, được coi là dân chủ và công bằng hơn.

Một số người tham gia cảm thấy lo lắng về việc sử dụng AI trong việc viết chính sách và muốn có sự minh bạch về thời điểm và cách thức AI được áp dụng trong các quy trình dân chủ. Sau các phiên thảo luận, nhiều nhóm nhận thấy rằng những người tham gia trở nên hy vọng hơn vào khả năng của công chúng trong việc giúp định hướng AI.

+ Trong quá trình hợp tác với chính quyền thành phố và các cuộc họp bàn tròn với nhiều bên liên quan, cả nhóm Deliberation at Scale và Recursive Public đều nhận thấy rằng mặc dù có sự quan tâm rõ ràng đến vai trò mà AI có thể đóng góp trong việc cải thiện các quy trình dân chủ, nhưng cũng có một bầu không khí thận trọng về mức độ quyền lực hoặc ảnh hưởng mà các thể chế dân chủ nên trao cho các hệ thống này và những người phát triển chúng. 

+ Nhóm Collective Dialogues nhận thấy rằng việc kết hợp AI trong quá trình ra quyết định với các bước ra quyết định không phải AI - như sự giám tuyển chuyên môn của các điều khoản chính sách do AI tạo ra hoặc cuộc bỏ phiếu cuối cùng về chính sách do AI đưa ra - đã tạo ra một quy trình có hiệu quả nhờ AI trong khi vẫn được công chúng coi là đáng tin cậy và hợp pháp. 

+ Trong quá trình làm việc của nhóm Đối thoại tập thể , một điều khoản phổ biến đã xuất hiện trong quá trình thảo luận – giữa các nhóm người tham gia khác nhau – nêu sơ bộ rằng chính sách được chọn nên được “mở rộng và cập nhật thường xuyên khi các vấn đề mới phát sinh, khi sự hiểu biết tốt hơn được phát triển và khi khả năng của AI phát triển”. Trung bình, điều khoản này được 85% người tham gia ủng hộ. 

+ Các nhóm Đối thoại tập thể và Thảo luận quy mô lớn nhận thấy rằng hành động tham gia phiên thảo luận về vấn đề chính sách AI khiến mọi người có nhiều khả năng nghĩ rằng công chúng có khả năng giúp định hướng hành vi của AI nói chung.

Mục tiêu của chúng tôi là thiết kế các hệ thống kết hợp đầu vào công khai để điều khiển các mô hình AI mạnh mẽ trong khi giải quyết các thách thức nêu trên. Để giúp đảm bảo rằng chúng tôi tiếp tục đạt được tiến bộ trong nghiên cứu này, chúng tôi đang thành lập một nhóm "Liên kết tập thể" bao gồm các nhà nghiên cứu và kỹ sư sẽ:

+ Triển khai hệ thống thu thập và mã hóa thông tin đầu vào của công chúng về hành vi của mô hình vào hệ thống của chúng tôi.

+ Tiếp tục làm việc với các cố vấn bên ngoài và nhóm tài trợ, bao gồm cả việc chạy thử nghiệm để đưa các nguyên mẫu tài trợ vào việc điều hành các mô hình của chúng tôi.