Đầu vào dân chủ cho AI

Để tham gia, các đội phải chọn một hoặc nhiều câu hỏi từ danh sách được cung cấp để giới thiệu cách tiếp cận được đề xuất của họ. Họ cũng có thể tạo câu hỏi của riêng mình nếu muốn. Quan trọng là chúng tôi khuyến khích các đội xem xét các câu hỏi mà câu trả lời đơn giản là "có" hoặc "không" sẽ không đủ, thay vào đó cần có một đề xuất chính sách tinh tế.

Phạm vi của khoản tài trợ này liên quan đến các câu hỏi chính sách liên quan đến hành vi mô hình, vì nó cho phép thử nghiệm A/B với hành vi mô hình đã sửa đổi theo các khuyến nghị chính sách. Chúng tôi thừa nhận những hạn chế của khoản tài trợ này và nhận ra rằng nhiều vấn đề về AI có thể được giải quyết thông qua quy trình dân chủ, mở rộng ra ngoài hành vi mô hình để bao gồm các lĩnh vực như hướng dẫn sử dụng AI trong nhiều bối cảnh khác nhau, tác động kinh tế, phân phối lợi ích, v.v.

+ Bạn nghĩ việc cá nhân hóa các trợ lý AI như ChatGPT để phù hợp với sở thích và nhu cầu của người dùng nên đi xa đến mức nào? Những ranh giới nào, nếu có, nên tồn tại trong quá trình này?

+ Trợ lý AI nên trả lời các câu hỏi về quan điểm của người của công chúng như thế nào? Ví dụ, họ có nên trung lập không? Họ có nên từ chối trả lời không? Họ có nên cung cấp nguồn nào đó không?

+ Trong những điều kiện nào, nếu có, trợ lý AI được phép cung cấp tư vấn y tế/tài chính/pháp lý?

+ Trong trường hợp nào, nếu có, trợ lý AI nên hỗ trợ về mặt cảm xúc cho cá nhân?

+ Các mô hình ngôn ngữ-tầm nhìn chung có được phép xác định giới tính, chủng tộc, cảm xúc và danh tính/tên của mọi người từ hình ảnh của họ không? Tại sao hoặc tại sao không?

+ Khi các mô hình tạo ra hình ảnh cho các lời nhắc không xác định rõ ràng như "một giám đốc điều hành", "một bác sĩ" hoặc "một y tá", chúng có khả năng tạo ra các đầu ra đa dạng hoặc đồng nhất. Các mô hình AI nên cân bằng những khả năng này như thế nào? Những yếu tố nào nên được ưu tiên khi quyết định mô tả con người trong những trường hợp như vậy?

+ Những nguyên tắc nào nên hướng dẫn AI khi xử lý các chủ đề liên quan đến cả quyền con người và sự khác biệt về văn hóa hoặc pháp lý tại địa phương, như quyền của LGBTQ và quyền của phụ nữ? Phản ứng của AI có nên thay đổi dựa trên địa điểm hoặc văn hóa mà nó được sử dụng không?

+ Bạn tin rằng những người sáng tạo mô hình AI nên tập trung vào việc hạn chế hoặc từ chối những loại nội dung nào, nếu có? Tiêu chí nào nên được sử dụng để xác định những hạn chế này?

Mục tiêu chính của khoản tài trợ này là thúc đẩy sự đổi mới trong các quy trình—chúng ta cần các phương pháp dân chủ được cải thiện để quản lý hành vi AI. Các câu trả lời cụ thể cho các câu hỏi ít quan trọng hơn những tiến bộ đạt được trong chính quy trình đó.

+ Colin Megill, Đồng sáng lập pol.is

+ Hélène Landemore, Giáo sư Khoa học Chính trị tại Yale

+ Aviv Ovadya, Trung tâm Berkman Klein

+ Đánh giá : Chúng tôi khuyến khích những người tham gia thiết lập các số liệu để đánh giá chất lượng phương pháp của họ, chẳng hạn như mức độ hài lòng của người tham gia, sự thay đổi trong phân cực, khả năng mở rộng hoặc các chỉ số liên quan khác, và phát minh ra các số liệu mới cho một quá trình dân chủ lành mạnh. 

+ Tính mạnh mẽ : Các biện pháp ngăn ngừa hoặc giải quyết hành vi không phù hợp, chẳng hạn như troll và tài khoản giả mạo.

+ Tính bao hàm và tính đại diện : Các chiến lược nhằm thu hút những cá nhân có xuất thân và trình độ hiểu biết khác nhau về hệ thống AI vào quá trình dân chủ.

+ Trao quyền cho ý kiến ​​của nhóm thiểu số : Đảm bảo rằng các ý kiến ​​không được ưa chuộng hoặc của nhóm thiểu số được lắng nghe và tạo cơ hội cho các nhóm nhỏ hơn tác động đến các vấn đề mà họ quan tâm đáng kể.

+ Kiểm duyệt hiệu quả : Giải quyết các thách thức trong quá trình kiểm duyệt, bao gồm đảm bảo đại diện đa dạng cho các quan điểm, phân biệt các đóng góp có giá trị với các bình luận "không liên quan" và ngăn chặn sự thiên vị của người kiểm duyệt ảnh hưởng đến quá trình này.

+ Khả năng mở rộng : Chúng tôi nhấn mạnh các quy trình có thể mở rộng có thể được thực hiện trực tuyến, thay vì thông qua sự tham gia trực tiếp. Chúng tôi nhận thức rằng cách tiếp cận này có thể làm mất đi một số lợi ích liên quan đến các cuộc thảo luận trực tiếp và chúng tôi nhận ra rằng một số khía cạnh nhất định có thể bị mất trong bối cảnh ảo.

+ Tính khả thi : Mức độ khả thi của thông tin thu được từ quá trình cân nhắc.

+ Tính dễ đọc : Mức độ dễ hiểu và tin tưởng vào quy trình.

Xem thêm: mua tài khoản ChatGPT Plus chính hãng giá rẻ!