Các công ty tạo ra LLM sẽ có lợi khi ta xem LLM có nhân tính

Khái niệm::
Khi LLM trông như có cảm xúc, ta sẽ có cảm giác như mình cần phải đáp trả lại nó. Điều này dẫn đến việc ta lệ thuộc vào nó hơn. Nếu ta xem LLM có nhân tính, thì ta sẽ không thể giết nó. Cũng tình cờ là các công ty cũng không muốn sản phẩm/tài sản của mình bị lên án. Nên có lẽ xu hướng là các công ty sẽ thiết kế để LLM trông như có cảm xúc hơn, và thúc đẩy các tranh luận về “phúc lợi AI”, “quyền cho AI”.

Nếu như xem LLM có nhân tính, thì liệu có hợp lý khi cho rằng các công ty cũng được có quyền cha mẹ? Hoặc lúc đó sẽ phải đặt câu hỏi là liệu cha mẹ có phải là thực thể duy nhất có thể tạo ra một thứ có nhân tính hay không, hay là các công ty cũng làm được? Các công ty được phép can thiệp vào sản phẩm có nhân tính do mình tạo ra tới mức độ nào? Có sự khác biệt gì giữa cách ta phải đối xử với thứ có nhân tính do công ty sản xuất và cách ta phải đối xử với thứ có nhân tính từ tinh trùng và trứng?

Nguồn:: 📣 Are We Having a Zeitgeist Moment on AI and Humanity?