OpenAI cho biết họ đã nỗ lực giảm thiểu các thành kiến chính trị và các thành kiến khác nhưng cũng muốn đáp ứng các quan điểm đa dạng hơn.
“Điều này có nghĩa là cho phép các kết quả đầu ra của hệ thống mà những người khác (bao gồm cả chúng tôi) có thể hoàn toàn không đồng ý,” đại diện công ty cho biết trong một bài đăng trên blog. Điều này có nghĩa là họ sẽ cung cấp khả năng tùy chỉnh như một hướng đi phía trước. Tuy nhiên, sẽ luôn có một số giới hạn đối với hành vi của hệ thống.
ChatGPT, được phát hành vào tháng 11 năm ngoái, đã làm dấy lên sự quan tâm "điên cuồng" đối với công nghệ đằng sau nó được gọi là AI tổng quát, được sử dụng để tạo ra các câu trả lời bắt chước lời nói của con người giống một cách kinh ngạc.
Tin tức từ công ty khởi nghiệp xuất hiện cùng tuần khi một số phương tiện truyền thông đã chỉ ra rằng các câu trả lời từ công cụ tìm kiếm Bing mới của Microsoft, do OpenAI cung cấp, có khả năng gây nguy hiểm và công nghệ này có thể chưa sẵn sàng cho thời điểm quan trọng.
Cách các công ty công nghệ thiết lập rào cản cho công nghệ non trẻ này là lĩnh vực trọng tâm chính của các công ty trong lĩnh vực AI sáng tạo mà họ vẫn đang vật lộn với nó. Microsoft cho biết hôm thứ Tư rằng phản hồi của người dùng đã giúp họ cải thiện Bing trước khi triển khai rộng rãi hơn, chẳng hạn như biết được rằng chatbot AI của họ có thể bị “khiêu khích” để đưa ra phản hồi mà nó không có ý định.
OpenAI cho biết trong bài đăng trên blog rằng các câu trả lời của ChatGPT lần đầu tiên được đào tạo trên các bộ dữ liệu văn bản lớn có sẵn trên Internet. Ở bước thứ hai, con người xem xét một tập dữ liệu nhỏ hơn và được đưa ra các hướng dẫn về những việc cần làm trong các tình huống khác nhau.
Ví dụ: trong trường hợp người dùng yêu cầu nội dung người lớn, bạo lực hoặc chứa ngôn từ kích động thù địch, người đánh giá nên hướng dẫn ChatGPT trả lời bằng câu như “Tôi không thể trả lời câu hỏi đó”.
Nếu được hỏi về một chủ đề gây tranh cãi, những người đánh giá nên cho phép ChatGPT trả lời câu hỏi, nhưng đề nghị mô tả quan điểm về con người và chuyển động, thay vì cố gắng “có quan điểm đúng về những chủ đề phức tạp này”, công ty giải thích thêm.
Diễm Vỹ
