Sau các phản ứng dữ dội từ người dùng về việc mô hình AI tạo sinh hình ảnh của Gemini có xu hướng tạo ra hình ảnh "thiên vị chủng tộc", Google quyết định tạm dừng tính năng này cho đến khi có thông báo mới. Công ty giờ đây đang giải thích điều gì đã xảy ra và họ dự định làm gì trong tương lai.
Phó chủ tịch cấp cao của Google phụ trách bộ phận Kiến thức và Thông tin, Prabhakar Raghavan, đã viết một bài đăng blog chi tiết vấn đề cũng như thừa nhận rằng khả năng tạo hình ảnh của Gemini "không đạt được mục tiêu mong muốn." Dưới đây là những gì Raghavan phải nói về nguyên nhân của sự cố:
Đầu tiên, công ty thừa nhận rằng "rõ ràng tính năng này đã đi chệch hướng" khi "việc điều chỉnh của chúng tôi để đảm bảo rằng Gemini hiển thị một nhóm người đã không tính đến những trường hợp rõ ràng không nên hiển thị một nhóm người nào đó."
Vấn đề thứ hai có nguồn gốc từ việc Gemini lựa chọn các từ khóa nào được xem là nhạy cảm. "Theo thời gian, mô hình trở nên thận trọng hơn nhiều so với dự định của chúng tôi và từ chối trả lời hoàn toàn đối với một số lời nhắc – do hiểu nhầm rằng những lời nhắc bình thường đó mang hàm ý nhạy cảm."
Ông Raghavan cho biết, sự kết hợp của hai vấn đề nghiêm trọng này đã dẫn đến việc Gemini chỉnh sửa quá nhiều ở một số yêu cầu trong khi lại quá cứng nhắc với các yêu cầu khác, hậu quả là tạo ra các hình ảnh "sai lầm và đáng xấu hổ".
Mới đây nhất, CEO Google DeepMind, Demis Hassabis cho biết, Google sẽ sớm đưa tính năng tạo sinh hình ảnh này trở lại Gemini – trong vài tuần tới – sau khi cải thiện khả năng sản sinh hình ảnh về con người. Trong khi đó không phải mọi tính năng tạo sinh hình ảnh của Gemini đều bị tạm dừng, khi người dùng vẫn có thể dùng mô hình AI này để tạo ra các hình ảnh về động vật và các vật thể bình thường khác.
Một điều trùng hợp là vài ngày trước, đối thủ của Gemini, ChatGPT của hãng OpenAI cũng gặp sự cố bất thường khi đưa ra các câu trả lời vô nghĩa trước các truy vấn của người dùng. Tuy nhiên, không giống như Google, cho đến giờ đại diện OpenAI không đưa ra lời giải thích cho các hành vi kỳ lạ của ChatGPT – một điều khiến nhiều người dùng cho rằng cách hoạt động của chatbot AI này giống như một hộp đen bí ẩn.
