Meta đang đối mặt với một câu hỏi không dễ trả lời về mức độ tự động hóa của Muse, trợ lý AI được công ty kỳ vọng trở thành một trong những sản phẩm quan trọng nhất trong chiến lược AI cá nhân. Theo tờ CNET, phía sau khả năng gọi điện cho doanh nghiệp của Muse hiện có thể là những nhân viên thật tại các trung tâm cuộc gọi.
Muse được Meta giới thiệu như một AI agent có khả năng thay người dùng thực hiện các công việc trong thế giới thực. Người dùng có thể yêu cầu hệ thống gọi điện đặt bàn nhà hàng, đặt lịch cắt tóc, liên hệ dịch vụ khách hàng hoặc xử lý một yêu cầu cụ thể. AI sẽ thực hiện cuộc gọi, trao đổi với nhân viên bên kia, sau đó gửi lại cho người dùng bản ghi cùng tóm tắt kết quả.
Vấn đề nằm ở chỗ Muse không phải lúc nào cũng tự thực hiện cuộc gọi.
Theo tài liệu nội bộ được 404 Media tiếp cận, Meta đã bổ sung một “lớp nhân viên con người” vào hệ thống. Khi Muse không thể tự hoàn thành một yêu cầu, tác vụ có thể được chuyển cho một nhân viên được đào tạo. Người này sẽ trực tiếp gọi tới doanh nghiệp, xử lý cuộc hội thoại rồi đưa kết quả trở lại hệ thống.
Hãng tin Reuters cũng xác nhận Meta đang thử nghiệm mô hình “human concierge” cho Muse. Hoạt động thử nghiệm bắt đầu từ tháng 8, trong đó một số nhân viên hợp đồng thực hiện các cuộc gọi thay cho AI. Meta cho biết mục tiêu là thu thập phản hồi để cải thiện tính an toàn và quyền riêng tư trước khi tính năng được triển khai rộng rãi.
Điều đáng chú ý hơn nằm ở dữ liệu người dùng. Một người sử dụng Muse có thể cung cấp thông tin riêng tư để AI hiểu mục đích cuộc gọi. Đó có thể là thông tin đặt lịch, tình trạng dịch vụ hoặc những nội dung nhạy cảm hơn. Khi yêu cầu được chuyển sang nhân viên thật, những dữ liệu này về bản chất có thể tiếp cận bởi con người.
Một số nhân viên Meta được 404 Media dẫn lại đã đặt câu hỏi về vấn đề này. Có trường hợp người thử nghiệm chỉ biết cuộc gọi thực tế được thực hiện bởi con người sau khi cuộc gọi kết thúc. Một nhân viên cảnh báo người dùng có thể chia sẻ thông tin với Muse với giả định rằng chỉ hệ thống AI xử lý, trong khi thực tế một nhân viên bên ngoài có thể tham gia vào quy trình.
Meta cho biết đây vẫn là quá trình thử nghiệm nội bộ và công ty đang xây dựng các biện pháp bảo vệ an toàn, quyền riêng tư trước khi đưa tính năng ra công chúng. Người phát ngôn của Meta cũng cho biết công ty chỉ triển khai khi tính năng hoàn thiện và có thông báo phù hợp tới người dùng.
Câu chuyện Muse cho thấy một nghịch lý đang xuất hiện trong cuộc đua AI agent. Các công ty công nghệ muốn biến AI từ công cụ trả lời câu hỏi thành một “người đại diện” có thể trực tiếp hành động thay người dùng. Thế nhưng khi AI chưa đủ khả năng xử lý mọi tình huống, con người vẫn phải đứng phía sau để hoàn thành công việc.
Vấn đề vì thế không đơn thuần là Muse có thực sự thông minh hay không. Với những AI được trao quyền truy cập dữ liệu cá nhân và thực hiện công việc thay người dùng, câu hỏi quan trọng hơn là ai thực sự đang làm việc, dữ liệu của người dùng được nhìn thấy bởi ai, và người dùng có được thông báo rõ ràng hay không./
Vũ Hoàng
