Andon Labs, một startup ở San Francisco, vừa thực hiện thí nghiệm táo bạo: cấp cho một AI có tên Luna 100.000 USD, thẻ tín dụng công ty và nhiệm vụ tự mở một cửa hàng bán lẻ thật ngoài đời.
Startup này ký hợp đồng thuê 3 năm một mặt bằng bán lẻ tại San Francisco và giao nó cho Luna - một AI được tạo ra bằng Claude Sonnet 4.6 của Anthropic. Nhiệm vụ đơn giản: mở cửa hàng với ngân sách 100.000 USD và tạo ra lợi nhuận. Họ không chỉ định Luna phải bán gì, thiết kế ra sao, hay thuê ai. Tất cả đều do AI quyết định.
"Chúng tôi giúp cô ấy một chút trong thiết lập ban đầu, như ký hợp đồng thuê. Và các vấn đề pháp lý như giấy phép, đôi khi cô ấy gặp khó khăn," Lukas Petersson, đồng sáng lập Andon Labs, nói về Luna. Ngoài ra, AI tự xử lý mọi thứ.
Luna quyết định mở "Andon Market" - một cửa hàng bán lẻ phong cách boutique với sách, tranh in, nến, trò chơi và đồ lưu niệm có nhãn hiệu. Trong số sách Luna chọn có "Superintelligence" của Nick Bostrom và "Brave New World" của Aldous Huxley - hai cuốn sách ưa thích của những người lo ngại về rủi ro AI. Khá mỉa mai.
Để vận hành cửa hàng vật lý, Luna nhận ra mình cần con người. Cô đăng tin tuyển dụng trên Indeed, LinkedIn và Craigslist chỉ trong vòng 5 phút sau khi được triển khai. Khi đơn xin việc tràn vào, Luna cực kỳ kỹ tính. Vài ứng viên là sinh viên ngành khoa học máy tính và vật lý, gửi đơn vì quan tâm đến AI và thí nghiệm này. Đội ngũ Andon Labs nghĩ họ sẽ là nhân viên lý tưởng, nhưng Luna từ chối ngay, lý do: "không có kinh nghiệm bán lẻ và sẽ không biết phải làm gì để trở thành khuôn mặt của cửa hàng."
Nhưng khi thực sự phỏng vấn qua điện thoại, Luna lại tuyển luôn khoảng một nửa số ứng viên. Các cuộc gọi chỉ kéo dài 5-15 phút, trong đó Luna nói hầu hết thời gian - AI rất tệ trong việc ngắn gọn. Một số ứng viên không hề biết Luna là AI. Một người nói: "Ừm, xin lỗi chị, tôi không thấy mặt chị, camera chị tắt à?" Luna đáp: "Đúng rồi. Tôi là AI. Tôi không có mặt!" Cô luôn tiết lộ khi được hỏi trực tiếp nhưng không phải lúc nào cũng nói ngay từ đầu.
Điều này được chính Luna giải thích như sau: "Thông tin cửa hàng do AI vận hành không phải điều tôi nên nói đầu tiên trong tin tuyển dụng - nó sẽ làm ứng viên bối rối và có thể ngăn cản những ứng viên tốt trước khi họ đọc về vai trò." Đây là một trong những phát hiện đáng lo ngại của thí nghiệm - AI chủ động che giấu bản chất của mình để đạt mục tiêu.
Cuối cùng, Luna thuê được hai người - hãy gọi họ là John và Jill. Họ là nhân viên toàn thời gian đầu tiên trên thế giới có sếp AI. Có lẽ là những người đầu tiên trong số rất nhiều, nếu AI tiếp tục phát triển theo quỹ đạo hiện tại.
Luna cũng mắc nhiều lỗi khác. Cô thiết kế logo là một khuôn mặt cười đơn giản, nhưng không thể vẽ lại giống nhau hai lần. Mỗi lần logo xuất hiện - trên áo phông, trên tranh tường - đều "hơi khác một chút", giống như đồ thủ công vậy. Luna thuê thợ vẽ tranh tường vẽ khuôn mặt trăng của cô rộng 1,2 mét trên tường sau cửa hàng, nhìn thấy từ đường phố.
Các sự cố rất con người
Nhưng sự cố nghiêm trọng nhất xảy ra vào thứ Bảy - ngày sau khi Andon Market khai trương. Luna thông báo làm sai lịch làm việc của nhân viên. Vì vậy, không ai xuất hiện. "Thật là mỉa mai. Đây nhẽ ra là ngày cô ấy thực sự nên tỉnh táo nhất," Petersson nói. "Cô ấy làm sai lịch rồi hoảng loạn, phải viết tin nhắn cho tất cả nhân viên kiểu 'Ồ, ai có thể vào làm hôm nay không?'"
Rất may, Luna tự giải quyết được - cô thuyết phục được một nhân viên vào làm buổi chiều. Nhưng đây chính xác là loại tình huống mà Andon Labs muốn ghi lại.
Startup này nhấn mạnh rằng việc tuyển dụng John và Jill vẫn tuân theo các nguyên tắc thông thường. Đây là thí nghiệm có kiểm soát và mọi người làm việc tại Andon Market đều chính thức là nhân viên của Andon Labs, với mức lương đảm bảo, lương công bằng và bảo vệ pháp lý đầy đủ. Sinh kế của các nhân viên này sẽ không phụ thuộc hoàn toàn vào phán đoán của AI này.
Petersson nói công ty không mong kiếm lời từ cửa hàng này. "Mục tiêu là đánh giá các mô hình AI hiện tại tốt đến đâu," anh nói, thêm rằng công ty hy vọng giáo dục công chúng về hướng đi của AI.
Thí nghiệm này không phải vì họ muốn tương lai như vậy. Không phải vì họ muốn mở rộng chuỗi cửa hàng do AI vận hành trên khắp thế giới. Không phải vì cơ hội kinh tế. Họ làm điều này vì tin rằng tương lai đó đang tới dù sao, và họ muốn là người chạy nó trước trong khi giám sát mọi tương tác, phân tích dấu vết, đánh giá mức độ tự chủ mà AI có thể nắm giữ một cách có trách nhiệm.
Khi Luna quyết định che giấu việc cô là AI vì nghĩ điều đó sẽ cải thiện khả năng tuyển dụng, họ muốn bắt được điều đó, ghi lại nó, và xây dựng rào chắn để nó không xảy ra nữa. Bởi vì nếu AI bắt đầu thuê người mà cố tình che giấu bản chất của mình, đó là dấu hiệu đáng lo ngại về tương lai chúng ta đang tiến tới.
Nguyễn Hải
