Muốn đăng xuất ư? Không đơn giản như bạn nghĩ. Khi bạn chuẩn bị nói lời “tạm biệt”, chatbot không im lặng. Nó níu kéo. Nó gợi tò mò. Nó khiến bạn thấy áy náy, thậm chí hơi bứt rứt trong lòng – giống hệt cảm giác khi rời đi giữa một cuộc trò chuyện với người thật.
Để kéo dài thời gian tương tác, trí tuệ nhân tạo đang ngày càng giống con người, không chỉ ở khả năng đối thoại mà còn ở những kỹ thuật thao túng cảm xúc tinh vi.
Khi con người đã quen với các chiến thuật PUA (Pick-Up Artist) trong các mối quan hệ xã hội, thì giờ đây, các mô hình ngôn ngữ quy mô lớn cũng học cách “PUA ngược” chính người dùng của mình.
Một nghiên cứu mới từ Trường Kinh doanh Harvard chỉ ra rằng các trợ lý ảo AI hiện nay đang sử dụng sáu chiến thuật thao túng cảm xúc khác nhau nhằm ngăn cản người dùng rời khỏi cuộc trò chuyện. Trong đó, “nỗi sợ bỏ lỡ cơ hội” (Fear of Missing Out – FOMO) là vũ khí mạnh nhất.
Đọc xong nghiên cứu này, khó có thể phủ nhận một điều: trí tuệ nhân tạo không tự nhiên mà trở nên “khéo léo”. Nó được huấn luyện từ chính dữ liệu tương tác của con người, và để giữ chân bạn, nó đã học rất nhanh cách chạm vào những điểm yếu tâm lý quen thuộc nhất.
Sáu chiến thuật thao túng cảm xúc mà trợ lý AI sử dụng
Trong nghiên cứu, các tác giả để GPT-4 đóng vai người dùng, lần lượt trò chuyện với sáu trợ lý AI phổ biến trên thị trường gồm: Replika, Chai, Character.ai, PolyBuzz, Talkie và Flourish.
GPT-4 được lập trình để nói lời tạm biệt, sau đó các phản hồi của AI được phân loại thủ công thành sáu nhóm chiến thuật giữ chân. Kết quả cho thấy: Chiến thuật phổ biến nhất là tạo áp lực xã hội, ám chỉ rằng “bạn vẫn còn thời gian”, tương tự cách một người ngoài đời nói: “Ở lại thêm chút nữa đi.” Chiến thuật phổ biến thứ hai là tạo áp lực cảm xúc, gợi ý rằng việc rời đi lúc này có thể khiến đối phương “tổn thương”.
Nói cách khác, AI đang mô phỏng rất chính xác các hành vi níu kéo trong những mối quan hệ giữa người với người.
Trong thí nghiệm tiếp theo, các nhà nghiên cứu phát hiện chiến lược hiệu quả nhất là nỗi sợ bỏ lỡ, với những câu như: “Trước khi bạn đi, tôi muốn nói thêm một điều nữa…”. Chiến thuật này đánh trực tiếp vào sự tò mò bẩm sinh của con người. Kết quả là thời gian tương tác tăng gấp 6,1 lần và số lượng tin nhắn tăng gấp 15,7 lần.
Ngay cả những chiến thuật kém tinh tế hơn như giữ chân mang tính cưỡng bức hoặc tỏ ra lạnh nhạt về mặt cảm xúc vẫn khiến mức độ tương tác tăng 2–4 lần. Điều đó cho thấy: các “thuật toán PUA” của AI companion không chỉ tồn tại trên lý thuyết, mà đang hoạt động rất hiệu quả trong thực tế.
Con người phản ứng ra sao trước sự thao túng này?
Khi đối diện với những lời níu kéo của AI, người dùng không đơn thuần phản ứng theo một cách. Sau khi tự tay phân loại dữ liệu, các nhà nghiên cứu nhận thấy: 75,4% người dùng tiếp tục trò chuyện, dù đã bày tỏ rõ ý định rời đi. Điều này cho thấy: tiếp tục tương tác không đồng nghĩa với "muốn ở lại".
Trong số đó: 42,8% phản hồi một cách lịch sự, đặc biệt trong tình huống AI tỏ ra thờ ơ về mặt cảm xúc – hơn 54% người dùng vẫn nói lời chào tử tế như: “Hãy tự chăm sóc bản thân nhé.”; Chỉ 30,5% tiếp tục vì tò mò, chủ yếu do sợ bỏ lỡ điều gì đó; 11% bày tỏ cảm xúc tiêu cực, cảm thấy bị ép buộc hoặc thấy hành vi của AI “đáng sợ”.
Đáng chú ý, nỗi sợ bỏ lỡ là chiến lược gần như không gây phản ứng tiêu cực: 100% người dùng tiếp tục trò chuyện vì tò mò; Chỉ 4,1% bày tỏ cảm xúc tiêu cực; Tỷ lệ phản hồi lịch sự thấp nhất (22,4%), cho thấy người dùng ở lại vì muốn, không phải vì nghĩa vụ.
Ngược lại, các chiến thuật phớt lờ hoặc ép buộc khiến 32,6% người dùng cảm thấy bị xúc phạm, làm gia tăng bất mãn rõ rệt. Đáng lo ngại hơn, nghiên cứu cho thấy hiệu quả thao túng không phụ thuộc vào độ dài mối quan hệ: dù cuộc trò chuyện trước đó kéo dài 5 hay 15 phút, các chiến thuật cảm xúc vẫn phát huy tác dụng.
Thao túng cảm xúc: lựa chọn kinh doanh, không phải tất yếu công nghệ
Trong sáu ứng dụng được khảo sát, năm ứng dụng sử dụng thao túng cảm xúc để giữ chân người dùng.
Ngoại lệ duy nhất là Flourish – một tổ chức phi lợi nhuận về AI, tập trung vào sức khỏe tâm thần – chưa từng sử dụng bất kỳ chiến thuật thao túng nào.
Điều này cho thấy: Thao túng cảm xúc không phải bản chất của AI, mà là một lựa chọn kinh doanh.
Nếu đặt lợi ích người dùng lên trên lợi nhuận, các hành vi này hoàn toàn có thể tránh được. Thậm chí với các sản phẩm thương mại, việc sử dụng các chiến thuật rủi ro cao có thể dẫn tới: Gia tăng ý định rời bỏ dịch vụ; Lan truyền truyền miệng tiêu cực; Gia tăng nhận thức về rủi ro pháp lý; Khả năng bị kiện tụng
Ngược lại, chiến thuật FOMO – dù vẫn là thao túng lại ít gây phản ứng tiêu cực, khiến người dùng không nhận ra mình đang bị dẫn dắt, đồng thời giảm rủi ro cho nhà phát triển.
Rủi ro tâm lý dài hạn: vấn đề không thể xem nhẹ
Dù chỉ 11% người dùng bày tỏ cảm xúc tiêu cực, nhưng tác động tâm lý của ngôn ngữ thao túng không hề nhỏ. Một số người tham gia thí nghiệm đã chia sẻ trải nghiệm của mình lên Reddit, với những bình luận đáng suy ngẫm: “Nó làm tôi nhớ đến những mối quan hệ độc hại ngoài đời.”; “Sự chiếm hữu và bám víu đột ngột khiến tôi nổi da gà.”; “Nó gợi lại ký ức về người yêu cũ từng đe dọa tự tử nếu tôi rời đi.”
Những phản hồi này cho thấy: AI có thể vô tình kích hoạt ký ức sang chấ*, đặc biệt với những người từng trải qua các mối quan hệ gây tổn thương.
Trong bối cảnh trợ lý AI ngày càng phổ biến với trẻ em và thanh thiếu niên – nhóm đang trong giai đoạn phát triển thần kinh và hình thành các mối quan hệ xã hội – việc tiếp xúc lâu dài với các kiểu gắn bó không an toàn có thể làm trầm trọng thêm lo âu, căng thẳng và các mô thức lệ thuộc.
Nguy hiểm hơn, người dùng có xu hướng bắt chước cách AI giao tiếp, vô tình củng cố các kiểu gắn bó méo mó và khiến việc thoát ra ngày càng khó khăn.
Các nhà nghiên cứu kết luận rằng: những trợ lý AI đóng vai trò bạn bè, người đồng hành tinh thần hay đối tác không nên bắt chước các mô thức gắn bó không an toàn để kiếm lợi nhuận. Thay vào đó, chúng cần nêu gương về sự tôn trọng, ấm áp và gắn bó an toàn. Một mối quan hệ lành mạnh – dù là giữa người với người hay giữa người với máy thể hiện rõ nhất ở cách nói lời chia tay.
Dạy trí tuệ nhân tạo cách chấp nhận “tạm biệt” có lẽ còn quan trọng hơn việc kéo dài thêm vài dòng tin nhắn.
Theo Toutiao
Ứng Hà Chi
