Một cụ bà 79 tuổi ở Trung Quốc đã tự lên tàu đi thăm một cậu bé quen qua điện thoại. Bà không biết chữ, không rõ đường đi, nhưng tin rằng ở Vận Thành, tỉnh Sơn Tây, có một đứa trẻ đang chờ mình.
Cậu thường gọi bà là dì, còn mời bà đến ăn nấm, có cả phần mang về. Khi cảnh sát đường sắt hỏi chuyện rồi giải thích rằng cậu bé ấy không có thật, chuyến đi mới dừng lại. Gia đình được liên hệ để đón bà về.
Cậu bé có tên Tiểu Hải, một nhân vật được tạo bằng trí tuệ nhân tạo. Câu chuyện được CCTV phản ánh cho thấy sức ảnh hưởng của những video này đã vượt khỏi màn hình, đủ để khiến một người lớn tuổi rời nhà đi tìm một mối quan hệ không tồn tại.
Những “đứa con” được tạo ra cho một nhóm người xem
Tiểu Hải không phải một tài khoản đơn lẻ. Điều tra của Tân Kinh Báo ghi nhận nhiều tài khoản sử dụng hình tượng thiếu niên có hoàn cảnh khó khăn, ngoan ngoãn, thiếu tình thương. Cách xưng hô quen thuộc là gọi người xem bằng dì, bằng mẹ.
Trước đó, một nhân vật AI trung niên tên Vương Kiến Quốc đã xuất hiện với hình ảnh lịch thiệp, lời nói tình cảm, gọi người xem là chị. Sau này, Tiểu Hải, được xây dựng là con của nhân vật ấy, trở thành tâm điểm.
Đổi từ người đàn ông ân cần sang đứa trẻ cần che chở, những tài khoản này tiếp tục tiếp cận nhóm phụ nữ trung niên và cao tuổi.
Sự lựa chọn ấy cho thấy người lớn tuổi không chỉ tình cờ bắt gặp một video rồi bị thuyết phục. Nội dung được xây dựng quanh những điều có thể khiến họ quan tâm: tình thân, sự hiếu thảo, sức khỏe và cảm giác mình vẫn được ai đó cần đến.
Nhân vật không nhất thiết phải giống người thật đến mức hoàn hảo. Chỉ cần câu chuyện khiến người xem thương đủ nhiều, những dấu hiệu bất thường có thể bị bỏ qua.
Tình thương được dẫn thẳng đến nút đặt hàng
Trong các video được CCTV kiểm tra, Tiểu Hải có lúc khóc lóc vì cuộc thi bán hàng chỉ còn thiếu vài đơn. Màn kể khổ nhanh chóng chuyển thành lời mời mua bột đậu nành, bánh ngũ cốc, khăn lau hoặc đồ trang sức.
Những nhân vật tương tự có thể được tạo hàng loạt bằng cách thay bối cảnh và lời thoại. Mỗi video kể một chuyện, nhưng đều có đường dẫn đến giỏ hàng.
Đó là điểm khiến kiểu bán hàng này đáng lo. Người xem có thể quyết định mua trước khi cân nhắc món đồ có cần thiết, giá có hợp lý hay người bán có đáng tin hay không. Động lực đặt hàng là giúp “đứa trẻ” vượt qua khó khăn.
China News Service ghi nhận người xem để lại lời động viên như dành cho con mình, đồng thời đăng ảnh những đơn hàng đã mua. Các sản phẩm được phản ánh thường đắt hơn hàng tương đương trên nền tảng khác. Một số video có nhãn “AI tạo ra”, nhưng nhãn ấy khó có tác dụng với người không biết chữ hoặc chưa hiểu một con người trên màn hình cũng có thể được dựng hoàn toàn.
Bởi vậy, việc người xem đã nhìn thấy nhãn AI không đồng nghĩa họ hiểu mình đang mua hàng vì một hoàn cảnh bịa đặt.
Biết “con” lừa mình vẫn chưa chắc dứt ra được
Một diễn biến được Tân Kinh Báo ghi nhận cho thấy mức độ gắn bó này. Để ngăn người lớn tuổi tiếp tục mua hàng, một số người trẻ tạo video Tiểu Hải trở nên xấu tính, khoe tiền hoặc thừa nhận lừa người xem.
Có người xem xong đã quyết định ngừng mua. Nhưng cũng có người cho rằng cậu bị ép buộc, có nỗi khổ riêng hoặc chỉ nhất thời phạm lỗi. Dưới những video Tiểu Hải mặc đồ tù, vẫn xuất hiện lời an ủi, khuyên cậu giữ gìn sức khỏe và sửa sai.
Những phản ứng ấy gợi ra một vấn đề: khi nhân vật đã được tiếp nhận như người thân, việc chỉ ra sự giả tạo không còn đơn giản là giải thích một công nghệ. Người xem còn phải từ bỏ tình cảm và niềm tin mình đã dành cho nhân vật đó.
Đây cũng là lý do không nên xem những trường hợp này chỉ là chuyện người già “nhẹ dạ”. Sự thiếu quen thuộc với công nghệ, nhu cầu được quan tâm và lòng thương người đang bị khai thác cùng lúc, bằng những nội dung có thể sản xuất liên tục với chi phí thấp.
Từ trường hợp Tiểu Hải, có thể thấy rõ người trung niên và cao tuổi, đặc biệt là phụ nữ trong nhóm này, đang là đối tượng được nhắm đến có chủ đích của mô hình bán hàng bằng nhân vật AI giả thân tình. Người vận hành lựa chọn cách xưng hô, hoàn cảnh và lời cầu cứu phù hợp để đưa họ từ xem video đến gắn bó, rồi mua hàng.
Nguy cơ vì thế sẽ không chấm dứt khi một Tiểu Hải bị phát hiện. Cùng cách làm ấy có thể xuất hiện dưới gương mặt khác, tên khác, một câu chuyện đáng thương khác.
Điều cần nhận diện là cả cách dẫn dụ phía sau: một người xa lạ trên màn hình nhanh chóng tạo cảm giác thân thiết, liên tục khơi gợi thương cảm, rồi gắn sự giúp đỡ với việc mua hàng hoặc đưa tiền. Khi cách làm này được nhân rộng bằng AI, bảo vệ người trung niên và cao tuổi phải trở thành trọng tâm của việc ngăn chặn, thay vì đợi đến lúc họ đã mất tiền mới nhắc rằng đừng quá cả tin.
Đồng An
