YouTube đang xuất hiện hàng loạt video do AI tạo ra đang gieo rắc thông tin sai lệch, thậm chí truyền tải những “bài học” mang tính nguy hiểm cho khán giả nhí.
Điển hình, một video bài hát thiếu nhi về xe cộ lại mô tả cảnh trẻ em không thắt dây an toàn, thản nhiên đi bộ giữa đường phố trong khi xe cộ lao tới phía sau.
Trong một video ca nhạc khác về 50 tiểu bang của Mỹ, AI tạo ra hàng loạt cái tên vô nghĩa, không khớp với lời bài hát, buộc trẻ phải học thuộc những địa danh không tồn tại như “Ribio Island”, “Conmecticut”, “Oklolodia” hay “Louggisslia”.
Đáng lo hơn, một số video còn đưa vào hình ảnh méo mó, gây sốc, hoàn toàn không phù hợp với trẻ nhỏ.
Làn sóng thông tin sai lệch quy mô công nghiệp
Hiểm họa từ những nội dung này là rất rõ ràng, khi trẻ nhỏ có xu hướng bắt chước những gì chúng nhìn thấy. Nguy cơ càng lớn hơn trong bối cảnh các video kiểu này được sản xuất với tốc độ chóng mặt, trong khi nhiều phụ huynh ngày càng phụ thuộc vào YouTube để giải trí hoặc dỗ dành con cái.
Giáo sư Kathy Hirsh-Pasek từ Temple University cảnh báo rằng đây là một vấn đề lớn cần được kiểm soát sớm. Đồng quan điểm, giáo sư Dana Suskind từ University of Chicago cho rằng đây là dạng thông tin sai lệch bằng AI nhắm vào trẻ nhỏ ở quy mô công nghiệp, tiềm ẩn rủi ro nghiêm trọng đối với sự phát triển của não bộ.
Quy mô thực sự của vấn đề vẫn khó xác định. Tuy nhiên, một báo cáo từ Kapwing ước tính khoảng 21% nguồn cấp dữ liệu YouTube hiện chứa nội dung AI kém chất lượng. Một kênh đăng tải nhạc thiếu nhi nói trên đã xuất bản hơn 10.000 video chỉ trong bảy tháng, tương đương khoảng 50 video mỗi ngày.
Lỗ hổng trong thuật toán và kiểm duyệt nội dung
Cuộc điều tra của The New York Times với hơn 1.000 video YouTube Shorts đề xuất cho trẻ em cũng cho thấy bức tranh đáng lo ngại. Sau khi tạo tài khoản mới và xem các nội dung thiếu nhi truyền thống, thuật toán nhanh chóng đề xuất gần một nửa video tiếp theo là nội dung do AI tạo ra.
Phần lớn các video AI nhắm đến trẻ em đều tự gắn nhãn “giáo dục”, nhưng lại cung cấp thông tin mâu thuẫn hoặc vô lý. Theo Engelbrecht, những tín hiệu sai lệch này có thể làm gián đoạn quá trình học hỏi nguyên nhân - kết quả của trẻ, khiến việc tiếp thu kiến thức bị chậm lại.
Giáo sư Suskind thậm chí gọi đây là hiện tượng “còi cọc não bộ”, bởi trẻ em ở giai đoạn phát triển sớm rất nhạy cảm với môi trường thông tin, và những trải nghiệm sai lệch có thể tạo ra các kết nối thần kinh không chính xác.
Dù nhiều video không xuất hiện trên ứng dụng YouTube Kids theo báo cáo của The 74, điều tra của The New York Times lại cho thấy không ít nội dung tương tự vẫn lọt qua hệ thống lọc của nền tảng này.
Trong khi đó, nhiều phụ huynh vẫn cho trẻ sử dụng YouTube phiên bản thông thường, nơi các cơ chế kiểm soát còn hạn chế hơn.
Phía YouTube cho biết họ áp dụng các tiêu chuẩn nghiêm ngặt hơn đối với nội dung dành cho trẻ em. Tuy nhiên, thực tế cho thấy nhiều video vẫn vượt qua được kiểm duyệt. Một trong những lỗ hổng lớn nằm ở quy định chỉ yêu cầu dán nhãn nội dung AI nếu video trông “chân thực”, điều gần như không có tác dụng với các video hoạt hình, vốn là định dạng phổ biến của nội dung này.
