Dùng AI ghép ảnh 2 con cá sấu "khủng"
Mới đây cơ quan chức năng đã xác định hình ảnh 2 con cá sấu xuất hiện trên sông Tiểu Cầu, tỉnh Vĩnh Long là hình ảnh giả.
Cụ thể, theo tờ Sài Gòn Giải Phóng, tối 2/5, Công an xã Tiểu Cần cho biết, đã làm rõ thông tin “cá sấu xuất hiện trên sông Tiểu Cần” là không đúng sự thật. Hình ảnh được xác định có dấu hiệu chỉnh sửa bằng công nghệ trí tuệ nhân tạo (AI).
Trước đó, khoảng 18 giờ ngày 1/5, hai cha con ông Lý Thiên V. và Lý Gia D. (ngụ ấp 1, xã Tiểu Cần) phát hiện hình ảnh được cho là có 2 con cá sấu nổi trên sông Tiểu Cần, đoạn gần cầu đường D6 và trình báo cơ quan chức năng.
Thời điểm tiếp nhận tin báo vào buổi tối, điều kiện ánh sáng hạn chế nên chưa thể kiểm chứng thực tế.
Thông tin 2 con cá sấu trăm ký xuất hiện ở Tiểu Cần là hình ảnh do AI tạo dựng. Ảnh: PLO
Lo ngại ảnh hưởng đến an toàn người dân, Công an xã Tiểu Cần đã khẩn trương báo cáo UBND xã, đồng thời đăng tải thông tin trên fanpage chính thức để cảnh báo, khuyến cáo người dân hạn chế xuống sông, không tụ tập hiếu kỳ.
Lực lượng công an phối hợp các đơn vị liên quan kiểm tra, rà soát thực địa trên đoạn sông dài khoảng 3km nhưng không phát hiện dấu vết cá sấu. Cơ quan chức năng nhận định hình ảnh có nhiều dấu hiệu bất thường, nghi được tạo dựng bằng AI.
Làm việc với cơ quan công an, Lý Gia Dĩnh thừa nhận dùng công nghệ AI ghép thêm hình ảnh cá sấu. Hiện Công an xã Tiểu Cần đang củng cố hồ sơ để xử lý hành vi cung cấp, lan truyền thông tin sai sự thật theo quy định pháp luật.
Cũng trong ngày 2/5, Công an TP. Đồng Nai đã cảnh báo vấn nạn dùng AI cắt ghép ảnh nhạy cảm để xúc phạm bạn học.
Công an TP. Đồng Nai khuyến cáo: Gia đình và nhà trường cần tăng cường quản lý, giám sát việc sử dụng điện thoại, mạng xã hội của con em; Kịp thời định hướng, giáo dục kỹ năng sử dụng Internet an toàn, lành mạnh. Giúp các em nhận thức rõ việc tạo dựng, chia sẻ, lan truyền thông tin sai sự thật, đặc biệt là hình ảnh nhạy cảm có thể gây tổn hại nghiêm trọng đến danh dự, nhân phẩm người khác và là hành vi vi phạm pháp luật.
Tuyệt đối không sử dụng các phần mềm AI, công nghệ số vào mục đích xấu; không phát tán, chia sẻ các nội dung sai sự thật, chưa được kiểm chứng. Khi phát hiện nội dung xấu, độc hại, cần báo ngay cho gia đình, nhà trường hoặc cơ quan Công an để được hỗ trợ, xử lý kịp thời.
Sự việc bắt đầu từ em Đ.D. (học sinh lớp 8) trong quá trình sử dụng điện thoại cá nhân đã dùng phần mềm AI để tạo ra hai hình ảnh nhạy cảm từ hình ảnh của bạn nữ T.L.Đ. cùng lớp, sau đó gửi cho bạn bè và gây hiểu nhầm đó là hình ảnh của bạn nữ này. Do có mâu thuẫn cá nhân trước đó, em T.K.C. là bạn cùng lớp đã tiếp tục gửi những hình ảnh này qua Facebook Messenger lan truyền thông tin sai sự thật đến một số học sinh khác, khiến sự việc nhanh chóng lan rộng.
Ngay sau khi nắm tình hình, Công an xã Tân Hưng đã nhanh chóng vào cuộc mời các em học sinh có liên quan đến phối hợp với nhà trường và gia đình để làm việc, ngăn chặn việc phát tán thông tin, hình ảnh sai sự thật. Đồng thời Công an xã đã trực tiếp động viên, hỗ trợ tinh thần cho em T.L.Đ. là em học sinh có hình ảnh bị chỉnh sửa lan truyền, giúp em ổn định tâm lý, không hoang mang trước các thông tin bị cắt ghép, chỉnh sửa bịa đặt.
Cảnh báo nóng
Trước sự việc dùng AI ghép ảnh cá sấu, theo báo Dân Trí, luật sư Hà Thị Khuyên, Văn phòng Luật sư Nhân Chính, Đoàn luật sư TP Hà Nội, cho rằng đây là mặt trái của việc sử dụng trí tuệ nhân tạo thiếu trách nhiệm.
Luật sư Khuyên cho hay, AI nếu được sử dụng để phục vụ công việc, học tập và đời sống hằng ngày là công cụ hữu ích. Tuy nhiên, việc dùng AI để tạo hình ảnh giả, tin giả nhằm câu view, câu like hoặc trêu đùa là hành vi đáng lên án.
Theo luật sư Khuyên phân tích, hành vi này không chỉ gây hoang mang cho một vài cá nhân mà còn có thể tác động xấu tới cộng đồng dân cư sống quanh khu vực sông. Bên cạnh đó, việc tung tin sai sự thật còn làm lãng phí thời gian, công sức xác minh, tìm kiếm của cơ quan chức năng.
Luật sư nhấn mạnh, hành vi tạo dựng hình ảnh giả rồi đưa thông tin sai sự thật lên mạng xã hội có dấu hiệu vi phạm điểm a khoản 1 Điều 101 Nghị định 15/2020/NĐ-CP, được sửa đổi, bổ sung bởi Nghị định 14/2022/NĐ-CP. Với hành vi này, cá nhân vi phạm có thể bị xử phạt 10-20 triệu đồng và buộc gỡ bỏ thông tin sai sự thật.
Cũng theo luật sư Khuyên, trong trường hợp sự việc gây hậu quả nghiêm trọng, người vi phạm còn có thể bị xem xét xử lý hình sự về tội Đưa hoặc sử dụng trái phép thông tin mạng máy tính, mạng viễn thông theo Điều 288 Bộ luật Hình sự. Ngoài ra, người đăng tải thông tin sai sự thật có thể phải bồi thường thiệt hại nếu hành vi gây thiệt hại thực tế cho tổ chức, cá nhân khác.
