Deepfake gần 7.000 tấm ảnh khỏa thân
Cảnh sát Bắc Kinh (Trung Quốc) đã nhận được báo cáo từ người dân nói rằng có người đã đăng quảng cáo về dịch vụ biến ảnh bình thường thành ảnh khỏa thân chỉ sau một lần bấm chuột.
Nghi phạm sau đó bị bắt giữ có tên Bai Moumou - kỹ thuật viên của một công ty Internet. Hắn đã sử dụng công nghệ AI để làm giả 7.000 tấm ảnh và đăng bán chúng với giá 1.5 nhân dân tệ ( 5 nghìn đồng)/ 1 tấm. Nhứng bức ảnh này phần lớn là phụ nữ, trong đó có cả giáo viên, nhân viên văn phòng và sinh viên. Hiện tại, Bai Moumou đã bị khởi tố vì hành vi sử dụng công nghệ để sản xuất và bán các tài liệu khiêu dâm.
Viện kiểm sát nhân dân quận Haidian, Bắc Kinh - cho biết: Phần mềm trí tuệ nhân tạo mà Bai Moumou sử dụng có thể nhanh chóng "cởi quần áo" các bức ảnh của nạn nhân chỉ bằng một cú nhấp chuột và về cơ bản có thể xuất số lượng lớn ảnh chỉ trong vài phút.
"Chiếc kẹp" giá 12 triệu biến xe đạp thường thành xe điện nhanh nhất thế giới
Cảnh sát đã thu giữ một số lượng lớn các bức ảnh liên quan đến vụ án trong máy tính của Bai, tất cả đều được đã xử lý bằng công nghệ "one-click de-dressing".
Bai Moumou đã bán ảnh cho 351 người trên QQ (một ứng dụng chat tại Trung Quốc), tổng số hình ảnh mà hắn ta đã bán lên tới gần 7.000 tấm.
Theo công tố viên, Bai đã chỉnh sửa và bán một số lượng lớn ảnh của phụ nữ có chứa khuôn mặt thật, điều này ảnh hưởng tới rất nhiều người.
Vào tháng 6/2023, Bai Moumou đã biết đến công nghệ "lột đồ bằng 1 cú click" trên mạng xã hội nước ngoài, từ đó anh tay bắt đầu lên kế hoạch lợi dụng công nghệ này để kiếm tiền.
Anh ta sau đó đã đăng quảng cáo lên các mạng xã hội nước ngoài với nội dung "AI lột đồ với giá hời" và "bất kỳ ai xung quanh bạn, kể cả người nổi tiếng đều có thể làm được". Sau khi quảng cáo được đăng lên đã có rất nhiều người liên hệ với Bai để mua dịch vụ "cởi đồ" này. Theo thống kê có khoảng 30.000 người đã xem những quảng cáo trên.
AI "cởi đồ" chỉ là lừa đảo
Theo lời Bai thú nhận, thực chất công nghệ mà hắn ta sử dụng không thực sự "cởi đồ" của người trong ảnh mà chỉ đơn giản là ảnh ghép.
Thực ra có thể hiểu đây là deepfake, nó chỉ là một bức tranh được vẽ lại trên những dữ liệu hình ảnh đã có. Hơn nữa công nghệ này vận hành rất đơn giản, chỉ cần 1 click chuột để hoàn thành nên giá mà Bai đưa ra rất rẻ, điều này đã thu hút rất nhiều người tìm đến.
Chỉ trong vài tháng, Bai Moumou đã xử lý hàng nghìn bức ảnh và kiếm được gần 10.000 nhân dân tệ (gần 36 triệu đồng). Trong số đó có rất nhiều nạn nhân là học sinh, giáo viên và nhân viên văn phòng. Theo điều tra, Bai Moumou hoàn toàn nhận thức được việc có thể những khách hàng của mình sẽ sử dụng hình ảnh này để thực hiện các hành vi vi phạm pháp luật như tống tiền, tiếp tục lan truyền hoặc thực hiện một số hành vi tội ác ghê tởm khác.
Viện kiểm sát cho rằng Bai Moumou đã vi phạm các quy định của Luật Hình sự của Trung Quốc và nên bị truy cứu trách nhiệm hình sự về tội sản xuất và bán tài liệu khiêu dâm nhằm thu lợi.
