Tính dùng AI để đạo nhái nghệ sĩ nổi tiếng ư, hãy nghĩ lại nếu không sẽ nếm phải 'độc dược'?

Thứ 4, 24/01/2024 13:20
Bài viết được The Register đăng tải ít giờ trước.

"Độc dược"

Một nhóm các nhà nghiên cứu tại Đại học Chicago mới đây đã ra mắt Nightshade 1.0, một công cụ nhằm ngăn chặn việc sử dụng trái phép các tác phẩm nghệ thuật trong huấn luyện trí tuệ nhân tạo (AI).

Nightshade - được đặt theo Deadly Nightshade/Atropa belladonna, một loại cà độc dược có thể gây chết người nhưng cũng được dùng làm thuốc - và là công cụ đầu độc dữ liệu đầu vào AI mang tính tấn công, đi kèm với công cụ phòng thủ có tên Glaze.

Nightshade hoạt động bằng cách thêm các đối tượng không liên quan vào các tệp hình ảnh, làm giảm chất lượng của AI hướng ảnh được huấn luyện trên chúng.

Tính dùng AI để đạo nhái nghệ sĩ nổi tiếng ư, hãy nghĩ lại nếu không sẽ nếm phải 'độc dược'?- Ảnh 1.

Gần đây các nhà nghiên cứu đã phát triển ra Ai-Da, robot đầu tiên có thể vẽ như một họa sĩ dựa trên AI.

Những người chịu trách nhiệm về dự án cho biết: "Nightshade được tính toán như một sự tối ưu hóa đa mục tiêu nhằm giảm thiểu những thay đổi có thể nhìn thấy đối với hình ảnh gốc.

Ví dụ, mắt người có thể nhìn thấy hình ảnh bóng mờ của một con bò trên cánh đồng xanh gần như không thay đổi, nhưng AI có thể nhìn thấy một chiếc túi da lớn nằm trên cỏ".

Nightshade cũng "đầu độc" hình ảnh liên quan đến các label/nhãn mà AI thường chọn (ví dụ: cat/mèo) bằng cách làm mờ ranh giới của khái niệm đó.

Kết quả là nếu người dùng đưa ra lời nhắc "cat" cho AI được đào tạo dựa trên hình ảnh bị Nightshade "hạ độc", họ sẽ nhận được hình ảnh liên quan tới một chú chó hoặc một con cá.

Những phản hồi không thể đoán trước được kiểu này sẽ làm giảm hiệu quả của AI và những người huấn luyện sẽ phải tìm cách thay thế dữ liệu đầu vào từ các nguồn miễn phí. 

Tính dùng AI để đạo nhái nghệ sĩ nổi tiếng ư, hãy nghĩ lại nếu không sẽ nếm phải 'độc dược'?- Ảnh 2.

Ví dụ về cách Nightshade "hạ độc" các label "cat".

Nhóm nghiên cứu cũng nhấn mạnh:

"Nightshade có thể cung cấp một công cụ mạnh mẽ để chủ sở hữu nội dung bảo vệ tài sản trí tuệ của họ trước những người huấn luyện AI coi thường hoặc bỏ qua các thông báo bản quyền..."

Cần lưu ý rằng một số vụ kiện và khiếu nại của các nghệ sĩ đã được đưa ra trong thời gian gần đây nhằm vào Stability AI, Deviant Art, Midjourney và Runway AI - những đơn vị bị cáo buộc sử dụng các tác phẩm của các nghệ sĩ mà không được phép để huấn luyện AI.

Tuy nhiên các nhà nghiên cứu cũng cảnh báo rằng Nightshade cũng có một số hạn chế. Cụ thể, hình ảnh sau khi được xử lý có thể khác một chút so với ảnh gốc, đặc biệt là tác phẩm nghệ thuật sử dụng màu phẳng và nền mịn.

Ngoài ra, nhóm nghiên cứu cũng nhận thấy rằng các kỹ thuật hoàn tác những hình ảnh đã được Nightshade xử lý có thể được các bên khác phát triển.

Tính dùng AI để đạo nhái nghệ sĩ nổi tiếng ư, hãy nghĩ lại nếu không sẽ nếm phải 'độc dược'?- Ảnh 3.

Hình minh họa.

"Tráng men"

Glaze (Tráng men) hiện đã có phiên bản 1.1.1 vào tháng 6/2023.

Công cụ phòng thủ này thay đổi hình ảnh để ngăn AI sao chép phong cách của các nghệ sĩ. Nhóm nghiên cứu tin rằng các nghệ sĩ nên có cách ngăn chặn việc nắm bắt và tái tạo phong cách hình ảnh của họ:

"Việc bắt chước phong cách tạo ra một số kết quả có hại mà thoạt nhìn có thể không rõ ràng.

Đối với những nghệ sĩ có phong cách bị cố ý sao chép, họ không chỉ bị mất tiền hoa hồng và thu nhập cơ bản mà các bản sao tổng hợp chất lượng thấp rải rác trên mạng làm loãng thương hiệu và danh tiếng của họ.

Quan trọng nhất, việc bắt chước phong cách với các nghệ sĩ tương đương với hành vi trộm cắp danh tính và nếu điều này tiếp tục, nó sẽ khiến các nghệ sĩ giảm bớt tham vọng tạo ra tác phẩm mới".

Nhóm nghiên cứu cũng khuyến nghị các nghệ sĩ nên sử dụng cả Nightshade và Glaze. Hiện tại, hai công cụ này phải được tải xuống và cài đặt riêng biệt nhưng phiên bản kết hợp đang được phát triển.

Tính dùng AI để đạo nhái nghệ sĩ nổi tiếng ư, hãy nghĩ lại nếu không sẽ nếm phải 'độc dược'?- Ảnh 4.

Các cấp bảo vệ của Glaze có thể anh hưởng ít nhiều đến ảnh.

Hoài Giang

Cùng chuyên mục

"Ông hoàng lễ hội" Tùng Dương lột xác trong đêm nhạc tình cùng "toàn em trẻ", tiết lộ cách giải quyết ngỡ ngàng khi cãi nhau với vợ

Thứ 2, 15/04/2024 09:32
Là ca sĩ chính và cũng là biên tập âm nhạc của đêm nhạc Love Story, Tùng Dương đưa khán giả thủ đô đi từ bất ngờ này đến bất ngờ khác khi lần đầu kết hợp với hai ca sĩ trẻ Myra Trần và Quốc Thiên.

Nóng: CEO Apple Tim Cook vừa đến Việt Nam

Thứ 2, 15/04/2024 09:29
Có mặt tại Hà Nội rạng sáng ngày 15/4, CEO Apple Tim Cook dự kiến sẽ có cuộc gặp gỡ một số nhà sáng tạo nội dung và lập trình viên Việt Nam.

Bùng nổ xu hướng AI viết hộ bài: Tạo ra hàng triệu bài luận mỗi năm, giáo viên bối rối vì không thể phân biệt

Thứ 2, 15/04/2024 09:05
Ngay cả khi có công cụ dùng để phát hiện các bài viết AI, tính chính xác của chúng cũng bị nghi ngờ.

Một người chi 1,8 tỷ gom vàng miếng: Cảnh sát Trung Quốc khuyến cáo các chủ tiệm vàng phải cảnh giác

Thứ 2, 15/04/2024 08:53
Tình trạng thu mua vàng số lượng lớn đang dần trở nên phổ biến tại Trung Quốc.

Trung Quốc giáng đòn chí mạng vào Intel, AMD: buộc nhà mạng viễn thông phải loại bỏ chip nước ngoài, dùng chip nội địa

Thứ 2, 15/04/2024 08:49
Hiện tại thị trường Trung Quốc đóng góp đến 27% và 15% tổng doanh thu cho các hãng chip Intel và AMD của Mỹ.
     
Nổi bật trong ngày

Cùng họ cá rồng nhưng số phận hẩm hiu, chỉ để lợn ăn; dân quê dùng 1 chiêu, người thành phố "phát cuồng"

Chủ nhật, 14/04/2024 00:05
Cá thác lác bị chê có quá nhiều xương dăm, thịt bở, rất khó để chế biến nên trước kia chỉ khai thác làm thức ăn cho lợn hoặc gà vịt.

Israel tuyên bố thiệt hại đầu tiên khi Iran bắn hơn 200 tên lửa và UAV - IRGC phát cảnh cáo nóng tới Mỹ

Chủ nhật, 14/04/2024 08:53
Theo người phát ngôn IDF, tính đến thời điểm hiện tại, Iran đã phóng hơn 200 quả đạn các loại về phía Israel, trong đó có tên lửa hành trình và UAV.

Iran kết thúc đợt tấn công đầu tiên dài 5 tiếng vào Israel với 331 tên lửa và UAV, tuyên bố chiến tích quan trọng

Chủ nhật, 14/04/2024 11:54
Theo CNN, Iran đã kết thúc đợt tấn công đầu tiên dài 5 tiếng nhằm vào Israel với tổng cộng 331 tên lửa và UAV được phóng đi.

Bất ngờ với 2 tuỳ chọn màu sắc mới trên MacBook M3

Chủ nhật, 14/04/2024 16:20
Mặc dù đều có sự tương đồng về tông màu trầm, tuy nhiên màu Midnight trên MacBook Air khác biệt hoàn toàn so với màu Space Black trên dòng Pro.
xe.nguoiduatin.vn