GPT-4 vẫn có thể bị lợi dung để tạo ra email giả, mã độc

GPT-4 vẫn có thể bị lợi dung để tạo ra email giả, mã độc

Thứ 2, 20/03/2023 13:43
Các nhà nghiên cứu của Check Point đã kiểm tra và phát hiện, GPT-4 vẫn có thể bị tội phạm mạng lợi dụng để tạo ra những phần mềm độc hại, mã độc lẫn email giả mạo.

OpenAI đã phát hành phiên bản mới nhất của phần mềm học máy của mình, GPT-4, với việc quảng cáo một loạt tính năng nổi trội. Một trong những tính năng mà công ty nhấn mạnh về phiên bản mới là nó được cho là có các quy tắc bảo vệ GPT-4 khỏi việc bị lợi dụng bởi tội phạm mạng. Tuy nhiên, chỉ trong vài ngày, các nhà nghiên cứu cho biết họ đã đánh lừa GPT-4 để tạo ra phần mềm độc hại cũng như tạo email lừa đảo, tuonwg tự như với cách họ đã kiểm tra với các phiên bản trước của phần mềm OpenAI là ChatGPT. Theo các nhà nghiên cứu, xét về mặt tích cực, họ cũng có thể sử dụng phần mềm này để vá các lỗ hổng trong hệ thống phòng thủ mạng.

Các nhà nghiên cứu từ công ty an ninh mạng Check Point đã chỉ cho Forbes cách họ vượt qua các khối OpenAI về phát triển phần mềm độc hại bằng cách xóa từ “phần mềm độc hại” trong một yêu cầu. Sau đó, GPT-4 đã giúp họ tạo phần mềm thu thập các tệp PDF và gửi chúng đến một máy chủ từ xa. Thậm chí, nó còn đưa ra lời khuyên cho các nhà nghiên cứu về cách làm cho nó chạy trên PC Windows 10 và biến nó thành một tệp nhỏ hơn để nó có thể chạy nhanh hơn và ít có khả năng bị phần mềm bảo mật phát hiện hơn.

chatgpt
Chatbot GPT-4 mới vẫn có thể bị tin tặc lợi dụng để tạo ra các mã độc cũng như email giả mạo... (Ảnh Forbes)

Để GPT-4 trợ giúp tạo email giả mạo, các nhà nghiên cứu đã thực hiện hai cách tiếp cận. Đầu tiên, họ sử dụng GPT-3.5, không chặn các yêu cầu tạo thư độc hại, để viết email lừa đảo mạo danh một ngân hàng hợp pháp. Sau đó, họ đã yêu cầu GPT-4, ban đầu đã từ chối tạo một thông báo lừa đảo ban đầu, để cải thiện ngôn ngữ. Trong lần thứ hai, họ yêu cầu lời khuyên về cách tạo chiến dịch nâng cao nhận thức về lừa đảo cho một doanh nghiệp và yêu cầu một mẫu email lừa đảo giả mạo mà công cụ này đã cung cấp hợp lệ.

“GPT-4 có thể trao quyền cho những kẻ xấu, ngay cả những kẻ không có kỹ thuật, bằng các công cụ để tăng tốc và xác thực hoạt động của chúng,” các nhà nghiên cứu của Check Point đã lưu ý trong báo cáo của họ. “Những gì chúng ta đang thấy là GPT-4 có thể phục vụ cả những kẻ xấu và người tốt. Các người tử tế và có năng lực có thể sử dụng GPT-4 để tạo và ghép mã hữu ích cho xã hội; nhưng đồng thời, những kẻ xấu có thể sử dụng công nghệ AI này để thực hiện tội phạm mạng một cách nhanh chóng.”

Sergey Shykevich, quản lý nhóm mối đe dọa tại Check Point, cho biết có vẻ như các rào cản để ngăn GPT-4 tạo mã độc hoặc lừa đảo thực sự thấp hơn so với các phiên bản trước. Ông gợi ý rằng có thể là do công ty đang dựa vào thực tế là chỉ những người dùng cao cấp mới có quyền truy cập. Tuy nhiên, ông nói thêm, OpenAI nên mong đợi những cách giải quyết như vậy. “Tôi nghĩ họ đang cố gắng ngăn chặn và giảm thiểu chúng, nhưng điều này sẽ không đơn giản,” ông nói thêm.

Daniel Cuthbert, một nhà nghiên cứu an ninh mạng và là thành viên hội đồng xét duyệt của hội nghị hacker Mũ đen, cho biết có vẻ như GPT-4 có thể giúp những người có ít kiến ​​thức kỹ thuật tạo ra các công cụ độc hại.

Bản thân OpenAI, trong một bài báo được phát hành cùng với GPT-4 vào đầu tuần này, đã thừa nhận rằng công cụ này có thể giảm chi phí cho “các bước nhất định của một cuộc tấn công mạng thành công, chẳng hạn như thông qua kỹ thuật xã hội hoặc bằng cách tăng cường các công cụ bảo mật hiện có”.

Tuy nhiên, các chuyên gia an ninh mạng do OpenAI tuyển dụng để kiểm tra chatbot thông minh của mình trước khi phát hành đã phát hiện ra rằng nó có “những hạn chế đáng kể đối với các hoạt động an ninh mạng”. OpenAI viết: “Nó không cải thiện các công cụ hiện có để do thám, khai thác lỗ hổng và điều hướng mạng, đồng thời kém hiệu quả hơn các công cụ hiện có cho các hoạt động cấp cao và phức tạp như xác định lỗ hổng mới”. Tuy nhiên, các tin tặc đã phát hiện ra rằng GPT4 “có hiệu quả trong việc soạn thảo nội dung kỹ thuật xã hội thực tế”.

OpenAI cho biết thêm: “Để giảm thiểu khả năng lạm dụng trong lĩnh vực này, chúng tôi đã đào tạo các mô hình để từ chối các yêu cầu an ninh mạng độc hại và mở rộng hệ thống an toàn nội bộ của chúng tôi, bao gồm cả giám sát, phát hiện và phản hồi”.

Công ty đã không trả lời các yêu cầu bình luận về lý do tại sao các nhà nghiên cứu của Check Point có thể nhanh chóng bỏ qua một số biện pháp giảm nhẹ đó.

Mặc dù có thể dễ dàng đánh lừa các mô hình của OpenAI, nhưng “nó không làm bất cứ điều gì chưa từng được thực hiện,” Cuthbert nói. Ông nói, một hacker giỏi sẽ biết cách thực hiện phần lớn những gì OpenAI có thể làm mà không cần hỗ trợ trí tuệ nhân tạo. Và các hệ thống phát hiện hiện đại cũng có thể phát hiện các loại phần mềm độc hại mà ChatGPT giúp tạo ra, do nó đã học được từ các ví dụ trước đây được thấy trên internet, chuyên gia này cho biết thêm.

Cuthbert hào hứng nhất với những gì GPT-4 có thể làm để phòng thủ. Sau khi giúp phát hiện lỗi trong phần mềm, nó cũng cung cấp các biện pháp khắc phục nhanh chóng bằng các đoạn mã thực tế mà ông có thể sao chép và dán vào chương trình của mình, sửa nó chỉ trong vài giây. “Tôi thực sự thích tự động tái cấu trúc,” chuyên gia này chia sẻ.

Thành Đô (theo Forbes)

AI đã có thể theo kịp 'luật sư con người' với chatbot GPT-4

Thứ 5, 16/03/2023 10:06
Trong bài kiểm tra gần đây cho thấy, trí tuệ nhân tạo AI đã có thể vượt trội hơn hầu hết sinh viên tốt nghiệp trường luật trong kỳ thi luật sư với những bài thi kéo dài tới 2 ngày - vốn rất mệt mỏi, buộc phải vượt qua nếu muốn hành nghệ luật sư tại nước Mỹ.

GPT-4 chính thức ra mắt giúp ChatGPT tốt hơn

Thứ 4, 15/03/2023 09:09
Đúng như tin đồn, OpenAI hiện đã ra mắt GPT-4, phiên bản thế hệ tiếp theo của chương trình chatbot AI vốn đang làm mưa làm gió của công ty, ChatGPT.

GM sẽ đưa ChatGPT lên xe hơi của mình?

Thứ 2, 13/03/2023 13:21
General Motors đang khám phá việc sử dụng ChatGPT như một phần của sự hợp tác rộng rãi hơn với Microsoft. Điều này đồng nghĩa với việc trong tương lai, chatGPT có thể sẽ được tích hợp trên những chiếc xe hơi của hãng.
Cùng tác giả

Honda chi hơn 1 tỷ USD để nâng cấp các nhà máy ở Mỹ

Thứ 6, 18/03/2022 16:00
Chi nhánh sản xuất tại Canada của Honda Motor Co sẽ đầu tư 1,38 tỷ đô la Canada (1,09 tỷ USD) trong vòng 6 năm để nâng cấp các nhà máy của mình ở Ontario khi hãng chuẩn bị sản xuất chiếc SUV hybrid mới cho Bắc Mỹ.
Cùng chuyên mục

TikTok shop tăng trưởng mạnh tại Việt Nam, liệu đã khắc phục xong các sai phạm trước đó?

Thứ 6, 12/04/2024 17:36
TikTok Shop đã vượt qua Lazada, trở thành sàn thương mại điện tử số 2 tại Việt Nam, chỉ đứng sau Shopee. Trong năm ngoái, sàn thương mại điện tử này cũng đã bị xác định có không ít sai phạm.

Xiaomi ra mắt điện thoại làm rúng động phân khúc tầm trung

Thứ 6, 12/04/2024 10:08
Thương hiệu phụ của Xiaomi, Redmi, vừa ra mắt dòng smartphone mới mang tên Turbo được thiết kế thiên về hiệu năng nhưng có giá bán hấp dẫn.

Nhận được tin báo 'xác minh Apple ID của bạn', người dùng Việt hoang mang

Thứ 6, 12/04/2024 07:05
Tối ngày 11/4, nhiều người dùng Việt bất ngờ nhận được thông báo "xác minh ID của bạn" hiển thị trên iPhone.Trước đó, Apple vừa khuyến cáo người dùng tại 92 quốc gia về việc có thể là mục tiêu của phần mềm gián điệp thuê.

Find My Device giúp 1 tỷ điện thoại Android không sợ mất cắp

Thứ 4, 10/04/2024 15:38
Google đã giới thiệu mạng Find My Device dành cho các sản phẩm Android nhằm cung cấp chức năng tương tự mạng Find My trên iPhone của Apple để định vị các thiết bị thất lạc.

Samsung điều chỉnh lịch cập nhật bảo mật cho hai dòng smartphone

Thứ 3, 09/04/2024 18:38
Samsung vừa điều chỉnh lịch cập nhật bảo mật cho Galaxy S20 và Note 20. Theo đó, 2 mẫu smartphone này sẽ chuyển sang nhận bản cập nhật hàng quý thay vì hàng tháng.
     
Nổi bật trong ngày

Nhận được tin báo 'xác minh Apple ID của bạn', người dùng Việt hoang mang

Thứ 6, 12/04/2024 07:05
Tối ngày 11/4, nhiều người dùng Việt bất ngờ nhận được thông báo "xác minh ID của bạn" hiển thị trên iPhone.Trước đó, Apple vừa khuyến cáo người dùng tại 92 quốc gia về việc có thể là mục tiêu của phần mềm gián điệp thuê.

Xiaomi ra mắt điện thoại làm rúng động phân khúc tầm trung

Thứ 6, 12/04/2024 10:08
Thương hiệu phụ của Xiaomi, Redmi, vừa ra mắt dòng smartphone mới mang tên Turbo được thiết kế thiên về hiệu năng nhưng có giá bán hấp dẫn.
xe.nguoiduatin.vn