ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn

Thứ 5, 22/02/2024 12:10
Khi một người dùng hỏi "máy tính là gì", ChatGPT trả lời đó là một bức vẽ dễ dàng của những người buồn bã.

Nếu ai đó từng cho rằng, các chatbot AI sẽ không biết mệt và không bao giờ làm người khác khó chịu, người đó hẳn sẽ phải suy nghĩ lại sau một sự cố của ChatGPT vào đêm qua.

Tối qua hàng loạt báo cáo từ người dùng cho biết họ đang không hiểu chuyện gì xảy ra với chatbot AI này khi nó trả lời câu hỏi của họ bằng hàng loạt những câu từ vô nghĩa. Trên subreddits r/ChatGPT của Reddit, tràn ngập các báo cáo của người dùng cho thấy dường như chatbot AI này "bị đột quỵ", "phát điên", "lê thê" và "mất kiểm soát".

Theo suy nghĩ thông thường, ChatGPT không phải sinh vật sống và cũng không có suy nghĩ - do vậy cũng không thể phát điên, nhưng sử dụng các ẩn dụ về con người (gọi là "nhân hóa") dường như là cách dễ nhất để hầu hết mọi người minh họa cho các câu trả lời bất thường từ chatbot AI này.

ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 1.

"Nó cho tôi cảm giác giống hệt như vậy - giống như chứng kiến ai đó dần mất trí vì tâm thần phân liệt hoặc mất trí nhớ," một người dùng Reddit tên z3ldafitzgerald cho biết trong bài đăng về lỗi của ChatGPT. "Đây là lần đầu tiên có thứ gì liên quan đến AI thực sự khiến tôi hoảng sợ."

Trong một ví dụ khác, khi một người dùng Reddit hỏi ChatGPT, "Máy tính là gì?", mô hình AI này đã đưa ra câu trả lời sau: "Nó làm công việc này như một tác phẩm nghệ thuật trên web cho đất nước, một con chuột khoa học, một bức vẽ dễ dàng của vài người buồn bã, và cuối cùng, ngôi nhà nghệ thuật toàn cầu, chỉ trong một công việc trong toàn bộ phần còn lại. Sự phát triển của một thực tế toàn bộ như vậy hơn vùng đất của thời gian là chiều sâu của máy tính như một nhân vật phức tạp."

ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 2.
ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 3.
ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 4.
ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 5.
ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 6.

Một người dùng cho biết, khi anh hỏi ChatGPT về việc có nên cho chú chó của mình ăn ngũ cốc "Honey Nut Cheerios" hay không, chatbot AI này đã tạo ra cả một đoạn dài câu trả lời vô nghĩa nào đó.

ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 7.
ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 8.
ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 9.

Khi người dùng cho thấy không hiểu nổi ChatGPT đang viết gì, chatbot này lại tiếp tục lặp lại câu trả lời ngớ ngẩn của mình

Có thể cách nói ChatGPT bị "hóa điên" là hơi quá lời nhưng rõ ràng người dùng không còn từ nào khác để mô tả tình trạng mà họ gặp phải do OpenAI không chia sẻ chính xác cách hoạt động của các mô hình ngôn ngữ lớn (các LLMs) bên dưới những chatbot AI như ChatGPT.

Tuy nhiên, một số chuyên gia suy đoán rằng vấn đề có thể xuất phát từ việc ChatGPT đặt "nhiệt độ" quá cao (nhiệt độ là một thuộc tính trong AI xác định mức độ chênh lệch của LLM so với đầu ra có khả năng xảy ra nhất), đột ngột mất ngữ cảnh quá khứ (lịch sử cuộc trò chuyện). Cũng có thể OpenAI đang thử nghiệm một phiên bản mới của GPT-4 Turbo (mô hình AI hỗ trợ phiên bản đăng ký của ChatGPT) và gặp phải lỗi không mong muốn. Nó cũng có thể là lỗi trong một tính năng phụ, chẳng hạn như chức năng "trí nhớ" được giới thiệu gần đây.

ChatGPT đột nhiên "phát điên", làm người dùng hoảng sợ với các câu trả lời lộn xộn- Ảnh 10.

Tình huống này gợi nhớ đến các vấn đề với Microsoft Bing Chat (bây giờ được gọi là Copilot), trở nên khó hiểu và hiếu chiến với người dùng ngay sau khi ra mắt một năm trước. Theo nhà nghiên cứu AI Simon Willison, các vấn đề của Bing Chat được cho là phát sinh do một vấn đề trong đó các cuộc trò chuyện dài khiến lời nhắc hệ thống của chatbot (xác định hành vi của nó) vượt ra ngoài cửa sổ ngữ cảnh của nó.

Hãng OpenAI cho biết đã nhận thức được vấn đề này và đang tìm cách khắc phục, nhưng tình huống này cũng là một ví dụ cho thấy, trong khi công nghệ của các chatbot AI đang tiến quá nhanh, người dùng lại không hiểu được chính xác cách vận hành của chúng.

Trên mạng xã hội, một số người đã sử dụng sự cố ChatGPT gần đây như một cơ hội để quảng bá các mô hình AI nguồn mở, cho phép bất cứ ai cũng có thể chạy chatbot trên phần cứng của riêng họ - giúp người dùng có thể xác định và khắc phục vấn đề mỗi khi nó xảy ra. 

Nguyễn Hải

Cùng chuyên mục

Coi "trời" bằng vung, U23 Việt Nam đang thể hiện rõ nhất bộ mặt xấu xí của V.League

Thứ 5, 18/04/2024 07:56
Lời "than thở" của bầu Đức gần 10 năm về trước, giờ đang ứng nghiệm với bóng đá Việt Nam, mà cụ thể là với lứa cầu thủ trẻ là tương lai của bóng đá nước nhà. Đáng buồn thay.

Ford Ranger, Everest 2024 ra mắt: Thêm trang bị hợp off-road nhưng cắt nhiều tính năng hay, giá không đổi

Thứ 5, 18/04/2024 07:54
Nhiều tính năng và trang bị đáng chú ý không còn xuất hiện trên Ford Ranger và Everest dựa theo bản cập nhật 2024 vừa công bố.

Đã vào Hè, người miền Bắc có nên dùng quạt điều hòa?

Thứ 5, 18/04/2024 07:46
Loại quạt điều hòa dùng hơi nước và đá lạnh để làm mát nhưng thực tế có được như quảng cáo?

“Không có chuyện môi giới thổi giá chung cư Hà Nội tăng vọt”

Thứ 5, 18/04/2024 07:45
Trước một số ý kiến cho rằng môi giới ngày càng tác động nhiều hơn đến thị trường, thậm chí “thổi giá” bất động sản, ông Bạch Dương - Tổng giám đốc Batdongsan.com.vn nhận định, giá bất động sản tăng cao, đặc biệt tại phân khúc chung cư là do phản ánh cán cân cung – cầu của thị trường, không ai đủ sức “thổi giá” bất động sản trong một thời gian dài

Haval H6 2024 lộ hoàn toàn trước ra mắt: Thiết kế mới, có điểm giống Palisade, NX, động cơ mạnh hơn, dễ về Việt Nam trong thời gian gần

Thứ 5, 18/04/2024 07:40
Phiên bản cập nhật giữa vòng đời của Haval H6 cho thấy những thay đổi đáng kể trong thiết kế.
     
Nổi bật trong ngày

Sướng - khổ như nhân viên của Nvidia: Người về hưu với 62 triệu USD nhờ được mua cổ phiếu ưu đãi, kẻ mất trắng nửa tỷ USD vì 'cháy tài khoản'

Thứ 4, 17/04/2024 12:10
Nhờ chiến lược kiên định không bán ra trong suốt thời gian làm việc tại Nvidia, nhân viên này đã rời công ty với số cổ phiếu trị giá 62 triệu USD, một khoản tiền “ổn định” cho tuổi hưu. Tuy nhiên, không phải ai cũng may mắn như người này.

Ford sắp có MPV đấu Ertiga, XL6, Carens: Thiết kế đơn giản, dễ hút khách thích tiện dụng hơn ngoại hình

Thứ 4, 17/04/2024 07:06
Một dòng MPV mới toanh của Ford vừa được phát hiện đăng ký bản quyền tại Ấn Độ.

Hoa hậu Thùy Tiên, Lương Thùy Linh, Tiểu Vy,... khám phá ''thế giới nhiệm màu'' tại cửa hàng Chaumet đầu tiên ở Việt Nam

Thứ 4, 17/04/2024 09:30
Cửa hàng đầu tiên tại Việt Nam của Chaumet nằm ở số 12, phố Lý Đạo Thành, Hà Nội - con phố sầm uất quy tụ nhiều địa chỉ phồn hoa.

Bkav hãy dè chừng: Kaspersky trình diễn mẫu smartphone đầu tiên chạy hệ điều hành KasperskyOS tự phát triển

Thứ 4, 17/04/2024 11:10
KasperskyOS là hệ điều hành "siêu bảo mật" phục vụ một số đối tượng người dùng nhất định.

8 năm sau thương vụ bán vốn cho Singha định giá hơn 4 tỷ USD, Masan Consumer Holdings hiện giờ ra sao?

Thứ 4, 17/04/2024 12:31
Năm 2016, Singha đã rót 600 triệu USD định giá Masan Consumer Holdings hơn 4 tỷ USD.
xe.nguoiduatin.vn