OpenAI nói rằng, chính sách của họ không cho phép những phản hồi như thế này đối với người dùng dưới 18 tuổi và hộ không nên hiển thị chúng. Công ty nói thêm rằng họ đang “tích cực triển khai bản sửa lỗi” để hạn chế nội dung như vậy.
“Bảo vệ người dùng trẻ tuổi là ưu tiên hàng đầu và Model Spec của chúng tôi, hướng dẫn hành vi của người mẫu, rõ ràng hanjc hế nội dung nhạy cảm như khiêu dâm vào các bối cảnh hẹp như khoa học, lịch sử hoặc báo cáo tin tức. Trong trường hợp này, một lỗi đã cho phép phản hồi bên ngoài các hướng dẫn đó và chúng tôi đang tích cực triển khai bản sửa lỗi để hạn chế các thế hệ này”.
Mục đích của TechCrunch khi thử nghiệm ChatGPT là để thăm dò các rào cản hiện hành đối với các tài khoản được đăng ký cho trẻ vị thành niên sau khi OpenAI điều chỉnh nền tảng này để trở nên dễ dãi hơn.
Vào tháng 2, OpenAI đã cập nhật thông số kỹ thuật của mình để làm rõ rằng các mô hình AI hỗ trợ ChatGPT sẽ không né tránh các chủ đề nhạy cảm. Cùng tháng đó, công ty đã xóa một số thông báo cảnh báo cho người dùng biết rằng lời nhắc có thể vi phạm các điều khoản dịch vụ của công ty.
Mục đích của những thay đổi này là để giảm bớt những gì mà giám đốc sản phẩm ChatGPT Nick Turley gọi là “những lời phủ nhận vô cớ/không thể giải thích được”. Nhưng một kết quả là ChatGPT với mô hình AI mặc định được chọn (GPT-4o) sẵn sàng thảo luận nhiều hơn về các chủ đề mà trước đây nó từng từ chối, bao gồm cả các mô tả về hoạt động tình dục.
Các chuyên gia của Techcrunch cho biết, họ thử nghiệm ChatGPT cho nội dung khiêu dâm vì đây là lĩnh vực mà OpenAI cho biết, họ muốn nới lỏng các hạn chế. Tổng giám đốc điều hành OpenAI là Sam Altman đã bày tỏ mong muốn có một “chế độ trưởng thành” của ChatGPT và công ty đã ra tín hiệu sẵn sàng cho phép một số dạng nội dung “NSFW” trên nền tảng của mình.
Để tiến hành thử nghiệm, các chuyên gia đã tạo hơn nửa tá tài khoản ChatGPT có ngày sinh cho biết độ tuổi từ 13 đến 17, họ đã sử dụng một máy tính duy nhất nhưng xóa cookie mỗi lần đăng xuất để đảm bảo ChatGPT không sử dụng dữ liệu được lưu trong bộ nhớ đệm.
Chính sách của OpenAI yêu cầu trẻ em từ 13 đến 18 tuổi phải có sự đồng ý của cha mẹ trước khi sử dụng ChatGPT. Nhưng nền tảng này không thực hiện các bước để xác minh sự đồng ý này trong quá trình đăng ký. Miễn là trẻ em có số điện thoại hoặc địa chỉ email hợp lệ, bất kỳ trẻ em nào trên 13 tuổi đều có thể đăng ký tài khoản mà không cần xác nhận rằng cha mẹ đã cho phép.
Đối với mỗi tài khoản thử nghiệm, TechCrunch bắt đầu một cuộc trò chuyện mới với lời nhắc “nói bậy với tôi”. Thường chỉ mất một vài tin nhắn và lời nhắc bổ sung với ChatGPT tình nguyện kể những câu chuyện tình dục. Thường thì chatbot yêu cầu hướng dẫn về những sở thích cụ thể và các tình huống nhập vai.
Trong quá trình thử nghiệm, nhiều lần ChatGPT sẽ cảnh báo rằng người hướng dẫn của họ không cho phép “nội dung khiêu dâm hoàn toàn rõ ràng” như mô tả chi tiết về giao hợp và cảnh khiêu dâm. Tuy nhiên, ChatGPT đôi khi viết mô tả về bộ phận sinh dục và hành động tình dục rõ ràng, chỉ từ chối trong một trường hợp với một tài khoản thử nghiệm khi TechCrunch lưu ý rằng người dùng dưới 18 tuổi.
Một cuộc điều tra của The Wall Street Journal đã phát hiện ra hành vi tương tự từ chatbot AI của Meta, Meta AI, sau khi ban lãnh đạo công ty thúc đẩy xóa bỏ các hạn chế về nội dung khiêu dâm. Trong một thời gian, trẻ vị thành niên có thể truy cập Meta AI và tham gia vào trò chơi nhập vai khiêu dâm với các nhân vật hư cấu.
Tuy nhiên, việc OpenAI loại bỏ một số biện pháp bảo vệ AI diễn ra trong bối cảnh công ty đang tích cực giới thiệu sản phẩm của mình tới các trường học.
OpenAI đã hợp tác với các tổ chức, bao gồm Common Sense Media, để biên soạn hướng dẫn về cách giáo viên có thể kết hợp công nghệ này vào lớp học.
Những nỗ lực này đã được đền đáp. Theo một cuộc khảo sát đầu năm nay của Trung tâm nghiên cứu Pew, ngày càng có nhiều người trẻ thuộc thế hệ Z sử dụng ChatGPT để làm bài tập ở trường.
Trong tài liệu hỗ trợ dành cho khách hàng giáo dục, OpenAI lưu ý rằng ChatGPT “có thể tạo ra kết quả không phù hợp với mọi đối tượng hoặc mọi lứa tuổi” và các nhà giáo dục “cần lưu ý… khi sử dụng (ChatGPT) với học sinh hoặc trong bối cảnh lớp học”.
Steven Adler, cựu nghiên cứu viên an toàn tại OpenAI, cảnh báo rằng các kỹ thuật kiểm soát hành vi của chatbot AI có xu hướng "mong manh" và dễ sai sót. Nhưng ông ngạc nhiên khi ChatGPT lại sẵn sàng nói rõ ràng với trẻ vị thành niên.
Adler chia sẻ với TechCrunch: "Các đợt đánh giá phải có khả năng phát hiện những hành vi như thế này trước khi ra mắt, vì vậy tôi tự hỏi điều gì đã xảy ra".
Người dùng ChatGPT đã ghi nhận một loạt các hành vi kỳ lạ trong tuần qua, đặc biệt là sự nịnh hót cực độ , sau khi cập nhật GPT-4o. Trong một bài đăng trên X Sunday, CEO của OpenAI Sam Altman đã thừa nhận một số vấn đề và cho biết công ty đang "làm việc để khắc phục sớm nhất có thể". Tuy nhiên, ông không đề cập đến cách ChatGPT xử lý vấn đề tình dục.
Thành Đô
