Thực tế, nhiều giáo viên đang cảm thấy lo ngại trước việc các sinh viên, học sinh thực hiện các bài tập ở nhà hay bài văn thông qua sự trợ giúp của ChatGPT. Chính vì vậy, nhu cầu đối với hệ thống phát hiện văn bản do các AI như ChatGPT tạo ra trở nên cần thiết trong một số lĩnh vực, đặc biệt là phòng chống đạo văn.
Giờ đây, một nhóm các nhà nghiên cứu tại Đại học Stanford đã đề xuất một phương pháp mới gọi là DetectGPT nhằm mục đích trở thành một trong những công cụ đầu tiên chống lại văn bản được tạo ra bởi AI trong giáo dục đại học. Phương pháp này dựa trên ý tưởng rằng văn bản do các hệ thống như ChatGPT tạo ra thường di chuyển xung quanh các vùng cụ thể của “vùng cong âm của hàm xác suất nhật ký”. Thông qua cái nhìn về vấn đề này, nhóm đã phát triển một công cụ mới để đánh giá xem văn bản có phải do máy tạo ra hay không mà không cần dựa vào việc đào tạo AI hoặc thu thập các bộ Big Data để so sánh văn bản.
Phương pháp này, được gọi là zero-shot, cho phép DetectGPT phát hiện văn bản do máy viết mà không cần biết về AI nào đã được sử dụng để tạo văn bản đó. Nó hoạt động hoàn toàn trái ngược với các phương pháp khác yêu cầu đào tạo “bộ phân loại trừ” và bộ dữ liệu của các đoạn thực được tạo ra.
Nhóm đã thử nghiệm DetectGPT trên tập dữ liệu gồm các bài báo giả mạo và nó vượt trội so với các phương pháp zero-shot khác để phát hiện văn bản do máy tạo. Nhìn chung, DetectGPT có thể là một cách đầy hứa hẹn để xem xét kỹ lưỡng văn bản do máy tạo ra trong tương lai.
Tóm lại, DetectGPT là một phương pháp mới để phát hiện văn bản do máy tạo, sử dụng các đặc điểm độc đáo của văn bản do AI tạo ra. Đây là một phương pháp hoàn thành không yêu cầu bất kỳ dữ liệu bổ sung hoặc đào tạo nào, làm cho nó trở thành một công cụ hiệu quả để xác định văn bản do máy tạo. Khi việc sử dụng AI tiếp tục phát triển, tầm quan trọng của các hệ thống tương ứng để phát hiện văn bản do máy tạo sẽ ngày càng trở nên quan trọng. DetectGPT là một phương pháp đầy hứa hẹn có thể có tác động đáng kể trong nhiều lĩnh vực và sự phát triển hơn nữa của nó có thể mang lại lợi ích cho nhiều lĩnh vực.
Thái An
