OpenAI đang sử dụng GPT-4 để xây dựng hệ thống kiểm duyệt nội dung AI

OpenAI đang sử dụng GPT-4 để xây dựng hệ thống kiểm duyệt nội dung AI

Thứ 4, 16/08/2023 13:35
Mặc dù đang phát triển ChatGPT trở thành một công cụ có thể giúp kiểm duyệt nội dung trên internet, OpenAI vẫn nhấn mạnh việc con người nên tham gia vào quá trình này.

Kiểm duyệt nội dung là một trong những vấn đề gai góc nhất trên internet trong nhiều thập kỷ. Đây là một chủ đề khó giải quyết đối với bất kỳ ai, khi xem xét tính chủ quan đi đôi với việc tìm ra nội dung nào sẽ được cho phép trên một nền tảng nhất định. Nhà sản xuất ChatGPT cho rằng AI có thể giúp giải quyết vấn đề này. Đó là lý do vì sao GPT-4 đã được tận dụng cho việc kiểm tra nội dung. Nó đang sử dụng mô hình đa phương thức lớn "để xây dựng một hệ thống kiểm duyệt nội dung có thể mở rộng, nhất quán và có thể tùy chỉnh".

OpenAI đã viết trong một bài đăng trên blog rằng GPT-4 không chỉ có thể giúp đưa ra các quyết định kiểm duyệt nội dung mà còn hỗ trợ phát triển các chính sách và lặp lại nhanh chóng các thay đổi về chính sách, "giảm chu kỳ từ hàng tháng xuống hàng giờ". Họ tuyên bố rằng mô hình có thể phân tích cú pháp các quy định và sắc thái khác nhau trong chính sách nội dung và thích ứng ngay lập tức với bất kỳ bản cập nhật nào. Điều này sẽ giúp việc gắn nhãn nội dung nhất quán hơn.

"Chúng tôi tin rằng điều này mang lại một tầm nhìn tích cực hơn về tương lai của các nền tảng kỹ thuật số, nơi AI có thể giúp điều tiết lưu lượng truy cập trực tuyến theo chính sách dành riêng cho nền tảng và giảm bớt gánh nặng tinh thần cho một số lượng lớn người điều hành", đại diện OpenAI cho biết.

"Bất kỳ ai có quyền truy cập API OpenAI đều có thể triển khai phương pháp này để tạo hệ thống kiểm duyệt hỗ trợ AI của riêng họ", OpenAI tuyên bố các công cụ kiểm duyệt GPT-4 có thể giúp các công ty thực hiện số lượng công việc tương đương khoảng sáu tháng trong khoảng một ngày.

Đã có tài liệu rõ ràng rằng việc kiểm duyệt thủ công những nội dung gây tổn thương có thể tác động đáng kể đến sức khỏe tâm thần của người điều hành, đặc biệt là khi nói đến tài liệu đồ họa. Năm 2020, Meta đã đồng ý trả cho hơn 11.000 người điều hành ít nhất 1.000 USD mỗi người để bồi thường cho các vấn đề sức khỏe tâm thần có thể bắt nguồn từ việc xem xét tài liệu đã được đăng trên Facebook.

Việc sử dụng AI để giảm bớt một số gánh nặng từ những người đánh giá là con người có thể mang lại lợi ích rất lớn. Ví dụ, Meta đã sử dụng AI để trợ giúp người điều hành lâu năm. Tuy nhiên, OpenAI nói rằng, cho đến nay, người điều hành là con người đã nhận được sự trợ giúp từ "các mô hình máy học nhỏ hơn dành riêng cho ngành dọc. Quá trình này vốn đã chậm và có thể dẫn đến căng thẳng tinh thần cho người điều hành là con người."

Các mô hình AI vẫn còn rất lâu mới đạt được đến sự hoàn hảo. Các công ty lớn từ lâu đã sử dụng AI trong các quy trình kiểm duyệt của họ và dù có hoặc không có sự trợ giúp của công nghệ, vẫn có những trường hợp sai sót. Vẫn còn phải xem liệu hệ thống của OpenAI có thể tránh được nhiều bẫy kiểm duyệt chính mà các công ty khác đã vướng phải trong nhiều năm hay không.

Trong mọi trường hợp, OpenAI đồng ý rằng con người vẫn cần tham gia vào quá trình này. Vallone, người làm việc trong nhóm chính sách của OpenAI, cho biết: “Chúng tôi đã tiếp tục có sự đánh giá của con người để xác minh một số phán đoán của mô hình".

"Các đánh giá của các mô hình ngôn ngữ dễ bị ảnh hưởng bởi những sai lệch không mong muốn có thể đã được đưa vào mô hình trong quá trình đào tạo. Như với bất kỳ ứng dụng AI nào, kết quả và đầu ra sẽ cần được theo dõi, xác thực và tinh chỉnh cẩn thận bằng cách duy trì con người trong vòng kiểm duyệt đó".

"Bằng cách giảm sự tham gia của con người vào một số phần của quy trình kiểm duyệt có thể được xử lý bằng các mô hình ngôn ngữ, nguồn nhân lực có thể tập trung hơn vào việc giải quyết các trường hợp phức tạp cần thiết nhất cho việc tinh chỉnh chính sách", OpenAI cho biết.

Anh Nguyễn

 

 

Trưởng nhóm Tin cậy và an toàn rời bỏ công ty giữa lúc OpenAI phải đối diện với cuộc điều tra của FTC

Chủ nhật, 23/07/2023 06:30
Trưởng nhóm Tin cậy và an toàn của OpenAI là Dave Willner đã rời vị khỏi công ty, như đã thông báo thông qua một bài đăng trên Linkedin. Tuy vẫn giữ “vai trò tư vấn” nhưng ông đã yêu cầu những người theo dõi “tiếp cận” các cơ hội liên quan.

OpenAI đang nỗ lực gấp đôi để ngăn chặn AI 'đi lừa đảo'

Thứ 5, 06/07/2023 12:16
OpenAI đang thành lập một đơn vị đặc biệt để phát triển các cách điều khiển và kiểm soát các hệ thống AI “siêu thông minh”, khiến cho nó thực sự an toàn với con người.

OpenAI tiếp tục bị kiện vì vi phạm bản quyền để đào tạo ChatGPT

Thứ 6, 30/06/2023 13:24
Hai tác giả người Mỹ đã kiện OpenAI tại tòa án liên bang San Francisco vào thứ Tư, tuyên bố trong một vụ kiện tập thể được đề xuất rằng công ty đã lạm dụng các tác phẩm của họ để “đào tạo” hệ thống trí tuệ nhân tạo phổ biến ChatGPT.
Cùng tác giả

Honda chi hơn 1 tỷ USD để nâng cấp các nhà máy ở Mỹ

Thứ 6, 18/03/2022 16:00
Chi nhánh sản xuất tại Canada của Honda Motor Co sẽ đầu tư 1,38 tỷ đô la Canada (1,09 tỷ USD) trong vòng 6 năm để nâng cấp các nhà máy của mình ở Ontario khi hãng chuẩn bị sản xuất chiếc SUV hybrid mới cho Bắc Mỹ.
Cùng chuyên mục

FBI cảnh báo không nên sử dụng các trạm sạc điện thoại công cộng

Thứ 6, 24/05/2024 09:32
FBI đang cảnh báo người tiêu dùng không nên sử dụng các trạm sạc điện thoại công cộng để tránh thiết bị của họ bị lây nhiễm phần mềm độc hại.

Bộ TT&TT xử phạt công ty đặt sản phẩm quảng cáo vào kênh YouTube "đen"

Thứ 6, 24/05/2024 09:19
Cục Phát thanh, truyền hình và thông tin điện tử (Bộ TT&TT) vừa ban hành Quyết định xử phạt vi phạm hành chính đối với Công ty TNHH Inverse Media vì hành vi đặt sản phẩm quảng cáo vào kênh YouTube "đen".

MyTV của VNPT đang sở hữu bản quyền phát trực tiếp toàn bộ các trận đấu của FA Cup

Thứ 4, 22/05/2024 10:33
Truyền hình MyTV của VNPT đã chính thức sở hữu quyền phát trực tiếp toàn bộ các trận đấu của FA Cup mùa giải 2023-2024. Người hâm mộ hiện đã có thể đón xem trận đấu cuối cùng của mùa giả năm nay trực tiếp trên truyền hình và ứng dụng MyTV.

Hướng dẫn đổi tên Facebook đơn giản nhất

Thứ 3, 21/05/2024 15:57
Đổi tên Facebook là thao tác đơn giản giúp bạn cập nhật thông tin cá nhân hoặc tạo ấn tượng mới. Tuy nhiên, không phải ai cũng biết cách đổi tên trên Facebook.

Microsoft ra mắt Copilot+ PC với khả năng AI tổng hợp được tích hợp sẵn

Thứ 3, 21/05/2024 15:54
Trong một sự kiện mới đây, Microsoft đã chính thức ra mắt chiếc máy tính AI mới được tích hợp trí tuệ nhân tạo Copilot+ PC - có thể trở thành tiêu chuẩn mới về phần cứng đối với các laptop AI trong tương lai.
     
xe.nguoiduatin.vn