ASEAN hướng dẫn 7 nguyên tắc sử dụng và triển khai AI an toàn

ASEAN hướng dẫn 7 nguyên tắc sử dụng và triển khai AI an toàn

Thứ 2, 23/09/2024 15:13
ASEAN vừa công bố “Hướng dẫn về quản trị và đạo đức AI” nhằm khuyến khích các tổ chức sử dụng và triển khai công nghệ này một cách có trách nhiệm hiệu quả và bền vững. Trong đó, đặc biệt đưa ra 7 nguyên tắc nhằm đảm bảo niềm tin vào AI cũng như thiết kế, phát triển và triển khai các hệ thống AI có đạo đức.
aseanaigovernanceandethicsguidelines
"Hướng dẫn về quản trị và đạo đức AI" của ASEAN nhằm khuyến khích các tổ chức sử dụng và triển khai công nghệ này một cách có trách nhiệm hiệu quả và bền vững.

Cụ thể, 7 nguyên tắc triển khai AI có đạo đức được ASEAN khuyến nghị như sau:

Minh bạch và khả năng giải thích: Minh bạch yêu cầu phải công khai khi một hệ thống AI đang được sử dụng, vai trò của nó trong việc ra quyết định, loại dữ liệu mà nó sử dụng và mục đích của hệ thống. Việc này giúp công chúng nhận biết và đưa ra lựa chọn sáng suốt về việc có nên sử dụng hệ thống được hỗ trợ bởi AI hay không.

Ngoài ra, những nhà triển khai các sản phẩm và dịch vụ AI cũng cần có khả năng giải thích một cách dễ hiểu lý do đằng sau các quyết định của hệ thống AI, bởi không phải lúc nào cách thức hoạt động của AI cũng rõ ràng.

Công bằng và bình đẳng: Hướng dẫn khuyến nghị các nhà triển khai AI nên có các biện pháp bảo vệ để đảm bảo rằng các quyết định thuật toán không làm trầm trọng thêm hoặc khuếch đại các hành vi phân biệt đối xử hiện có hay bất công đối với các nhóm nhân khẩu học khác nhau.

Quá trình thiết kế, phát triển và triển khai hệ thống AI cần tránh gây ra thiên vị hoặc phân biệt đối xử không công bằng. Các nhà triển khai hệ thống AI nên thường xuyên kiểm tra để phát hiện thiên vị và thực hiện các điều chỉnh cần thiết nhằm đảm bảo tính công bằng.

Bảo mật và an toàn: Các nhà triển khai AI phải đảm bảo hệ thống an toàn và đủ bảo mật trước các cuộc tấn công độc hại.

Điều này là yếu tố cốt lõi để xây dựng niềm tin của công chúng vào AI. Các nhà triển khai AI cần thực hiện đánh giá tác động và rủi ro, đồng thời xác định và giảm thiểu các rủi ro đã biết. Cách tiếp cận ngăn ngừa rủi ro phải được áp dụng, cùng với các biện pháp phòng ngừa để con người có thể can thiệp khi cần thiết, nhằm ngăn chặn thiệt hại. Hệ thống AI cũng cần có khả năng tự ngắt kết nối an toàn trong trường hợp đưa ra các quyết định không an toàn.

Lấy con người làm trung tâm: Các hệ thống AI phải tôn trọng các giá trị lấy con người làm trung tâm và theo đuổi các lợi ích cho xã hội, bao gồm phúc lợi, dinh dưỡng và hạnh phúc của con người. Đây là chìa khóa để đảm bảo rằng mọi người đều được hưởng lợi từ quá trình thiết kế, phát triển và triển khai AI, đồng thời được bảo vệ khỏi các tác hại tiềm ẩn.

Đặc biệt, trong những trường hợp hệ thống AI được sử dụng để đưa ra quyết định về con người hoặc hỗ trợ con người, các hệ thống này phải được thiết kế nhằm mang lại lợi ích cho con người, không lợi dụng những người dễ bị tổn thương.

Quyền riêng tư và quản trị dữ liệu: Để đảm bảo quyền riêng tư và bảo vệ dữ liệu, hệ thống AI cần có các cơ chế duy trì và bảo vệ chất lượng, tính toàn vẹn của dữ liệu.

Các giao thức dữ liệu cần quy định rõ ai có thể truy cập và khi nào có thể truy cập dữ liệu. Quyền riêng tư và bảo vệ dữ liệu phải được tôn trọng và tuân thủ trong suốt quá trình thiết kế, phát triển và triển khai AI. Việc thu thập, lưu trữ, tạo ra và xóa dữ liệu trong vòng đời của hệ thống AI phải tuân thủ các luật bảo vệ dữ liệu, quản trị dữ liệu hiện hành và các nguyên tắc đạo đức.

Trách nhiệm giải trình và tính chính trực: Các nhà triển khai phải chịu trách nhiệm về quyết định của hệ thống AI, cũng như tuân thủ luật pháp và tôn trọng các nguyên tắc đạo đức. Trong quá trình thiết kế, phát triển và triển khai hệ thống AI, tất cả các bên liên quan cần hành động với sự chính trực trong suốt vòng đời của hệ thống.

Người triển khai phải đảm bảo hệ thống hoạt động đúng cách, tuân thủ luật pháp hiện hành, chính sách quản trị AI nội bộ và các nguyên tắc đạo đức. Nếu hệ thống AI gặp sự cố hoặc bị lạm dụng dẫn đến hậu quả tiêu cực, những người có trách nhiệm phải hành động một cách chính trực và thực hiện biện pháp khắc phục để ngăn chặn sự cố tương tự trong tương lai.

Khả năng xử lý lỗi trong quá trình thực hiện: Hệ thống AI cần có khả năng xử lý lỗi trong quá trình thực hiện, đối phó với đầu vào bất ngờ hoặc sai sót, cũng như các điều kiện môi trường căng thẳng.

Hệ thống phải hoạt động nhất quán và ổn định, cung cấp kết quả đáng nhất quán với nhiều loại đầu vào và tình huống khác nhau. Để ngăn ngừa tác hại, hệ thống AI cần có khả năng phục hồi trước các đầu vào không mong muốn, không biểu hiện hành vi nguy hiểm và tiếp tục hoạt động theo mục đích ban đầu.

Theo ASEAN, những nguyên tắc này không chỉ giúp tối ưu hóa lợi ích của AI mà còn đảm bảo an toàn, minh bạch và tôn trọng quyền lợi của con người trong quá trình sử dụng công nghệ. “Hướng dẫn và quản trị và đạo đức AI” so ASEAN ban hành hướng đến các tổ chức trong khu vực muốn thiết kế, phát triển và triển khai các công nghệ AI truyền thống một cách có trách nhiệm trong các ứng dụng thương mại và phi quân sự hoặc sử dụng kép. Hướng dẫn này cũng nhằm tăng cường niềm tin của người dùng vào AI.

Theo công ty tư vấn công nghệ Access Partnership, việc áp dụng AI tại các thị trường trọng điểm Đông Nam Á có thể mang lại lợi ích kinh tế lên đến đến 835 tỷ USD vào năm 2030, chiếm 28% cơ hội toàn khu vực.

Anh Nguyễn (tổng hợp)

80% dự án AI sẽ thất bại, lãng phí hàng tỷ USD vốn và tài nguyên: Hóa ra trí tuệ nhân tạo chỉ là 'bong bóng' chực chờ vỡ tung?

Thứ 2, 02/09/2024 17:58
Sự chạy đua để dẫn đầu trong lĩnh vực AI khiến nhiều công ty hành động vội vàng khi xây dựng các dự án AI của họ

Trí tuệ nhân tạo có thực sự là mối đe dọa hiện hữu?

Thứ 3, 20/08/2024 20:21
Trong những năm gần đây, trí tuệ nhân tạo (AI) đã trở thành một chủ đề nóng, thu hút sự quan tâm của cả giới khoa học và công chúng. Những câu chuyện về AI trở nên thông minh vượt ngoài tầm kiểm soát, thậm chí có khả năng gây ra mối đe dọa đối với sự tồn vong của nhân loại, xuất hiện ngày càng nhiều trên các phương tiện truyền thông. Tuy nhiên, liệu những lo ngại này có thực sự phản ánh đúng bản chất của trí tuệ nhân tạo?
Cùng tác giả

Honda chi hơn 1 tỷ USD để nâng cấp các nhà máy ở Mỹ

Thứ 6, 18/03/2022 16:00
Chi nhánh sản xuất tại Canada của Honda Motor Co sẽ đầu tư 1,38 tỷ đô la Canada (1,09 tỷ USD) trong vòng 6 năm để nâng cấp các nhà máy của mình ở Ontario khi hãng chuẩn bị sản xuất chiếc SUV hybrid mới cho Bắc Mỹ.
Cùng chuyên mục

Google chính thức gỡ bỏ ứng Kaspersky khỏi Play Store

Thứ 5, 10/10/2024 15:47
Phần mềm diệt virus Kaspersky đã bị xóa khỏi cửa hàng ứng dụng Google Play, như vậy người dùng Android đã không còn có thể tải trực tiếp ứng dụng này.

iPhone 16 không bán chạy như Apple mong đợi

Thứ 4, 09/10/2024 17:06
Apple đã trông chờ vào các tính năng trí tuệ nhân tạo mới để biến iPhone 16 thành một bước ngoặt về doanh số. Tuy nhiên, ước tính trước khi bán ra cho thấy phản ứng ban đầu yếu hơn so với kỳ vọng của công ty.

Giải Nobel Vật lý năm 2024 được trao cho những người tiên phong về AI

Thứ 4, 09/10/2024 16:01
Các nhà khoa học John Hopfield và Geoffrey Hinton đã giành giải Nobel Vật lý năm 2024 cho những khám phá và phát minh trong lĩnh vực máy học, mở đường cho sự bùng nổ của trí tuệ nhân tạo.

Samsung đang trong thời kỳ khủng hoảng?

Thứ 4, 09/10/2024 06:06
Samsung đang trải qua một năm khó khăn khi kết quả kinh doanh không như mong đợi. Họ đã phải xin lỗi các nhà đầu tư, tuy nhiên vẫn tự tin có thể biến khó khăn thành cơ hội.

Cảnh báo an ninh mạng tuần qua: Mạo danh công an, nhân viên Viettel gây nhức nhối

Thứ 2, 07/10/2024 15:13
Mạo danh các cục chức năng của Bộ Công an hứa hẹn giúp lấy lại tiền đã bị lừa đảo mạng, giả nhân viên Viettel gọi điện yêu cầu đóng phí để nhận quà tặng chương trình tri ân khách hàng... là các vấn đề nổi bật không gian mạng Việt Nam tuần qua vừa được Cục An toàn thông tin (Bộ TT&TT) cảnh báo.
     
Nổi bật trong ngày

Samsung đang trong thời kỳ khủng hoảng?

Thứ 4, 09/10/2024 06:06
Samsung đang trải qua một năm khó khăn khi kết quả kinh doanh không như mong đợi. Họ đã phải xin lỗi các nhà đầu tư, tuy nhiên vẫn tự tin có thể biến khó khăn thành cơ hội.

Giải Nobel Vật lý năm 2024 được trao cho những người tiên phong về AI

Thứ 4, 09/10/2024 16:01
Các nhà khoa học John Hopfield và Geoffrey Hinton đã giành giải Nobel Vật lý năm 2024 cho những khám phá và phát minh trong lĩnh vực máy học, mở đường cho sự bùng nổ của trí tuệ nhân tạo.

iPhone 16 không bán chạy như Apple mong đợi

Thứ 4, 09/10/2024 17:06
Apple đã trông chờ vào các tính năng trí tuệ nhân tạo mới để biến iPhone 16 thành một bước ngoặt về doanh số. Tuy nhiên, ước tính trước khi bán ra cho thấy phản ứng ban đầu yếu hơn so với kỳ vọng của công ty.

Google chính thức gỡ bỏ ứng Kaspersky khỏi Play Store

Thứ 5, 10/10/2024 15:47
Phần mềm diệt virus Kaspersky đã bị xóa khỏi cửa hàng ứng dụng Google Play, như vậy người dùng Android đã không còn có thể tải trực tiếp ứng dụng này.
xe.nguoiduatin.vn