EU chuẩn bị áp dụng luật AI đầu tiên trên thế giới sẽ cấm nhận dạng khuôn mặt ở những nơi công cộng

Liên minh Châu Âu (EU) đang dẫn đầu cuộc đua quản lý trí tuệ nhân tạo (AI). Chấm dứt ba ngày đàm phán, Hội đồng Châu Âu và Nghị viện Châu Âu đã đạt được thỏa thuận tạm thời vào hôm nay về những gì sắp trở thành quy định toàn diện đầu tiên trên thế giới về AI.

Carme Artigas, Bộ trưởng Ngoại giao Tây Ban Nha về số hóa và AI, gọi thỏa thuận này là một thành tựu lịch sử trong một thông cáo báo chí. Artigas nói rằng các quy tắc này tạo ra sự cân bằng cực kỳ tinh tế giữa việc khuyến khích đổi mới và áp dụng AI an toàn và đáng tin cậy trên toàn EU và bảo vệ các quyền cơ bản của công dân.

Dự thảo luật—Đạo luật Trí tuệ Nhân tạo— lần đầu tiên được Ủy ban Châu Âu đề xuất vào tháng 4 năm 2021. Quốc hội và các quốc gia thành viên EU sẽ bỏ phiếu thông qua dự thảo luật vào năm tới, nhưng các quy tắc này sẽ không có hiệu lực cho đến năm 2025.

Một cách tiếp cận dựa trên rủi ro để điều chỉnh AI

Đạo luật AI được thiết kế bằng cách sử dụng cách tiếp cận dựa trên rủi ro, trong đó hệ thống AI có rủi ro càng cao thì các quy tắc càng nghiêm ngặt. Để đạt được điều này, quy định sẽ phân loại AI để xác định những AI có nguy cơ cao.'

Các AI được coi là không đe dọa và có mức độ rủi ro thấp sẽ phải tuân theo các nghĩa vụ minh bạch rất nhẹ. Ví dụ: các hệ thống AI như vậy sẽ phải tiết lộ rằng nội dung của chúng do AI tạo ra để cho phép người dùng đưa ra quyết định sáng suốt.

Đối với AI có rủi ro cao, luật sẽ bổ sung một số nghĩa vụ và yêu cầu, bao gồm:

Giám sát con người: Đạo luật yêu cầu cách tiếp cận lấy con người làm trung tâm, nhấn mạnh cơ chế giám sát con người rõ ràng và hiệu quả đối với các hệ thống AI có rủi ro cao. Điều này có nghĩa là có con người tham gia, tích cực theo dõi và giám sát hoạt động của hệ thống AI. Vai trò của họ bao gồm đảm bảo hệ thống hoạt động như dự kiến, xác định và giải quyết các tác hại tiềm ẩn hoặc hậu quả không lường trước được, và cuối cùng là giữ trách nhiệm đối với các quyết định và hành động của hệ thống.

Tính minh bạch và khả năng giải thích: Việc làm sáng tỏ hoạt động bên trong của các hệ thống AI có rủi ro cao là rất quan trọng để xây dựng lòng tin và đảm bảo trách nhiệm giải trình. Các nhà phát triển phải cung cấp thông tin rõ ràng và dễ tiếp cận về cách hệ thống của họ đưa ra quyết định. Điều này bao gồm thông tin chi tiết về các thuật toán cơ bản, dữ liệu huấn luyện và các thành kiến tiềm ẩn có thể ảnh hưởng đến kết quả đầu ra của hệ thống.

Quản trị dữ liệu: Đạo luật AI nhấn mạnh các biện pháp thực hành dữ liệu có trách nhiệm, nhằm ngăn chặn sự phân biệt đối xử, thiên vị và vi phạm quyền riêng tư. Các nhà phát triển phải đảm bảo dữ liệu được sử dụng để đào tạo và vận hành các hệ thống AI có rủi ro cao là chính xác, đầy đủ và mang tính đại diện. Nguyên tắc giảm thiểu dữ liệu rất quan trọng, chỉ thu thập thông tin cần thiết cho chức năng của hệ thống và giảm thiểu rủi ro sử dụng sai hoặc hỏng hóc. Hơn nữa, các cá nhân phải có quyền rõ ràng để truy cập, chỉnh sửa và xóa dữ liệu của họ được sử dụng trong hệ thống AI, trao quyền cho họ kiểm soát thông tin của mình và đảm bảo việc sử dụng thông tin đó một cách có đạo đức.

Quản lý rủi ro: Việc xác định và giảm thiểu rủi ro một cách chủ động sẽ trở thành yêu cầu chính đối với các AI có rủi ro cao. Các nhà phát triển phải triển khai các khung quản lý rủi ro mạnh mẽ để đánh giá một cách có hệ thống các tác hại, lỗ hổng tiềm ẩn và hậu quả không lường trước được trong hệ thống của họ.

Cấm sử dụng một số AI nhất định

Quy định sẽ cấm hoàn toàn việc sử dụng một số hệ thống AI nhất định có rủi ro được coi là không thể chấp nhận được. Ví dụ: việc sử dụng AI nhận dạng khuôn mặt ở các khu vực công cộng sẽ bị cấm, ngoại trừ cơ quan thực thi pháp luật.

Quy định cũng cấm AI thao túng hành vi của con người, sử dụng hệ thống tính điểm xã hội hoặc lợi dụng các nhóm dễ bị tổn thương. Ngoài ra, luật cũng sẽ cấm các hệ thống nhận dạng cảm xúc ở các khu vực như trường học và văn phòng cũng như việc thu thập hình ảnh từ các đoạn phim giám sát và internet.

Hình phạt và quy định để thu hút sự đổi mới

Đạo luật AI cũng sẽ xử phạt các công ty vi phạm. Chẳng hạn, việc vi phạm luật ứng dụng AI bị cấm sẽ bị phạt 7% doanh thu toàn cầu của công ty, trong khi những người vi phạm nghĩa vụ và yêu cầu của họ sẽ bị phạt 3% doanh thu toàn cầu của họ.

Nhằm tăng giá cho sự đổi mới, quy định này sẽ cho phép thử nghiệm các hệ thống AI đổi mới trong điều kiện thực tế với các biện pháp bảo vệ thích hợp.

Trong khi EU đã dẫn đầu trong cuộc đua, Mỹ, Anh và Nhật Bản cũng đang cố gắng đưa ra luật AI của riêng họ. Đạo luật AI của EU có thể đóng vai trò là tiêu chuẩn toàn cầu cho các quốc gia tìm cách quản lý AI.

Bài đăng mà EU chuẩn bị áp dụng luật AI đầu tiên trên thế giới cấm nhận dạng khuôn mặt ở những nơi công cộng đã xuất hiện đầu tiên trên WebGiaCoin.

Theo Cryptoslate