Trước sự giám sát được hỗ trợ bởi AI, chúng ta cần điện toán bảo mật phi tập trung

26/10/2024 20:42 9

Sau đây là bài đăng của khách mời Yannik Schrade, CEO và Đồng sáng lập Arcium.


Khi Larry Ellison, CTO của Oracle AI, chia sẻ tầm nhìn của mình về một mạng lưới giám sát toàn cầu được hỗ trợ bởi AI, giúp công dân "hành xử tốt nhất", những người chỉ trích đã nhanh chóng so sánh với George Orwell 1984 và mô tả chiến lược kinh doanh của ông là phản địa đàng. Giám sát hàng loạt là sự vi phạm quyền riêng tư, có tác động tiêu cực đến tâm lý và khiến mọi người không dám tham gia biểu tình.

Nhưng điều đáng lo ngại nhất về tầm nhìn của Ellison cho tương lai là việc giám sát hàng loạt bằng AI đã trở thành hiện thực. Trong Thế vận hội mùa hè năm nay, chính phủ Pháp đã ký hợp đồng với bốn công ty công nghệ – Videtics, Orange Business, ChapsVision và Wintics – để tiến hành giám sát video trên khắp Paris, sử dụng phân tích do AI cung cấp để theo dõi hành vi và cảnh báo an ninh.

Sự phát triển Thực tế của Giám sát hàng loạt do AI hỗ trợ

Chính sách gây tranh cãi này đã trở nên khả thi nhờ luật được thông qua vào năm 2023 cho phép phần mềm AI mới được phát triển phân tích dữ liệu về công chúng. Trong khi Pháp là quốc gia đầu tiên trong Liên minh châu Âu hợp pháp hóa giám sát do AI hỗ trợ, phân tích video không phải là điều gì mới mẻ.

Chính phủ Anh lần đầu tiên lắp đặt CCTV tại các thành phố vào những năm 1960 và tính đến năm 2022, 78 trong số 179 quốc gia OECD đã sử dụng AI cho các hệ thống nhận dạng khuôn mặt công cộng. Nhu cầu về công nghệ này dự kiến sẽ chỉ tăng lên khi AI tiến bộ và cho phép các dịch vụ thông tin chính xác hơn và quy mô lớn hơn.

Theo truyền thống, các chính phủ đã tận dụng những tiến bộ công nghệ để nâng cấp các hệ thống giám sát hàng loạt, thường là thuê các công ty tư nhân làm công việc bẩn thỉu thay họ. Trong tình hình của Thế vận hội Paris, các công ty công nghệ được trao quyền thử nghiệm các mô hình đào tạo AI của họ tại một sự kiện công cộng quy mô lớn, tiếp cận thông tin về vị trí và hành vi của hàng triệu cá nhân tham dự các trò chơi và cuộc sống hàng ngày của họ trong thành phố.

Quyền riêng tư so với An toàn công cộng: Thế tiến thoái lưỡng nan về mặt đạo đức của Giám sát AI

Những người ủng hộ quyền riêng tư như tôi sẽ lập luận rằng việc giám sát bằng video ngăn cản mọi người sống tự do và không lo lắng. Các nhà hoạch định chính sách sử dụng các chiến thuật này có thể lập luận rằng chúng được sử dụng dưới danh nghĩa an toàn công cộng; giám sát cũng giúp kiểm soát các cơ quan chức năng, ví dụ, yêu cầu cảnh sát phải đeo máy quay đeo trên người. Việc các công ty công nghệ có nên được tiếp cận dữ liệu công khai ngay từ đầu hay không vẫn đang là câu hỏi, nhưng cũng có câu hỏi về việc có thể lưu trữ và chuyển giao an toàn bao nhiêu thông tin nhạy cảm giữa nhiều bên.

Điều này đưa chúng ta đến một trong những thách thức lớn nhất đối với thế hệ của chúng ta: lưu trữ thông tin nhạy cảm trực tuyến và cách dữ liệu đó được quản lý giữa các bên khác nhau. Bất kể mục đích của chính phủ hoặc công ty thu thập dữ liệu riêng tư thông qua giám sát AI là gì, cho dù đó là vì an toàn công cộng hay thành phố thông minh, thì cần phải có một môi trường an toàn để phân tích dữ liệu.

Điện toán bảo mật phi tập trung: Giải pháp cho quyền riêng tư dữ liệu AI

Phong trào Điện toán bảo mật phi tập trung (DeCC) đưa ra tầm nhìn về cách giải quyết vấn đề này. Nhiều mô hình đào tạo AI, Apple Intelligence là một ví dụ, sử dụng Môi trường thực thi đáng tin cậy (TEE) dựa trên chuỗi cung ứng với các điểm lỗi đơn lẻ đòi hỏi sự tin tưởng của bên thứ ba, từ quá trình sản xuất đến quá trình chứng thực. DeCC hướng đến mục tiêu loại bỏ các điểm lỗi đơn lẻ đó, thiết lập một hệ thống phi tập trung và không cần tin cậy để phân tích và xử lý dữ liệu.

Hơn nữa, DeCC có thể cho phép phân tích dữ liệu mà không cần giải mã thông tin nhạy cảm. Về lý thuyết, một công cụ phân tích video được xây dựng trên mạng DeCC có thể cảnh báo mối đe dọa bảo mật mà không tiết lộ thông tin nhạy cảm về cá nhân đã được ghi lại cho các bên giám sát bằng công cụ đó.

Có một số kỹ thuật tính toán bảo mật phi tập trung đang được thử nghiệm tại thời điểm này, bao gồm Zero-knowledge Proofs (ZKP), Fully Homomorphic Encryption (FHE) và Multi-Party Computation (MPC). Tất cả các phương pháp này về cơ bản đều cố gắng thực hiện cùng một mục đích – xác minh thông tin cần thiết mà không tiết lộ thông tin nhạy cảm từ bất kỳ bên nào.

MPC đã nổi lên như một ứng cử viên hàng đầu cho DeCC, cho phép giải quyết minh bạch và tiết lộ có chọn lọc với sức mạnh tính toán và hiệu quả lớn nhất. MPC cho phép xây dựng Môi trường thực thi đa bên (MXE). Các thùng chứa thực thi ảo, được mã hóa, trong đó bất kỳ chương trình máy tính nào cũng có thể được thực thi theo cách được mã hóa hoàn toàn và bảo mật.

Trong bối cảnh này, điều này cho phép cả việc đào tạo trên dữ liệu được mã hóa rất nhạy cảm và bị cô lập và suy luận bằng cách sử dụng dữ liệu được mã hóa và các mô hình được mã hóa. Vì vậy, trong thực tế, nhận dạng khuôn mặt có thể được thực hiện trong khi vẫn giữ dữ liệu này ẩn khỏi các bên xử lý thông tin đó.

Phân tích thu thập được từ dữ liệu đó sau đó có thể được chia sẻ giữa các bên liên quan khác nhau, chẳng hạn như các cơ quan an ninh. Ngay cả trong môi trường dựa trên giám sát, ít nhất cũng có thể đưa tính minh bạch và trách nhiệm vào hoạt động giám sát đang được thực hiện trong khi vẫn giữ được tính bảo mật và bảo vệ hầu hết dữ liệu.

Trong khi công nghệ điện toán bảo mật phi tập trung vẫn đang trong giai đoạn phát triển, sự xuất hiện của công nghệ này làm sáng tỏ những rủi ro liên quan đến các hệ thống đáng tin cậy và cung cấp một phương pháp thay thế để mã hóa dữ liệu. Hiện tại, máy học đang được tích hợp vào hầu hết mọi lĩnh vực, từ quy hoạch đô thị đến y học, giải trí, v.v.

Đối với mỗi tình huống sử dụng này, các mô hình đào tạo dựa trên dữ liệu người dùng và DeCC sẽ là nền tảng để đảm bảo quyền riêng tư và bảo vệ dữ liệu cá nhân trong tương lai. Để tránh một tương lai đen tối, chúng ta cần phân cấp trí tuệ nhân tạo.

Chia sẻ bài viết này với bạn bè qua Facebook / Zalo / Telegram:

Chia sẻ