24/10/2023 05:10 read

Công cụ đầu độc dữ liệu mới sẽ trừng phạt AI vì cạo tác phẩm nghệ thuật mà không được phép

Công cụ này hiện đang trong giai đoạn nghiên cứu nhưng nhóm có kế hoạch tích hợp nó với các công cụ bảo vệ nghệ sĩ hiện có.

Các nhà nghiên cứu tại Đại học Chicago đã phát triển một công cụ giúp các nghệ sĩ có khả năng đầu độc tác phẩm nghệ thuật kỹ thuật số của họ nhằm ngăn chặn các nhà phát triển đào tạo hệ thống trí tuệ nhân tạo (AI) cho tác phẩm của họ.

Được gọi là Nightshade, được đặt theo tên của họ thực vật — một số loài trong số đó được biết đến với loại quả mọng có độc — công cụ này sửa đổi hình ảnh theo cách khiến việc đưa chúng vào làm ô nhiễm các bộ dữ liệu dùng để huấn luyện AI với thông tin không chính xác.

Theo báo cáo từ MIT Technology Review, Nightshade thay đổi các pixel của hình ảnh kỹ thuật số để đánh lừa hệ thống AI hiểu sai về nó. Ví dụ, Tech Review đề cập đến việc thuyết phục AI rằng hình ảnh của một con mèo là một con chó và ngược lại.

Khi làm như vậy, về mặt lý thuyết, khả năng tạo ra kết quả đầu ra chính xác và hợp lý của AI sẽ bị tổn hại. Sử dụng ví dụ trên, nếu người dùng yêu cầu hình ảnh của một con mèo từ AI bị nhiễm độc, thay vào đó, họ có thể nhận được một con chó được gắn nhãn là mèo hoặc sự kết hợp của tất cả những con mèo trong bộ huấn luyện AI, bao gồm cả những con thực sự là hình ảnh của chó. đã được sửa đổi bởi công cụ Nightshade.

Một chuyên gia đã xem tác phẩm, Vitaly Shmatikov, giáo sư tại Đại học Cornell, cho rằng các nhà nghiên cứu vẫn chưa biết về các biện pháp phòng vệ mạnh mẽ chống lại các cuộc tấn công này - hàm ý rằng ngay cả những mô hình mạnh mẽ như OpenAI ChatGPT cũng có thể gặp rủi ro.

Nhóm nghiên cứu đằng sau Nightshade được dẫn đầu bởi Ben Zhao, giáo sư tại Đại học Chicago. Công cụ mới này thực chất là một bản mở rộng của phần mềm bảo vệ nghệ sĩ hiện có của họ có tên Glaze. Trong công việc trước đây, họ đã thiết kế một phương pháp mà qua đó nghệ sĩ có thể làm xáo trộn hoặc phủ bóng phong cách tác phẩm nghệ thuật của họ.

Ví dụ: một nghệ sĩ đã tạo ra một bức chân dung bằng than có thể được tráng men để hệ thống AI xuất hiện như một tác phẩm nghệ thuật hiện đại.