TikTok, Snapchat, OnlyFans và những người khác chống lại nội dung lạm dụng trẻ em do AI tạo ra

Các nền tảng xã hội chính, các công ty AI, chính phủ và tổ chức phi chính phủ đã đưa ra tuyên bố chung cam kết chống lại nội dung lạm dụng do AI tạo ra, chẳng hạn như hình ảnh khiêu dâm về trẻ em.

Liên minh gồm các nền tảng truyền thông xã hội lớn, các nhà phát triển AI, chính phủ và các tổ chức phi chính phủ (NGO) đã đưa ra tuyên bố chung cam kết chống lại nội dung lạm dụng do trí tuệ nhân tạo (AI) tạo ra.

Vào ngày 30 tháng 10, Vương quốc Anh đã ban hành tuyên bố chính sách, bao gồm 27 bên ký kết bao gồm chính phủ Hoa Kỳ, Úc, Hàn Quốc, Đức và Ý, cùng với các nền tảng truyền thông xã hội SnapChat, TikTok và OnlyFans.

Nó cũng được ký kết bởi các nền tảng AI Stability AI và Ontocord.AI cũng như một số tổ chức phi chính phủ hoạt động hướng tới an toàn Internet và quyền trẻ em, cùng nhiều tổ chức khác.

Tuyên bố cho biết bất chấp việc AI mang lại những cơ hội to lớn trong việc giải quyết các mối đe dọa lạm dụng tình dục trẻ em trực tuyến nhưng nó cũng có thể bị những kẻ săn mồi lợi dụng để tạo ra những loại tài liệu như vậy.

Nó tiết lộ dữ liệu từ Internet Watch Foundation rằng trong vòng một tháng, trong số 11.108 hình ảnh do AI tạo ra được chia sẻ trên một diễn đàn web đen, có 2.978 nội dung mô tả liên quan đến lạm dụng tình dục trẻ em.

Chính phủ Anh cho biết tuyên bố này là một cam kết tìm cách hiểu và hành động phù hợp trước những rủi ro phát sinh từ AI trong việc giải quyết vấn đề lạm dụng tình dục trẻ em thông qua các diễn đàn hiện có.

Tất cả các bên đều có vai trò trong việc đảm bảo an toàn cho trẻ em trước những rủi ro của AI biên giới.

Nó khuyến khích sự minh bạch trong các kế hoạch đo lường, giám sát và quản lý các cách AI có thể bị khai thác bởi những kẻ phạm tội tình dục trẻ em và ở cấp quốc gia, để xây dựng các chính sách liên quan đến chủ đề này.

Ngoài ra, nó còn nhằm mục đích duy trì cuộc đối thoại xung quanh việc chống lạm dụng tình dục trẻ em trong thời đại AI. Tuyên bố này được đưa ra trước khi Vương quốc Anh đăng cai tổ chức hội nghị thượng đỉnh toàn cầu về an toàn AI trong tuần này.

Mối lo ngại về sự an toàn của trẻ em liên quan đến AI đã là chủ đề thảo luận chính trước sự xuất hiện nhanh chóng của việc sử dụng rộng rãi công nghệ này.

Vào ngày 26 tháng 10, 34 tiểu bang ở Hoa Kỳ đã đệ đơn kiện Meta, công ty mẹ của Facebook và Instagram, vì lo ngại về an toàn cho trẻ em.

Tạp chí: AI Eye: Nhận kết quả tốt hơn khi tham gia ChatGPT, cuộc tranh luận về nội dung khiêu dâm trẻ em giả mạo AI, đánh giá AI của Amazon

Theo CoinTelegraph