Việc sử dụng AI trên mạng xã hội có khả năng tác động đến cảm xúc của cử tri

Cuộc bầu cử tổng thống Hoa Kỳ đang đến gần và kéo theo đó là việc sử dụng các công nghệ như AI trên nền tảng truyền thông xã hội để thao túng cảm xúc của cử tri.

Việc sử dụng trí tuệ nhân tạo (AI) trên mạng xã hội được coi là mối đe dọa tiềm tàng nhằm tác động hoặc ảnh hưởng đến cảm xúc của cử tri trong cuộc bầu cử tổng thống năm 2024 sắp tới ở Hoa Kỳ.

Các công ty công nghệ lớn và các cơ quan chính phủ Hoa Kỳ đang tích cực theo dõi tình hình xung quanh thông tin sai lệch. Vào ngày 7 tháng 9, đơn vị nghiên cứu của Microsoft có tên là Trung tâm phân tích mối đe dọa của Microsoft (MTAC) đã công bố nghiên cứu quan sát các tác nhân liên kết với Trung Quốc đang tận dụng công nghệ này.

Báo cáo cho biết những kẻ này đã sử dụng phương tiện truyền thông hình ảnh do AI tạo ra trong cái mà họ gọi là một chiến dịch rộng rãi, tập trung nhiều vào các chủ đề gây chia rẽ chính trị, chẳng hạn như bạo lực súng đạn cũng như bôi nhọ các nhân vật và biểu tượng chính trị của Hoa Kỳ.

Họ cho biết họ dự đoán rằng Trung Quốc sẽ tiếp tục trau dồi công nghệ này theo thời gian và vẫn còn phải xem nó sẽ được triển khai trên quy mô lớn như thế nào cho những mục đích như vậy.

Mặt khác, AI cũng đang được sử dụng để giúp phát hiện những thông tin sai lệch như vậy. Vào ngày 29 tháng 8, Accrete AI đã triển khai phần mềm AI để sử dụng để dự đoán mối đe dọa thông tin sai lệch theo thời gian thực từ mạng xã hội theo hợp đồng của Bộ Tư lệnh Hoạt động Đặc biệt Hoa Kỳ (USSOCOM).

Prashant Bhuyan, người sáng lập và Giám đốc điều hành của Accrete nói rằng những hành vi giả mạo sâu sắc này và các ứng dụng AI dựa trên mạng xã hội khác gây ra mối đe dọa nghiêm trọng.

Mạng xã hội được công nhận rộng rãi là một môi trường không được kiểm soát, nơi những kẻ thù thường xuyên khai thác các lỗ hổng lý luận và thao túng hành vi thông qua việc cố ý truyền bá thông tin sai lệch.

Trong cuộc bầu cử Hoa Kỳ trước đó vào năm 2020, các trang trại troll được cho là đã tiếp cận 140 triệu người Mỹ mỗi tháng, theo báo cáo của MIT.

Trang trại troll là một nhóm troll internet được thể chế hóa với mục đích can thiệp vào quan điểm chính trị và việc ra quyết định.

Các cơ quan quản lý ở Hoa Kỳ hiện đang tìm cách kiểm soát hàng giả sâu sắc trước cuộc bầu cử.

Vào ngày 10 tháng 8, Ủy ban bầu cử liên bang Hoa Kỳ đã kết thúc bằng một cuộc bỏ phiếu nhất trí nhằm thúc đẩy một bản kiến nghị điều chỉnh các quảng cáo chính trị sử dụng AI. Một trong những thành viên của ủy ban đằng sau bản kiến nghị gọi hàng giả sâu là mối đe dọa đáng kể đối với nền dân chủ.

Google đã thông báo vào ngày 7 tháng 9 rằng họ sẽ cập nhật chính sách về nội dung chính trị vào giữa tháng 11 năm 2023. Chính sách này hiện sẽ bắt buộc phải tiết lộ AI đối với các quảng cáo chiến dịch chính trị.

Nó cho biết việc tiết lộ sẽ được yêu cầu khi có nội dung tổng hợp mô tả sai sự thật về những người hoặc sự kiện có thật hoặc trông giống như thật.

Tạp chí: Chúng ta có nên cấm thanh toán ransomware? Đó là một ý tưởng hấp dẫn nhưng nguy hiểm

Theo CoinTelegraph