Op-ed: Nhân loại sẽ sử dụng AI tự hủy diệt chính mình từ rất lâu trước khi AI đủ tri giác nổi dậy chống lại nó

Khi trí tuệ nhân tạo phát triển nhanh chóng, các phương tiện truyền thông truyền thống đưa ra cảnh báo về mối đe dọa hiện hữu về một cuộc nổi dậy của robot hoặc sự kiện kỳ dị. Tuy nhiên, sự thật là loài người có nhiều khả năng hủy diệt thế giới thông qua việc lạm dụng công nghệ AI từ rất lâu trước khi AI trở nên đủ tiên tiến để chống lại chúng ta.

Ngày nay, AI vẫn còn hạn hẹp, có nhiệm vụ cụ thể và thiếu khả năng tri giác hoặc ý thức chung. Các hệ thống như AlphaGo và Watson đánh bại con người trong môn cờ vua và Jeopardy thông qua sức mạnh tính toán thô bạo thay vì thể hiện sự sáng tạo hoặc chiến lược. bất chấp việc tiềm năng của AI siêu thông minh chắc chắn sẽ tồn tại trong tương lai, nhưng chúng ta vẫn còn nhiều thập kỷ nữa mới phát triển được AI thực sự tự chủ và tự nhận thức.

Ngược lại, các ứng dụng quân sự của AI gây ra những mối nguy hiểm trước mắt. Các hệ thống vũ khí tự động đã được phát triển để xác định và loại bỏ các mục tiêu mà không có sự giám sát của con người. Phần mềm nhận dạng khuôn mặt được sử dụng để giám sát, lập hồ sơ và lập chính sách dự đoán. Bot thao túng nguồn cấp dữ liệu trên mạng xã hội để truyền bá thông tin sai lệch và gây ảnh hưởng đến cuộc bầu cử.

Các trang trại bot được sử dụng trong các cuộc bầu cử ở Hoa Kỳ và Vương quốc Anh, hoặc thậm chí cả các chiến thuật do Cambridge Analytica triển khai, có thể dường như đã bị chế ngự so với những gì có thể xảy ra trong tương lai. Thông qua các công cụ AI tổng hợp cấp GPT-4, việc tạo ra một bot truyền thông xã hội có khả năng bắt chước một nhân vật được chỉ định là khá cơ bản.

Muốn hàng nghìn người từ Nebraska bắt đầu đăng tin nhắn ủng hộ chiến dịch của bạn? Tất cả chỉ cần 10 đến 20 dòng mã, một số ảnh hồ sơ do MidJourney tạo và một API. Các bot được nâng cấp sẽ không chỉ có thể truyền bá thông tin và tuyên truyền sai lệch mà còn tham gia vào các cuộc trò chuyện và chủ đề tiếp theo để giữ thông điệp trong tâm trí người dùng thực.

Những ví dụ này chỉ minh họa một số cách con người có thể sử dụng AI làm vũ khí từ rất lâu trước khi phát triển bất kỳ mục đích xấu nào.

Có lẽ mối đe dọa ngắn hạn đáng kể nhất đến từ việc tối ưu hóa AI không thành công. Các hệ thống AI về cơ bản không hiểu chúng ta cần hoặc muốn gì ở chúng, chúng chỉ có thể làm theo hướng dẫn theo cách tốt nhất mà chúng biết. Ví dụ, một hệ thống AI được lập trình để chữa bệnh ung thư có thể quyết định rằng việc loại bỏ những người dễ mắc bệnh ung thư là giải pháp hiệu quả nhất. AI quản lý lưới điện có thể gây ra tình trạng mất điện hàng loạt nếu nó tính toán rằng mức tiêu thụ năng lượng giảm là tối ưu. Nếu không có các biện pháp bảo vệ thực sự, ngay cả những AI được thiết kế với mục đích tốt cũng có thể dẫn đến kết quả thảm khốc.

Rủi ro liên quan còn đến từ việc hack AI, trong đó kẻ xấu xâm nhập và phá hoại hệ thống AI để gây hỗn loạn và hủy diệt. Hoặc AI có thể được sử dụng có chủ ý như một công cụ đàn áp và kiểm soát xã hội, tự động hóa việc giám sát hàng loạt và trao cho những kẻ chuyên quyền quyền lực chưa từng có.

Trong tất cả các tình huống này, lỗi không nằm ở AI mà nằm ở con người đã xây dựng và triển khai các hệ thống này một cách thiếu thận trọng. AI không chọn cách nó được sử dụng; mọi người thực hiện những lựa chọn đó. Và vì hiện tại có rất ít động lực để các công ty công nghệ hoặc quân đội hạn chế tung ra các ứng dụng AI nguy hiểm tiềm tàng, nên chúng ta chỉ có thể cho rằng họ đang đi thẳng theo hướng đó.

Vì vậy, an toàn AI là điều tối quan trọng. Một hệ thống AI được quản lý tốt, có đạo đức và được bảo vệ phải là nền tảng của mọi sự đổi mới. Tuy nhiên, tôi không tin rằng điều này sẽ xảy ra do hạn chế quyền truy cập. AI phải có sẵn cho tất cả mọi người để nó thực sự mang lại lợi ích cho nhân loại.

Trong khi chúng ta lo lắng về viễn cảnh về tương lai của robot sát thủ, AI đã sẵn sàng gây ra đủ sự tàn phá vào tay con người. Sự thật phũ phàng có thể là tính báng bổ và ham muốn quyền lực ngắn hạn của loài người khiến các ứng dụng AI thời kỳ đầu trở nên cực kỳ nguy hiểm trong bàn tay vô trách nhiệm của chúng ta. Để tồn tại, chúng ta phải điều chỉnh cẩn thận cách phát triển và ứng dụng AI đồng thời nhận ra rằng kẻ thù lớn nhất trong thời đại trí tuệ nhân tạo sẽ là những thất bại của chính chúng ta với tư cách là giống loài—và gần như đã quá muộn để khắc phục chúng.

Bài đăng xuất hiện đầu tiên trên WebGiaCoin.

Theo Cryptoslate