Vitalik Buterin cảnh báo chúng ta cần các biện pháp phòng thủ phi tập trung xử lý rủi ro AI

10/01/2025 17:54 7

Nhà đồng sáng lập Ethereum Vitalik Buterin đã nêu lên mối lo ngại về những nguy cơ tiềm ẩn của các chương trình Trí tuệ nhân tạo (AI) không được kiểm soát.

Trong bài đăng ngày 10 tháng 1 trên X, Buterin đã cảnh báo rằng AI nếu không được quản lý đúng cách có thể tạo ra các thực thể thông minh có khả năng tự sao chép, gây ra rủi ro cho nhân loại.

Ông phát biểu:

"AI làm sai là tạo ra những hình thức sống thông minh tự sao chép độc lập mới AI làm đúng là bộ đồ cơ khí cho trí óc con người Nếu chúng ta thực hiện vế trước mà không có vế sau, chúng ta có nguy cơ làm mất khả năng của con người vĩnh viễn. Nếu chúng ta thực hiện vế sau, nền văn minh siêu thông minh của con người sẽ phát triển mạnh mẽ."

Ông giải thích rằng trong khi một số hệ thống AI, chẳng hạn như chatbot được thiết kế để cải thiện giao diện người dùng, có lợi thì một số khác có thể dẫn đến rủi ro đáng kể. Cụ thể, các tác nhân AI hoạt động tự động trong thời gian dài cuối cùng có thể thách thức sự kiểm soát của con người và làm mất quyền lực của xã hội.

Để giảm thiểu những rủi ro này, Buterin đề xuất tập trung vào các hệ thống AI bổ sung cho trí thông minh của con người, biến chúng thành công cụ khuếch đại khả năng tập thể thay vì thay thế chúng.

Theo ông, cách tiếp cận như vậy sẽ biến AI thành một công cụ mạnh mẽ giúp nâng cao năng lực của con người đồng thời tránh được những rủi ro không đáng có.

d/Acc

Một phần chính trong chiến lược của ông liên quan đến khái niệm Tăng tốc phòng thủ phân cấp và dân chủ (d/Acc). Cách tiếp cận này nhấn mạnh vào việc phát triển các công cụ phi tập trung để giải quyết các mối đe dọa liên quan đến AI mới nổi.

Buterin đã giải thích thêm về ý tưởng này trong một bài đăng trên blog gần đây, mô tả d/Acc là một khuôn khổ được thiết kế để phân cấp các công nghệ phòng thủ. Mục tiêu là trao quyền cho các cá nhân và cộng đồng để tự bảo vệ mình khỏi những nguy cơ tiềm ẩn do những tiến bộ nhanh chóng của AI gây ra.

Chiến lược này cho phép phân phối quyền lực công nghệ dân chủ hơn bằng cách trao khả năng phòng thủ vào tay cộng đồng. Ví dụ, các hệ thống phi tập trung có thể giám sát, chống lại hoặc thậm chí vô hiệu hóa các hoạt động AI có hại mà không cần dựa vào sự kiểm soát từ trên xuống của chính phủ hoặc tập đoàn.

Buterin giải thích rằng d/Acc có thể đóng vai trò là biện pháp bảo vệ trong các tình huống mà công nghệ AI phát triển không thể đoán trước. Hơn nữa, việc dân chủ hóa quốc phòng đảm bảo rằng không một thực thể đơn lẻ nào có thể thống trị hoặc khai thác tiềm năng của AI tiên tiến, thúc đẩy hệ sinh thái công nghệ cân bằng và bền vững hơn.

Nhà đồng sáng lập Ethereum cũng nhấn mạnh trách nhiệm đạo đức của các nhà phát triển trong lĩnh vực phát triển nhanh chóng này. Ông lập luận rằng các phương pháp phi tập trung như d/Acc tăng cường sự an toàn tập thể và khuyến khích tính minh bạch và cộng tác trong phát triển AI.

Buterin đã viết:

"Một ý tưởng rất thân thiện với d/acc là đặt trách nhiệm cho chủ sở hữu hoặc người vận hành bất kỳ thiết bị nào mà AI tiếp quản (ví dụ: bằng cách hack) trong quá trình thực hiện một số hành động gây hại thảm khốc. Điều này sẽ tạo ra động lực rất lớn để thực hiện công việc khó khăn nhằm làm cho cơ sở hạ tầng của thế giới (đặc biệt là máy tính và sinh học) trở nên an toàn nhất có thể."

#trích dẫn_kết thúc#

Chia sẻ bài viết này với bạn bè qua Facebook / Zalo / Telegram:

Chia sẻ