Bảng tỷ giá 
Bạn đang ở:
150 
Các tác giả của bức thư giải thích rằng AI tiên tiến có thể gây ra một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất, theo hướng tốt hơn hoặc tồi tệ hơn.
Hơn 2.600 nhà lãnh đạo và nhà nghiên cứu công nghệ đã ký vào một bức thư ngỏ kêu gọi tạm dừng phát triển trí tuệ nhân tạo (AI) hơn nữa, vì lo ngại những rủi ro sâu sắc đối với xã hội và nhân loại.
Giám đốc điều hành Tesla Elon Musk, đồng sáng lập Apple Steve Wozniak và một loạt các CEO, CTO và nhà nghiên cứu về AI nằm trong số những người ký tên vào bức thư do viện nghiên cứu Tương lai của Cuộc sống Hoa Kỳ (FOLI) soạn thảo vào ngày 22 tháng 3.
Viện kêu gọi tất cả các công ty AI ngay lập tức tạm dừng đào tạo các hệ thống AI mạnh hơn GPT-4 trong ít nhất sáu tháng, chia sẻ mối lo ngại rằng trí tuệ cạnh tranh của con người có thể gây ra rủi ro sâu sắc cho xã hội và nhân loại, trong số những thứ khác:
We're calling on AI labs to temporarily pause training powerful models!
— Future of Life Institute (@FLIxrisk) March 29, 2023
Join FLI's call alongside Yoshua Bengio, @stevewoz, @harari_yuval, @elonmusk, @GaryMarcus & over a 1000 others who've signed: https://t.co/3rJBjDXapc
A short on why we're calling for this - (1/8)
Trí tuệ nhân tạo tiên tiến có thể đại diện cho một sự thay đổi sâu sắc trong lịch sử sự sống trên Trái đất và cần được lên kế hoạch cũng như quản lý với sự quan tâm và nguồn lực tương xứng. Thật không may, cấp độ lập kế hoạch và quản lý này không xảy ra, viện đã viết trong thư của mình.
GPT-4 là phiên bản mới nhất của chatbot hỗ trợ trí tuệ nhân tạo OpenAI, được phát hành vào ngày 14 tháng 3. Cho đến nay, nó đã vượt qua một số kỳ thi luật và trường trung học nghiêm ngặt nhất của Hoa Kỳ trong phân vị thứ 90. Nó được hiểu là cải tiến gấp 10 lần so với phiên bản gốc của ChatGPT.
Có một cuộc chạy đua ngoài tầm kiểm soát giữa các công ty AI để phát triển AI mạnh mẽ hơn, mà không ai – kể cả những người tạo ra chúng – có thể hiểu, dự đoán hoặc kiểm soát một cách đáng tin cậy," FOLI tuyên bố.
BREAKING: A petition is circulating to PAUSE all major AI developments.
— Lorenzo Green 〰️ (@mrgreen) March 29, 2023
e.g. No more ChatGPT upgrades & many others.
Signed by Elon Musk, Steve Wozniak, Stability AI CEO & 1000s of other tech leaders.
Here's the breakdown: pic.twitter.com/jR4Z3sNdDw
Một trong những mối quan tâm hàng đầu là liệu máy móc có thể tràn ngập các kênh thông tin, có khả năng mang tính tuyên truyền và sai sự thật hay không và liệu máy móc có tự động hóa mọi cơ hội việc làm hay không.
FOLI đã đưa những lo ngại này tiến thêm một bước, cho thấy rằng những nỗ lực kinh doanh của các công ty AI này có thể dẫn đến một mối đe dọa hiện hữu:
Chúng ta có nên phát triển những bộ óc phi nhân loại mà cuối cùng có thể đông hơn, thông minh hơn, lỗi thời và thay thế chúng ta không? Chúng ta có nên mạo hiểm mất kiểm soát nền văn minh của mình không?
Những quyết định như vậy không được giao cho các nhà lãnh đạo công nghệ không được bầu chọn, bức thư nói thêm.
Having a bit of AI existential angst today
— Elon Musk (@elonmusk) February 26, 2023
Viện cũng đồng ý với một tuyên bố gần đây từ người sáng lập OpenAI, Sam Altman, đề xuất rằng có thể cần phải có một đánh giá độc lập trước khi đào tạo các hệ thống AI trong tương lai.
Altman trong bài đăng trên blog ngày 24 tháng 2 của mình đã nhấn mạnh sự cần thiết phải chuẩn bị cho rô-bốt trí tuệ nhân tạo tổng quát (AGI) và siêu trí tuệ nhân tạo (ASI).
Tuy nhiên, không phải tất cả các chuyên gia AI đều vội vàng ký tên thỉnh nguyện. Ben Goertzel, Giám đốc điều hành của SingularityNET đã giải thích trong một phản hồi trên Twitter vào ngày 29 tháng 3 với Gary Marcus, tác giả của Rebooting.AI rằng các mô hình học ngôn ngữ (LLM) sẽ không trở thành AGI, mà cho đến nay, có rất ít sự phát triển.
On the whole, human society will be better off with GPT-5 than GPT-4 -- better to have slightly smarter models around. AIs taking human jobs will ultimately a good thing. The hallucinations and banality will decrease and folks will learn to work around them.
— Ben Goertzel (@bengoertzel) March 29, 2023
Thay vào đó, anh ấy nói rằng nên giảm tốc độ nghiên cứu và phát triển đối với những thứ như vũ khí sinh học và hạt nhân:
Ngoài các mô hình học ngôn ngữ như ChatGPT, công nghệ deep fake được hỗ trợ bởi AI đã được sử dụng để tạo ra những trò lừa bịp bằng hình ảnh, âm thanh và video thuyết phục. Công nghệ này cũng đã được sử dụng để tạo tác phẩm nghệ thuật do AI tạo ra, với một số lo ngại được đặt ra về việc liệu nó có thể vi phạm luật bản quyền trong một số trường giữ định hay không.
Giám đốc điều hành của Galaxy Digital Mike Novogratz gần đây đã nói với các nhà đầu tư rằng ông đã bị sốc trước mức độ chú ý của cơ quan quản lý dành cho tiền điện tử, trong khi trí tuệ nhân tạo lại ít được quan tâm.
Khi tôi nghĩ về AI, tôi thấy sốc khi chúng ta đang nói quá nhiều về quy định tiền điện tử mà không có gì về quy định AI. Ý tôi là, tôi nghĩ rằng chính phủ đã hoàn toàn đảo ngược nó, anh ấy đã phát biểu trong một cuộc gọi giữ cổ phiếu vào ngày 28 tháng 3.
FOLI đã lập luận rằng nếu việc tạm dừng phát triển AI không được ban hành nhanh chóng, thì các chính phủ nên tham gia vào việc đưa ra lệnh cấm.
Việc tạm dừng này phải được công khai và có thể xác minh được, đồng thời bao gồm tất cả các tác nhân chính. Nếu việc tạm dừng như vậy không thể được ban hành nhanh chóng, các chính phủ nên can thiệp và đưa ra lệnh cấm, nó viết.
Tạp chí: Cách ngăn AI 'tiêu diệt nhân loại' bằng blockchain
Theo CoinTelegraph
|
|
Tags: Kiến nghị, Viện tương lai cuộc sống, Trí tuệ nhân tạo tổng quát, Mô hình học ngôn ngữ, Chatbot, Robot, Sam Altman, GPT-4, OpenAI, Ben Goertzel, Deep Fake, Mike Novogratz, Galaxy Digital,
