Giám đốc điều hành OpenAI Sam Altman làm chứng trong phiên điều trần "lịch sử" của Thượng viện về an toàn AI

Altman đã xuất hiện cùng với giáo sư NYU Gary Marcus và giám đốc ủy thác của IBM Christina Montgomery để thảo luận về cách chính phủ Hoa Kỳ nên điều tiết ngành công nghiệp AI.

Sam Altman, Giám đốc điều hành của OpenAI và đồng sáng lập của Worldcoin, gần đây đã làm chứng trước Quốc hội, giám đốc ủy thác dài hạn của IBM, Christina Montgomery, và giáo sư Gary Marcus của NYU.

Phiên họp của Tiểu ban Tư pháp, Quyền riêng tư, Công nghệ và Luật của Thượng viện đã đại diện cho Altman lần đầu tiên xuất hiện chính thức trước Quốc hội, tạo cơ hội cho các thượng nghị sĩ đặt câu hỏi với Giám đốc điều hành OpenAI về quan điểm của công ty ông đối với quy định.

'If this technology goes wrong, it can go quite wrong.'

OpenAI CEO Sam Altman admitted during a Senate hearing that his 'worst fears' are causing 'significant harm to the world' via developing tech. pic.twitter.com/RROe9DnR2U

— NowThis (@nowthisnews) May 16, 2023

Được mệnh danh là phiên họp lịch sử của Thượng nghị sĩ bang Illinois Dick Durbin, quá trình tố tụng tập trung vào việc tìm hiểu các mối đe dọa tiềm ẩn do các mô hình trí tuệ nhân tạo (AI) tổng quát như ChatGPT gây ra và cách các nhà lập pháp nên tiếp cận quy định.

Nhận xét của Altman - được các thành viên quốc hội và diễn giả đồng nghiệp Marcus mô tả là có vẻ chân thành và chân thực - dường như khiến một số thành viên Thượng viện ngạc nhiên.

Ông ủng hộ việc thành lập một cơ quan giám sát liên bang có thẩm quyền cấp và thu hồi giấy phép phát triển, tuyên bố rằng ông tin rằng những người sáng tạo nên được bồi thường khi công việc của họ được sử dụng để đào tạo hệ thống AI và đồng ý rằng những người tiêu dùng bị tổn hại khi sử dụng các sản phẩm AI nên được quyền kiện nhà phát triển.

Altman đã loại bỏ các câu hỏi liên quan đến thư tạm dừng AI gần đây kêu gọi lệnh cấm triển khai các hệ thống mạnh hơn GPT-4 trong sáu tháng, hệ thống AI làm nền tảng cho ChatGPT, bằng cách tuyên bố rằng OpenAI đã dành hơn sáu tháng để đánh giá GPT- 4 trước khi triển khai. Ông cho biết công ty không có kế hoạch triển khai một mô hình khác trong vòng sáu tháng tới.

Marcus, người ký vào bức thư tạm dừng, thừa nhận rằng anh ấy đồng ý với tinh thần của bức thư hơn là nội dung của nó, nhưng giáo sư NYU đã thúc giục Quốc hội xem xét sự giám sát toàn cầu cũng như quy định của liên bang - một cảm xúc mà Altman đồng ý.

Trong suốt phiên điều trần, ba diễn giả khách mời phù hợp với hầu hết các chủ đề. Điều này bao gồm hỗ trợ bảo vệ quyền riêng tư, giám sát chặt chẽ hơn của chính phủ, kiểm toán của bên thứ ba và thời gian chính phủ Hoa Kỳ nên tìm cách điều chỉnh ngành (ngay lập tức).

Senator Lindsey Graham asks the witnesses at the hearing on artificial intelligence regulation if there should be an agency to license and oversee AI tools.

All say yes, but IBM Chief Privacy & Trust Officer Christina Montgomery has stipulations: pic.twitter.com/UD7R8N7s23

— Yahoo Finance (@YahooFinance) May 16, 2023

Tuy nhiên, một trong những nguồn bất hòa duy nhất đến từ IBM Montgomery, người không đồng ý với quan điểm cho rằng cần có một cơ quan liên bang mới để thực thi các quy định trong ngành AI.

Các tuyên bố của cô ấy chỉ ra rằng IBM ủng hộ phương pháp tiếp cận linh hoạt đối với quy định bằng cách sử dụng các cơ quan quản lý hiện có để tập trung thực thi vào các tình huống sử dụng cụ thể.

bất chấp việc cả ba diễn giả đều đồng ý rằng AI có thể gây hại và cần có các biện pháp can thiệp an toàn, nhưng Marcus đã nói rõ rằng ông tin rằng hiện tại không ai hiểu hoặc có thể dự đoán mức độ nguy hại của các sản phẩm AI hiện có. Ông ủng hộ một cách tiếp cận thận trọng liên quan đến minh bạch hơn.

'We have built machines that are like bulls in a china shop: powerful, reckless, and difficult to control.'

NYU Professor Gary Marcus sounded the alarm during a Senate hearing Tuesday on the emerging threats of AI. pic.twitter.com/d2b2kdJBWK

— NowThis (@nowthisnews) May 16, 2023

Các diễn giả cũng nhất trí với các thành viên Quốc hội rằng Hoa Kỳ cần có luật riêng tư quốc gia tương tự như ở Châu Âu. Tuy nhiên, Altman không đồng ý với quan điểm cho rằng người tiêu dùng có thể từ chối đưa dữ liệu web có sẵn công khai của họ vào tập dữ liệu đào tạo.

Altman cũng sẽ không lập hồ sơ tuyên bố rằng OpenAI phản đối việc cung cấp phiên bản dựa trên quảng cáo cho các sản phẩm GPT của mình. Giám đốc điều hành chỉ đơn giản tuyên bố rằng ông sẽ không nói không bao giờ.

Điều này, bất chấp việc đã nói trước đó trong phiên điều trần rằng các sản phẩm OpenAI tuân thủ các tiêu chuẩn về quyền riêng tư của người tiêu dùng vì công ty không xây dựng hồ sơ người dùng cho mục đích phân phát quảng cáo phù hợp.

Trích dẫn kinh nghiệm của mình với tư cách là một sinh viên tốt nghiệp Stanford và là nhà lập pháp làm việc với các công ty tài chính phi tập trung và Web3, Thượng nghị sĩ New Jersey Corey Booker đã đưa ra vấn đề lớn hơn về quyền riêng tư của việc tập trung hóa. Anh ấy hỏi ý nghĩa của việc tập trung hóa và độc quyền hóa sẽ như thế nào đối với ngành, một câu hỏi mà Marcus trả lời bằng lời cảnh báo nghiêm trọng rằng đất nước có thể mạo hiểm trao quyền kiểm soát nhận thức của công chúng cho một số ít tác nhân — các công ty AI hàng đầu có đủ tiền để cạnh tranh với Microsoft, Google và Amazon.

Altman, người có dự án Worldcoin kết hợp tài sản tiền điện tử phi tập trung trên blockchain Ethereum với xác thực danh tính thông qua công nghệ quét mống mắt, giải thích rằng OpenAI chỉ cung cấp một nền tảng và quá trình dân chủ hóa các sản phẩm OpenAI xảy ra khi các nhà phát triển, công ty và người dùng cuối điều chỉnh API GPT cho những công dụng tuyệt vời.

Theo CoinTelegraph