Các nhà lập pháp Hoa Kỳ yêu cầu sự rõ ràng về thực hành an toàn OpenAI trong thư chung

24/07/2024 05:06 64

Một nhóm Thượng nghị sĩ Hoa Kỳ đã gửi một bức thư chi tiết tới Giám đốc điều hành và đồng sáng lập OpenAI Sam Altman để tìm kiếm sự rõ ràng về các biện pháp an toàn của công ty và các biện pháp thực hành việc làm.

Washington Post lần đầu tiên đưa tin về bức thư chung vào ngày 23 tháng 7.

Các thượng nghị sĩ Brian Schatz, Ben Ray Luján, Peter Welch, Mark R. Warner và Angus S. King, Jr. đã ký vào bức thư chung, trong đó đặt ra thời hạn ngày 13 tháng 8 để công ty đưa ra phản hồi toàn diện nhằm giải quyết các mối lo ngại khác nhau được nêu ra trong đó.

Theo bức thư ngày 22 tháng 7, các báo cáo gần đây liên quan đến các vấn đề tiềm ẩn tại công ty đã khiến các Thượng nghị sĩ phải điều tra. Nó nhấn mạnh sự cần thiết của sự minh bạch trong việc triển khai và quản trị hệ thống trí tuệ nhân tạo (AI) do các vấn đề về an ninh quốc gia và niềm tin của công chúng.

Cuộc điều tra của nhà lập pháp

Các Thượng nghị sĩ đã yêu cầu thông tin chi tiết về một số mối quan ngại, bao gồm cả xác nhận về việc liệu OpenAI có tôn trọng cam kết đã cam kết trước đó là phân bổ 20% tài nguyên máy tính của mình cho nghiên cứu an toàn AI hay không. Bức thư nhấn mạnh rằng việc thực hiện cam kết này là rất quan trọng đối với sự phát triển có trách nhiệm của công nghệ AI.

Ngoài ra, bức thư còn hỏi về việc OpenAI thực thi các thỏa thuận không chê bai và các điều khoản hợp đồng khác có khả năng ngăn cản nhân viên nêu ra những lo ngại về an toàn. Các nhà lập pháp nhấn mạnh tầm quan trọng của việc bảo vệ người tố cáo và đảm bảo rằng nhân viên có thể nói lên mối quan ngại của mình mà không sợ bị trả thù.

Họ cũng tìm kiếm thông tin chi tiết về các giao thức an ninh mạng mà OpenAI có để bảo vệ các mô hình AI và tài sản trí tuệ của mình khỏi các tác nhân độc hại và đối thủ nước ngoài. Họ yêu cầu OpenAI mô tả các chính sách không trả đũa và các kênh báo cáo người tố cáo, nhấn mạnh sự cần thiết phải có các biện pháp bảo vệ mạnh mẽ trước các mối đe dọa an ninh mạng.

Trong cuộc điều tra của mình, các Thượng nghị sĩ đã hỏi liệu OpenAI có cho phép các chuyên gia độc lập kiểm tra và đánh giá tính an toàn và bảo mật của các hệ thống AI trước khi chúng được phát hành hay không. Họ nhấn mạnh tầm quan trọng của các đánh giá độc lập trong việc đảm bảo tính toàn vẹn và độ tin cậy của công nghệ AI.

Các Thượng nghị sĩ cũng hỏi liệu OpenAI có kế hoạch tiến hành và công bố các đánh giá tác động hồi cứu của các mô hình đã được triển khai để đảm bảo trách nhiệm giải trình trước công chúng hay không. Họ nhấn mạnh sự cần thiết phải minh bạch trong việc đánh giá tác động trong thế giới thực của các hệ thống AI.

Vai trò quan trọng của AI

Bức thư nhấn mạnh vai trò quan trọng của AI đối với vị thế kinh tế và địa chính trị của quốc gia, lưu ý rằng AI an toàn và bảo mật là điều cần thiết để duy trì khả năng cạnh tranh và bảo vệ cơ sở hạ tầng quan trọng.

Các Thượng nghị sĩ nhấn mạnh tầm quan trọng của các cam kết tự nguyện OpenAI được đưa ra với chính quyền Biden-Harris và kêu gọi công ty cung cấp tài liệu về cách họ dự định đáp ứng các cam kết này.

Bức thư nêu rõ:

"Với vị trí OpenAI là một công ty AI hàng đầu, điều quan trọng là công chúng có thể tin tưởng vào sự an toàn và bảo mật của các hệ thống của nó. Điều này bao gồm tính toàn vẹn của cấu trúc quản trị công ty và kiểm tra an toàn, các biện pháp thực hành việc làm, tính trung thực của nó đối với những lời hứa và sứ mệnh công khai cũng như các chính sách an ninh mạng của nó."

Bức thư đánh dấu một bước quan trọng trong việc đảm bảo rằng quá trình phát triển AI được tiến hành với các tiêu chuẩn cao nhất về an toàn, bảo mật và trách nhiệm giải trình trước công chúng. Hành động này phản ánh sự giám sát chặt chẽ về mặt lập pháp đối với công nghệ AI và các tác động xã hội của chúng.

Năm nhà lập pháp nhấn mạnh tính cấp thiết của việc giải quyết những vấn đề này, do việc sử dụng rộng rãi công nghệ AI và những hậu quả tiềm tàng của chúng đối với an ninh quốc gia và niềm tin của công chúng. Họ kêu gọi OpenAI thể hiện cam kết của mình đối với việc phát triển AI có trách nhiệm bằng cách cung cấp các câu trả lời thấu đáo và minh bạch cho các câu hỏi của họ.

Các Thượng nghị sĩ đã tham khảo một số nguồn và các báo cáo trước đây nêu chi tiết các thách thức và cam kết của OpenAI, cung cấp bối cảnh toàn diện cho mối quan ngại của họ. Những nguồn này bao gồm cách tiếp cận OpenAI đối với rủi ro biên giới và các cam kết an toàn và an ninh tự nguyện của chính quyền Biden-Harris.

Chia sẻ bài viết này với bạn bè qua Facebook / Zalo / Telegram:

Chia sẻ