Chính sách "mở rộng quy mô có trách nhiệm" của con người đưa ra phác thảo phát triển AI an toàn

Anthropic, công ty nghiên cứu trí tuệ nhân tạo đằng sau chatbot Claude, đã công bố Chính sách mở rộng có trách nhiệm (RSP) toàn diện trong tuần này nhằm giảm thiểu những rủi ro có thể dự đoán liên quan đến các hệ thống AI ngày càng có năng lực.

Mượn các tiêu chuẩn cấp độ an toàn sinh học của chính phủ Hoa Kỳ, RSP giới thiệu khuôn khổ Cấp độ An toàn AI (ASL). Hệ thống này đặt ra các tiêu chuẩn về an toàn, bảo mật và vận hành tương ứng với tiềm năng rủi ro thảm khốc của từng mô hình. Các tiêu chuẩn ASL cao hơn sẽ yêu cầu các minh chứng an toàn nghiêm ngặt, với ASL-1 liên quan đến các hệ thống không có rủi ro thảm khốc đáng kể, trong khi ASL-4 trở lên sẽ giải quyết các hệ thống nằm xa khả năng hiện tại.

Hệ thống ASL nhằm mục đích khuyến khích sự tiến bộ trong các biện pháp an toàn bằng cách tạm thời dừng việc đào tạo các mô hình mạnh hơn nếu việc mở rộng quy mô AI vượt quá các quy trình an toàn của họ. Cách tiếp cận được đo lường này phù hợp với lời kêu gọi quốc tế rộng rãi hơn về việc phát triển và sử dụng AI có trách nhiệm, một cảm xúc đã được Tổng thống Hoa Kỳ Joe Biden nhắc lại trong bài phát biểu gần đây tại Liên Hợp Quốc.

Anthropic RSP tìm cách đảm bảo với người dùng hiện tại rằng các biện pháp này sẽ không làm gián đoạn sự sẵn có của sản phẩm của họ. Tương tự với việc thử nghiệm trước khi đưa ra thị trường và thực hành thiết kế an toàn trong ngành công nghiệp ô tô và hàng không, chúng nhằm mục đích thiết lập một cách nghiêm ngặt sự an toàn của sản phẩm trước khi phát hành.

bất chấp việc chính sách này đã được hội đồng Anthropic phê duyệt, nhưng mọi thay đổi đều phải được hội đồng phê chuẩn sau khi tham vấn với Quỹ Tín thác Phúc lợi Dài hạn, quỹ được thiết lập để cân bằng lợi ích công cộng với các công ty giữ cổ phiếu Anthropic. Quỹ Tín thác bao gồm năm Ủy viên có kinh nghiệm về an toàn AI, an ninh quốc gia, chính sách công và doanh nghiệp xã hội.

Trước trận đấu

Trong suốt năm 2023, tranh luận xung quanh quy định về trí tuệ nhân tạo (AI) đã được khuếch đại đáng kể trên toàn cầu, báo hiệu rằng hầu hết các quốc gia mới bắt đầu vật lộn với vấn đề này. Quy định về AI đã được đưa lên hàng đầu trong phiên điều trần tại Thượng viện vào tháng 5 khi Giám đốc điều hành OpenAI Sam Altman kêu gọi tăng cường giám sát của chính phủ, song song với quy định toàn cầu về vũ khí hạt nhân.

Bên ngoài Hoa Kỳ, chính phủ Anh đã đề xuất các mục tiêu cho Hội nghị Thượng đỉnh An toàn AI vào tháng 11, nhằm xây dựng sự đồng thuận quốc tế về an toàn AI. Trong khi đó, tại Liên minh Châu Âu, các công ty công nghệ đã vận động hành lang để được hỗ trợ nguồn mở trong các quy định AI sắp tới của EU.

Trung Quốc cũng khởi xướng các quy định đầu tiên về AI tạo ra loại hình này, quy định rằng các dịch vụ AI tạo ra phải tôn trọng các giá trị của chủ nghĩa xã hội và đưa ra các biện pháp bảo vệ thích hợp. Những nỗ lực quản lý này nhấn mạnh một xu hướng rộng lớn hơn, cho thấy các quốc gia mới bắt đầu hiểu và giải quyết sự phức tạp của việc quản lý AI.

Bài đăng xuất hiện đầu tiên trên WebGiaCoin.

Theo Cryptoslate