OpenAI giới thiệu nhóm Chuẩn bị nhằm chống lại những rủi ro tiềm ẩn của các mô hình AI trong tương lai

Trong một động thái chủ động chống lại những rủi ro thảm khốc tiềm ẩn do công nghệ AI tiên phong gây ra, OpenAI đang phát triển phương pháp tiếp cận để chuẩn bị rủi ro, bao gồm việc thành lập một nhóm mới và đưa ra thử thách.

Như OpenAI đã báo cáo vào tháng 10 năm 2023, sáng kiến này phù hợp với sứ mệnh xây dựng Trí tuệ nhân tạo tổng hợp (AGI) an toàn bằng cách giải quyết nhiều rủi ro an toàn liên quan đến AI.

Niềm tin cơ bản của OpenAI là các mô hình AI tiên phong, công nghệ trong tương lai vượt quá khả năng của các mô hình hàng đầu hiện có sẽ giữ tiềm năng mang lại vô số lợi ích cho nhân loại.

Tuy nhiên, OpenAI nhận thức được những rủi ro ngày càng nghiêm trọng mà các mô hình này có thể gây ra. Mục tiêu là quản lý những rủi ro này bằng cách hiểu rõ những mối nguy hiểm tiềm ẩn của các hệ thống AI tiên phong khi bị lạm dụng, hiện tại và trong tương lai, đồng thời xây dựng một khuôn khổ mạnh mẽ để giám sát, đánh giá, dự đoán và bảo vệ khỏi những khả năng nguy hiểm của chúng.

OpenAI đang xây dựng một nhóm mới có tên là Chuẩn bị sẵn sàng như một phần của chiến lược giảm thiểu rủi ro. Nhóm này, theo báo cáo của OpenAI, sẽ do Aleksander Madry đứng đầu và sẽ tập trung vào việc đánh giá năng lực, đội đỏ nội bộ và đánh giá các mô hình biên giới.

Phạm vi công việc của nó sẽ bao gồm từ các mô hình đang được phát triển trong tương lai gần cho đến những mô hình có khả năng cấp độ AGI. Nhiệm vụ của nhóm Chuẩn bị sẽ bao gồm theo dõi, đánh giá và dự báo, cũng như bảo vệ khỏi các rủi ro thảm khốc ở một số danh mục, bao gồm thuyết phục cá nhân, an ninh mạng và các mối đe dọa về tính chất hóa học, sinh học, phóng xạ và hạt nhân (CBRN), cùng với khả năng tự nhân rộng và thích ứng (ARA).

Hơn nữa, trách nhiệm của nhóm Chuẩn bị bao gồm phát triển và duy trì Chính sách Phát triển Nhận biết Rủi ro (RDP). Chính sách này sẽ trình bày chi tiết cách tiếp cận của OpenAI nhằm phát triển các đánh giá nghiêm ngặt và giám sát các khả năng của mô hình biên giới, tạo ra một loạt các hành động bảo vệ và thiết lập cơ cấu quản trị để chịu trách nhiệm giải trình và giám sát trong suốt quá trình phát triển.

RDP được thiết kế để mở rộng công việc giảm thiểu rủi ro hiện có của OpenAI, góp phần đảm bảo sự an toàn và liên kết của các hệ thống mới trước và sau khi triển khai.

OpenAI cũng tìm cách giữ đội ngũ Chuẩn bị của mình bằng cách phát động Thử thách Chuẩn bị AI để ngăn chặn việc lạm dụng nghiêm trọng. Thử thách này nhằm mục đích xác định các lĩnh vực tiềm năng ít được quan tâm hơn và xây dựng đội ngũ.

Nó sẽ cung cấp 25.000 đô la tín dụng API cho tối đa 10 bài gửi hàng đầu, xuất bản các ý tưởng và bài viết mới, đồng thời tìm kiếm các ứng viên Chuẩn bị sẵn sàng trong số các ứng cử viên hàng đầu của thử thách.

Khi các công nghệ AI tiên tiến phát triển, sáng kiến của OpenAI nhấn mạnh sự cần thiết của các chiến lược quản lý rủi ro nghiêm ngặt trong lĩnh vực AI, làm sáng tỏ tầm quan trọng của việc chuẩn bị khi đối mặt với nguy cơ lạm dụng nghiêm trọng các công cụ mạnh mẽ này.

Bài đăng xuất hiện đầu tiên trên WebGiaCoin.

Theo Cryptoslate