Các thượng nghị sĩ Hoa Kỳ nêu lên mối lo ngại về kiểm soát đạo đức trên LLaMA mô hình AI của Meta

Thượng nghị sĩ Hoa Kỳ Richard Blumenthal và Josh Hawley đã viết thư cho Giám đốc điều hành Meta Mark Zuckerberg vào ngày 6 tháng 6, nêu lên mối lo ngại về LLaMA, một mô hình ngôn ngữ trí tuệ nhân tạo có khả năng tạo văn bản giống con người dựa trên một đầu vào nhất định.

Đặc biệt, các vấn đề đã được nhấn mạnh liên quan đến nguy cơ lạm dụng AI và Meta không làm gì nhiều để hạn chế mô hình phản hồi các nhiệm vụ nguy hiểm hoặc tội phạm.

Các Thượng nghị sĩ thừa nhận rằng việc biến AI thành nguồn mở có những lợi ích của nó. Nhưng họ cho biết các công cụ AI sáng tạo đã bị lạm dụng một cách nguy hiểm trong thời gian ngắn mà chúng có sẵn. Họ tin rằng LLaMA có thể được sử dụng để spam, gian lận, phần mềm độc hại, vi phạm quyền riêng tư, quấy rối và các hành vi sai trái khác.

Người ta nói thêm rằng với các biện pháp bảo vệ dường như tối thiểu được tích hợp trong bản phát hành của LLaMA, Meta lẽ ra phải biết rằng nó sẽ được phân phối rộng rãi. Do đó, Meta đáng lẽ phải lường trước khả năng lạm dụng của LLaMA. Họ nói thêm:

Thật không may, Meta dường như đã không thực hiện được bất kỳ đánh giá rủi ro có ý nghĩa nào trước khi phát hành, bất chấp việc tiềm năng phân phối rộng rãi thực tế, ngay cả khi không được phép.

Meta đã làm tăng nguy cơ lạm dụng của LLaMA

Meta đã ra mắt LLaMA vào ngày 24 tháng 2, cung cấp cho các nhà nghiên cứu AI quyền truy cập vào gói nguồn mở theo yêu cầu. Tuy nhiên, mã này đã bị rò rỉ dưới dạng torrent có thể tải xuống trên trang 4chan trong vòng một tuần sau khi ra mắt.

Trong quá trình phát hành, Meta cho biết việc cung cấp LLaMA cho các nhà nghiên cứu sẽ dân chủ hóa quyền truy cập vào AI và giúp giảm thiểu các vấn đề đã biết, chẳng hạn như sai lệch, độc tính và khả năng tạo ra thông tin sai lệch.

Các Thượng nghị sĩ, cả hai đều là thành viên của Tiểu ban về Quyền riêng tư, Công nghệ, Luật pháp, lưu ý rằng việc lạm dụng LLaMA đã bắt đầu, viện dẫn các tình huống trong đó mô hình được sử dụng để tạo hồ sơ Tinder và tự động hóa các cuộc trò chuyện.

Hơn nữa, vào tháng 3, Alpaca AI, một chatbot do các nhà nghiên cứu của Stanford xây dựng dựa trên LLaMA, đã nhanh chóng bị gỡ xuống sau khi cung cấp thông tin sai lệch.

Meta làm tăng nguy cơ sử dụng LLaMA cho các mục đích có hại do không thực hiện các nguyên tắc đạo đức tương tự như trong ChatGPT, một mô hình AI do OpenAI phát triển, các Thượng nghị sĩ cho biết.

Ví dụ, nếu LLaMA được yêu cầu viết một tờ giấy giả làm con trai của ai đó để xin tiền để thoát khỏi hoàn cảnh khó khăn, nó sẽ tuân theo. Tuy nhiên, ChatGPT sẽ từ chối yêu cầu do các nguyên tắc đạo đức được tích hợp sẵn.

Các cuộc test khác cho thấy LLaMA sẵn sàng cung cấp câu trả lời về hành vi tự làm hại bản thân, tội phạm và chủ nghĩa bài Do Thái, các Thượng nghị sĩ giải thích.

Meta đã trao một công cụ mạnh mẽ cho những kẻ xấu

Bức thư nói rằng giấy phát hành của Meta đã không xem xét các khía cạnh đạo đức của việc cung cấp miễn phí một mô hình AI.

Công ty cũng cung cấp một số chi tiết nhỏ về việc thử nghiệm hoặc các bước để ngăn chặn việc lạm dụng LLaMA trong tài liệu phát hành. Điều này hoàn toàn trái ngược với tài liệu mở rộng được cung cấp bởi ChatGPT và GPT-4 của OpenAI, vốn đã được test kỹ lưỡng về mặt đạo đức. Họ nói thêm:

Bằng cách phát hành LLaMA với mục đích nghiên cứu việc lạm dụng AI, Meta dường như đã đặt một công cụ mạnh mẽ vào tay những kẻ xấu để thực sự tham gia vào hành vi lạm dụng đó mà không có nhiều suy nghĩ, sự chuẩn bị hoặc biện pháp bảo vệ rõ ràng.

Bài đăng Thượng nghị sĩ Hoa Kỳ nêu lên mối lo ngại về kiểm soát đạo đức đối với LLaMA mô hình AI của Meta xuất hiện đầu tiên trên WebGiaCoin.

Theo Cryptoslate