Đây là cách OpenAI lên kế hoạch xóa ChatGPT khỏi thông tin sai lệch

OpenAI nhằm mục đích giảm ảo giác AI trong ChatGPT bằng cách nâng cao các kỹ năng toán học khi giám sát quy trình hứa hẹn cải thiện độ chính xác.

OpenAI đã công bố vào ngày 31 tháng 5, những nỗ lực của họ nhằm nâng cao khả năng giải quyết vấn đề toán học của ChatGPT, nhằm giảm thiểu các trường hợp ảo giác trí tuệ nhân tạo (AI). OpenAI nhấn mạnh việc giảm thiểu ảo giác là một bước quan trọng để phát triển AGI phù hợp.

Vào tháng 3, sự ra đời của phiên bản ChatGPT mới nhất, GPT-4, tiếp tục đưa trí tuệ nhân tạo trở thành xu hướng chủ đạo. Tuy nhiên, các chatbot AI tổng hợp từ lâu đã phải vật lộn với độ chính xác thực tế, đôi khi tạo ra thông tin sai lệch, thường được gọi là "ảo giác". Những nỗ lực nhằm giảm thiểu những ảo giác AI này đã được công bố thông qua một bài đăng trên trang web của họ.

Ảo giác AI đề cập đến các trường hợp hệ thống trí tuệ nhân tạo tạo ra kết quả đầu ra không chính xác, gây hiểu lầm hoặc không được hỗ trợ bởi dữ liệu trong thế giới thực. Những ảo giác này có thể biểu hiện dưới nhiều hình thức khác nhau, chẳng hạn như tạo ra thông tin sai lệch, tạo ra các sự kiện hoặc con người không tồn tại hoặc cung cấp thông tin chi tiết không chính xác về các chủ đề nhất định.

OpenAI đã tiến hành nghiên cứu để test tính hiệu quả của hai loại phản hồi– "giám sát kết quả" và "giám sát quy trình". Giám sát kết quả liên quan đến phản hồi dựa trên kết quả cuối cùng, trong khi giám sát quy trình cung cấp thông tin đầu vào cho từng bước trong chuỗi suy nghĩ. OpenAI đã đánh giá các mô hình này bằng cách sử dụng các bài toán, tạo ra nhiều giải pháp và chọn giải pháp được xếp hạng cao nhất theo từng mô hình phản hồi.

Sau khi phân tích kỹ lưỡng, nhóm nghiên cứu nhận thấy rằng việc giám sát quy trình mang lại hiệu suất vượt trội vì nó khuyến khích mô hình tuân thủ quy trình được con người phê duyệt. Ngược lại, giám sát kết quả tỏ ra khó khăn hơn để xem xét kỹ lưỡng một cách nhất quán.

OpenAI đã nhận ra rằng ý nghĩa của việc giám sát quy trình vượt ra ngoài toán học và cần phải điều tra thêm để hiểu tác động của nó trong các lĩnh vực khác nhau. Nó thể hiện khả năng rằng nếu các kết quả quan sát được giữ đúng trong các bối cảnh rộng hơn, thì giám sát quy trình có thể mang lại sự kết hợp thuận lợi giữa hiệu suất và sự liên kết so với giám sát kết quả. Để tạo điều kiện nghiên cứu, công ty đã phát hành công khai bộ dữ liệu hoàn chỉnh về giám sát quy trình, mời thăm dò và nghiên cứu trong lĩnh vực này.

bất chấp việc OpenAI không cung cấp các trường hợp rõ ràng khiến họ phải điều tra về ảo giác, nhưng hai trường hợp xảy ra gần đây đã minh họa vấn đề trong các tình huống thực tế.

Trong một vụ việc gần đây, luật sư Steven A. Schwartz trong vụ Mata kiện Avianca Airlines thừa nhận dựa vào chatbot như một nguồn tài liệu nghiên cứu. Tuy nhiên, thông tin do ChatGPT cung cấp hóa ra hoàn toàn là bịa đặt, làm nổi bật vấn đề hiện tại.

ChatGPT của OpenAI không phải là ví dụ duy nhất về việc các hệ thống trí tuệ nhân tạo gặp phải ảo giác. Trí tuệ nhân tạo của Microsoft, trong buổi trình diễn công nghệ chatbot của mình vào tháng 3, đã test các báo cáo thu nhập và tạo ra các số liệu không chính xác cho các công ty như Gap và Lululemon.

Tạp chí: 25.000 nhà đầu tư đặt cược vào các lựa chọn cổ phiếu ChatGPT, AI dở trò ném xúc xắc, v.v.

Theo CoinTelegraph