OpenAI vừa xuất bản một bài báo về ảo giác AI

Thật ra, LLMs không tạo ra những điều không có thực vì chúng "hỏng hóc".

LLMs tạo ra những điều không có thực vì chúng ta đã đào tạo chúng để làm như vậy.

Một số hiểu biết sâu sắc từ nghiên cứu của OpenAI:

→ Việc tiền đào tạo buộc phải có lỗi (như đoán ngày sinh ngẫu nhiên) vì một số sự thật đơn giản là không thể học được từ dữ liệu.

→ Việc đào tạo sau làm cho tình hình tồi tệ hơn - các chuẩn mực đánh giá thưởng cho những câu trả lời tự tin và phạt "Tôi không biết".

→ Kết quả? Các mô hình được tối ưu hóa để trở thành những người làm bài kiểm tra giỏi, không phải những người nói sự thật.

Nói cách khác, ảo giác không phải là điều bí ẩn.

Chúng là kết quả logic của các hệ thống đánh giá mà đặt giá trị lên những ước đoán hơn là sự trung thực.

Cách sửa rất đơn giản nhưng mang tính cách mạng:

↳ Thay đổi việc đánh giá để các mô hình nhận được tín dụng cho sự không chắc chắn. ↳ Phạt những lỗi tự tin hơn là việc không tham gia. ↳ Thưởng cho sự trung thực, không phải sự dối trá.

Kết luận:

Một mô hình nói "Tôi không biết" có thể看 ít chính xác hơn trên bảng xếp hạng ngày nay, nhưng nó đáng tin cậy hơn trong thế giới thực.

Và điều này có thể là bước nhảy vĩ đại tiếp theo của AI.

Chúng ta không cần những mô hình lớn hơn. Chúng ta chỉ cần những động lực tốt hơn.

TÁC GIẢ

Về ABN Asia: Ai Base Network (ABN), ABN Asia được thành lập từ năm 2012, là một công ty xuất phát từ học thuật, do những giảng viên, cựu du học sinh Hungary, Hà Lan, Nga, Đức, và Nhật Bản sáng lập. Chúng tôi chia sẻ đam mê chung và tầm nhìn vững chắc về công nghệ, mang đến sự đổi mới và chất lượng đỉnh cao cho khách hàng. Phương châm của chúng tôi là: Tốt hơn. Nhanh hơn. An toàn hơn. Trong nhiều trường hợp: Rẻ hơn.

Hãy liên hệ với chúng tôi khi Quý doanh nghiệp có các nhu cầu về dịch vụ công nghệ thông tin, tư vấn chuyển đổi số, tìm kiếm các giải pháp phần mềm phù hợp, hoặc nếu Quý doanh nghiệp có đấu thầu CNTT (RFP) để chúng tôi tham dự. Quý doanh nghiệp có thể liên hệ với chúng tôi qua địa chỉ email [email protected]. Chúng tôi sẵn lòng hỗ trợ với mọi nhu cầu công nghệ của Quý doanh nghiệp.