OpenAI เพิ่งตีพิมพ์บทความวิจัยเกี่ยวกับอาการหลงผิดของปัญญาประดิษฐ์

OpenAI เพิ่งเผยแพร่บทความเกี่ยวกับฮัลลูซิเนชันของ AI

ผลปรากฏว่า โมเดลภาษาขนาดใหญ่ (LLMs) ไม่ได้สร้างเรื่องขึ้นมาเพราะว่า "พัง"

LLMs สร้างเรื่องขึ้นมาเพราะเราอบรมมันให้ทำเช่นนั้น

มีข้อค้นพบที่น่าสนใจจากผลการวิจัยของ OpenAI:

→ การฝึกอบรมก่อน (pretraining) บังคับให้เกิดข้อผิดพลาด (เช่น การเดาเกิดวัน) เพราะบางข้อเท็จจริงไม่สามารถเรียนรู้จากข้อมูลได้

→ การฝึกอบรมหลัง (post-training) ทำให้สถานการณ์เลวร้ายลง - การทดสอบให้รางวัลคำตอบที่มั่นใจและลงโทษ "ไม่รู้"

→ ผลลัพธ์? โมเดลที่ได้รับการปรับให้เหมาะสมในการทำการทดสอบ ไม่ใช่ในการบอกความจริง

ในอีกนัยหนึ่ง ฮัลลูซิเนชันไม่ใช่เรื่องลึกลับ

มันเป็นผลลัพธ์ที่เป็นไปได้ของระบบการประเมินที่ให้คุณค่ากับการเดามากกว่าความซื่อสัตย์

วิธีแก้ไขเป็นเรื่องง่ายแต่ радikal:

↳ เปลี่ยนการประเมินเพื่อให้โมเดลได้รับคะแนนสำหรับความไม่แน่นอน ↳ ลงโทษข้อผิดพลาดที่มั่นใจมากกว่าการไม่ตอบ ↳ ให้รางวัลความซื่อสัตย์ ไม่ใช่การหลอกลวง

ข้อสรุป:

โมเดลที่บอกว่า "ไม่รู้" อาจดูไม่แม่นยำบนกระดานผู้นำในปัจจุบัน แต่มัน đángเชื่อถือมากกว่าในโลกแห่งความเป็นจริง

และนี่อาจเป็นการปลดล็อก AI ที่ยิ่งใหญ่ครั้งหน้า

เราไม่ต้องการโมเดลที่ใหญ่ขึ้น เราต้องการแรงจูงใจที่ดีกว่า

โปรดทราบว่าเวอร์ชันภาษาไทยได้รับการช่วยเหลือจาก AI ดังนั้นอาจมีข้อผิดพลาดเล็กน้อย

ผู้เขียน

Ai Base Network (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย

หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องกรทางเทคโนโลยีของคุณทุกเมื่อ