OpenAI เพิ่งตีพิมพ์บทความวิจัยเกี่ยวกับอาการหลงผิดของปัญญาประดิษฐ์

OpenAI เพิ่งเผยแพร่บทความเกี่ยวกับฮัลลูซิเนชันของ AI

ผลปรากฏว่า โมเดลภาษาขนาดใหญ่ (LLMs) ไม่ได้สร้างเรื่องขึ้นมาเพราะว่า "พัง"

LLMs สร้างเรื่องขึ้นมาเพราะเราอบรมมันให้ทำเช่นนั้น

มีข้อค้นพบที่น่าสนใจจากผลการวิจัยของ OpenAI:

→ การฝึกอบรมก่อน (pretraining) บังคับให้เกิดข้อผิดพลาด (เช่น การเดาเกิดวัน) เพราะบางข้อเท็จจริงไม่สามารถเรียนรู้จากข้อมูลได้

→ การฝึกอบรมหลัง (post-training) ทำให้สถานการณ์เลวร้ายลง - การทดสอบให้รางวัลคำตอบที่มั่นใจและลงโทษ "ไม่รู้"

→ ผลลัพธ์? โมเดลที่ได้รับการปรับให้เหมาะสมในการทำการทดสอบ ไม่ใช่ในการบอกความจริง

ในอีกนัยหนึ่ง ฮัลลูซิเนชันไม่ใช่เรื่องลึกลับ

มันเป็นผลลัพธ์ที่เป็นไปได้ของระบบการประเมินที่ให้คุณค่ากับการเดามากกว่าความซื่อสัตย์

วิธีแก้ไขเป็นเรื่องง่ายแต่ радikal:

↳ เปลี่ยนการประเมินเพื่อให้โมเดลได้รับคะแนนสำหรับความไม่แน่นอน ↳ ลงโทษข้อผิดพลาดที่มั่นใจมากกว่าการไม่ตอบ ↳ ให้รางวัลความซื่อสัตย์ ไม่ใช่การหลอกลวง

ข้อสรุป:

โมเดลที่บอกว่า "ไม่รู้" อาจดูไม่แม่นยำบนกระดานผู้นำในปัจจุบัน แต่มัน đángเชื่อถือมากกว่าในโลกแห่งความเป็นจริง

และนี่อาจเป็นการปลดล็อก AI ที่ยิ่งใหญ่ครั้งหน้า

เราไม่ต้องการโมเดลที่ใหญ่ขึ้น เราต้องการแรงจูงใจที่ดีกว่า

โปรดทราบว่าเวอร์ชันภาษาไทยได้รับการช่วยเหลือจาก AI ดังนั้นอาจมีข้อผิดพลาดเล็กน้อย

ผู้เขียน

Ai-Banking-NetworkSecurity (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย

หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องกรทางเทคโนโลยีของคุณทุกเมื่อ