RAGs Tidak Mengurangi Halusinasi di LLM

"Artikel ini membahas keterbatasan model Retrieval-Augmented Generation (RAG) dalam mengurangi halusinasi pada model bahasa besar (LLM). RAG adalah perpaduan canggih antara pengambilan informasi dan teknik pembelajaran mesin generatif yang meningkatkan pembuatan teks dengan memanfaatkan gudang informasi yang luas. Namun, meskipun arsitekturnya canggih, RAG berjuang untuk menghilangkan halusinasi, yang merupakan konten yang menyesatkan atau salah secara faktual.

Akar penyebab keterbatasan ini dapat ditelusuri kembali ke rumusan matematika yang rumit dan asumsi yang tertanam dalam kerangka RAG. Artikel tersebut menekankan bahwa relevansi kontekstual (RAG) meningkatkan kekhususan domain, bukan halusinasi. Satu-satunya tempat halusinasi dapat diatasi adalah di dalam LLM. Pengambilan didasarkan pada kesamaan semantik dan memaksimalkan kemungkinan log dan bukan merupakan kerangka matematika untuk verifikasi fakta secara formal.

Artikel ini juga menjelaskan cara RAG digunakan, termasuk pengambilan dokumen, integrasi konteks, dan pembuatan teks. Menambahkan relevansi kontekstual melalui RAG tidak mengurangi halusinasi di LLM. Sebaliknya, hal ini meningkatkan skor relevansi semantik, yang tidak sama dengan halusinasi sistem. Artikel tersebut menyarankan bahwa halusinasi hanya dapat diperbaiki dalam LLM itu sendiri, bukan melalui RAG.

https://medium.com/autonomous-agents/rag-does-not-reduce-hallucinations-in-llms-math-deep-dive-900107671e10"

Harap dicatat bahwa versi bahasa Prancis dari AI didukung dan karena itu mungkin terjadi kesalahan kecil. RAGs Tidak Mengurangi Halusinasi di LLM

Penulis

Ai Base Network (ABN), ABN ASIA didirikan oleh orang-orang dengan akar yang kuat di dunia akademis, dengan pengalaman kerja di Amerika Serikat, Belanda, Hungaria, Jepang, Korea Selatan, Singapura, dan Vietnam. ABN Asia adalah tempat di mana akademik dan teknologi bertemu dengan peluang. Dengan solusi terdepan kami dan layanan pengembangan perangkat lunak yang kompeten, kami membantu bisnis untuk meningkatkan level dan bersaing di panggung global. Komitmen kami: Lebih Cepat. Lebih Baik. Lebih handal. Dalam kebanyakan kasus: Lebih murah juga.

Jangan ragu untuk menghubungi kami jika Anda membutuhkan layanan IT, konsultasi digital, solusi perangkat lunak siap pakai, atau jika Anda ingin mengirimkan permintaan proposal (RFP). Anda dapat menghubungi kami di [email protected]. Kami siap membantu Anda dengan semua kebutuhan teknologi Anda.