RAG Tradisional vs. HyDE, dijelaskan secara visual.

Satu masalah kritis dengan sistem RAG tradisional adalah pertanyaan tidak memiliki kesamaan semantik dengan jawabannya.

Pertimbangkan Anda ingin menemukan kalimat yang mirip dengan "Apa itu ML?".

Sangat mungkin bahwa "Apa itu AI?" lebih mirip dengannya daripada "Pembelajaran mesin itu menyenangkan."

Karena ketidakmiripan semantik ini, beberapa konteks yang tidak relevan diperoleh selama langkah pengambilan.

HyDE menyelesaikannya.

Visual berikut menunjukkan bagaimana perbedaannya dengan RAG tradisional.

Berikut cara kerjanya:

Gunakan LLM untuk menghasilkan jawaban hipotetis H untuk pertanyaan Q (jawaban ini tidak harus sepenuhnya benar).
Sematkan jawaban menggunakan model contriever untuk mendapatkan E (Bi-encoder yang dilatih menggunakan pembelajaran kontras terkenal digunakan di sini).
Gunakan sematan E untuk mengquery basis data vektor dan mengambil konteks yang relevan (C).
Lewatkan jawaban hipotetis H + konteks yang diperoleh C + pertanyaan Q ke LLM untuk menghasilkan jawaban.

Selesai!

Sekarang, tentu saja, jawaban hipotetis yang dihasilkan kemungkinan besar akan mengandung detail yang dihantu.

Tapi ini tidak terlalu mempengaruhi kinerja karena model contriever—salah satu yang menyematkan.

Lebih spesifik, model ini dilatih menggunakan pembelajaran kontras dan juga berfungsi sebagai kompresor yang hampir tanpa kehilangan yang tugasnya adalah menyaring detail yang dihantu dari dokumen palsu.

Hal ini menghasilkan sematan vektor yang diharapkan lebih mirip dengan sematan dokumen asli daripada pertanyaan dengan dokumen asli.

Beberapa studi telah menunjukkan bahwa HyDE meningkatkan kinerja pengambilan dibandingkan dengan model sematan tradisional.

Tapi ini datang dengan biaya penundaan yang lebih lama dan penggunaan LLM yang lebih banyak.

Harap dicatat bahwa versi bahasa Indonesia didukung oleh AI dan karena itu mungkin terjadi kesalahan kecil.

Penulis

Ai Base Network (ABN), ABN ASIA didirikan oleh orang-orang dengan akar yang kuat di dunia akademis, dengan pengalaman kerja di Amerika Serikat, Belanda, Hungaria, Jepang, Korea Selatan, Singapura, dan Vietnam. ABN Asia adalah tempat di mana akademik dan teknologi bertemu dengan peluang. Dengan solusi terdepan kami dan layanan pengembangan perangkat lunak yang kompeten, kami membantu bisnis untuk meningkatkan level dan bersaing di panggung global. Komitmen kami: Lebih Cepat. Lebih Baik. Lebih handal. Dalam kebanyakan kasus: Lebih murah juga.

Jangan ragu untuk menghubungi kami jika Anda membutuhkan layanan IT, konsultasi digital, solusi perangkat lunak siap pakai, atau jika Anda ingin mengirimkan permintaan proposal (RFP). Anda dapat menghubungi kami di [email protected]. Kami siap membantu Anda dengan semua kebutuhan teknologi Anda.