Bagaimana sistem seperti ChatGPT bekerja?

Ini adalah topik yang terus berkembang. Para insinyur terus mencari cara-cara baru untuk membuatnya bekerja lebih baik.

Pelatihan. Untuk melatih model ChatGPT, ada dua tahap:

Pra-pelatihan: Pada tahap ini, kita melatih model GPT (transformer decoder-only) pada sepotong besar data internet. Tujuannya adalah melatih model yang dapat memprediksi kata-kata masa depan yang diberikan kalimat dengan cara yang secara gramatikal benar dan secara semantis bermakna serupa dengan data internet. Setelah tahap pra-pelatihan, model dapat menyelesaikan kalimat yang diberikan, tetapi tidak mampu menjawab pertanyaan.
Pemelajaran halus: Tahap ini adalah proses 3-langkah yang mengubah model pra-pelatihan menjadi model ChatGPT yang dapat menjawab pertanyaan:

1- Kumpulkan data pelatihan (pertanyaan dan jawaban), dan lakukan pemelajaran halus pada model pra-pelatihan dengan data ini. Model mengambil pertanyaan sebagai input dan belajar menghasilkan jawaban yang serupa dengan data pelatihan. 2- Kumpulkan lebih banyak data (pertanyaan, beberapa jawaban) dan latih model hadiah untuk menilai jawaban-jawaban ini dari yang paling relevan hingga yang paling tidak relevan. 3- Gunakan pembelajaran penguatan (optimasi PPO) untuk melakukan pemelajaran halus pada model sehingga jawaban model lebih akurat.

Menjawab prompt

🔹Langkah 1: Pengguna memasukkan pertanyaan lengkap, "Jelaskan bagaimana algoritma klasifikasi bekerja".

🔹Langkah 2: Pertanyaan dikirim ke komponen moderasi konten. Komponen ini memastikan bahwa pertanyaan tidak melanggar pedoman keamanan dan menyaring pertanyaan yang tidak pantas.

🔹Langkah 3-4: Jika input lolos moderasi konten, maka dikirim ke model chatGPT. Jika input tidak lolos moderasi konten, maka langsung ke pembuatan respons template.

🔹Langkah 5-6: Setelah model menghasilkan respons, maka dikirim ke komponen moderasi konten lagi. Ini memastikan bahwa respons yang dihasilkan aman, tidak berbahaya, tidak bias, dll.

🔹Langkah 7: Jika input lolos moderasi konten, maka ditampilkan kepada pengguna. Jika input tidak lolos moderasi konten, maka ke pembuatan respons template dan menampilkan jawaban template kepada pengguna.

Harap dicatat bahwa versi bahasa Indonesia didukung oleh AI dan karena itu mungkin terjadi kesalahan kecil.

Penulis

Ai Base Network (ABN), ABN ASIA didirikan oleh orang-orang dengan akar yang kuat di dunia akademis, dengan pengalaman kerja di Amerika Serikat, Belanda, Hungaria, Jepang, Korea Selatan, Singapura, dan Vietnam. ABN Asia adalah tempat di mana akademik dan teknologi bertemu dengan peluang. Dengan solusi terdepan kami dan layanan pengembangan perangkat lunak yang kompeten, kami membantu bisnis untuk meningkatkan level dan bersaing di panggung global. Komitmen kami: Lebih Cepat. Lebih Baik. Lebih handal. Dalam kebanyakan kasus: Lebih murah juga.

Jangan ragu untuk menghubungi kami jika Anda membutuhkan layanan IT, konsultasi digital, solusi perangkat lunak siap pakai, atau jika Anda ingin mengirimkan permintaan proposal (RFP). Anda dapat menghubungi kami di [email protected]. Kami siap membantu Anda dengan semua kebutuhan teknologi Anda.