Serangan satu piksel

Apakah Anda menyadari masalah ini dalam pembelajaran mesin?

Bayangkan mengubah nilai satu piksel dalam gambar dan jaringan saraf memprediksi gambar kuda sebagai 99% katak.

Hal ini sangat mungkin dan disebut sebagai "serangan satu piksel".

Serangan satu piksel adalah subset dari ide yang disebut "serangan musuh" atau "contoh musuh" di mana kita dapat membuat modifikasi kecil yang tidak dapat dideteksi oleh manusia pada gambar dan membuat jaringan saraf salah mengklasifikasikan.

Dalam serangan musuh biasa, kita dapat memodifikasi sejumlah piksel dengan nilai yang sangat kecil.

Dalam serangan satu piksel, kita hanya dapat memodifikasi satu piksel gambar dengan nilai yang diinginkan.

Cara menemukan piksel yang modifikasinya dan modifikasi nilai R, G, B yang menyebabkan kesalahan klasifikasi ditemukan melalui algoritma yang disebut "evolusi diferensial".

Evolusi diferensial mirip dengan algoritma genetik. Beberapa piksel dipilih secara acak sebagai orang tua. Orang tua tersebut bermutasi dan menghasilkan "keturunan" piksel. Jika keturunan dapat meningkatkan fungsi kerugian atau menurunkan kepercayaan prediksi, maka mereka bertahan (survival of the fittest). Jika tidak, mereka dibuang (eliminasi yang tidak mampu).

Evolusi adalah mutasi acak dan seleksi non-acak. Kita mungkin mencapai optimum, tetapi tidak dijamin.

Evolusi diferensial (DE) sangat kuat karena tidak seperti gradien turun, Anda tidak memerlukan fungsi yang dapat dibedakan. Anda dapat menerapkan DE pada fungsi apa pun.

Harap dicatat bahwa versi bahasa Indonesia didukung oleh AI dan karena itu mungkin terjadi kesalahan kecil.

Penulis

Ai Base Network (ABN), ABN ASIA didirikan oleh orang-orang dengan akar yang kuat di dunia akademis, dengan pengalaman kerja di Amerika Serikat, Belanda, Hungaria, Jepang, Korea Selatan, Singapura, dan Vietnam. ABN Asia adalah tempat di mana akademik dan teknologi bertemu dengan peluang. Dengan solusi terdepan kami dan layanan pengembangan perangkat lunak yang kompeten, kami membantu bisnis untuk meningkatkan level dan bersaing di panggung global. Komitmen kami: Lebih Cepat. Lebih Baik. Lebih handal. Dalam kebanyakan kasus: Lebih murah juga.

Jangan ragu untuk menghubungi kami jika Anda membutuhkan layanan IT, konsultasi digital, solusi perangkat lunak siap pakai, atau jika Anda ingin mengirimkan permintaan proposal (RFP). Anda dapat menghubungi kami di [email protected]. Kami siap membantu Anda dengan semua kebutuhan teknologi Anda.