ワン・ピクセル・アタック

マシンラーニングにおけるこの問題にあなたは気づいていますか。

画像の1つのピクセルの値を変更すると、ニューラルネットワークはその画像を99%の確率でカエルだと予測することができる。

これは完全に可能であり、「1ピクセル攻撃」と呼ばれる。

1ピクセル攻撃は、「敵対的攻撃」または「敵対的例」と呼ばれる考えのサブセットであり、人間には検出できない画像への小さな変更を加えることで、ニューラルネットワークを誤分類させることができる。

通常の敵対的攻撃では、非常に小さな値で画像の任意の数のピクセルを変更することができる。

1ピクセル攻撃では、画像の1つのピクセルのみを変更することができ、変更の度合いは任意である。

誤分類につながるピクセルの変更とR、G、B値の変更を見つける方法は、「差分進化」と呼ばれるアルゴリズムによって決定される。

差分進化は、遺伝的アルゴリズムに似ている。数個のピクセルがランダムに選択され、親となる。親は突然変異し、「子孫」ピクセルを生み出す。子孫が損失関数を増加させたり、予測の信頼度を下げたりできる場合、子孫は生き残る（適者生存）。そうでなければ、子孫は破棄される（不適者淘汰）。

進化はランダムな突然変異と非ランダムな選択である。最適解に到達する可能性は高いが、保証されているわけではない。

差分進化（DE）は、勾配降下法のように微分可能な関数が必要ないため、非常に強力である。DEは任意の関数に適用できる。

日本語版は Ai 支援を使用しているため、小さな間違いが存在する可能性があることをご了承ください。

著者

Ai Base Network (ABN), ABN ASIAは、アカデミアに深く関わり、アメリカ、オランダ、ハンガリー、日本、韓国、シンガポール、ベトナムでの仕事経験を持つ人々によって設立されました。ABN ASIAは、学問とテクノロジーが機会と出会う場所です。最先端のソリューションと優れたソフトウェア開発サービスにより、ビジネスがレベルアップし、グローバルシーンに挑戦できるよう支援しています。私たちの取り組み: より速く。より良い。より信頼性が高くなります。ほとんどの場合、価格も安くなります。

いつでも、ITサービス、デジタルコンサルティング、既製のソフトウェアソリューション、または提案依頼書（RFP）をお探しの際は、お気軽にお問い合わせください。お問い合わせ先は[email protected]です。お客様のテクノロジーに関するニーズにお応えします。