Ein-Pixel-Angriff

Sind Sie sich dieses Problems im maschinellen Lernen bewusst?

Stellen Sie sich vor, Sie ändern den Wert eines Pixels in einem Bild und die neuronalen Netze klassifizieren das Bild eines Pferdes zu 99 % als Frosch.

Dies ist absolut möglich und wird als „One-Pixel-Angriff“ bezeichnet.

Der One-Pixel-Angriff ist ein Subset der Idee, die als „adversarial attacks“ oder „adversarial examples“ bezeichnet wird, bei der wir eine kleine Modifikation vornehmen können, die Menschen nicht erkennen können, und das neuronale Netzwerk dazu bringen, das Bild falsch zu klassifizieren.

Bei regulären adversarial attacks können wir eine beliebige Anzahl von Pixeln um einen unglaublich kleinen Wert ändern.

Bei einem One-Pixel-Angriff können wir nur ein Pixel des Bildes um so viel ändern, wie wir wollen.

Die Art und Weise, wie wir das Pixel finden, dessen Modifikation und Änderung der R-, G- und B-Werte zu einer Fehlklassifizierung führt, wird durch einen Algorithmus namens „Differential Evolution“ ermittelt.

Differential Evolution ist ähnlich wie ein genetischer Algorithmus. Einige Pixel werden zufällig als Eltern ausgewählt. Die Eltern mutieren und produzieren „Nachkommen“-Pixel. Wenn die Nachkommen die Verlustfunktion erhöhen oder die Vorhersagegewissheit verringern können, überleben sie (Überleben des Stärkeren). Andernfalls werden sie verworfen (Eliminierung der Ungeeigneten).

Evolution ist zufällige Mutation und nicht-zufällige Selektion. Wir sind wahrscheinlich am Optimum angelangt, aber nicht garantiert.

Differential Evolution (DE) ist so leistungsfähig, weil Sie im Gegensatz zum Gradientenabstieg keine differenzierbare Funktion benötigen. Sie können DE auf jede Funktion anwenden.

Bitte beachten Sie, dass die deutsche Version von Ai unterstützt wird und daher geringfügige Fehler auftreten können.

AUTOR

Über ABN Asia: Ai Base Network (ABN), ABN Asia wurde im Jahr 2012 gegründet und ist ein Unternehmen mit akademischem Hintergrund, das von Lehrkräften und ehemaligen Studierenden aus Ungarn, den Niederlanden, Russland, Deutschland und Japan gegründet wurde. Wir teilen eine gemeinsame Leidenschaft und eine klare Vision für Technologie, die Innovation und erstklassige Qualität für unsere Kunden bringt. Unser Motto lautet: Besser. Schneller. Sicherer. In vielen Fällen: Günstiger.

Zögern Sie nicht, uns zu kontaktieren, wenn Sie IT-Dienstleistungen, digitale Beratung, Standardsoftwarelösungen benötigen oder uns Angebotsanfragen (RFPs) senden möchten. Sie können uns unter [email protected] kontaktieren. Wir sind bereit, Ihnen bei all Ihren Technologiebedürfnissen zu helfen.