Attaque d'un pixel

Êtes-vous au courant de ce problème en apprentissage automatique ?

Imaginez changer la valeur d'un seul pixel dans une image et les réseaux neuronaux prédirent l'image d'un cheval comme 99 % grenouille.

C'est tout à fait possible et cela s'appelle « attaque d'un pixel ».

L'attaque d'un pixel est un sous-ensemble de l'idée appelée « attaques adverses » ou « exemples adverses » où nous pouvons apporter une petite modification que les humains ne peuvent pas détecter à une image et faire que le réseau neuronal la classe incorrectement.

Dans les attaques adverses régulières, nous pouvons modifier n'importe quel nombre de pixels d'une valeur incroyablement petite.

Dans une attaque d'un pixel, nous ne pouvons modifier qu'un seul pixel de l'image autant que nous le voulons.

La façon dont nous trouvons le pixel dont la modification et la modification des valeurs R, G, B qui mène à une mauvaise classification est déterminée grâce à un algorithme appelé « évolution différentielle ».

L'évolution différentielle est similaire à l'algorithme génétique. Un certain nombre de pixels sont sélectionnés au hasard comme parents. Les parents se modifient et produisent des pixels « descendants ». Si les descendants peuvent augmenter la fonction de perte ou diminuer la confiance de prédiction, alors ils survivent (sélection naturelle). Sinon, ils sont éliminés (élimination des inaptes).

L'évolution est une mutation aléatoire et une sélection non aléatoire. Nous sommes susceptibles d'arriver à l'optimum, mais ce n'est pas garanti.

L'évolution différentielle (DE) est si puissante parce que, contrairement à la descente de gradient, vous n'avez pas besoin d'une fonction différentiable. Vous pouvez appliquer DE sur n'importe quelle fonction.

Veuillez noter que la version française est assistée par Ai, des erreurs mineures peuvent donc exister.

Auteur

AiUTOMATING PEOPLE, ABN ASIA a été fondée par des personnes ayant des racines profondes dans le milieu académique, avec une expérience professionnelle aux États-Unis, aux Pays-Bas, en Hongrie, au Japon, en Corée du Sud, à Singapour et au Vietnam. ABN ASIA est l'endroit où l'académie et la technologie rencontrent l'opportunité. Avec nos solutions de pointe et nos services de développement logiciel compétents, nous aidons les entreprises à se développer et à s'imposer sur la scène mondiale. Notre engagement : Plus vite. Mieux. Plus fiable. Dans la plupart des cas : moins cher également.

N'hésitez pas à nous contacter chaque fois que vous avez besoin de services informatiques, de conseils en matière de numérique, de solutions logicielles prêtes à l'emploi, ou si vous souhaitez nous envoyer des demandes de propositions (RFP). Vous pouvez nous contacter à l'adresse [email protected]. Nous sommes prêts à vous aider avec tous vos besoins technologiques.

© ABN ASIA