一像素攻击

您是否了解机器学习中的这个问题？

想象一下改变图像中一个像素的值，神经网络就将图像预测为99%的青蛙。

这种情况完全有可能，并被称为“一像素攻击”。

一像素攻击是“对抗攻击”或“对抗样本”的一个子集，我们可以对图像进行人类无法察觉的微小修改，使神经网络错误分类。

在常规对抗攻击中，我们可以通过极小的值修改图像中的任意数量的像素。

在一像素攻击中，我们只能以任意值修改图像中的一个像素。

我们通过一种称为“差分进化”的算法来找到修改哪个像素以及R、G、B值的修改会导致错误分类。

差分进化类似于遗传算法。随机选择一些像素作为父代。父代发生变异并产生“子代”像素。如果子代可以增加损失函数或降低预测置信度，那么它们就会存活下来（适者生存）。否则，它们将被丢弃（不适者淘汰）。

进化是随机变异和非随机选择。我们很可能会到达最优解，但不保证。

差分进化（DE）如此强大是因为与梯度下降不同，你不需要可微函数。你可以在任何函数上应用DE。

请注意，中文版本是由 AI 辅助翻译的，因此可能存在细微错误。

作者

Ai Base Network (ABN), ABN ASIA由具有深厚学术背景的人员创立，他们在美国、荷兰、匈牙利、日本、韩国、新加坡和越南等国家有工作经验。ABN Asia是学术界和技术相遇的地方。凭借我们领先的解决方案和优秀的软件开发服务，我们帮助企业提升水平，走向全球舞台。我们的承诺：更快。更好。更可靠。在大多数情况下：也更便宜。

无论您需要IT服务、数字咨询、现成软件解决方案，还是想向我们发送招标要求（RFPs），都请随时与我们联系。您可以通过[email protected]与我们联系。我们随时准备为您提供所有技术需求的帮助。