Tấn công một điểm ảnh

Bạn có biết về vấn đề này trong học máy không?

Hãy tưởng tượng thay đổi giá trị của một pixel trong một hình ảnh và mạng nơ-ron dự đoán hình ảnh của một con ngựa là 99% con ếch.

Điều này hoàn toàn có thể và được gọi là "tấn công một pixel".

Tấn công một pixel là một phần của ý tưởng gọi là "tấn công đối kháng" hoặc "ví dụ đối kháng" nơi chúng ta có thể thực hiện một thay đổi nhỏ mà con người không thể phát hiện ra trên một hình ảnh và khiến mạng nơ-ron phân loại sai.

Trong các cuộc tấn công đối kháng thông thường, chúng ta có thể thay đổi bất kỳ số lượng pixel nào bằng một giá trị cực kỳ nhỏ.

Trong một cuộc tấn công một pixel, chúng ta chỉ có thể thay đổi một pixel của hình ảnh với mức độ tùy ý.

Cách chúng ta tìm ra pixel nào cần thay đổi và giá trị R, G, B cần thay đổi để dẫn đến phân loại sai được tìm ra thông qua một thuật toán gọi là "tiến hóa vi phân".

Tiến hóa vi phân tương tự như thuật toán di truyền. Một vài pixel được chọn ngẫu nhiên làm cha mẹ. Các cha mẹ đột biến và tạo ra các pixel "con". Nếu các con có thể tăng hàm mất mát hoặc giảm độ tin cậy dự đoán, thì chúng sống sót (sự sống sót của kẻ thích nghi nhất). Ngược lại, chúng bị loại bỏ (loại bỏ kẻ không thích nghi).

Tiến hóa là đột biến ngẫu nhiên và lựa chọn không ngẫu nhiên. Chúng ta có khả năng đạt được tối ưu, nhưng không được đảm bảo.

Tiến hóa vi phân (DE) mạnh mẽ vì không giống như gradient descent, bạn không cần một hàm có thể phân biệt được. Bạn có thể áp dụng DE trên bất kỳ hàm nào.

TÁC GIẢ

Về ABN Asia: AiUTOMATING PEOPLE, ABN Asia được thành lập từ năm 2012, là một công ty xuất phát từ học thuật, do những giảng viên, cựu du học sinh Hungary, Hà Lan, Nga, Đức, và Nhật Bản sáng lập. Chúng tôi chia sẻ đam mê chung và tầm nhìn vững chắc về công nghệ, mang đến sự đổi mới và chất lượng đỉnh cao cho khách hàng. Phương châm của chúng tôi là: Tốt hơn. Nhanh hơn. An toàn hơn. Trong nhiều trường hợp: Rẻ hơn.

Hãy liên hệ với chúng tôi khi Quý doanh nghiệp có các nhu cầu về dịch vụ công nghệ thông tin, tư vấn chuyển đổi số, tìm kiếm các giải pháp phần mềm phù hợp, hoặc nếu Quý doanh nghiệp có đấu thầu CNTT (RFP) để chúng tôi tham dự. Quý doanh nghiệp có thể liên hệ với chúng tôi qua địa chỉ email [email protected]. Chúng tôi sẵn lòng hỗ trợ với mọi nhu cầu công nghệ của Quý doanh nghiệp.

© ABN ASIA