การโจมตีด้วยพิกเซลเดียว

คุณรู้จักปัญหานี้ในด้านการเรียนรู้ของเครื่องหรือไม่

ลองนึกถึงการเปลี่ยนแปลงค่าของพิกเซลหนึ่งพิกเซลในภาพ และเครือข่ายประสาทเทียมทำนายภาพของม้าเป็น 99% กบ

สิ่งนี้เป็นไปได้อย่างสมบูรณ์และเรียกว่า "การโจมตีด้วยพิกเซลเดียว"

การโจมตีด้วยพิกเซลเดียวเป็นเซตย่อยของแนวคิดที่เรียกว่า "การโจมตีแบบฝ่ายตรงข้าม" หรือ "ตัวอย่างแบบฝ่ายตรงข้าม" โดยที่เราสามารถทำการเปลี่ยนแปลงเล็กน้อยที่มนุษย์ไม่สามารถตรวจจับได้กับภาพ และทำให้เครือข่ายประสาทเทียมจำแนกประเภทผิดพลาด

ในการโจมตีแบบฝ่ายตรงข้ามปกติ เราสามารถเปลี่ยนแปลงพิกเซลใดก็ได้ในจำนวนใดก็ได้ด้วยค่าที่น้อยมาก

ในการโจมตีด้วยพิกเซลเดียว เราสามารถเปลี่ยนแปลงพิกเซลเดียวของภาพได้มากเท่าที่เราต้องการ

วิธีที่เราพบพิกเซลที่การเปลี่ยนแปลงและค่า R, G, B ที่นำไปสู่การจำแนกประเภทผิดพลาดได้ถูกกำหนดโดยอัลกอริทึมที่เรียกว่า "การวิวัฒนาการเชิงความแตกต่าง"

การวิวัฒนาการเชิงความแตกต่างคล้ายกับอัลกอริทึมทางพันธุกรรม พิกเซลจำนวนไม่มากถูกเลือกแบบสุ่มเป็นพ่อแม่ พ่อแม่กลายพันธุ์และสร้างพิกเซล "ลูกหลาน" หากลูกหลานสามารถเพิ่มฟังก์ชันการสูญเสียหรือลดความมั่นใจในการทำนาย ก็จะรอด (การอยู่รอดของสิ่งมีชีวิตที่เหมาะสม) ในทางกลับกัน ถ้าไม่ ก็จะถูกทิ้ง (การกำจัดของสิ่งมีชีวิตที่ไม่เหมาะสม)

การวิวัฒนาการคือการกลายพันธุ์แบบสุ่มและการเลือกแบบไม่สุ่ม เรามีโอกาสไปถึงจุดยอด แต่ไม่ได้รับประกัน

การวิวัฒนาการเชิงความแตกต่าง (DE) มีพลังมากเพราะไม่เหมือนการลงเขาแบบความชัน (gradient descent) คุณไม่จำเป็นต้องมีฟังก์ชันที่สามารถหาอนุพันธ์ได้ คุณสามารถใช้ DE กับฟังก์ชันใดก็ได้

โปรดทราบว่าเวอร์ชันภาษาไทยได้รับการช่วยเหลือจาก AI ดังนั้นอาจมีข้อผิดพลาดเล็กน้อย

ผู้เขียน

Ai-Banking-NetworkSecurity (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย

หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องการทางเทคโนโลยีของคุณทุกเมื่อ