การโจมตีด้วยพิกเซลเดียว

คุณรู้จักปัญหานี้ในด้านการเรียนรู้ของเครื่องหรือไม่

ลองนึกถึงการเปลี่ยนแปลงค่าของพิกเซลหนึ่งพิกเซลในภาพ และเครือข่ายประสาทเทียมทำนายภาพของม้าเป็น 99% กบ

สิ่งนี้เป็นไปได้อย่างสมบูรณ์และเรียกว่า "การโจมตีด้วยพิกเซลเดียว"

การโจมตีด้วยพิกเซลเดียวเป็นเซตย่อยของแนวคิดที่เรียกว่า "การโจมตีแบบฝ่ายตรงข้าม" หรือ "ตัวอย่างแบบฝ่ายตรงข้าม" โดยที่เราสามารถทำการเปลี่ยนแปลงเล็กน้อยที่มนุษย์ไม่สามารถตรวจจับได้กับภาพ และทำให้เครือข่ายประสาทเทียมจำแนกประเภทผิดพลาด

ในการโจมตีแบบฝ่ายตรงข้ามปกติ เราสามารถเปลี่ยนแปลงพิกเซลใดก็ได้ในจำนวนใดก็ได้ด้วยค่าที่น้อยมาก

ในการโจมตีด้วยพิกเซลเดียว เราสามารถเปลี่ยนแปลงพิกเซลเดียวของภาพได้มากเท่าที่เราต้องการ

วิธีที่เราพบพิกเซลที่การเปลี่ยนแปลงและค่า R, G, B ที่นำไปสู่การจำแนกประเภทผิดพลาดได้ถูกกำหนดโดยอัลกอริทึมที่เรียกว่า "การวิวัฒนาการเชิงความแตกต่าง"

การวิวัฒนาการเชิงความแตกต่างคล้ายกับอัลกอริทึมทางพันธุกรรม พิกเซลจำนวนไม่มากถูกเลือกแบบสุ่มเป็นพ่อแม่ พ่อแม่กลายพันธุ์และสร้างพิกเซล "ลูกหลาน" หากลูกหลานสามารถเพิ่มฟังก์ชันการสูญเสียหรือลดความมั่นใจในการทำนาย ก็จะรอด (การอยู่รอดของสิ่งมีชีวิตที่เหมาะสม) ในทางกลับกัน ถ้าไม่ ก็จะถูกทิ้ง (การกำจัดของสิ่งมีชีวิตที่ไม่เหมาะสม)

การวิวัฒนาการคือการกลายพันธุ์แบบสุ่มและการเลือกแบบไม่สุ่ม เรามีโอกาสไปถึงจุดยอด แต่ไม่ได้รับประกัน

การวิวัฒนาการเชิงความแตกต่าง (DE) มีพลังมากเพราะไม่เหมือนการลงเขาแบบความชัน (gradient descent) คุณไม่จำเป็นต้องมีฟังก์ชันที่สามารถหาอนุพันธ์ได้ คุณสามารถใช้ DE กับฟังก์ชันใดก็ได้

โปรดทราบว่าเวอร์ชันภาษาไทยได้รับการช่วยเหลือจาก AI ดังนั้นอาจมีข้อผิดพลาดเล็กน้อย

ผู้เขียน

Ai Base Network (ABN), ABN ASIA ถูกก่อตั้งขึ้นโดยคนที่มีรากฐานลึกในวงการวิชาการ มีประสบการณ์การทำงานในสหรัฐอเมริกา ดัตช์ ฮังการี ญี่ปุ่น เกาหลีใต้ สิงคโปร์ และเวียดนาม ABN Asia เป็นที่เราพบกันของวิทยาลัยและเทคโนโลยี ด้วยโซลูชันขั้นสูงและบริการพัฒนาซอฟต์แวร์ที่มีความสามารถ เราช่วยธุรกิจเติบโตและเข้าสู่ฉากโลก ความมุ่งมั่นของเรา: ด่วนขึ้น ดีขึ้น น่าเชื่อถือมากขึ้น ในกรณีส่วนมาก: ราคาถูกด้วย

หากคุณต้องการบริการ IT การให้คำปรึกษาดิจิทัล โซลูชันซอฟต์แวร์ใช้ได้หรือหากคุณต้องการส่งคำขอข้อเสนอ (RFPs) อย่าลังเลที่จะติดต่อเรา คุณสามารถติดต่อเราได้ที่ [email protected] เราพร้อมช่วยเหลือคุณด้านทุกความต้องการทางเทคโนโลยีของคุณทุกเมื่อ