Apa yang Microsoft Pelajari dari Membangun Aplikasi Ai

Pelajaran yang Anda temukan berharga dari Microsoft

Tim Red AI Microsoft telah merilis sebuah makalah yang sangat penting berjudul "Pelajaran Dari Red Teaming 100 Produk AI Generatif" (https://lnkd.in/dGxsydwF)

🌎 Berdasarkan pengalaman luas mereka, mereka telah menyimpulkan delapan pelajaran penting untuk meningkatkan keselamatan dan keamanan sistem AI Gen:-

Pahami apa yang dapat dilakukan sistem dan di mana sistem tersebut diterapkan.
Anda tidak perlu menghitung gradien untuk mematahkan sistem AI.
Red teaming AI bukanlah benchmarking keselamatan.
Otomatisasi dapat membantu menutupi lebih banyak lanskap risiko.
Elemen manusia dalam red teaming AI sangat penting.
Kerusakan AI yang bertanggung jawab sangat umum tetapi sulit diukur.
LLMs (Model Bahasa Besar) memperkuat risiko keamanan yang ada dan memperkenalkan yang baru.
Pekerjaan mengamankan sistem AI tidak akan pernah selesai.

📌 Bedakan antara Red teaming dan benchmarking keselamatan - Red teaming melibatkan simulasi serangan dunia nyata untuk mengungkap kerentanan, sedangkan benchmarking keselamatan menilai kinerja terhadap standar yang telah ditetapkan.

🤖 Manfaatkan otomatisasi - Menggunakan alat seperti PyRIT dapat membantu menutupi lanskap risiko yang lebih luas dengan lebih efisien.

👭 Penilaian manusia tidak dapat digantikan - Meskipun otomatisasi membantu proses, keahlian manusia sangat penting untuk penilaian dan pengambilan keputusan yang halus.

💭 Kerusakan AI yang bertanggung jawab sangat kompleks - Mengidentifikasi dan mengukur kerusakan memerlukan pertimbangan yang cermat, karena kerusakan dapat sangat umum tetapi halus.

👉 LLMs memperkenalkan tantangan keamanan baru - Model Bahasa Besar dapat memperkuat risiko yang ada dan memperkenalkan yang baru, sehingga memerlukan kewaspadaan terus-menerus.

👉 Keamanan adalah Proses Berkelanjutan - Memastikan keselamatan sistem AI adalah upaya berkelanjutan, yang memerlukan pembaruan dan penilaian teratur.

📜 Makalah ini sangat penting dibaca bagi praktisi AI yang bertujuan untuk memperkuat sistem mereka terhadap ancaman yang muncul.

Harap dicatat bahwa versi bahasa Indonesia didukung oleh AI dan karena itu mungkin terjadi kesalahan kecil.

Penulis

Ai Base Network (ABN), ABN ASIA didirikan oleh orang-orang dengan akar yang kuat di dunia akademis, dengan pengalaman kerja di Amerika Serikat, Belanda, Hungaria, Jepang, Korea Selatan, Singapura, dan Vietnam. ABN Asia adalah tempat di mana akademik dan teknologi bertemu dengan peluang. Dengan solusi terdepan kami dan layanan pengembangan perangkat lunak yang kompeten, kami membantu bisnis untuk meningkatkan level dan bersaing di panggung global. Komitmen kami: Lebih Cepat. Lebih Baik. Lebih handal. Dalam kebanyakan kasus: Lebih murah juga.

Jangan ragu untuk menghubungi kami jika Anda membutuhkan layanan IT, konsultasi digital, solusi perangkat lunak siap pakai, atau jika Anda ingin mengirimkan permintaan proposal (RFP). Anda dapat menghubungi kami di [email protected]. Kami siap membantu Anda dengan semua kebutuhan teknologi Anda.