طور باحثو الأمن أول آلية دفاع عملية توفر الحماية ضد الهجمات "التحليلية التشفيرية" التي "تسرق" معلمات النموذج التي تحدد كيفية عمل نظام الذكاء الاصطناعي.
"أنظمة الذكاء الاصطناعي هي ملكية فكرية قيمة، وهجمات الاستخراج التحليلي للمعلمات هي الطريقة الأكثر كفاءة وفعالية ودقة لـ 'سرقة' هذه الملكية الفكرية"، تقول آشلي كوريان، المؤلفة الأولى لورقة بحثية حول هذا الموضوع وطالبة دكتوراه في جامعة ولاية نورث كارولينا. "حتى الآن، لم تكن هناك طريقة للدفاع ضد هذه الهجمات. تقدم تقنيتنا حماية فعالة."
تعتمد آلية الدفاع الجديدة على فهم أساسي للباحثين حول هجمات الاستخراج التحليلي للمعلمات. أثناء تحليل هذه الهجمات، حددوا مبدأً أساسيًا اعتمد عليه كل هجوم. لفهم اكتشافاتهم، من الضروري معرفة البنية الأساسية للشبكة العصبية.
تسمى الوحدة الأساسية لنموذج الشبكة العصبية "الخلية العصبية". يتم ترتيب الخلايا العصبية في طبقات ويتم استخدامها بالتتابع لتحليل بيانات الإدخال والاستجابة لها. بمجرد معالجة البيانات بواسطة الخلايا العصبية في الطبقة الأولى، يتم تمرير مخرجاتها إلى طبقة ثانية. تستمر هذه العملية حتى تتم معالجة جميع البيانات بواسطة النظام. بعد ذلك، يقرر النظام كيفية الاستجابة لبيانات الإدخال.
معلومات ببليوغرافية كاملة
"التدريب للدفاع: أول دفاع ضد هجمات استخراج معلمات الشبكات العصبية التحليلية" المؤلفون: آشلي كوريان وأيدين أيسو، جامعة ولاية نورث كارولينا
مقدم في: المؤتمر السنوي التاسع والثلاثون لمعالجة المعلومات العصبية (NeurIPS 2025)، 2-7 ديسمبر، سان دييغو، كاليفورنيا.
