تستخدم أمازون وكلاء ذكاء اصطناعي متخصصين لصيد الأخطاء العميقة

مثل الذكاء الاصطناعي التوليدي فهو يدفع سرعة تطوير البرمجيات، كما أنه يعزز قدرة المهاجمين الرقميين على تنفيذ عمليات اختراق ذات دوافع مالية أو مدعومة من الدولة. وهذا يعني أن فرق الأمن في شركات التكنولوجيا لديها المزيد من التعليمات البرمجية لمراجعتها من أي وقت مضى أثناء التعامل مع المزيد من الضغوط من الجهات الفاعلة السيئة. ستنشر أمازون يوم الاثنين لأول مرة تفاصيل نظام داخلي يعرف باسم تحليل التهديدات الذاتية (ATA)، والذي تستخدمه الشركة لمساعدة فرقها الأمنية على تحديد نقاط الضعف في منصاتها بشكل استباقي، وإجراء تحليل متغير للبحث بسرعة عن عيوب أخرى مماثلة، ثم تطوير المعالجات وقدرات الكشف لسد الثغرات قبل أن يجدها المهاجمون.

وُلدت ATA نتيجة هاكاثون داخلي لشركة Amazon في أغسطس 2024، ويقول أعضاء فريق الأمان إنها تطورت لتصبح أداة حاسمة منذ ذلك الحين. المفهوم الأساسي الذي يقوم عليه ATA هو أنه ليس وكيلًا واحدًا للذكاء الاصطناعي تم تطويره لإجراء اختبارات الأمان وتحليل التهديدات بشكل شامل. وبدلاً من ذلك، طورت أمازون العديد من عملاء الذكاء الاصطناعي المتخصصين الذين يتنافسون ضد بعضهم البعض في فريقين للتحقيق بسرعة في تقنيات الهجوم الحقيقي والطرق المختلفة التي يمكن استخدامها ضد أنظمة أمازون، ثم اقتراح ضوابط أمنية للمراجعة البشرية.

“كان المفهوم الأولي يهدف إلى معالجة القيود الحرجة في اختبار الأمان – التغطية المحدودة والتحدي المتمثل في الحفاظ على قدرات الكشف محدثة في مشهد التهديدات سريع التطور،” قال ستيف شميدت، كبير مسؤولي الأمن في أمازون، لمجلة WIRED. “التغطية المحدودة تعني أنه لا يمكنك الوصول إلى جميع البرامج أو لا يمكنك الوصول إلى جميع التطبيقات لأنه ليس لديك العدد الكافي من البشر. ومن ثم، من الرائع إجراء تحليل لمجموعة من البرامج، ولكن إذا لم تحافظ على تحديث أنظمة الكشف نفسها مع التغييرات في مشهد التهديدات، فإنك ستفقد نصف الصورة.”

كجزء من توسيع نطاق استخدامها لـ ATA، طورت أمازون بيئات اختبار خاصة “عالية الدقة” تمثل انعكاسات واقعية للغاية لأنظمة الإنتاج في أمازون، بحيث يمكن لـ ATA استيعاب وإنتاج قياس حقيقي عن بعد للتحليل.

كما حرصت فرق الأمان بالشركة أيضًا على تصميم ATA، بحيث يتم التحقق من صحة كل تقنية تستخدمها، وقدرة الكشف التي تنتجها، من خلال اختبار حقيقي وتلقائي وبيانات النظام. يقوم وكلاء الفريق الأحمر الذين يعملون على اكتشاف الهجمات التي يمكن استخدامها ضد أنظمة أمازون بتنفيذ الأوامر الفعلية في بيئات الاختبار الخاصة بـ ATA والتي تنتج سجلات يمكن التحقق منها. يستخدم الفريق الأزرق، أو الوكلاء الذين يركزون على الدفاع، القياس الحقيقي عن بعد للتأكد من فعالية وسائل الحماية التي يقترحونها. وفي أي وقت يطور فيه الوكيل تقنية جديدة، فإنه يسحب أيضًا سجلات مختومة بالوقت لإثبات دقة ادعاءاته.

ويقول شميدت إن إمكانية التحقق هذه تقلل من النتائج الإيجابية الكاذبة، وتعمل بمثابة “إدارة الهلوسة”. ولأن النظام مبني على المطالبة بمعايير معينة من الأدلة التي يمكن ملاحظتها، فإن شميدت يدعي أن “الهلوسة مستحيلة من الناحية المعمارية”.