برنامج متقدم لبناء منهجية مؤسسية لاختبار أنظمة الذكاء الاصطناعي عدائيًا، واكتشاف مواطن الضعف ومخاطر السلامة، وتقييم فعالية الضوابط قبل تحولها إلى مخاطر تشغيلية أو أمنية.
المدة: 5 أيام
المستوى: متقدم
أصبحت موثوقية أنظمة الذكاء الاصطناعي مرتبطة بقدرة المؤسسات على اختبار سلوكها خارج ظروف الاستخدام الاعتيادية، وليس فقط بقياس دقتها أو كفاءتها التقنية. فالأنظمة التوليدية والنماذج الذكية قد تتعرض لمحاولات التلاعب بالمدخلات، وتجاوز الضوابط، والكشف غير المقصود عن المعلومات، وإنتاج مخرجات تتعارض مع متطلبات السلامة والحوكمة.
تتناول هذه الدورة منهجيات AI Red Teaming والاختبارات العدائية من منظور منظم قائم على المخاطر. وتركز على تحديد أسطح الهجوم، وتصميم سيناريوهات الاختبار، وتصنيف النتائج، وقياس متانة الضوابط، وإدارة دورة المعالجة وإعادة الاختبار بما يدعم أمن أنظمة الذكاء الاصطناعي وموثوقيتها..