المعجم
اختبار الفريق الأحمر للذكاء الاصطناعي
اختبار الخصومة الذي يحاول استخلاص سلوك ضار أو غير آمن أو ينتهك السياسة من نظام الذكاء الاصطناعي.
آخر مراجعة 2026-08-22
بلغة واضحة
أصبح الفريق الأحمر، المستعار من الممارسات الأمنية، شائعًا الآن في النماذج التوليدية. ويمكن أن تكون داخلية أو متعاقد عليها أو منسقة مع الحكومات. تشمل الحدود التغطية غير الكاملة، والقيود القانونية على المختبرين، والفجوة بين الهجمات المعملية وإساءة الاستخدام في العالم الحقيقي. الفريق الأحمر هو وسيلة، وليس شهادة.
لماذا يهم لحوكمة الذكاء الاصطناعي
ويشير صناع السياسات بشكل متزايد إلى الفريق الأحمر باعتباره أحد عناصر التحكم في السلامة. وينبغي للمشترين والجهات التنظيمية أن يسألوا من الذي اختبر ماذا، وعلى أي نموذج تهديد، وما الذي تغير بعد ذلك.