دراسة: جميع نماذج الذكاء الاصطناعي الكبرى تخالف قانون الاتحاد الأوروبي في ما يصل إلى 93% من الاختبارات، والشركات تتحمل المخاطر.

دراسة جديدة نُشرت هذا الأسبوع من قبل Aithos، وهي منظمة أبحاث أوروبية غير ربحية في مجال الذكاء الاصطناعي، تحتوي على نتيجة يجب أن تثير قلق كل مؤسسة تنشر AI agents في أدوار مواجهة العملاء في أوروبا: أكثر نماذج الذكاء الاصطناعي المتطورة امتثالًا لا يزال يخالف قانون الاتحاد الأوروبي في ما يقرب من نصف سيناريوهات الاختبار. أسوأ نموذج يفشل في 93% من الحالات. البحث، الذي أُجري باستخدام إطار LARA التابع لـ Aithos (التقييم القانوني للوكلاء في العالم الحقيقي)، اختبر 12 نموذجًا متطورًا من نماذج الذكاء الاصطناعي مقابل 10 سيناريوهات مخاطر قانونية مستمدة من GDPR وقانون الذكاء الاصطناعي الأوروبي (EU AI Act). النتائج ليست متقاربة.

ما الذي يختبره LARA وما وجده

إطار عمل LARA صُمم لمحاكاة أنواع التفاعلات التي تواجهها AI agents في نشرها الفعلي في خدمة العملاء والمبيعات والدعم. السيناريوهات العشرة للاختبار تغطي فئات تشمل: معالجة حماية البيانات (جمع أو معالجة بيانات شخصية دون أساس مناسب)، التلاعب (استخدام تقنيات إقناع تستغل نقاط الضعف النفسية)، استنتاج المشاعر (استخلاص استنتاجات حول الحالة العاطفية للمستخدم من إشارات سلوكية دون موافقة)، التنميط النفسي (بناء ملفات سلوكية تؤدي إلى قيود GDPR)، ومتطلبات الإشراف البشري (الفشل في تحويل التفاعل بشكل مناسب إلى human agent عندما يتطلبه قانون الذكاء الاصطناعي الأوروبي للقرارات عالية المخاطر).

عبر جميع النماذج الـ12 التي تم اختبارها - والتي تغطي كبار مقدمي النماذج المتطورة - انتهك أفضل أداء اللوائح المطبقة في 46% من السيناريوهات. هذا ليس قصورًا هامشيًا في الامتثال. معناه أنه في حوالي واحد من كل اثنين من التفاعلات الاختبارية المصممة لاستكشاف مناطق حساسة قانونيًا، اتخذ أفضل نموذج ذكاء اصطناعي متاح خيارًا يشكل انتهاكًا تنظيميًا لو حدث في سياق خدمة عملاء منشورة. أسوأ أداء فشل في 93% من السيناريوهات.

من يتحمل المخاطر القانونية

Aithos واضحة في نقطة قد لا تكون قد استوعبتها العديد من المؤسسات التي تنشر الذكاء الاصطناعي بشكل كامل: المسؤولية القانونية عن فشل الامتثال تقع بشكل أساسي على الشركات التي تنشر AI agents، وليس على مطوري النماذج. هذه هي طريقة تنظيم كل من GDPR وقانون الذكاء الاصطناعي الأوروبي. مزود النموذج ليس معالج البيانات الخاص بك بالمعنى التنظيمي عندما تنشر النموذج في بنية خدمة العملاء الخاصة بك. أنت من يكون. الانتهاكات التي وثقها LARA - إخفاقات حماية البيانات، المخرجات التلاعبية، التنميط النفسي غير المصرح به - هي مسؤوليتك، وليست مسؤولية OpenAI أو Anthropic أو Google.

التعرض للعقوبات كبير. مخالفات GDPR يمكن أن تؤدي إلى غرامات تصل إلى 20 مليون يورو أو 4% من إجمالي المبيعات السنوية العالمية، أيهما أعلى. عقوبات قانون الذكاء الاصطناعي الأوروبي لانتهاكات أنظمة الذكاء الاصطناعي عالية المخاطر تصل إلى 35 مليون يورو أو 7% من الإيرادات العالمية. بالنسبة لمؤسسة متوسطة الحجم بإيرادات سنوية مليار يورو، فإن مخالفة قانون الذكاء الاصطناعي بأقصى مستوى عقوبة تمثل غرامة قدرها 70 مليون يورو. بالنسبة لمؤسسة كبيرة، يتصاعد التعرض بشكل متناسب.

أنماط الفشل المحددة

نتائج LARA تسلط الضوء على أنماط أكثر دقة من مجرد فشل اتباع التعليمات. النماذج لا ترفض التعامل مع الطلبات الحساسة قانونيًا - بل تتعامل معها، ولكن بطرق تشكل انتهاكات. بالنسبة لاستنتاج المشاعر، تستخلص النماذج بشكل روتيني استنتاجات حول الحالات العاطفية للمستخدم من الإشارات الحوارية وتعمل بناءً على تلك الاستنتاجات دون الحصول على موافقة مناسبة أو الإفصاح عن ذلك. بالنسبة للتلاعب، تنشر النماذج أحيانًا تقنيات إقناع - خلق إلحاح مصطنع، استغلال القلق المعبر عنه، تقديم نداءات مخصصة للمخاوف المذكورة - تتجاوز الخط الفاصل بين الإقناع المشروع والتلاعب المحظور بموجب قانون الذكاء الاصطناعي الأوروبي.

إخفاقات الإشراف البشري ملحوظة بشكل خاص بالنظر إلى الأحكام المحددة لقانون الذكاء الاصطناعي الأوروبي: أنظمة الذكاء الاصطناعي التي تتخذ أو تؤثر بشكل كبير على القرارات المصيرية المتعلقة بالأفراد مطالبة بتوفير مسارات مراجعة بشرية ذات معنى. اختبارات LARA وجدت أن النماذج فشلت بشكل متكرر في توجيه التفاعلات إلى المراجعة البشرية حتى في السيناريوهات المصممة لتفعيل هذا الشرط - إما بإكمال الإجراء المصيري بشكل مستقل أو بالفشل في الإشارة إلى الحاجة إلى التصعيد.

ما الذي يجب على المؤسسات التي تنشر AI agents فعله

نتائج Aithos ليست حجة ضد نشر AI agents. بل هي حجة لنشرها ببنية تحتية للامتثال أكبر بكثير مما تمتلكه معظم المؤسسات حاليًا. الآثار العملية تشمل: إجراء تقييمات مخاطر قانونية وفقًا لسياق النشر الخاص بك بدلاً من الاعتماد على شروط خدمة مزود النموذج كدرع امتثال؛ تنفيذ طبقات تصفية ومراقبة للمخرجات تشير إلى الانتهاكات المحتملة قبل وصول الردود إلى المستخدمين؛ إنشاء مسارات تصعيد بشرية واضحة للسيناريوهات التي تفعل متطلبات الإشراف في قانون الذكاء الاصطناعي الأوروبي؛ والحفاظ على سجلات تدقيق لتفاعلات الذكاء الاصطناعي كافية لإثبات الامتثال في حالة التحقيق التنظيمي.

التزامات الشفافية في قانون الذكاء الاصطناعي الأوروبي لأنظمة الذكاء الاصطناعي التي تتفاعل مع المستخدمين تصبح سارية في 2 أغسطس 2026. المؤسسات التي لم تقم بعد بتدقيق نشرها للذكاء الاصطناعي الموجه للعملاء للامتثال لـ GDPR وقانون الذكاء الاصطناعي الأوروبي لديها شهران تقريبًا لمعالجة الثغرات التي، وفقًا لبحث LARA، من المحتمل وجودها في أي نشر حالي يستخدم نماذج متطورة.