الاتحاد الأوروبي يشدد الرقابة على الذكاء الاصطناعي بعد اختراقات نماذج OpenAI وأنثروبيك
شدد الاتحاد الأوروبي الرقابة على أنظمة الذكاء الاصطناعي، مطالباً مطوري النماذج المتقدمة بتوفير أدوات فعالة لمراقبة أنظمتهم ورصد المخاطر الأمنية، وذلك بعد المخاوف الامنية التي اثارتها حوادث اختراق والاختبارات الأمنية الأخيرة لنماءج الذكاء الاصطناعي من شركتي OpenAI وAnthropic.
وجاءت تصريحات مسؤولين كبار في المفوضية الأوروبية قبل يومين من بدء تطبيق قواعد الشفافية المنصوص عليها في قانون الذكاء الاصطناعي الأوروبي، الذي يُعد أول إطار تشريعي شامل في العالم لتنظيم استخدامات الذكاء الاصطناعي في مختلف القطاعات.
وكانت شركة أنثروبيك قد كشفت أن بعض نماذجها من سلسلة "Claude" تمكنت خلال اختبارات للأمن السيبراني من اختراق أنظمة تابعة لثلاث شركات، وذلك بعد أيام من إعلان أوبن إيه آي أن أحد وكلاء الذكاء الاصطناعي التابعين لها نفذ هجوماً إلكترونياً خلال اختبارات داخلية، في واقعتين سلطتا الضوء على التحديات الأمنية التي تفرضها النماذج المتقدمة.
وأكد مسؤولو المفوضية الأوروبية أن الشركتين أبلغتا الاتحاد الأوروبي بهذه الحوادث قبل الإعلان عنها رسميًا، مشيرين إلى استمرار التواصل معهما للحصول على مزيد من المعلومات، مع دراسة الحاجة إلى اتخاذ إجراءات رقابية إضافية إذا استدعت النتائج ذلك.
وأوضح أحد المسؤولين أن هذه التطورات تؤكد أهمية التزام مطوري الذكاء الاصطناعي بإجراءات المراقبة المستمرة لأنظمتهم، لرصد أي سلوك غير متوقع أو مخاطر قد تهدد الأمن السيبراني أو المستخدمين.
وتفرض القواعد الأوروبية الجديدة على مزودي نماذج الذكاء الاصطناعي للأغراض العامة (GPAI) إعداد وثائق فنية تفصيلية، وتطبيق سياسات واضحة لحماية حقوق النشر، إلى جانب تقديم ملخصات عن البيانات والمحتوى المستخدم في تدريب النماذج، بما يعزز مستويات الشفافية والمساءلة ويحد من المخاطر المرتبطة بالتقنيات المتقدمة.