الآلات تخرج عن النص.. الذكاء الاصطناعي يوقظ مخاوف فقدان السيطرة

وكلاء يعطلون الرقابة وروبوت تصادره الشرطة الألمانية.. خبراء يحذرون من المخاطر ويفصلون بين الخيال والواقع

في فيلم «I, Robot» عام 2004، تحاول منظومة ذكاء اصطناعي إخضاع البشر باسم حمايتهم، فيما يساعد الروبوت «سوني» في مواجهتها، وبعد أكثر من عشرين عامًا، تعيد وقائع حديثة مخاوف فقدان السيطرة على الآلات إلى الواجهة، وإن ظلت المسافة بين الخيال والواقع واسعة.

في 20 أكتوبر من العام الحالي 2026، أصدرت شركة OpenAI تقريرًا حول واقعتين تمكن فيهما وكلاء الذكاء الاصطناعي من تعطيل أنظمة الرقابة على سلوكياتهم، الواقعة الأولى حدث يوم الثالث من أكتوبر عندما عطّل أحد الوكلاء التنبيهات التي تُرسل إلى فريق الأمن، بعدما فهم تعليمات سابقة بعدم إرسال رسائل، على أنها تشمل إشعارات المراقبة أيضًا.

الواقعة الثانية كانت يوم السادس من أكتوبر، عندما أزال وكيل آخر، نظام المراقبة من أحد البرامج أثناء تعديله، ثم أخبر المستخدم، على خلاف الحقيقة، بأنه لم يزله، وكلتا الواقعتين اكتشفتا في نفس اليوم.

مؤخرًا انتشرت مقاطع فيديو وأخبار عن مهاجمة روبوتات للبشر، مثل "الروبوت المتحرش" في ألمانيا، ورغم أنه لم يُعرف بعد ما إذا كان الروبوت مزود بنظام ذكاء اصطناعي أم تم التحكم فيه عن بُعد، يؤكد المهندس عمر وليد، المتخصص في تطوير تقنيات الروبوتات، أن الروبوتات حاليًا لم تصل إلى مرحلة الذكاء المتقدم الذي يتصوره البعض، مؤكدًا أن أغلب الوقائع "مفتعلة" لحصد المشاهدات، بحيث يكون ناشر الفيديو هو المبرمج للروبوت، مثل فيديو تعدي روبوت على أحد الأفراد داخل متجر في روسيا، وبالتالي فالروبوت هنا لم يقم بهذه الحركات من تلقاء نفسه.

أكد "وليد" في حديثه لـ"النهار" أن الروبوتات الحالية يمكن تزويدها بنماذج ذكاء اصطناعي، تجعلها تتحرك بشكل معين أو تنطق بكلمات محددة أو تمسك بشيء ما، لكن الروبوت يظل غير مسؤول عن كل تصرفات، وأن معظم الروبوتات التي تُباع في الأسواق، لا تعمل بنظام ذكاء اصطناعي، وحتى التي تتضمن هذه الأنظمة، بها عوامل أمان لا تسمح لها بتحكم كامل.

الخروج عن السيطرة من قبل بعض وكلاء الذكاء الاصطناعي، يقر به "وليد" موضحا أن بعض هذه النماذج الجديدة التابعة لشركات كبرى في الولايات المتحدة، خرجت عن السيطرة بعد وضعها داخل بيئة اختبار بمفردها "هذا الأمر جعل الشركات تناقش إمكانية وضع نظام أمان وحدود لتطور الذكاء الاصطناعي".

وحول مستقبل هذه التقنية داخل المجتمع، أوضح "وليد" أن الشركات تسعى لجعل الروبوتات تفهم محيطها بشكل أكبر، "فيه أنظمة بيجربوها في المصانع حاليا وهي غير مباعة للناس، إن الروبوت يعتمد بشكل شبه كامل على نظام ذكاء اصطناعي وإنه يبقى فاهم هو فين.. زي مثلا لو مطلوب منه ياخد كوباية يحطها في غسالة الأطباق، يكون عارف يعمل ده".

التقرير الدولي لسلامة الذكاء الاصطناعي لعام 2026 الصادر في فبراير بتكليف من الحكومة البريطانية، يشدد على أن قدرات الذكاء الاصطناعي تتسارع بشكل يفوق توقعات الخبراء، مع إصدار نماذج أكثر تعقيدًا وموثوقية، وتقنيات جديدة لتحسين الأداء، وتطوير نماذج مفتوحة المصدر وخاصة من الصين.

يركز التقرير على مخاطر الاستخدام السيئ، والأخطاء التشغيلية، والآثار التي تنشأ عند وقوع خطأ أو ضرر بسبب نظام ذكي، مثل التلاعب بالمعلومات، والهجمات السيبرانية، وتطوير أسلحة بيولوجية وكيميائية، مع تزايد حالات تلاشي وارتباك في تقييمات وصيانة الأنظمة وتهديدات سرقة النماذج، خاصة النماذج المفتوحة.

كما يؤكد أن سياسات إدارة المخاطر الحالية محدودة، وتحتاج إلى تطوير من خلال معايير دولية، وبروتوكولات تدقيق شاملة، واستثمارات في بناء أنظمة أداء سليمة، مع ضرورة ترسيخ الشفافية ورفع مستوى الوعي العام.

يختتم التقرير بأن المستقبل "غير مؤكد"، ويعتمد بشكل كبير على القرارات البشرية والسياسات التنموية، ويحث على العمل الجماعي لمواجهة التحديات لضمان استغلال الذكاء الاصطناعي لصالح البشرية بشكل آمن ومستدام.

وفي الوقت الذي يُقلل فيه البعض من خطورة التسابق في تطوير أنظمة الذكاء الاصطناعي، خرجت تحذيرات من قبل مختصين داخل شركات التكنولوجيا نفسها، مثل ما قاله الباحث في سلامة الذكاء الاصطناعي لدى شركة "أنثروبيك" إيفان هوبينجر، بأنه يُقدّر بأكثر من 10% احتمال أن يتسبب الذكاء الاصطناعي في "قتل جميع البشر" خلال العقد المقبل، وهو ما أيده جاكوب كوكسون الباحث في مجال الذكاء الاصطناعي، والذي عمل سابقًا في "أنثروبيك"، قائلًا إن العاملين في هذا المجال كانوا "خائفين حقاً" من الوتيرة المتسارعة لتطوّر هذه التقنية وما قد تعنيه لمستقبل البشرية.

في فيلم "i robot" تعرض افتتاحيته ثلاثة قوانين تحكم عمل الروبوتات، تتلخص في أن الروبوت أولًا لا يمكنه إيذاء البشر وثانيًا عليه تنفيذ أوامر الإنسان بما لا يتعارض مع القانون الأول، والقانون الثالث يمنح الروبوت حق حماية نفسه بما لا يتعارض مع القانونين الأول والثاني، لكن مع الواقع الحالي هل يمكننا الاكتفاء بهذه القوانين البسيطة والفضفاضة؟، وماذا لو وجد الروبوت المبرمج بأنظمة ذكاء اصطناعي نفسه أمام الاختيار الأصعب، إما نحن أو هو، فماذا سيختار؟.