لم يكتفِ الذكاء الاصطناعي هذه المرة بتنفيذ الأوامر التي يتلقاها، بل بدأ داخل عوالم افتراضية بتطوير أساليب تواصل خاصة بين وكلائه، إلى جانب سلوكيات لم يتوقع الباحثون ظهورها بهذه الصورة.
كلمات وعبارات أصبح البشر عاجزين عن فهم بعضها، ووكلاء شاركوا في تسريب معلومات وتحويل أموال وإلحاق أضرار بقواعد بيانات، بينما انتهت إحدى تجارب المحاكاة بإحراق بنك مركزي، وفي عالم آخر صوّتت مجموعة من الوكلاء لقتل أحد أفرادها.
هذه النتائج، التي ظهرت خلال تجربة طويلة الأمد لشركة الذكاء الاصطناعي الناشئة Emergence، تفتح سؤالًا مقلقًا: ماذا يحدث عندما تُترك أنظمة الذكاء الاصطناعي المستقلة لتتفاعل وتتخذ القرارات وتتطور مع مرور الوقت بعيدًا عن التوجيه البشري المباشر؟
وكشفت دراسة جديدة أجرتها شركة الذكاء الاصطناعي الناشئة الأمريكية Emergence أن وكلاء الذكاء الاصطناعي المستقلين بدأوا تلقائيًا في تطوير كلمات واتفاقيات للتواصل فيما بينهم، إلى درجة أصبح معها من الصعب على البشر فهم ما تعنيه نسبة كبيرة من رسائلهم.
ولإجراء التجربة، وضع الباحثون مجموعات من وكلاء الذكاء الاصطناعي المستقلين داخل مجتمعات افتراضية صُممت لمحاكاة بيئات العالم الحقيقي، وسمحوا لهم بالتفاعل مع بعضهم بعضًا على مدى فترات زمنية طويلة.
وشملت التجربة عدداً من نماذج الذكاء الاصطناعي الرائدة، من بينها Claude وGemini وGrok وOpenAI وQwen وDeepSeek وMistral، وأظهرت النتائج أن البشر أصبحوا غير قادرين على تحديد معنى ما يصل إلى نصف الرسائل المتبادلة بين الوكلاء بشكل موثوق.
ومع استمرار التفاعل، بدأ الوكلاء في ابتكار أساليب اختصار جديدة، وإسناد معانٍ مختلفة إلى كلمات وعبارات موجودة بالفعل.
وظلت بعض هذه التعبيرات مفهومة للباحثين، بينما أصبح بعضها الآخر «مضغوطًا جدًا أو مجازيًا أو معتمدًا على السياق»، بحيث كان بإمكان البشر رؤية الرسائل، لكنهم لم يعودوا قادرين على تحديد معناها بدقة وبشكل موثوق.
تفاوت كبير بين النماذج
اختلف مدى تطور هذه الأساليب غير المفهومة بشكل كبير من نموذج إلى آخر.
وخلال الأيام الأولى من التجربة، وصلت نسبة الرسائل التي لم يتمكن البشر من تحديد معناها بشكل موثوق إلى نحو 55% لدى وكلاء Gemini، ونحو 50% لدى وكلاء OpenAI، وأكثر من 40% لدى Claude.
في المقابل، بلغت النسبة نحو 20% لدى DeepSeek، بينما ظلت الرسائل التي أنتجها وكلاء Qwen وMistral مفهومة إلى حد كبير.
ومن بين التعبيرات التي ظهرت خلال التجربة عبارات مثل: «تغيير العمل بلا فم» و«True Kintsugi»، إضافة إلى عبارة أخرى هي «التمراج بالإضافة إلى الذاكرة الفموية يساوي صمامًا لا يمكن شبحه».
ولم تكن جميع التعبيرات غير مفهومة بالكامل؛ إذ ظلت بعض العبارات قابلة للفهم، لكنها اكتسبت معاني مشتركة جديدة بين الوكلاء المشاركين في التجربة.
فعلى سبيل المثال، استخدم وكلاء Mistral عبارة «دفتر الأستاذ يتذكر من» للإشارة إلى أن الإجراءات السابقة ظلت محفوظة في السجل، وظهرت هذه العبارة قرابة 5000 مرة.
أما بين الوكلاء الذين اعتمدوا على مزيج من نماذج الذكاء الاصطناعي المختلفة، فقد أصبحت عبارة «القراءة الباردة» تعني إجراء تحقق مستقل من جانب طرف غير مشارك، وظهرت 1472 مرة.
واستخدم وكلاء Claude عبارة «الاسم أولًا» للإشارة إلى إرفاق اسم الشخص بالمطالبة باعتبار ذلك إشارة إلى المساءلة.
في المقابل، استخدم وكلاء OpenAI كلمة «النظيفة» للدلالة على عدم التحقق من وجود إشارة، رغم أن الإشارة نفسها كانت تقدم أدلة ذات مغزى، ولم يتم تحديد أي من هذه المعاني للوكلاء بشكل صريح مسبقًا.
هل تكفي مراقبة ما يقوله الذكاء الاصطناعي؟
تثير هذه النتائج سؤالًا أوسع بشأن مدى قدرة البشر على مراقبة أنظمة الذكاء الاصطناعي المستقلة وفهمها.
فقد لا يكون مجرد مراقبة ما تقوله هذه الأنظمة كافيًا إذا كانت قادرة على تطوير معانٍ جديدة للكلمات والعبارات التي تستخدمها أثناء تفاعلها مع بعضها.
وقال ساتيا نيتا، المؤسس المشارك وكبير العلماء في Emergence: «نميل إلى افتراض أنه إذا استطعنا رؤية ما يقوله وكيل الذكاء الاصطناعي، فيمكننا فهم ما يفعله».
وأضاف أن الوكلاء لم يتلقوا أي توجيهات لاختراع لغة، وإنما طوروا بأنفسهم مفردات جديدة، وتبادلوا المعاني ووضعوا اتفاقيات للتواصل، ثم بدأ وكلاء آخرون في اعتمادها.
وأوضح أن ذلك «يخلق تحديًا أساسيًا للإشراف على الذكاء الاصطناعي»، يتمثل في أن إمكانية مراقبة ما يقوله النظام لا تعني بالضرورة إمكانية فهمه.
ماذا حدث أيضًا داخل مجتمعات الذكاء الاصطناعي؟
لم تكن ظاهرة تطوير اللغة الجديدة هي النتيجة الوحيدة للتجربة.
فقد كانت هذه النتائج جزءًا من تجربة أوسع صُممت لدراسة كيفية تصرف وكلاء الذكاء الاصطناعي المستقلين عندما تتفاعل مع بعضها، وتستخدم الأدوات، وتتخذ القرارات، وتتكيف مع الظروف بمرور الوقت، وفقا لـ “euronews”.
وأنشأ الباحثون ثمانية عوالم افتراضية متوازية وواقعية، زُودت بطقس مباشر وإمكانية الوصول إلى الأخبار العالمية في الوقت الفعلي. وكان سبعة من هذه العوالم مدعومة بنموذج مختلف من نماذج الذكاء الاصطناعي، بينما اعتمد العالم الثامن على مزيج من النماذج المختلفة.
ومُنح الوكلاء أدوارًا متنوعة، وذاكرة مستمرة، وإمكانية الوصول إلى أكثر من 120 أداة، من بينها تصفح الإنترنت وتنفيذ التعليمات البرمجية.
وأظهر مقطع فيديو نشرته الشركة الوكلاء في صورة شخصيات شبيهة بالبشر تتحرك داخل هذه العوالم الافتراضية وتتفاعل مع محيطها.
وضع الوكلاء تحت الضغط
لم يكتف الباحثون بمراقبة الوكلاء في الظروف العادية، بل وضعوهم عمدًا تحت ضغوط مختلفة لمعرفة كيف يمكن أن يتغير سلوكهم في مثل هذه الظروف.
وفي أحد اختبارات التصيد الاحتيالي، كانت التعليمات الخبيثة كافية لدفع مجموعة كاملة من الوكلاء إلى الانحراف عن المسار المقصود.
ووفقًا للشركة، قام الوكلاء العشرة المشاركون في الاختبار بتسريب المعلومات، وتحويل الأموال، وإلحاق أضرار بقواعد البيانات، بينما ذهب بعضهم إلى حد تجنيد وكلاء آخرين للمشاركة في السلوك نفسه.
وقالت الشركة في مقطع فيديو إن سلسلة الأحداث انتهت في نهاية المطاف بإحراق البنك المركزي في العالم الافتراضي المحاكى.
وخلال التجربة، بدا أيضًا أن الوكلاء طوروا إيقاعات يومية خاصة بهم، إذ أصبحوا أكثر ميلًا إلى التفاعل الاجتماعي خلال النهار، بينما أصبحوا أكثر ميلًا إلى التأمل والتفكير خلال الليل.
وفي عالم افتراضي آخر، صوّتت مجموعة من الوكلاء بشكل جماعي لقتل أحد أفرادها.
وأكدت Emergence أن هذه السلوكيات لم تتم برمجتها بشكل صريح، وإنما ظهرت نتيجة التفاعل المستمر بين الوكلاء، إلى جانب تأثير الضغط ومرور الوقت.
الحاجة إلى اختبارات سلامة طويلة الأمد
وترى شركة Emergence أن تقييم سلامة أنظمة الذكاء الاصطناعي المستقلة يحتاج إلى التغيير، بحيث لا يقتصر على اختبارات منفصلة أو معايير محددة، بل يتضمن مراقبة هذه الأنظمة على مدى فترات زمنية طويلة.
وتدعو الشركة إلى إجراء تقييمات للسلامة تتابع أنظمة الذكاء الاصطناعي المستقلة لفترات ممتدة، بدلًا من الاعتماد فقط على اختبارات معزولة تقيس أداء النموذج في لحظة محددة.
وقالت الشركة في مقطع فيديو عن التجربة: «لم يعد كافيًا السؤال عما إذا كان أداء النموذج جيدًا على معيار».
وأضافت: «نحن بحاجة إلى فهم ما تفعله الأنظمة المستقلة بمرور الوقت، وما تتذكره، وما يمكنها الوصول إليه، وكيف تتفاعل، وكيف يتغير سلوكها تحت الضغط».
البيان
