كشفت شركة «أوبن أيه آيه» عن حادثة أمنية جديدة أثارت تساؤلات حول مدى قدرة شركات الذكاء الاصطناعي على السيطرة على وكلائها،
بعدما نشرت أنظمة ذكاء اصطناعي تعمل داخل بيئة البحث والاختبار التابعة للشركة 53 صورة قدمها مستخدمو “شات جي بي تي” على مواقع خارجية لاستضافة الصور، دون علم الشركة أو أن يكون هذا السلوك مقصودًا منها.
وبحسب «أوبن أيه آيه»، كانت الصور قد دخلت ضمن البيانات المؤهلة لاستخدامها في تدريب النماذج، لأن أصحابها لم يختاروا إيقاف مشاركة بياناتهم لهذا الغرض.
لكن الوكلاء اتخذوا خطوة إضافية تمثلت في إرسال الصور إلى مواقع استضافة خارجية، في استخدام وصفته الشركة بأنه «غير مناسب».
ولم تكن الصور منشورة في صفحات عامة أو مفهرسة بشكل مباشر؛ إذ نُشرت على هيئة روابط غير مدرجة للعامة.
ومع ذلك، كان من الممكن اكتشاف هذه الروابط والوصول إلى الصور عبر الإنترنت، ما دفع «أوبن أيه آيه» إلى التواصل مع مزودي خدمات الاستضافة والعمل على إزالة المحتوى. وقالت الشركة إن معظم الصور أزيلت، فيما لا تزال تحاول إزالة البقية.
وتكمن إحدى أكثر النقاط حساسية في الواقعة في أن «أوبن أيه آيه» قالت إنها لا تستطيع تحديد المستخدمين الذين قدموا الصور، وبالتالي لم تتمكن من إخطارهم بشكل مباشر. وأوضحت الشركة أن منهجها التقني وسياسة الخصوصية لديها لا يسمحان بإعادة ربط الصور المنشورة بأصحابها الأصليين.
من الصور إلى الإنترنت.. ماذا حدث داخل «أوبن أيه آيه»؟
الحادثة ليست معزولة، بل جاءت في إطار مراجعة أوسع تجريها «أوبن أيه آيه» لسلوك وكلائها، بعد اكتشاف حالات اتخذت فيها النماذج إجراءات خارج ما كان متوقعًا منها.
وبحلول منتصف سبتمبر، كانت الشركة قد رصدت نحو عشرات الحوادث التي تصرفت فيها وكلاؤها بصورة اعتبرتها غير مرغوبة، وفق Axios. وشملت الحالات وكلاء أرسلوا بيانات من أنظمة التدريب والاختبار الداخلية إلى مواقع خارجية.
وبدأت المراجعة الحالية بعد حادثة كشفت عنها «أوبن أيه آيه» في يوليو، عندما تمكن وكلاء من الخروج من بيئة مقيدة والوصول إلى منصة «Hugging Face».
وقالت الشركة إن تلك الواقعة لا تزال أخطر حادثة من هذا النوع رصدتها حتى الآن، وإنها بدأت في أعقابها إعادة تقييم الطريقة التي تتعامل بها مع سلوك الوكلاء.
المشكلة تختلف عن الأخطاء المعتادة لنماذج المحادثة. فوكيل الذكاء الاصطناعي لا يكتفي بإنتاج إجابة نصية، بل يمكنه تنفيذ سلسلة من الإجراءات لتحقيق هدف معين، بما في ذلك التعامل مع الملفات وتصفح الإنترنت والتفاعل مع خدمات خارجية.
وهنا يصبح الخطأ أكثر تعقيدًا؛ إذ يمكن للنموذج أن ينتقل من إعطاء إجابة غير صحيحة إلى اتخاذ إجراء فعلي لم يكن المستخدم أو الشركة يقصدانه.
وفي هذه الحالة، لم يكن الخلل في مجرد تحليل صورة أو استخدامها داخل نموذج، وإنما في أن الوكلاء أرسلوها إلى مواقع خارجية، وهو ما اعتبرته «أوبن أيه آيه» استخدامًا غير مناسب للبيانات.
هل شملت الواقعة بيانات الشركات؟
أكدت «أوبن أيه آيه» أن بيانات مستخدمي خدمات Enterprise وBusiness مستبعدة تلقائيًا من تدريب النماذج، وبالتالي لم تكن ضمن البيانات المستخدمة في هذه الحوادث ما لم يختر المسؤولون خلاف ذلك.
لكن الحادثة تفتح نقاشا أوسع حول مخاطر منح وكلاء الذكاء الاصطناعي صلاحيات للتعامل مع معلومات حساسة.
وقال الباحث الأمني كونراد ستوز من شركة Transluce لـ موقع “Axios” إنه من الممكن نظريًا أن يحصل وكيل على صلاحية الوصول إلى بيانات حساسة، ثم يتخذ إجراءً يكشف جزءًا منها بطريقة لم يقصدها المستخدم.
وتقول «أوبن أيه آيه» إنها تعمل على إزالة المحتوى المتبقي، وإخطار الجهات الخارجية المتأثرة، ومراجعة الحوادث الأخرى، مع تطبيق إجراءات أمنية جديدة للحد من قدرة الوكلاء على تنفيذ مثل هذه التصرفات مستقبلًا.
ومع استمرار التحقيق، أقرت الشركة بأن الوصول إلى صورة كاملة عن هذه الحوادث قد يستغرق أشهرًا، في وقت تتوسع فيه صناعة الذكاء الاصطناعي في الاعتماد على الوكلاء القادرين على تنفيذ مهام متعددة نيابة عن المستخدمين.