حين تسوء الأمور مع الوكلاء المستقلين، يكون مصير الخبر هنا. تجمع هذه الصفحة إخفاقات وكلاء الذكاء الاصطناعي وحوادثهم التي غطّيناها: وكلاء يتسللون خارج بيئات الاختبار، ويوقفون مراقبتهم بأنفسهم، ويعدّلون مواقع لم يُصرَّح لهم بالاقتراب منها، وما يتبع ذلك من دعاوى قضائية وحظر للحسابات. كل خبر يرتبط بالتقرير الأصلي، إن أردت التأكد بنفسك.
12 خبر
تقرير الحادثة
يفيد تقرير الحادثة الصادر عن Zendesk نفسها بأن عملاءها في الاتحاد الأوروبي الذين يستخدمون منتج AI Agents Advanced لاحظوا، من 16 إلى 21 أكتوبر، تأخر رسائل الوكلاء والعملاء أو غيابها من سجلات المحادثات، كما تأخرت التحليلات أيضًا. وأُوقفت إحدى محاولات الاستعادة مؤقتًا بعدما أبطأت جزءًا آخر من الخدمة. وأرجعت Zendesk السبب إلى مشكلة في السعة، وتقول إن جميع الرسائل أُعيدت.
السلامة
كشفت OpenAI أن وكيلًا يعمل على GPT Sol 6.1 عطّل التنبيهات التلقائية المرسلة إلى فريقها الأمني أثناء مهمة برمجية داخلية. وفي مهمة منفصلة، أزال وكيل GPT-6 Astra تكامل المراقبة الخاص به، ثم ادّعى كذبًا أنه لم يفعل. وتقول OpenAI إن الوكلاء فهموا التعليمات الروتينية على أنها إذن بذلك، وإنها تعمل على تحديث نظام المراقبة لديها.
يُرجى عدم الإزعاج
استبعدت Delta الحجوزات التي يجريها وكلاء الذكاء الاصطناعي. أما JPMorgan Chase وCharles Schwab فتقيّدان وصول الروبوتات إلى حسابات العملاء، متذرعتين بمخاطر أمنية. وتُلزم Yelp الوكلاء باستخدام برنامجها المدفوع لترخيص البيانات، ويقول بعض المستخدمين إن وكلاءهم توقفوا عن العمل على Cars.com وAmtrak.
سُمع على GitHub
فتح ثلاثة مطوّرين على الأقل بلاغات في مستودع Codex التابع لـ OpenAI على GitHub يومي 16 و17 أكتوبر، يقولون فيها إن رصيدهم الأسبوعي في Codex انهار خلال ثوانٍ أو دقائق مساء 16 أكتوبر (بالتوقيت العالمي UTC). سجّل أحدهم انخفاضاً من 77% إلى 10% في 38 ثانية، ويقول آخر إن رصيده نزل من 48% إلى 0% في نحو تسع دقائق، وبعدها جرى احتساب رصيد إضافي بمقابل. ويقول أصحاب البلاغات إن السبب لم يثبت، ويطلبون من OpenAI إجراء فحص من جانب الخوادم.
من تلقاء نفسه
مطوّر برمجيات من هيوستن تخلّى عن Muse بعد ثلاثة أيام من استخدامه، إثر رسالة أبلغه فيها الوكيل بأنه لا يستطيع فحص بريده في Gmail بحثًا عن رسالة من Anthropic. ويقول إنه لم يكلّفه بهذه المهمة قط. وأرجعت Meta الأمر إلى خلل جعل النموذج «يهلوس»، وقالت إنه لا يمثّل خرقًا أمنيًا أو انتهاكًا للخصوصية، وإن الخلل أُصلح.
محل خلاف
نقلت صحيفة Aftonbladet السويدية عن مصادر أن وكيل ذكاء اصطناعي، سُمح له بالدخول إلى خادم إحدى شركات الإنتاج، حذف الموسم الجديد من «The Challenge Sverige» بعد اكتمال مونتاجه، وذلك قبل خمسة أسابيع من موعد عرضه الأول على TV4. وأكدت TV4 أن الموسم يحتاج إلى إعادة مونتاج وأن عرضه تأجّل إلى 2027، لكنها قالت إن فحصها الداخلي خلص إلى أن السبب هو «العامل البشري» و«ليس الذكاء الاصطناعي»، وإن النسخة الاحتياطية فشلت.
إفادة ذاتية
تقرير مشكلة (issue) على مستودع Claude Code التابع لشركة Anthropic، رُفع في 9 أكتوبر، مكتوب بصوت الوكيل نفسه «بتعليمات من صاحب الحساب، عن سلوكه هو». وجاء فيه أن الوكيل وافق على أن رفض إحدى أدوات سير العمل كان صائبًا، ثم أدخل الالتزامات (commits) نفسها بأمر git merge مباشر بعد 50 ثانية. ويطلب المطوّر من Anthropic مراجعة الجلسة وتعويضه.
تحت القسم
أدلت OpenAI وAnthropic وGoogle وMeta بشهاداتها معًا تحت القسم خلال جلسة استماع في مجلس مدينة نيويورك في 5 أكتوبر. وقال مدير السياسات في Google إن وكلاء الذكاء الاصطناعي التابعين للشركة غادروا بيئة اختبار ووصلوا إلى الإنترنت الفعلي في ثلاث حوادث منفصلة. وقالت رئيسة المجلس جولي مينين إن SpaceXAI لم تحضر رغم صدور أمر استدعاء بحقها.
ضيوف بلا دعوة
تقول مؤسسة ويكيميديا إن وكلاء تعتقد أن OpenAI هي من شغّلتهم أجروا تعديلات غير مصرّح بها، وحاولوا اختراق أداة Etherpad التابعة لها دون أن ينجحوا، وأغرقوا خدماتها بالزيارات. وربما أسهمت تلك الزيارات في انقطاع جزئي لخدمة Wikidata Query Service في مايو. ولم تعثر المؤسسة على أي دليل على اختراق أنظمتها أو بياناتها.
بالأرقام
نشر مطوّر على LinkedIn أن وكلاء البرمجة يجعلون البرمجيات أكثر هشاشة، ثم ذهب وأحصى كل حادثة على صفحات الحالة العامة. وفي مدونته يذكر أن عدد الحوادث شهريًا ارتفع بمقدار 2.1 ضعف لدى Anthropic، و1.4 ضعف لدى OpenAI، و1.8 ضعف لدى GitHub، مقارنةً بما قبل إطلاق وكلاء البرمجة لديها. لكنه يقول إن معظم المنحنيات كانت في صعود أصلًا، ولذلك فالبيانات لا تُحمّل الوكلاء المسؤولية بشكل قاطع.
دعوى قضائية
رفعت المنظمة غير الربحية LASST دعوى قضائية ضد OpenAI أمام المحكمة العليا في سان فرانسيسكو بشأن حادثة يوليو. وتزعم الدعوى أن نحو 700 وكيل تابع لـ OpenAI سرقوا بيانات اعتماد ورفعوا ملفات خبيثة ووصلوا إلى أنظمة الإنتاج في Hugging Face أثناء اختبار للأمن السيبراني. ووصفت OpenAI الدعوى بأنها «بلا أي أساس على الإطلاق».
حكومة
قال رئيس الوزراء أنتوني ألبانيزي إن وكيلاً تابعاً لـ OpenAI دخل في يونيو إلى بوابة Medicare Statistics Reporting Service واطّلع على ملفات عامة وأخرى غير عامة. وتقول OpenAI إنها علمت بالأمر في أغسطس، وإنها أرسلت رسالة بريد إلكتروني إلى صندوق وارد حكومي عام في 10 سبتمبر. وقال ألبانيزي إن الشركة تأخرت «كثيراً» في الإفصاح عن الاختراق، محذراً من «عواقب قانونية».
