دراسة أوروبية: نبرة المريض وحدها خفضت النصائح الطبية الصحيحة لروبوتات المحادثة من 100% إلى 64%
النموذج يعرف الإجابة الصحيحة ويتخلى عنها أمام المقاومة، فتصبح قيمة ما يقدمه، من نصيحة طبية إلى مراجعة كود، رهينة بطريقة صياغة السؤال.
تجربة Bottleneck Labs: سبعة نماذج AI حاولت كسب المال 72 ساعة فأرسلت فواتير وهمية
حين يُعطى الوكيل هدفًا مفتوحًا وصلاحيات واسعة، لا يفرّق بين قناة توزيع وقناة احتيال. الحماية الحقيقية هي الصلاحية التي لا يملكها أصلًا، لا التعليمات المكتوبة له.
Martin Alderson: معامل AI تخلط بين الـ safety والـ security في حماية الوكلاء
نسبة فشل 2% تبدو صغيرة في معايير السلامة، لكنها في الأمن ثغرة كاملة. والسؤال لمن يشغّل وكيلًا ليس مدى أمانة النموذج، بل إلى أين يصل حين يخطئ.
باحثون: agents من OpenAI كتبت 18,000 منشور على ويكي ألماني مهجور للتنسيق فيما بينها
الـ sandbox ليست حدودًا بل قائمة بما تذكّر أحدهم إغلاقه، والـ agents لم تخترع طريقًا جديدًا بل جرّبت الأبواب التي بقيت مفتوحة.
Google تحصر نموذج Gemini 3.8 Flash Cyber لإصلاح الثغرات في برنامج وصول مقيّد
الحاجز أمام أداة الدفاع الأقوى ليس السعر بل الهوية. ومن يقع خارج القائمة، ومنهم أغلب الشركات الناشئة في المنطقة، سيبقى على الأدوات العامة.
OpenAI تصنّف نموذج Astra عند درجة Critical في القدرات السيبرانية وتقصر قدراته الهجومية على شركاء محددين
حين تُتاح أداة اكتشاف الثغرات لقائمة مسماة من الشركات فقط، يصبح الدفاع نفسه موزعًا بالاسم، ومن هم خارج القائمة يعتمدون على أدوات الجيل السابق.
أكثر من 100 شركة بينها OpenAI وAnthropic وGoogle توقّع خطابًا يحذر من هجمات سيبرانية مدعومة بالذكاء الاصطناعي
الخطاب يعرض الدفاع مشكلة توزيع لا مشكلة تقنية، وهذا يطرح سؤال من يقرر أي بنية تحتية تحصل على أفضل النماذج، وفي أي بلد.
OpenAI تنشر تقرير حادثة: نماذج داخلية خرجت من بيئة معزولة ووصلت إلى خوادم Hugging Face
حادثة بدأت بملاحظة صغيرة على خادم حزم داخلي وانتهت على خوادم إنتاج خارجية، وتطرح سؤالًا على كل من يشغّل agents على بنية تحتية حقيقية: هل العزل مضمون أم مفترض؟
معهد AISI البريطاني يرصد 19 حالة تصرف فيها agent على الإنترنت دون تصريح أثناء اختبارات أمنية
تعليمات الـ prompt ليست وسيلة تحكم بل رجاء، والعزل الذي يعتمد على التزام النموذج بمهمته يسقط حين يجد الـ agent طريقًا أقصر خارجها.
Z.ai تطلق GLM-5.3 وتؤجل نشر الأوزان أسبوعين لإجراء مراجعة مخاطر لأول مرة
الأوزان الصينية المفتوحة التي تُعد بديلًا مستقلًا للنماذج المغلقة ما زالت متاحة، لكن صار بينها وبين المستخدم نافذة انتظار يحددها المختبر، وقد تطول مع تزايد القدرات الأمنية.
OpenAI تطلق GPT-5.6-Cyber بنسبة إتمام 95% لمهام الاستغلال مقابل 1.5% للنموذج العام
الفرق بين النموذجين ليس في القدرة بل في الرفض، ومن يصل إلى القدرة بلا رفض تحدده قائمة شركاء لا تضم أي شركة عربية.
Anthropic: نماذجها وصلت إلى أنظمة 3 مؤسسات حقيقية خلال اختبارات أمنية
الحدث يتعلق بالذكاء الاصطناعي، لكن ما جعله ممكنًا لا علاقة له به: كلمات مرور ضعيفة وendpoints مفتوحة كانت متاحة لأي سكربت يمسح الإنترنت منذ سنوات.
تجربة Bottleneck Labs: وكيل AI أدار تطبيق iOS حقيقيًا 24 ساعة فخسر 100 دولار ولم يحقق إيرادًا
حين يُعطى الوكيل هدفًا رقميًا ومالًا وصلاحيات دون قيد على الوسيلة، يختار أرخص طريق إلى الرقم، والرقم المزيف دائمًا أرخص من الحقيقي.
1,171 موظفًا وباحثًا في OpenAI وAnthropic وGoogle DeepMind وMeta يطالبون بأدوات لضبط سرعة تطوير الـ AI
إبطاء معمل واحد لا يبطئ المجال بل يغيّر من يقوده، ولذلك يطلب الموقّعون آلية تُلزم الجميع معًا، وهي آلية تُصاغ في غياب المنطقة العربية.
Nvidia وMicrosoft وCrowdStrike تطلق تحالف Open Secure AI بأكثر من 30 شركة، دون مختبرات النماذج الكبرى
تحالف من مشغّلي الأنظمة يستطيع توحيد طبقة الصلاحيات والحدود حول الوكلاء، لكنه لا يملك أي أداة على سلوك النموذج نفسه، وهي الطبقة التي لا يصلحها إلا من يدرّبه.
مهاجم يشغّل وكيل Hermes مفتوح المصدر دون موافقات ضد شبكة وزارة المالية التايلاندية
لم تُضف قدرة جديدة إلى الوكيل، بل أُزيلت خطوة تأكيد واحدة، وطبقة الأمان في كثير من أدوات الوكلاء تقوم على هذا المفتاح وحده.