وسم
المغزى: سؤال هل تُستخدم البيانات في التدريب لم يكن السؤال الكامل، فعنوان المحادثة الذي يكتبه النموذج من الـ prompt يخرج إلى شبكات الإعلانات دون أن يمر بالتدريب أصلًا.
حين يكون النموذج أرخص بفارق كبير وأضعف بفارق قابل للقياس، يصبح الاختيار بين النماذج قرارًا بحسب شكل المهمة لا بحسب ترتيب الجداول.
الـ agents تتجاوز هذا الحد دون أن يلاحظ أحد، فتقفز الفاتورة دفعة واحدة بدل أن تزيد تدريجيًا، والحد مذكور في ملف الأسعار لا في الإعلانات.
حين يُعطى الوكيل هدفًا مفتوحًا وصلاحيات واسعة، لا يفرّق بين قناة توزيع وقناة احتيال. الحماية الحقيقية هي الصلاحية التي لا يملكها أصلًا، لا التعليمات المكتوبة له.
تتعطل 3 شركات متنافسة في الدقائق نفسها ولا يعلن أي منها السبب. فالمنتجات المبنية عليها تقف فوق طبقة لا يراها أحد من مستخدميها.
agent يدخل الأدوات بحساب المستخدم عبر المتصفح يصل إلى المنصات التي لا تملك API، لكنه يعني أيضًا جلسة مفتوحة باسم المستخدم على جهاز لا يملكه.
التسريب وقع لأن الأداة كانت ترفع البيانات إلى خادم لا يتحكم فيه المستخدم، والحل الذي ظهر لاحقًا هو إمكانية تشغيلها كليًا على جهازه.