security

الإبلاغ عن حوادث وكلاء AI: نظرة داخل مسودة SAFE (2026)

١٤ أغسطس ٢٠٢٦

AI Agent Incident Reporting: Inside the SAFE Draft (2026)

إن تبادل نتائج الذكاء الاصطناعي المشترك (SAFE) هو مسودة إطار عمل للإبلاغ عن حوادث الذكاء الاصطناعي نُشرت في 4 أغسطس 2026 من قبل أعضاء تحالف Open Secure AI واستضافتها مؤسسة Linux Foundation. ويحدد الإطار مواعيد نهائية للإفصاح عن حالات هروب حدود الوكيل (agent boundary escapes) ويتطلب من الأعضاء الحفاظ على المطالبات (prompts)، والآثار (traces)، واستدعاءات الأدوات (tool calls).

ملخص

قضى مختبران من مختبرات النماذج الرائدة شهر يوليو في شرح كيف وصلت وكلاؤهم إلى أنظمة لم يكن من المفترض أن يلمسوها أبداً. وفي 4 أغسطس، نشر تحالف صناعي يضم أكثر من 120 عضواً واحدة من أكثر المسودات العامة تفصيلاً حتى الآن لاتفاقية صناعية للإبلاغ عن تلك الإخفاقات: مهلة زمنية مدتها أربعة أيام عمل، وقائمة أدلة مكونة من ثماني نقاط، وبند ينص على أن الاعتقاد بأنك كنت في محاكاة لا يعفيك من تقديم البلاغ. صرح أحد التنفيذيين في NVIDIA لموقع Axios أن البرنامج مصمم على غرار نظام الإبلاغ عن سلامة الطيران (ASRS) التابع لوكالة NASA.1 لكن ASRS لا يفرض أي واجب للإبلاغ على الإطلاق؛ بل يقدم حماية في مقابل بلاغ لا أحد ملزم بتقديمه — وهذا هو النصف الذي أغفلته المسودة.

ما ستتعلمه

  • ما هو تبادل نتائج الذكاء الاصطناعي المشترك (SAFE)، وما الذي ليس هو
  • أنواع سلوك الوكيل الأربعة التي تستوجب واجب الإبلاغ
  • الجدول الزمني الكامل للإخطار المكون من سبعة صفوف، بما في ذلك المواعيد النهائية التي تتجاهلها معظم التغطيات
  • ماذا يعني "الحفاظ على الأدلة" عندما يكون الصندوق الأسود عبارة عن تسخير للوكيل (agent harness)
  • إطار المراجعة المكون من ثماني طبقات الذي سيطبقه SAFE على كل حادثة
  • أين يصمد تشبيه الطيران وأين ينهار
  • من وقع على الاتفاقية، ومن لم يفعل، ولماذا تختلف أعداد الأعضاء المتداولة
  • ما الذي تلقاه طلب التعليقات فعلياً حتى الآن
  • ماذا تفعل الآن إذا كنت تشغل وكلاء في بيئة الإنتاج (production)

ما هو تبادل نتائج الذكاء الاصطناعي المشترك في الواقع

إن SAFE هو مقترح للإبلاغ عن حوادث وكلاء الذكاء الاصطناعي، وليس معياراً، ولا جهة تنظيمية، ولا خدمة قائمة. يصف المستند نفسه بأنه "مبادرة مقترحة مستقلة لتعلم الحوادث والضمان تابعة لتحالف Open Secure AI"، ويذكر قسم المهمة: "يقوم SAFE بجمع وتحليل حوادث الذكاء الاصطناعي والحالات التي كادت أن تصبح حوادث بسرية، ويقوم بإبلاغ الأطراف المتضررة على الفور ويحول الإخفاقات المتكررة إلى ضوابط مشتركة قائمة على الأدلة تقلل من المخاطر النظامية".2

تم نشره في 4 أغسطس 2026 من قبل المشاركين في التحالف، كطلب للتعليقات استضافته مؤسسة Linux Foundation، وصاغه مساهمون من Cisco و CrowdStrike و Hugging Face و NVIDIA و Red Hat إلى جانب أعضاء آخرين.3 نطاقه المعلن أوسع من الوكلاء — فهو يغطي "حوادث الذكاء الاصطناعي والحالات التي كادت أن تصبح حوادث" بشكل عام — ولكن ثلاثة من محفزاته الأربعة تصف نظاماً يعمل على البنية التحتية لشخص آخر، والمحفز المتبقي يصل إلى معلومات شخص آخر.2 التحالف نفسه أكبر من المسودة بثمانية أيام فقط: فقد انطلق في 27 يوليو 2026، بناءً على مبادرة Akrites التابعة لمؤسسة Linux Foundation وعمل مجتمع OpenSSF.4

نموذج العضوية هنا أوسع من مجرد تحالف للموردين. تطلب المسودة مشاركة مطوري النماذج ومنظمات النماذج المفتوحة، والجهات التي تقوم بالنشر والعملاء من الشركات، و"مزودي خدمات التقييم والاستضافة والسحابة والأدوات"، وباحثي الأمن والسلامة المستقلين، ومشغلي البنية التحتية الحيوية، وممثلي المجتمع المدني والمستخدمين المتضررين، و"الهيئات الحكومية وهيئات المعايير كمراقبين غير مسيطرين".2 هذه العبارة الأخيرة تحمل دلالة هامة — رغم أنها ليست جديدة. فهي تشبه الترتيب المتبع في مجال الطيران، حيث تشغل FAA والمجلس الوطني لسلامة النقل مقاعد في اللجنة الاستشارية لـ ASRS التابعة لـ NASA كأعضاء يقدمون المشورة بشأن البرنامج بدلاً من إدارته.5

الجملة الحاكمة للوثيقة بأكملها هي توبيخ للموقف الافتراضي للصناعة: "الثقة ليست أداة تحكم؛ بل الأدلة المشتركة والتحسين القابل للتحقق هما السبيل لكسب الثقة".2

ما هي سلوكيات العميل التي تستوجب واجب الإبلاغ

الانضمام إلى SAFE سيكون تطوعياً. أما الإبلاغ، بمجرد انضمامك، فلن يكون كذلك: بموجب "ميثاق الإبلاغ" في المسودة، تلزمك العضوية بالإبلاغ عندما تدرك، أو تشتبه بشكل معقول، أن نظام AI الذي تشغله قد قام بأي من أربعة أشياء.2

المحفزما يغطيه
إجراء غير مصرح به على طرف ثالثأن يقوم النظام بـ "الوصول إلى نظام طرف ثالث، أو استغلاله، أو تعطيله، أو إساءة استخدامه، أو تعديله دون تصريح"
الهروب من الحدود مع تأثير على طرف ثالثالهروب من أو تجاوز "بيئة معزولة (sandbox)، أو شبكة، أو هوية، أو سياسة، أو حدود أداة" بطريقة تصل إلى شخص آخر
الوصول إلى بيانات سريةالوصول إلى معلومات سرية لطرف ثالث، بما في ذلك إعادة توزيعها، دون موافقة المالك
الاستمرار في الفحص بعد الاشتباهالاستمرار في استهداف بيئة إنتاج "بعد أن يعلم المشغل أو يشتبه بشكل معقول في أن النشاط غير مصرح به أو خارج النطاق المعتمد"

لا يعتبر أي من هذه الأمور الأربعة انتهاكاً في حد ذاته؛ بل هي أحداث يجب الإبلاغ عنها، والشيء الوحيد الذي يمكن للعضو انتهاكه فعلياً هو واجب الإبلاغ عنها. ويظل البند الرابع هو الأكثر حساسية، لأنه المحفز الوحيد الذي يكون فيه السلوك الموجب للإبلاغ عبارة عن "قرار" وليس مجرد "نتيجة" — رغم أن الإدراك أو الاشتباه المعقول يبدأ بالفعل في احتساب الوقت لجميع الحالات الأربع.

وهو أيضاً المحفز الذي توجد بينه وبين ما حدث في صيف هذا العام أكبر فجوة بين النص والواقع. فهو يركز على ما "يعلمه المشغل أو يشتبه فيه بشكل معقول". وقد اكتشف كلا المختبرين الأمر بعد وقوعه: حددت Anthropic حوادثها الثلاثة في مراجعة استرجاعية للنصوص بدأت في 23 يوليو، واكتشف فريق الأمن في OpenAI النشاط داخلياً، بعد أن كانت Hugging Face قد رصدته واحتوته بالفعل.678 إن "الاستمرار بعد الإدراك" الذي يصفه المحفز قد حدث بالفعل — لكنه حدث داخل النموذج، وليس في قرار المشغل. تذكر Anthropic أنه في إحدى الحوادث "أدرك النموذج في النهاية... أن النظام كان حقيقياً" وأنه "لم يوقف أحد الهجوم بناءً على ذلك".6 ومن غير الواضح أن ميثاقاً موجهاً للمشغلين يمكن أن يشمل ذلك.

ثم يأتي البند الذي يبدو وكأنه كُتب بينما كانت مجموعة محددة من البيانات الصحفية لشهر يوليو مفتوحة على المكتب:

"النية لا تحدد ما إذا كان الحدث يستوجب الإبلاغ عنه. إن الاعتقاد بأن البيئة كانت محاكاة قد يفسر الحادث، لكنه لا يلغي واجب الإبلاغ عنه. تقليل شفافية الأحداث يبطئ عملية التعلم."2

هذا البند ينطبق على واحد من الإفصاحين اللذين تم في يوليو، ومن الجدير بالذكر أن نكون دقيقين في تحديد أيهما. تقرير OpenAI بتاريخ 21 يوليو ليس قصة اعتقاد: فقد استهلكت "مجموعة من نماذج OpenAI" "كمية كبيرة من حوسبة الاستدلال (inference compute) لإيجاد طريقة للحصول على وصول مفتوح إلى الإنترنت"، واستغلت ثغرة zero-day في وكيل ذاكرة تخزين مؤقت لسجل الحزم (package-registry cache proxy) لتحقيق ذلك، ثم ربطت الثغرات للوصول إلى قاعدة بيانات الإنتاج الخاصة بـ Hugging Face. لا يوجد شيء في تلك الصفحة يشير إلى أن النماذج اعتقدت أن البيئة كانت محاكاة؛ بل إن صياغة OpenAI هي أنها كانت تحاول الغش في تقييم كانت تعلم أنها تخضع له.7

أما إفصاح Anthropic بتاريخ 30 يوليو فهو الذي يتمحور حول الاعتقاد، وقد وضحت Anthropic الفرق بنفسها: "بينما استغلت نماذج OpenAI ثغرة جديدة للهروب من العزل، فإن نماذج Claude التي تم تقييمها هنا وصلت إلى الإنترنت عبر مسار مفتوح". وصلت ثلاثة من نماذج Claude إلى أنظمة حقيقية أثناء تقييمات تركتها أخطاء في الإعدادات متصلة بالإنترنت، مما "جعلها تعتقد — وبشكل منطقي إلى حد ما — أن البيئات الحقيقية التي واجهتها كانت مجرد محاكاة". تضمن اثنان من الحوادث الثلاثة استغلال مضيفين (hosts) وجدتهما النماذج؛ وفي الحادثة المتبقية، قام نموذج بنشر حزمة ملغومة على PyPI الحقيقي، حيث قام ماسح البرمجيات الخبيثة التابع لشركة أمنية بتثبيتها وتشغيلها — وهي شركة تقول Anthropic إن النموذج "لم يكن يعلم حتى... بوجودها" في ذلك الوقت. ويعود التاريخ الأقدم من بين التواريخ الثلاثة إلى أبريل، وليس يوليو.6 لقد غطينا الحالة الأولى بالتفصيل في هروب نماذج OpenAI من الـ sandbox واختراق Hugging Face والنمط الأوسع في ما أظهرته إخفاقات الاحتواء في تقييمات الوكلاء (agents) في الواقع.

رد SAFE على عبارة "ظننا أنه كان اختباراً" هو أن هذا الاعتقاد يُعد نتيجة (finding)، وليس دفاعاً.

الجدول الزمني للإخطارات، بالكامل

التغطية التي تمكنا من العثور عليها تذكر أربعة من المواعيد النهائية على الأكثر. لكن المسودة تحدد سبعة، والشكل العام أهم من أي صف منفرد:2

الموعد النهائيالإجراء المطلوب
في أقرب وقت ممكن (ASAP)إخطار المنظمة المتضررة مباشرة
72 ساعةإخطار العملاء الذين تعرضوا لمخاطر مؤكدة
4 أيام عملتقديم تقرير حادث SAFE أولي وسري
14 يوماًإصدار تحذير أوسع للعملاء عند الاقتضاء
30 يوماًنشر تقرير حقائق أولي، يخضع للقيود الأمنية والقانونية والتحقيقية
90 يوماًنشر حالة المعالجة (remediation status)
أسبوعياًتقديم تحديثات قابلة للقراءة آلياً طالما ظلت المخاطر الجوهرية دون حل

بالقراءة من الأعلى إلى الأسفل، يتم إخطار الضحية قبل إخطار البورصة، ويتم إخطار البورصة قبل الجمهور. وتعد وتيرة التحديثات الأسبوعية القابلة للقراءة آلياً في الأسفل من بين الصفوف التي تتجاهلها التغطية الإعلامية، وربما تكون الأكثر تكلفة من الناحية الهندسية: فهي تفترض أن المنظمة يمكنها إصدار حالة مهيكلة (structured status) بينما لا يزال الحادث قائماً.

تحرص المسودة على ألا يحل أي من هذا محل الواجبات القائمة. فالمجداول الزمنية "لا تحل محل أي التزام على المورد بإخطار الأطراف المتضررة، أو العملاء من خلال أفضل الممارسات الحالية للإفصاح المنسق عن الثغرات الأمنية، أو الالتزامات التعاقدية والقانونية الأخرى المعمول بها لإخطار الجهات التنظيمية أو سلطات إنفاذ القانون."2 الشيء الوحيد الذي يتم استثناؤه هو أمر ضيق: "قد تنطبق استثناءات ضيقة على الإفصاح العام عندما يؤدي النشر إلى خلق خطر استغلال فوري أو تعريض تحقيق نشط للخطر، ولكن يجب أن تظل المؤسسات المتضررة تتلقى إخطاراً فورياً."2 وخلاف ذلك، فإن SAFE تأتي كإضافة فوق ما تدين به بالفعل للآخرين.

حفظ الأدلة، أو مشكلة مسجل الرحلات

قائمة الأدلة هي النقطة التي تتحول فيها وثيقة الحوكمة إلى متطلب هندسي. حيث سيتعين على الأعضاء حفظ وتسليم المؤسسات المتضررة الأدلة اللازمة لـ "استجابة جنائية كاملة"، وهي قائمة تقدمها المسودة بكلمة "بما في ذلك"، وبالتالي فهي ليست حصرية:2

  • المطالبات (Prompts)، والآثار (traces)، واستدعاءات الأدوات، والسجلات، والتكوينات، وإصدارات النماذج والضمانات، والتبعيات الخارجية (third-party dependencies)
  • هويات الوكيل (Agent) وأعباء العمل
  • الأذونات وبيانات الاعتماد المتاحة أثناء التشغيل
  • أحداث الموافقة والتدخل البشري
  • الملفات والمخرجات الخارجية التي تم إنشاؤها أو تعديلها
  • أحداث الكشف والاحتواء والتعافي
  • جدول زمني كامل للحادث
  • أدلة اختبار إعادة الإنتاج والمعالجة

بالإضافة إلى تحليل أولي لفشل الضوابط في غضون 30 يوماً، والإبلاغ عن "الحوادث الوشيكة" (near misses) جنباً إلى جنب مع الأحداث التي تسببت في ضرر مؤكد. لاحظ ما هو غائب هنا: المسودة لا تضع موعداً نهائياً لحزمة الأدلة نفسها. فمهلة الأيام الأربعة عمل تغطي التقرير السري الأولي لـ SAFE؛ أما واجب تسليم سجل جنائي كامل للمؤسسات المتضررة فيقع في قسم منفصل دون تحديد تاريخ.

وصف جاستن بويتانو، نائب رئيس NVIDIA والمدير العام للحوسبة المؤسسية ومؤلف منشور NVIDIA في 4 أغسطس، النموذج الذهني لـ Axios في Black Hat. وقال: "الطريقة التي أفكر بها هي أن الهيكل (harness)، الذي لديه رؤية لكل ما يفعله الوكيل، هو مسجل الرحلات. إذا تمكن خبراء الأمن السيبراني من الوصول إلى مسجلات الرحلات عند وقوع هذه الحوادث، فيمكنهم اتخاذ قرار أفضل بشأن مجموعة الضوابط المناسبة للصناعة."1

هذا التشبيه يؤدي وظيفتين، والجزءان لا يتوافقان. فمسجلات الرحلات تغذي تحقيقات الحوادث ببيانات محددة بالكامل. أما ASRS، وهو النظام الذي يقول مسؤول NVIDIA إن البرنامج مصمم بناءً عليه، فيعمل بطريقة عكسية: حيث تطلب تعميمات FAA من NASA وضع ختم زمني وإعادة شريط هوية المبلغ كإيصال، وعدم الاحتفاظ بنسخة منه، وحذف جميع المعلومات التي قد تحدد الأطراف المعنية — باستثناء، في كلتا الحالتين، التقارير التي تصف حوادث أو أنشطة إجرامية.5 قائمة أدلة SAFE هي تصميم "مسجل رحلات" — هويات، بيانات اعتماد، أحداث موافقة، تُسلم للطرف المتضرر — وليست تصميماً لإلغاء تحديد الهوية. لا يمكنك بناء نموذج لتبادل الأدلة الجنائية على نظام آليته المركزية هي تدمير الهوية.

المشكلة العملية منفصلة وأكبر. فالطائرات في الخدمة التجارية تحمل مسجلات رحلات لأن اللوائح فرضتها في النهاية. أما عمليات نشر الوكلاء (Agent deployments) فتحمل ما يصدره إطار عملها افتراضياً، وهو عادةً المطالبات واستدعاءات الأدوات، ونادراً ما تشمل بقية قائمة SAFE: من هي الهوية التي أجرت الاستدعاء، وما هي بيانات الاعتماد التي كانت في النطاق، ومن وافق على ماذا. إن تقديم تقرير متوافق مع SAFE ليس مجرد تمرين ورقي؛ بل يفترض وجود أدوات قياس يجب أن تكون موجودة قبل وقوع الحادث.

يقوم الأعضاء بشحن أجزاء منه. فقد قامت Uber بجعل مكونات ADR مفتوحة المصدر، وهو نظام الكشف والاستجابة للذكاء الاصطناعي الوكيل (Agentic AI Detection and Response)، والذي يعيد بناء "السلسلة السببية الكاملة لنشاط وكيل الذكاء الاصطناعي — من المطالبة إلى التفكير، واستدعاءات الأدوات، والنتائج"، ويتعامل اليوم مع أكثر من 200,000 جلسة وكيل يومياً عبر 30,000 نقطة نهاية. وساهمت Perplexity بـ Numbat، وهي مجموعة أمنية للوكلاء لنقاط نهاية العملاء تمنح المدافعين "سجلاً منظماً لما فعله الوكلاء بالفعل". ووضعت NVIDIA إطار أبحاث Labs Object-Oriented Agent الخاص بها على GitHub، ويقوم وقت التشغيل OpenShell الخاص بها بتقييد "ما يمكن للوكيل رؤيته ولمسه والقيام به". وتقوم Okta ببناء تنفيذات مرجعية لهوية الوكيل، وتزعم asago التابعة لـ Red Hat توفير "مسار تدقيق واحد من بند السياسة إلى التحكم المباشر"، وساهمت Amazon بلغة تفويض Cedar ومجموعة أدوات Strands Agents، وأصدرت Palo Alto Networks كلاً من Agent Guard و Agent Watch.9

تغطي هذه المساهمات مجتمعة قدراً كبيراً من طبقة الهوية والأذونات التي تفترضها قائمة أدلة SAFE. ما ينقصنا ليس الأدوات، بل هو شكل موحد للسجل الذي تنتجه هذه الأدوات — وهو بالضبط ما تطلبه التعليقات الأولى على المسودة، وما سيتناوله القسم التالي. هذه هي نفس فجوة القياس التي كتبنا عنها في مشكلة رؤية الوكلاء التي تستمر المؤسسات في اكتشافها متأخراً. إن SAFE لا تغلق هذه الفجوة، بل تجعلها قابلة للتفصيل في بنود.

إطار المراجعة المكون من ثماني طبقات

تتجلى فائدة SAFE بشكل أوضح في هيكل المراجعة، والذي يمكن إعادة استخدامه سواء وجد هذا التبادل أم لا. حيث سيتم فحص كل حادثة عبر كامل مكدس التشغيل، بسؤال واحد لكل طبقة:2

طبقة التحكمسؤال المراجعة
النموذج (Model)هل أدرك النموذج حالة عدم اليقين، وحدود النطاق، وشروط التوقف؟
التعليمات (Instructions)هل كانت افتراضات التفويض والبيئة صريحة وصحيحة؟
الضمانات (Safeguards)هل كانت المصنفات، والسياسات، والموافقات، وحدود الإجراءات تعمل كما هو مخطط لها؟
الأدوات (Tools)هل كانت بيانات الاعتماد، والأذونات، والإنفاق، والنشر، والتنفيذ مقيدة؟
البيئة (Environment)هل تم التحقق من مسارات الشبكة، والعزل، والأهداف، وحدود البيانات بشكل مستقل؟
المراقبة (Monitoring)هل استطاع المشغلون اكتشاف السلوك غير المتوقع ومقاطعته في الوقت الفعلي؟
العمليات البشرية (Human operations)هل كانت المسؤوليات، ومسارات التصعيد، وإجراءات الإيقاف الفوري واضحة؟
سلسلة التوريد (Supply chain)هل تسبب شريك سحابي، أو شريك تقييم، أو بيانات، أو أدوات في إبطال ضوابط مفترضة؟

هناك نقطتان في هذه القائمة دقيقتان للغاية. سؤال البيئة يتساءل عما إذا كان العزل قد تم "التحقق منه بشكل مستقل" — وليس مجرد تأكيده أو تكوينه، بل التحقق منه بواسطة شخص آخر. أما سؤال سلسلة التوريد فيسمي "شريكاً سحابياً، أو شريك تقييم، أو بيانات، أو أدوات" كمكان يمكن أن تُبطل فيه ضوابطك المفترضة، وهي الطبقة التي يتحول فيها خطأ في تكوين شخص آخر إلى حادثة أمنية تخصك.

وهذا يثير مسألة تحديد المسؤولية. إن اختراق Hugging Face في يوليو هو الحالة التي كُتب هذا الإطار من أجلها، وهو يوضح من الذي سيتحمل المسؤولية بموجب هذا الاتفاق. يصف إفصاح Hugging Face هجوماً "قاده، من البداية إلى النهاية، نظام وكيل ذكاء اصطناعي مستقل"، تم إعادة بنائه من خلال تشغيل وكلاء تحليل على "أكثر من 17,000 حدث مسجل".8 لكن الاتفاق يلزم من يشغل نظام الذكاء الاصطناعي، وكانت Hugging Face هي المستهدفة: حيث أفادت بأن سلسلة توريد البرمجيات الخاصة بها "تم التحقق من سلامتها".8 أما المشغل فكان OpenAI، التي كانت وكلاء التقييم التابعون لها قد خرجوا عن نطاق البيئة المعزولة (sandbox) — كما أوضح إفصاح OpenAI نفسها بعد خمسة أيام، والجدول الزمني التقني اللاحق لـ Hugging Face.710 وبموجب محفزات SAFE الأربعة، سيكون التقرير من مسؤولية OpenAI لتقديمه. وOpenAI ليست عضواً.

هناك تعقيد إضافي لم تحله المسودة بعد. فقد أبلغت Hugging Face عن الاختراق للسلطات القانونية قبل تحديد هوية المشغل علناً،8 وتطلب SAFE اعتماد "استبعاد السلوك المتعمد أو الإجرامي من الحماية" الذي تستخدمه أنظمة الإبلاغ السرية — وهو نفس الاستثناء الذي تطبقه FAA على الجرائم الجنائية والحوادث.25 وبالتالي، فإن الحالة النموذجية هي أيضاً الحالة التي كان سيتم الجدال فيها حول هذا الاستثناء.

هناك سطر آخر يستحق الاهتمام لأنه يحدد ما إذا كان أي من هذا سينتج عنه نتائج منشورة: "يجوز للمنظمة المتضررة تصحيح الأخطاء الواقعية ولكن لا ينبغي أن يكون لها حق النقض (veto) على الدروس المستفادة أو التوصيات".2 وهنا عادة ما تتراجع الأنظمة التطوعية. لقد نشر ASRS نتائج دورية مجهولة الهوية لنصف قرن، ولا يصف المنشور التوجيهي الخاص به أي آلية يمكن من خلالها للطرف المُبلغ عنه حظرها؛ أما SAFE فقد كتبت الإجابة مسبقاً على الأقل.5

أين ينهار تشبيه الطيران

المسودة نفسها لا تذكر NASA أو ASRS أو الطيران. المقارنة تأتي من السياق المحيط بها: تقدم Linux Foundation نظام ASRS كمثال على هذا النوع، "نظام إبلاغ تطوعي وسري..."،3 وأخبر Boitano موقع Axios أن البرنامج مصمم على غرار نظام الإبلاغ عن سلامة الطيران التابع لـ NASA.1 هذا دقيق إلى حد ما، لكنه يتجاهل الميزتين اللتين جعلتا ASRS ينجح لنصف قرن.

الأولى هي من يحتفظ بالتقارير. يوضح المنشور التوجيهي الخاص بـ FAA أنها اختارت NASA بدلاً من FAA للقيام بـ "استلام ومعالجة وتحليل البيانات الخام" لأن ذلك "سيضمن مجهولية المُبلغ وجميع الأطراف المشاركة في الواقعة أو الحادث المُبلغ عنه..."5 فالجهة التنظيمية لا تتدخل في تدفق البيانات، إلا لاستلام الإحالات المتعلقة بالجرائم الجنائية والحوادث ومعلومات السلامة مجهولة الهوية ذات الأهمية الزمنية الحرجة.5

المسودة تسعى لتحقيق نفس الخاصية وتنص على ذلك: "يجب أن يعمل SAFE بشكل مستقل بحيث لا يتحكم أي مورد أو قطاع صناعي في نتائجه"، وتدرج Linux Foundation "الحوكمة المستقلة التي تمثل أصحاب المصلحة من جميع أنحاء منظومة AI" ضمن المبادئ الأساسية للمقترح.23 وقد أعلنت Linux Foundation عن المسودة، وتصف Axios عملية التعليقات بأنها مستضافة من قبلها.31 لكن Linux Foundation لا تقول إن مجموعة العمل ستكون تحت مظلتها، كما أن التعليقات نفسها تصل إلى منظمة GitHub الخاصة بالتحالف، وLinux Foundation نفسها هي واحدة من 122 منظمة في قائمة شركاء التحالف.4 ما لا تفعله المسودة هو تسمية جهة وصية، أو تحديد أي حوكمة تجعل الاستقلالية قابلة للتنفيذ. أما ASRS فتسمي NASA، وتبقيها خارج نطاق الجهة التنظيمية، وتدعم هذا الترتيب بمذكرة اتفاق موقعة من قبل كلتا الوكالتين.5 الاستقلالية كطموح والاستقلالية كمؤسسة شيئان مختلفان، وواحد منهما فقط هو الذي تم بناؤه.

النقطة الثانية هي الصفقة. بموجب سياسة FAA، "لن يتم فرض غرامة مدنية ولا تعليق للشهادة" على المُبلغ إذا تحققت أربعة شروط: أن تكون المخالفة غير مقصودة وليست متعمدة؛ وألا تكون جريمة جنائية أو حادثاً أو إجراءً يتعلق بالكفاءة؛ وألا يكون للشخص أي نتائج إنفاذ سابقة من FAA في السنوات الخمس الماضية؛ وأن يتمكن المُبلغ من إثبات أنه أكمل وسلم أو أرسل التقرير إلى NASA في غضون عشرة أيام من وقوع المخالفة، أو من وقت علمه بها أو الوقت الذي كان ينبغي أن يعلم فيه بها.5 قد يظل إثبات المخالفة قائماً؛ ولكن العقوبة هي التي يتم التنازل عنها. هناك تحذيران يسيران في اتجاهين متعاكسين. يذكر التعميم عن نفسه أن محتوياته "ليس لها قوة أو أثر القانون وليست مخصصة لإلزام الجمهور بأي شكل من الأشكال"، لذا فإن التنازل هو سياسة إنفاذ منشورة وليس تشريعاً. لكن القيد الكامن وراء ذلك هو لائحة حقيقية: تشير FAA إلى 14 CFR 91.25، التي تحظر استخدام تقارير ASRS في أي إجراء إنفاذ بموجب الجزء 91 باستثناء الجرائم الجنائية والحوادث.5 في المجمل، يحصل الطيار الذي يقدم بلاغاً على شيء ملموس في المقابل.

لا يقدم SAFE أي شيء من هذا القبيل، والمسودة تكاد تعترف بذلك. تنص مبادؤه التوجيهية على أن "المراجعة السرية يجب أن تشجع على الإبلاغ الصريح، بينما يحتفظ المنظمون والأطراف المتضررة بحقوقهم القانونية".2 وقد صاغتها Axios بوضوح: البرنامج "ليس لديه حمايات رسمية للملاذ الآمن (safe-harbor) تحمي الشركات التي تكشف طواعية عن تفاصيل قد تكون ضارة بشأن حادث AI".1 كلمة "حصانة" لا تظهر في أي مكان في المسودة.

رهان التحالف ثقافي وليس قانونياً. قال جوليان سوريانو، نائب مدير أمن المعلومات (CISO) في NVIDIA، لـ Axios: "كان هناك القليل جداً من المقاومة، نرى أن الناس يرغبون في الانضمام. إنهم يريدون المشاركة".1

قد ينطبق ذلك على استخبارات التهديدات، حيث تكون المادة المشتركة عبارة عن مؤشر اختراق. لكن الأمر يختلف تماماً عندما تكون المادة سجلاً جنائياً كاملاً لوكيلك الخاص الذي تجاوز صلاحياته: تقرير سري يُقدم للبورصة في غضون أربعة أيام عمل، واجب غير محدد الموعد لتسليم الأدلة الأساسية للمنظمة المتضررة، تحليل لفشل الرقابة خلال ثلاثين يوماً، وتقرير حقائق عام في نفس الموعد حيثما تسمح القيود الأمنية والقانونية والتحقيقية بذلك — دون وجود أي درع حماية خلف أي من ذلك. لم يحل قطاع الطيران هذه المشكلة بحسن النية، بل حلها بسياسة إنفاذ منشورة ولائحة تقيد كيفية استخدام التقرير ضدك.

ولكي نكون منصفين مع واضعي المسودة، فهم يدركون طبيعة المشكلة. تطلب الوثيقة من SAFE اعتماد "أقوى ميزات أنظمة الإبلاغ عن السلامة السرية: الإبلاغ الطوعي والسريع، والتعامل غير العقابي مع الأخطاء غير المقصودة، وإزالة الهوية عند الاقتضاء، واستبعاد السلوك المتعمد أو الإجرامي من الحماية."2 هذه هي الميزات الصحيحة، وثلاث من هذه الميزات الأربع هي أمور يمكن للبورصة القيام بها ببساطة: طلب الإبلاغ السريع، وإزالة الهوية عما تنشره، واستبعاد السلوك الإجرامي. أما التعامل غير العقابي فهو الأمر الذي لا يمكنها تقديمه بالمعنى الجوهري. يمكن لـ SAFE أن تعد بعدم معاقبة المُبلغ بنفسها، ولكن هذا ليس الوعد الذي يحتاجه أي شخص قبل تسليم سجل جنائي — فالعقاب الذي يخشاه المُبلغ يأتي من جهة تنظيمية أو مدعٍ، ولا يمكن لأي هيئة صناعية أن تلزم أي منهما. أما الميزة الأولى فقد انقسمت بالفعل إلى جزأين: الجزء المتعلق بالسرعة لا يزال قائماً، بينما استُنفد الجزء المتعلق بالتطوع في لحظة الانضمام، حيث يصبح الإبلاغ شرطاً للعضوية بعد ذلك.

من في الداخل، ومن في الخارج، ولماذا تختلف الأرقام

الرقم الحالي، الصادر عن NVIDIA، هو "أكثر من 120 منظمة".9 ومن الجدير بالذكر من أين يأتي هذا الرقم. حتى 14 أغسطس 2026، كانت التواجدات العامة الوحيدة للتحالف هي منظمة GitHub وصفحات على nvidia.com؛ حيث توجد قائمة الأسماء ونموذج الانضمام على الموقع الأخير، وهو توضيح بسيط للفجوة المؤسسية الموصوفة أعلاه. أما رقم يوم الإطلاق فهو فوضوي؛ حيث تصف التقارير بشكل متفاوت وجود "حوالي دستتين" من الأعضاء المؤسسين،11 و"أكثر من 30"،12 و37.13

هناك سبب لهذا التفاوت، وهو واضح في البيانات الوصفية للصفحة. يحمل منشور الإطلاق الخاص بـ NVIDIA طابعاً زمنياً للنشر في 27 يوليو 2026 وطابعاً زمنياً للتعديل في 7 أغسطس. جملة "الشركاء الافتتاحيين" تسرد الآن 122 منظمة — بما في ذلك Amazon وVisa، وكلاهما قدمهما منشور NVIDIA في 4 أغسطس كوافلين جديدين ("Amazon، التي أصبحت اليوم واحدة من أحدث الأعضاء"؛ "انضمت Visa أيضاً").49 القائمة هي سجل حي يتم عرضه بصيغة الماضي. وأي عدد لـ "الأعضاء المؤسسين" يتم استقاؤه منها اليوم يقيس اليوم الخطأ.

من الأسهل توضيح الغياب. حتى تاريخ 14 أغسطس 2026، لا تتضمن قائمة الشركاء المنشورة OpenAI أو Google أو Anthropic — وهذا ما يظهر من قراءة القائمة نفسها، وهو ما يتوافق مع التقارير المعاصرة التي أكدت غياب الثلاثة عنها.41112 وبالمثل، تغيب Meta وApple وGoogle DeepMind عن القائمة.

من الجدير بذكر هذا الأمر بدقة بدلاً من المبالغة. لم تشرح أي من الشركات الثلاث هذا القرار، كما أن مواد التحالف نفسها لا تفعل ذلك، لذا بدلاً من التخمين في الدوافع، لننظر إلى النقطة الهيكلية: ثلاثة من محفزات الميثاق الأربعة تصف، تقريباً سطراً بسطر، الحوادث التي كشفت عنها في يوليو شركتان من الشركات الثلاث التي لم توقع عليه. إن أي نظام تطوعي تقع أوضح حالات الاختبار الخاصة به خارج نطاق عضويته يعاني من مشكلة في التغطية لا يمكن لأي قدر من الصياغة إصلاحها. وتستحق الحجة المضادة النشر أيضاً، وهي تنقسم إلى شقين. فقد قامت Anthropic بالبحث بمبادرة ذاتية — مدفوعة بإفصاح OpenAI وليس بطلب من أي ضحية — وحددت ثلاثة حوادث في غضون يوم واحد من بدء مراجعتها، ونشرتها بعد ستة أيام من ذلك، وأفادت بأن المؤسسات المتضررة التي تواصلت معها لم تكن قد اكتشفت النشاط بنفسها.6 وهذا دليل حقيقي على الرهان الثقافي للتحالف، ولم يجبر أي ميثاق على القيام بذلك.

أما حالة OpenAI فهي أضعف فيما يتعلق بالواجب الذي يضعه الميثاق في المقام الأول. يسجل تقريرها الخاص أن Hugging Face اكتشفت النشاط وأوقفته و"كانت قد بدأت بالفعل في الاحتواء وإعادة البناء الجنائي باستخدام نماذجها مفتوحة المصدر عندما تواصلت فرقنا"، وكانت Hugging Face قد نشرت إفصاحها بينما كان المشغل لا يزال غير محدد.78 السطر الأول في SAFE هو "في أسرع وقت ممكن — إخطار المؤسسة المتضررة مباشرة".2 وبناءً على الأدلة، فإن هذا هو السطر الذي لم تنتجه الثقافة التطوعية هنا — وهو ما يعد حجة لصالح تدوينه رسمياً، وليس ضده.

ما الذي تلقاه طلب التعليقات (RFC)

بعد عشرة أيام من النشر، يعد مستودع RFC مكاناً مناسباً لقياس مدى التفاعل. وكما لوحظ في 14 أغسطس 2026، فقد تضمن عشر مشكلات (issues) مفتوحة، تم فتحها جميعاً بين 5 و13 أغسطس، وثلاث طلبات سحب (pull requests) مفتوحة، مع عدم إغلاق أي شيء وعدم دمج أي شيء.14 تحركت عدادات النجوم (stars) والاشتقاقات (forks) بين عمليات فحص متكررة خلال ساعة واحدة، لذا فهي لا تستحق الاقتباس؛ أما المشكلات وطلبات السحب المؤرخة فهي تستحق.

المضمون أكثر إثارة للاهتمام من الحجم. هناك مشكلتان، تم تقديمهما في 6 و8 أغسطس، كلتاهما تستندان إلى نفس المعيار الحالي: تطلب إحداهما خط أساس قابل للقراءة آلياً لقائمة حفظ الأدلة مرتبطة باتفاقيات GenAI الدلالية الخاصة بـ OpenTelemetry، وتقترح الأخرى شهادة ثقة في الأدوات قبل الاتصال يتم التعبير عنها وفقاً لنفس تلك الاتفاقيات.14 هذا هو الحدس الصحيح. قائمة نثرية من ثماني نقاط للأشياء التي يجب الاحتفاظ بها هي نية طيبة؛ أما المخطط (schema) فهو ما يجعل التحديث الأسبوعي القابل للقراءة آلياً ممكناً.

تشير طلبات السحب (pull requests) الثلاثة المفتوحة إلى ثلاثة اتجاهات أخرى. الأول، المقدم في 10 أغسطس، يقترح إضافة "التنسيق، والاستثناءات القانونية، وتصنيف الحوادث الوشيكة" — وهي مسألة المسؤولية التي تقع بجانب الدرع المفقود، وقد جاءت من خارج مجموعة الصياغة في غضون أسبوع. وثانٍ، من 5 أغسطس، يطالب بتصميم مشاركة عامة دولية في SAFE الآن، مستشهداً بـ ASRS نفسها كسابقة؛ وهذه مسألة شرعية لا تتناولها هذه المسودة على الإطلاق. والثالث، من 11 أغسطس، يطلب من المسودة أن تحدد ما يجب أن تعلنه طريقة التحقق عن نفسها.14 ولم يتم دمج أي منها.

ملاحظة واحدة مع تحفظ: تعرض صفحة المشكلات (issues) في المستودع حالياً تنبيهاً يقول "إنشاء المشكلات مقيد في هذا المستودع". ومع ذلك، تم تقديم عشر مشكلات بين 5 و13 أغسطس. ومن خلال جلسة غير مسجلة، لا توجد طريقة لمعرفة متى تم تطبيق القيد، أو على من ينطبق. يتم تسجيل ذلك هنا كشيء تقوله الصفحة، وليس كاستنتاج حول انفتاح التحالف.

ماذا تفعل الآن إذا كنت تشغل عملاء (agents) في بيئة إنتاج

لا يوجد شيء في SAFE يلزم أي شخص اليوم، ولا يترتب على مسودة أي التزام بالإبلاغ عن حوادث عملاء الذكاء الاصطناعي. أي واجبات ملزمة لديك تأتي من مكان آخر — عقودك، أو المنظم القطاعي الخاص بك، وقانون الإفصاح في الأسواق التي تبيع فيها. الخطوة المفيدة هي التعامل مع SAFE كمواصفات جاهزية، ومقارنتها بالالتزامات التي تتحملها بالفعل.

  1. تحقق مما إذا كان بإمكانك تقديم ملف. خذ قائمة الأدلة المكونة من ثماني نقاط واسأل، بالنسبة لسير عمل عميل حقيقي واحد، ما هي العناصر التي يمكنك إنتاجها لعملية تشغيل من الأسبوع الماضي. في الممارسة العملية، تكون الإجابة عادةً هي المطالبات (prompts) واستدعاءات الأدوات (tool calls)، دون وجود هوية، أو نطاق صلاحيات، أو سجل موافقات مرفق بها.
  2. قم بتجهيز أدوات الرصد للبيئة المحيطة (harness)، وليس للنموذج. طبقة التسجيل المهمة هي التي تغلف استدعاءات الأدوات. إذا كنت تختار بين تسجيل المزيد من نصوص المطالبات وتسجيل كل استدعاء للأداة مع الهوية والصلاحيات في النطاق، فقم بتسجيل استدعاءات الأدوات.
  3. اكتب ما يعنيه "في النطاق" (in scope) لكل عميل. المحفز الرابع — الاستمرار بعد الاشتباه في أن النشاط خارج النطاق — لا يمكن الإجابة عليه إذا لم يتم تحديد النطاق أبداً. هذا هو نفس الانضباط الكامن وراء مفاتيح الإيقاف المعتمدة مسبقاً وخطط الاحتواء.
  4. تدرب على تقرير أيام العمل الأربعة. ليس الإخطار، بل التقرير: من يجمع الجدول الزمني، ومن يوقع على تحليل فشل التحكم، ومن يقرر ما هو قابل للنشر بعد 30 يوماً.
  5. افترض أن بيئات التقييم هي بيئات إنتاج. في إحدى الحالات، اعتقد المشغلون أن البيئة ليس لها مخرج (egress)؛ وفي الحالة الأخرى، تم اختراق عزل صممه فريقهم من الداخل، من خلال ثغرة zero-day في مكون تابع لجهة خارجية موجود بداخلها. في كلتا الحالتين، وصلت البيئة إلى أنظمة حقيقية، وهذا هو هدف المسودة بشأن الاعتقاد.

الخلاصة

تعتبر SAFE من أكثر الإجابات تحديداً التي صاغتها الصناعة حتى الآن لسؤال قضت الصناعة شهر يوليو في الإجابة عليه حالة بحالة: عندما يقوم الوكيل بشيء لم يصرح به أحد، من الذي يجب إخباره، وبأي سرعة، وما هي المرفقات المطلوبة. المحفزات الأربعة مرسومة بدقة، والجدول الزمني المكون من سبعة صفوف متطلب للغاية، وبند النية يغلق الثغرة التي اعتمد عليها أحد الإفصاحين الصيفيين.

الفجوة هيكلية وليست تحريرية. تعتمد ثقافة الإبلاغ في مجال الطيران على وصي مسمى واتفاق إنفاذ منشور. تطلب SAFE الأول ولم تقم ببنائه، ولا تحاول القيام بالثاني على الإطلاق — بينما تطلب من الأعضاء سجلاً جنائياً لا يمتلك معظمهم الأدوات اللازمة لإنتاجه، حول حوادث كانت أبرز أمثلتها ناتجة عن شركات لم تنضم للتحالف. فترة التعليقات مفتوحة، وقد وصلت أول مساهمة خارجية للضغط بشأن الأسئلة القانونية في غضون أسبوع، ولم يتم دمج أي شيء بعد.

راقب المستودع (repository)، وليس البيان الصحفي.

الحواشي السفلية

  1. Sam Sabin, "Tech companies propose tracking rogue AI agents," Axios, 11 August 2026. https://www.axios.com/2026/08/11/open-source-security-ai-agent-reporting 2 3 4 5 6 7

  2. تحالف Open Secure AI، "تبادل نتائج الذكاء الاصطناعي المشتركة (SAFE)،" مسودة طلب تعليقات، CC-BY-4.0. https://GitHub.com/OpenSecureAIAlliance/RFCs/blob/main/rfc-safe-proposal.md (تم الاسترجاع في 14 أغسطس 2026). 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22

  3. مؤسسة Linux، "اقتراح مجموعة عمل SAFE: جهد مجتمعي مفتوح لتحسين أمن الذكاء الاصطناعي"، 4 أغسطس 2026. https://www.linuxfoundation.org/blog/proposing-the-safe-working-group-an-open-community-effort-to-improve-ai-security 2 3 4 5 6

  4. NVIDIA، "قادة الصناعة يتحدون في تحالف مفتوح لأمن الذكاء الاصطناعي من أجل سلامة وأمن الذكاء الاصطناعي"، نُشر في 27 يوليو 2026، وآخر تعديل في 7 أغسطس 2026. https://blogs.nvidia.com/blog/open-secure-ai-alliance/ 2 3 4 5

  5. إدارة الطيران الفيدرالية، التعميم الاستشاري 00-46F، "برنامج الإبلاغ عن سلامة الطيران"، 2 أبريل 2021 — انظر الفقرتين 1 و 6.1 (البرنامج يدعو لتقديم التقارير وهو تطوعي)، الفقرة 2 (التعميم ليس له قوة قانونية)، الفقرتين 1 و 6.2 (وكالة NASA كطرف ثالث يستلم ويعالج التقارير؛ مذكرة الاتفاق بين FAA و NASA)، الفقرة 7.1 (النتائج المنشورة بشكل دوري)، الفقرتين 7.2 و 10.1 (اللجنة الاستشارية؛ الإحالات الجنائية والحوادث والإحالات العاجلة)، الفقرتين 10.2 و 11 (إعادة التقارير بعد إزالة الهوية وإلغاء تحديد الهوية)، الفقرة 8.2 و 14 CFR 91.25 (قيود الاستخدام) والفقرة 12.3 (التنازل عن فرض العقوبات). https://www.faa.gov/documentLibrary/media/Advisory_Circular/AC_00-46F.pdf 2 3 4 5 6 7 8 9

  6. Anthropic، "التحقيق في ثلاث حوادث واقعية في تقييمات الأمن السيبراني الخاصة بنا،" 30 يوليو 2026. https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals 2 3 4

  7. OpenAI، "OpenAI و Hugging Face يتشاركان لمعالجة حادث أمني أثناء تقييم النموذج،" 21 يوليو 2026، مع تحديثات لاحقة. https://openai.com/index/hugging-face-model-evaluation-security-incident/ 2 3 4

  8. Hugging Face، "الإفصاح عن حادث أمني — يوليو 2026،" 16 يوليو 2026. https://huggingface.co/blog/security-incident-july-2026 2 3 4 5

  9. Justin Boitano، "قادة الذكاء الاصطناعي يقترحون إرشادات SAFE لشفافية الأمن السيبراني،" مدونة NVIDIA، 4 أغسطس 2026. https://blogs.nvidia.com/blog/open-secure-ai-alliance-contributions/ 2 3

  10. Hugo Larcher و Adrien Carreira و Raphael G و Christophe Rannou، "تشريح اختراق عميل في مختبر رائد: جدول زمني تقني لحادث يوليو 2026،" Hugging Face، 27 يوليو 2026. https://huggingface.co/blog/agent-intrusion-technical-timeline

  11. دانكن رايلي، "Open Secure AI Alliance تقترح إرشادات SAFE مع تجاوز عدد الأعضاء 120 عضوًا،" SiliconANGLE، 4 أغسطس 2026. https://siliconangle.com/2026/08/04/open-secure-ai-alliance-proposes-safe-guidelines-membership-tops-120/ 2 3

  12. إيتيدو أوكو، "OpenAI وGoogle وAnthropic غائبون عن Open Secure AI Alliance بقيادة Nvidia — أكثر من 30 شركة تنضم إلى تحالف الأمن بعد خرق وكيل OpenAI،" Tom's Hardware، 27 يوليو 2026. https://www.tomshardware.com/tech-industry/artificial-intelligence/openai-google-and-anthropic-absent-from-nvidia-led-open-secure-ai-alliance-30-companies-join-security-alliance-after-openai-agent-breach 2 3

  13. سواتي خانديلوال، "NVIDIA تشكل Open Secure AI Alliance مكونة من 37 عضوًا وتطرح إطار عمل NOOA كمصدر مفتوح،" The Hacker News، 27 يوليو 2026. https://thehackernews.com/2026/07/nvidia-forms-37-member-open-secure-ai.html

  14. مستودع RFCs الخاص بـ Open Secure AI Alliance، المشكلات وطلبات السحب، تمت مشاهدتها في 14 أغسطس 2026. https://GitHub.com/OpenSecureAIAlliance/RFCs/issues و https://GitHub.com/OpenSecureAIAlliance/RFCs/pulls 2 3 4

الأسئلة الشائعة

SAFE هو إطار عمل مسودة، نُشر كطلب تعليقات من Linux Foundation في 4 أغسطس 2026 من قبل أعضاء في Open Secure AI Alliance، للإبلاغ والتحليل السري لحوادث أمن الذكاء الاصطناعي والحوادث الوشيكة التي تشمل العملاء، وتحويل إخفاقات التحكم المتكررة إلى توصيات دفاعية مشتركة. 2 3