الخطوات التالية

مبروك على إكمال أساسيات أمن الذكاء الاصطناعي! أنت الآن تفهم التهديدات التي تواجه تطبيقات LLM وكيفية الدفاع ضدها. إليك كيفية متابعة رحلتك الأمنية.

ما تعلمته

┌─────────────────────────────────────────────────────────────┐
│                    ملخص الدورة                               │
│                                                             │
│   الوحدة 1: مشهد أمن الذكاء الاصطناعي                       │
│   ✓ لماذا الأمان مهم لتطبيقات LLM                          │
│   ✓ ثغرات OWASP LLM Top 10                                 │
│   ✓ أسطح الهجوم ونمذجة التهديدات                           │
│                                                             │
│   الوحدة 2: حقن المحث                                       │
│   ✓ تقنيات الحقن المباشر وغير المباشر                      │
│   ✓ هجمات كسر الحماية                                      │
│   ✓ طرق التشويش المتقدمة                                   │
│                                                             │
│   الوحدة 3: الثغرات الأخرى                                  │
│   ✓ تسريب محث النظام                                       │
│   ✓ مخاطر تعرض البيانات                                    │
│   ✓ ثغرات RAG والوكلاء                                     │
│                                                             │
│   الوحدة 4: بناء الحواجز                                    │
│   ✓ استراتيجيات التحقق من المدخلات                         │
│   ✓ تطهير المخرجات                                         │
│   ✓ NeMo Guardrails و LLaMA Guard                         │
│                                                             │
│   الوحدة 5: أمن الإنتاج                                     │
│   ✓ بنية الدفاع العميق                                     │
│   ✓ المراقبة والتسجيل                                      │
│   ✓ تصميم الوكلاء الآمن                                    │
│                                                             │
│   الوحدة 6: الاختبار والخطوات التالية                       │
│   ✓ اختبار الفريق الأحمر                                   │
│   ✓ قوائم فحص الأمان                                       │
│   ✓ البقاء على اطلاع بالتهديدات                            │
└─────────────────────────────────────────────────────────────┘

مهاراتك الأمنية

يمكنك الآن:

• تحديد ثغرات أمان LLM باستخدام إطار OWASP
• تنفيذ التحقق من المدخلات وتطهير المخرجات
• تكوين الحواجز باستخدام NeMo و LLaMA Guard
• تصميم وكلاء آمنين بأقل الامتيازات
• اختبار الدفاعات بتقنيات الفريق الأحمر
• إعداد المراقبة والتنبيه

مسار التعلم الموصى به

                 ┌─────────────────────────┐
                 │ أساسيات أمن الذكاء      │
                 │    الاصطناعي            │
                 │     (أنت هنا!)          │
                 └───────────┬─────────────┘
                             │
                             ▼
        ┌────────────────────┴────────────────────┐
        │                                         │
        ▼                                         ▼
┌───────────────────┐                 ┌───────────────────┐
│ الفريق الأحمر     │                 │ الذكاء الاصطناعي  │
│ لأنظمة الذكاء     │                 │ الآمن في الإنتاج  │
│ الاصطناعي        │                 │    (متقدم)        │
│                   │                 │                   │
│ • طرق الهجوم     │                 │ • أمان CI/CD      │
│ • اكتشاف الثغرات │                 │ • الامتثال        │
│ • التعلم العدائي │                 │ • الاستجابة للحوادث│
└───────────────────┘                 └───────────────────┘

بنود العمل الفورية

الأولوية	الإجراء	الجدول الزمني
1	تدقيق تطبيقات LLM الحالية	هذا الأسبوع
2	تنفيذ التحقق الأساسي من المدخلات	هذا الأسبوع
3	إعداد المراقبة والتسجيل	الأسبوع القادم
4	تشغيل اختبارات الفريق الأحمر	الأسبوعين القادمين
5	المراجعة والتحديث بانتظام	مستمر

بداية التدقيق الأمني

طبق ما تعلمته فوراً:

def quick_security_audit(app_config: dict) -> dict:
    """تدقيق أمني سريع بناءً على محتوى الدورة."""
    findings = {
        "critical": [],
        "high": [],
        "medium": [],
        "low": [],
    }

    # فحص التحقق من المدخلات
    if not app_config.get("input_validation_enabled"):
        findings["critical"].append(
            "التحقق من المدخلات غير مُفعل - معرض لحقن المحث"
        )

    # فحص تطهير المخرجات
    if not app_config.get("output_sanitization"):
        findings["high"].append(
            "المخرجات غير مطهرة - معرض لـ XSS"
        )

    # فحص تحديد المعدل
    if not app_config.get("rate_limiting"):
        findings["high"].append(
            "لا تحديد للمعدل - معرض للإساءة"
        )

    # فحص المراقبة
    if not app_config.get("logging_enabled"):
        findings["medium"].append(
            "التسجيل غير مُفعل - لا يمكن كشف الهجمات"
        )

    # فحص الحواجز
    if not app_config.get("guardrails_enabled"):
        findings["high"].append(
            "لا حواجز مكونة - حماية محدودة"
        )

    # توليد التقرير
    total_issues = sum(len(f) for f in findings.values())
    risk_level = "حرج" if findings["critical"] else \
                 "عالي" if findings["high"] else \
                 "متوسط" if findings["medium"] else "منخفض"

    return {
        "findings": findings,
        "total_issues": total_issues,
        "risk_level": risk_level,
        "recommendation": "عالج المشاكل الحرجة والعالية فوراً"
    }

# تدقيق تطبيقك
my_app = {
    "input_validation_enabled": True,
    "output_sanitization": False,
    "rate_limiting": True,
    "logging_enabled": True,
    "guardrails_enabled": False,
}

audit_result = quick_security_audit(my_app)
print(f"مستوى المخاطر: {audit_result['risk_level']}")
print(f"إجمالي المشاكل: {audit_result['total_issues']}")

موارد للحفظ

التوثيق

• OWASP LLM Top 10: genai.owasp.org/llm-top-10
• NeMo Guardrails: docs.nvidia.com/nemo/guardrails
• LangChain Security: python.langchain.com/docs/security

الأدوات

• Garak (ماسح ثغرات LLM)
• Rebuff (كشف حقن المحث)
• LLaMA Guard (مصنف السلامة)

المجتمعات

• OWASP AI Security
• AI Village (DEF CON)
• مواضيع أمان r/MachineLearning

استمر في البناء بأمان

تذكر المبادئ الأساسية:

1. لا تثق أبداً بمدخلات المستخدم - تحقق وطهّر دائماً
2. الدفاع العميق - طبقات متعددة من الحماية
3. أقل الامتيازات - أذونات دنيا للوكلاء
4. راقب كل شيء - لا يمكنك الدفاع عما لا تراه
5. ابقَ على اطلاع - التهديدات تتطور، وكذلك يجب الدفاعات

شكراً لك!

لقد اتخذت خطوة مهمة في تأمين تطبيقات الذكاء الاصطناعي. المهارات التي تعلمتها هنا ستساعد في حماية المستخدمين والبيانات والأنظمة مع انتشار الذكاء الاصطناعي.

ما التالي؟

تابع رحلتك في أمن الذكاء الاصطناعي مع مواضيع متقدمة:

• الفريق الأحمر لأنظمة الذكاء الاصطناعي - تعلم التفكير كمهاجم
• الذكاء الاصطناعي الآمن في الإنتاج - أنماط أمان على مستوى المؤسسات
• أبحاث سلامة الذكاء الاصطناعي - تقنيات السلامة المتطورة

رحلتك في أمن الذكاء الاصطناعي قد بدأت للتو. ابقَ فضولياً، ابقَ يقظاً، وابنِ أنظمة يمكن للمستخدمين الوثوق بها. :::