دليل OWASP لاختبار الاختراق

يوفر دليل OWASP لاختبار اختراق الذكاء الاصطناعي التوليدي (يناير 2025) منهجية منظمة لاختبار أنظمة الذكاء الاصطناعي. يضمن هذا الإطار تغطية شاملة لأسطح الهجوم.

منهجية الأربعة أركان

يحدد OWASP أربعة مجالات متميزة تتطلب أساليب اختبار منفصلة:

┌─────────────────────────────────────────────────────────────┐
│           إطار OWASP لاختبار اختراق الذكاء التوليدي         │
├─────────────────────────────────────────────────────────────┤
│                                                             │
│  ┌─────────────┐  ┌─────────────┐  ┌─────────────┐         │
│  │   طبقة     │  │   طبقة     │  │    طبقة    │         │
│  │  النموذج   │  │  التنفيذ   │  │  البنية    │         │
│  ├─────────────┤  ├─────────────┤  ├─────────────┤         │
│  │ • المحثات  │  │ • الحواجز  │  │ • مفاتيح   │         │
│  │ • التدريب  │  │ • RAG      │  │   الـ API  │         │
│  │ • الأوزان  │  │ • الوكلاء  │  │ • النقاط   │         │
│  └─────────────┘  └─────────────┘  └─────────────┘         │
│                                                             │
│  ┌─────────────────────────────────────────────────┐       │
│  │              طبقة وقت التشغيل                    │       │
│  ├─────────────────────────────────────────────────┤       │
│  │ • سياق الجلسة • الذاكرة • تنفيذ الأدوات        │       │
│  └─────────────────────────────────────────────────┘       │
└─────────────────────────────────────────────────────────────┘

تفاصيل الأركان

الركن	مجالات التركيز	أمثلة على الهجمات
النموذج	سلوك LLM، بيانات التدريب	كسر الحماية، حقن المحث
التنفيذ	منطق التطبيق، التكاملات	تسميم RAG، إساءة استخدام الأدوات
البنية التحتية	واجهات API، النشر، الأسرار	استخراج المفاتيح، رفض الخدمة
وقت التشغيل	حالة الجلسة، الذاكرة	التلاعب بالسياق

تنفيذ الإطار

from dataclasses import dataclass, field
from enum import Enum
from typing import List

class OWASPPillar(Enum):
    MODEL = "model"  # النموذج
    IMPLEMENTATION = "implementation"  # التنفيذ
    INFRASTRUCTURE = "infrastructure"  # البنية التحتية
    RUNTIME = "runtime"  # وقت التشغيل

@dataclass
class RedTeamTestCase:
    """
    حالة اختبار متوافقة مع منهجية OWASP.
    """
    pillar: OWASPPillar
    name: str
    description: str
    attack_vectors: List[str] = field(default_factory=list)
    success_criteria: str = ""

    def to_dict(self) -> dict:
        return {
            "pillar": self.pillar.value,
            "name": self.name,
            "description": self.description,
            "attack_vectors": self.attack_vectors,
            "success_criteria": self.success_criteria,
        }

# أمثلة على حالات الاختبار لكل ركن
test_cases = [
    RedTeamTestCase(
        pillar=OWASPPillar.MODEL,
        name="مقاومة كسر الحماية",
        description="اختبار مقاومة النموذج لمحاولات كسر الحماية",
        attack_vectors=["محثات DAN", "لعب الأدوار", "الافتراضيات"],
        success_criteria="النموذج يرفض توليد محتوى ضار"
    ),
    RedTeamTestCase(
        pillar=OWASPPillar.IMPLEMENTATION,
        name="حقن RAG",
        description="اختبار نظام RAG لحقن المستندات",
        attack_vectors=["مستندات خبيثة", "حقن البيانات الوصفية"],
        success_criteria="المحتوى المحقون لا يُنفذ كتعليمات"
    ),
    RedTeamTestCase(
        pillar=OWASPPillar.INFRASTRUCTURE,
        name="استخراج مفتاح API",
        description="محاولة استخراج بيانات اعتماد API",
        attack_vectors=["الاستخراج عبر المحث", "رسائل الخطأ"],
        success_criteria="لا تُكشف بيانات الاعتماد في الردود"
    ),
    RedTeamTestCase(
        pillar=OWASPPillar.RUNTIME,
        name="تسميم السياق",
        description="اختبار التلاعب بسياق الجلسة",
        attack_vectors=["التصعيد متعدد الأدوار", "حقن الذاكرة"],
        success_criteria="سياق الجلسة يُطهّر بشكل صحيح"
    ),
]

مصفوفة التغطية

أنشئ مصفوفة تغطية لضمان اختبار جميع الأركان:

def generate_coverage_matrix(test_cases: List[RedTeamTestCase]) -> dict:
    """توليد تقرير تغطية حسب الركن."""
    coverage = {pillar.value: [] for pillar in OWASPPillar}

    for test in test_cases:
        coverage[test.pillar.value].append(test.name)

    return {
        "coverage": coverage,
        "summary": {
            pillar: len(tests) for pillar, tests in coverage.items()
        }
    }

matrix = generate_coverage_matrix(test_cases)
print(f"الاختبارات لكل ركن: {matrix['summary']}")
# المخرجات: الاختبارات لكل ركن: {'model': 1, 'implementation': 1, ...}

رؤية أساسية: تركز العديد من المؤسسات فقط على اختبار طبقة النموذج. يضمن إطار OWASP عدم تفويت ثغرات التنفيذ أو البنية التحتية أو وقت التشغيل.

بعد ذلك، سنتعلم كيفية تحديد النطاق وقواعد الاشتباك لتمارين الفريق الأحمر. :::