استراتيجيات تحسين التكلفة

التحسين الفعال للتكلفة يمكن أن يقلل نفقات LLM بنسبة 50-80% دون التضحية بالجودة. يغطي هذا الدرس الاستراتيجيات المثبتة لتحسين تكاليف LLM في الإنتاج.

هرم التحسين

┌─────────────────────────────────────────────────────────────┐
│              هرم تحسين التكلفة                              │
├─────────────────────────────────────────────────────────────┤
│                                                             │
│                    ┌───────────┐                            │
│                    │  اختيار   │  ← التأثير الأكبر          │
│                    │  النموذج  │     (توفير 50-90%)         │
│                    └─────┬─────┘                            │
│               ┌──────────┴──────────┐                       │
│               │  هندسة المطالبات   │  ← توفير 20-40%        │
│               │      والضغط        │                       │
│               └──────────┬──────────┘                       │
│          ┌───────────────┴───────────────┐                  │
│          │     التخزين المؤقت والتجميع   │  ← 30-50%        │
│          └───────────────┬───────────────┘                  │
│     ┌────────────────────┴────────────────────┐             │
│     │       تحسين البنية التحتية              │  ← 10-30%  │
│     │    (التكميم، الاستضافة الذاتية)         │             │
│     └─────────────────────────────────────────┘             │
│                                                             │
└─────────────────────────────────────────────────────────────┘

الاستراتيجية 1: اختيار النموذج والتوجيه

اختر النموذج المناسب لكل مهمة:

from litellm import completion
from functools import lru_cache

class SmartRouter:
    MODEL_TIERS = {
        "simple": {
            "model": "gpt-4o-mini",
            "cost_per_1k": 0.00075,  # متوسط الإدخال/الإخراج
            "tasks": ["classification", "extraction", "simple_qa"]
        },
        "standard": {
            "model": "claude-3-5-haiku-20241022",
            "cost_per_1k": 0.0024,
            "tasks": ["summarization", "translation", "analysis"]
        },
        "complex": {
            "model": "gpt-4o",
            "cost_per_1k": 0.01,
            "tasks": ["reasoning", "code_generation", "creative"]
        }
    }

    def classify_task(self, prompt: str, task_type: str = None) -> str:
        """تحديد طبقة النموذج المناسبة."""
        if task_type:
            for tier, config in self.MODEL_TIERS.items():
                if task_type in config["tasks"]:
                    return tier

        # احتياطي استدلالي
        word_count = len(prompt.split())
        if word_count < 50:
            return "simple"
        elif word_count < 200:
            return "standard"
        return "complex"

    def route(self, prompt: str, task_type: str = None) -> str:
        tier = self.classify_task(prompt, task_type)
        return self.MODEL_TIERS[tier]["model"]

# التوفير المقدر: 60-80% لأحمال العمل المختلطة

الاستراتيجية 2: تحسين المطالبات

تقليل استخدام الرموز من خلال مطالبات فعالة:

# قبل: 847 رمز
VERBOSE_PROMPT = """
أنت مساعد ذكاء اصطناعي مفيد. مهمتك مساعدة المستخدم بسؤاله.
يرجى تقديم رد شامل ومفصل يغطي جميع جوانب الموضوع.
تأكد من أن تكون شاملاً وتشرح كل شيء بوضوح.
إذا كنت بحاجة لأي توضيح، يرجى السؤال.
إليك سؤال المستخدم: {question}
"""

# بعد: 127 رمز (تقليل 85%)
OPTIMIZED_PROMPT = """أجب بإيجاز: {question}"""

# أفضل مع الإخراج المهيكل
STRUCTURED_PROMPT = """{question}

الرد بـ JSON: {"answer": "...", "confidence": 0-1}"""

الاستراتيجية 3: التخزين المؤقت

تخزين الردود للاستعلامات المتكررة أو المتشابهة:

import hashlib
import json
from functools import lru_cache
from typing import Optional

class SemanticCache:
    def __init__(self, embedding_model: str = "text-embedding-3-small"):
        self.embedding_model = embedding_model
        self.cache = {}  # في الإنتاج، استخدم Redis أو ما شابه
        self.similarity_threshold = 0.95

    def _get_cache_key(self, messages: list) -> str:
        """توليد مفتاح التخزين من الرسائل."""
        content = json.dumps(messages, sort_keys=True)
        return hashlib.sha256(content.encode()).hexdigest()

    def get(self, messages: list) -> Optional[str]:
        """فحص التخزين للتطابق الدقيق أو الدلالي."""
        # التطابق الدقيق
        key = self._get_cache_key(messages)
        if key in self.cache:
            return self.cache[key]
        return None

    def set(self, messages: list, response: str):
        """تخزين الرد."""
        key = self._get_cache_key(messages)
        self.cache[key] = response

الاستراتيجية 4: التجميع

معالجة طلبات متعددة معاً:

import asyncio
from litellm import acompletion

async def batch_process(prompts: list, model: str, batch_size: int = 10):
    """معالجة المطالبات في دفعات لتحسين الإنتاجية."""
    results = []

    for i in range(0, len(prompts), batch_size):
        batch = prompts[i:i + batch_size]

        # معالجة الدفعة بالتوازي
        tasks = [
            acompletion(
                model=model,
                messages=[{"role": "user", "content": p}]
            )
            for p in batch
        ]

        batch_results = await asyncio.gather(*tasks)
        results.extend(batch_results)

    return results

قائمة تحقق التحسين

┌─────────────────────────────────────────────────────────────┐
│              قائمة تحقق تحسين التكلفة                       │
├─────────────────────────────────────────────────────────────┤
│                                                             │
│  □ استخدم أصغر نموذج فعال لكل مهمة                         │
│  □ نفّذ التخزين الدلالي للاستعلامات المتكررة               │
│  □ اضغط/لخّص السياقات الطويلة                              │
│  □ عيّن حدود max_tokens على جميع الطلبات                   │
│  □ جمّع الطلبات المتشابهة معاً                             │
│  □ خزّن التضمينات (لا تتغير)                               │
│  □ استخدم قوالب المطالبات (رموز أقل)                       │
│  □ راقب وأطلق تنبيهات على ارتفاعات التكلفة                │
│  □ تتبع التكلفة لكل ميزة/مستخدم/فريق                      │
│  □ راجع أعلى محركات التكلفة أسبوعياً                       │
│                                                             │
└─────────────────────────────────────────────────────────────┘

أمثلة التوفير الواقعية

التحسين	قبل	بعد	التوفير
توجيه النموذج	$10,000/شهر	$3,000/شهر	70%
التخزين المؤقت	$5,000/شهر	$2,500/شهر	50%
تحسين المطالبات	$3,000/شهر	$1,800/شهر	40%
حدود الإخراج	$2,000/شهر	$1,400/شهر	30%
المجموع	$10,000/شهر	$2,000/شهر	80%
:::