Ollama: مفاهيم الذكاء الاصطناعي المحلي ونظرة عامة على البيئة

# أمر واحد لبدء الاستنتاج المحلي
ollama run llama3.2

# بدون مفاتيح API، بدون بيانات تغادر الجهاز
>>> What is the return policy?
The return policy allows you to return items within 30 days...

السيناريو: توليد 10 ملايين رمز شهريًا

واجهة برمجة التطبيقات السحابية (GPT-4):
  الإدخال:  2 مليون رمز × $0.03/1K = $60
  الإخراج: 8 مليون رمز × $0.06/1K = $480
  الإجمالي الشهري: ~$540

المحلي (Ollama على خادم GPU بـ $2,000):
  إهلاك hardware (24 شهرًا): $83/شهر
  الكهرباء (~200 واط × 730 ساعة): ~$15/شهر
  الإجمالي الشهري: ~$98

نقطة التعادل: ~2 شهر
التوفير السنوي: ~$5,300

# بدء خادم Ollama (يبدأ تلقائيًا عند التثبيت)
ollama serve

# التحقق من أن الخادم يعمل على المنفذ الافتراضي
curl http://localhost:11434/api/tags

# الاستجابة المتوقعة (مختصرة)
# {"models":[{"name":"llama3.2:latest","size":2019393189}]}

I'm a helpful AI assistant running locally on your machine...

# سحب وتشغيل بأمر واحد (ينزل ~2 غيغابايت عند أول استخدام)
ollama run llama3.2

# جلسة تفاعلية
>>> Hello, what can you help me with?
I'm a helpful AI assistant running locally on your machine...

I'm a helpful AI assistant running locally on your machine...

# عرض تفاصيل النموذج بما في ذلك التقدير الكمي
ollama show llama3.2

# حقول الإخراج الرئيسية:
#   format    - مستوى التقدير الكمي (مثلاً، q4_K_M)
#   parameter - إجمالي عدد المعلمات
#   size      - حجم الملف على القرص

NAME                    ID              SIZE    
llama3.2:latest        a80...          2.0 GB  
mistral:latest         61...           4.1 GB

#!/bin/bash
# تحليل التكلفة-الفائدة لشركة SaaS الخاصة بأليس

MONTHLY_TOKENS=10000000  # 10 ملايين رمز شهريًا
CLOUD_COST_PER_1K=0.06   # دولار لكل 1K رمز إخراج
GPU_SERVER_COST=2000     # دولار لمرة واحدة
MONTHS_AMORT=24          # فترة الإهلاك

cloud_monthly=$(echo "scale=0; $MONTHLY_TOKENS * $CLOUD_COST_PER_1K / 1000" | bc)
local_monthly=$(echo "scale=0; $GPU_SERVER_COST / $MONTHS_AMORT + 15" | bc)
saving=$(echo "scale=0; $cloud_monthly - $local_monthly" | bc)

echo "Cloud monthly: \$${cloud_monthly}"
echo "Local monthly: \$${local_monthly}"
echo "Monthly saving: \$${saving}"

# تم تنفيذ الأمر بنجاح

# ============================================
# شامل: تقييم جدوى الذكاء الاصطناعي المحلي
# يجمع بين تقييم التكلفة والكمون والخصوصية
# ============================================

def assess_local_ai(
    monthly_tokens_million: float,
    cloud_price_per_1k: float,
    gpu_server_cost: float,
    compliance_required: bool,
    offline_needed: bool
) -> dict:
    # حساب تكلفة السحابة
    cloud_monthly = monthly_tokens_million * 1000 * cloud_price_per_1k

    # حساب التكلفة المحلية (إهلاك على 24 شهرًا)
    local_monthly = gpu_server_cost / 24 + 15  # +15 دولار كهرباء

    # درجة القرار (0-100)
    score = 0
    if local_monthly < cloud_monthly:
        score += 30  # ميزة التكلفة
    if compliance_required:
        score += 30  # متطلب الخصوصية
    if offline_needed:
        score += 20  # متطلب العمل بدون اتصال
    if monthly_tokens_million > 5:
        score += 20  # الحجم المرتفع يفيد

    recommendation = "LOCAL" if score >= 50 else "CLOUD"
    payback_months = gpu_server_cost / max(cloud_monthly - local_monthly, 1)

    return {
        "cloud_monthly_usd": round(cloud_monthly, 2),
        "local_monthly_usd": round(local_monthly, 2),
        "monthly_saving_usd": round(cloud_monthly - local_monthly, 2),
        "decision_score": score,
        "recommendation": recommendation,
        "payback_months": round(payback_months, 1)
    }

# تقييم شركة SaaS الخاصة بأليس
result = assess_local_ai(
    monthly_tokens_million=10,
    cloud_price_per_1k=0.06,
    gpu_server_cost=2000,
    compliance_required=True,
    offline_needed=False
)

for key, value in result.items():
    print(f"{key}: {value}")

cloud_monthly_usd: 600.0
local_monthly_usd: 98.33
monthly_saving_usd: 501.67
decision_score: 80
recommendation: LOCAL
payback_months: 4.0