Ollama: إدارة النماذج

# سحب أحجام مختلفة لمهام مختلفة
ollama pull llama3.2:3b    # سريع، للاستعلامات البسيطة
ollama pull llama3.1:8b    # متوازن
ollama pull llama3.1:70b   # قوي، للحالات المعقدة

# عرض جميع النماذج المحلية
ollama list
# NAME              ID              SIZE      MODIFIED
# llama3.2:latest   a80c4feeb02f    2.0 GB    2 hours ago
# mistral:latest    2b3e5c5f1e3d    4.1 GB    1 day ago

# سحب نموذج محدد
ollama pull llama3.2
# pulling manifest... done
# success

# عرض تفاصيل النموذج
ollama show llama3.2
# Model
#   architecture: llama
#   parameters:    3.2B
#   quantization:  Q4_K_M
#   context length: 131072

# حذف نموذج لتحرير المساحة
ollama rm llama3.2:3b
# deleted 'llama3.2:3b'

NAME                    ID              SIZE    
llama3.2:latest        a80...          2.0 GB  
mistral:latest         61...           4.1 GB

# افتراضي: اختيار التقدير الكمي تلقائيًا (عادةً Q4_K_M)
ollama pull llama3.2

# صريح: سحب تقدير كمي محدد
ollama pull llama3.2:q4_K_M     # متوازن (موصى به)
ollama pull llama3.2:q8_0       # جودة أعلى، ملف أكبر

# السحب حسب عدد المعلمات
ollama pull llama3.1:8b         # 8 مليارات معلمة
ollama pull llama3.1:70b        # 70 مليار معلمة (يحتاج أكثر من 40 غيغابايت VRAM)

# عرض جميع المتغيرات المتاحة
ollama show llama3.2 --modelfile

pulling manifest... 
success

# SupportBot لأليس: خدمة عملاء متعددة اللغات
ollama pull qwen2.5:7b          # الأفضل للصينية + متعدد اللغات
ollama pull nomic-embed-text    # لقاعدة معرفة RAG

# GlobalShop لأليس: توليد SQL
ollama pull codellama:7b        # نموذج متخصص في الكود

# SaaS لأليس: تحليل المقاييس
ollama pull llama3.1:8b         # استنتاج عام

# فحص إجمالي استخدام القرص
ollama list | awk '{sum+=$3} END {print "Total: " sum/1024/1024/1024 " GB"}'

NAME                    ID              SIZE    
llama3.2:latest        a80...          2.0 GB  
mistral:latest         61...           4.1 GB

# فحص استخدام القرص لكل نموذج
ollama list

# إزالة النماذج غير المستخدمة لتحرير المساحة
ollama rm llama3.1:70b    # تحرير ~40 غيغابايت
ollama rm mistral:latest  # تحرير ~4 غيغابايت

# تغيير مسار تخزين النماذج (إذا امتلأ القرص)
export OLLAMA_MODELS=/data/ollama/models
ollama serve

# التحقق من المسار الجديد
ls $OLLAMA_MODELS/blobs/

NAME                    ID              SIZE    
llama3.2:latest        a80...          2.0 GB  
mistral:latest         61...           4.1 GB

# تنزيل ملف GGUF من HuggingFace
wget https://huggingface.co/.../model-q4_K_M.gguf

# إنشاء Modelfile يشير إلى GGUF
cat > Modelfile <<EOF
FROM ./model-q4_K_M.gguf
EOF

# البناء والتسجيل مع Ollama
ollama create my-custom-model -f Modelfile

# تشغيله كأي نموذج آخر
ollama run my-custom-model "Hello"

I'm a helpful AI assistant running locally on your machine...

#!/bin/bash
# ============================================
# شامل: لوحة إدارة النماذج
# سحب، فحص، تنظيف، وإعداد تقرير عن النماذج
# ============================================

MODEL_STORE="$HOME/.ollama/models"

# دالة: عرض تقرير جرد النماذج
show_inventory() {
    echo "=== Ollama Model Inventory ==="
    echo ""
    ollama list | while read -r name id size modified; do
        if [ "$name" != "NAME" ]; then
            echo "Model: $name"
            echo "  ID:       $id"
            echo "  Size:     $size"
            echo "  Modified: $modified"
            echo ""
        fi
    done
    echo "Total disk: $(du -sh $MODEL_STORE 2>/dev/null | cut -f1)"
}

# دالة: سحب حزمة نماذج SupportBot
pull_support_stack() {
    echo "=== Pulling SupportBot Model Stack ==="
    local models=(
        "qwen2.5:7b"           # Main chat model
        "nomic-embed-text"     # Embedding for RAG
        "llama3.2:3b"          # Fast classifier
    )
    for model in "${models[@]}"; do
        echo "Pulling $model..."
        ollama pull "$model"
    done
    echo "=== Stack Ready ==="
}

# دالة: تنظيف النماذج القديمة/غير المستخدمة
clean_unused() {
    echo "=== Models Available for Cleanup ==="
    ollama list
    echo ""
    read -p "Enter model name to remove (or 'cancel'): " model
    if [ "$model" != "cancel" ] && [ -n "$model" ]; then
        ollama rm "$model"
        echo "Removed: $model"
    fi
}

# القائمة الرئيسية
echo "1. Show inventory"
echo "2. Pull SupportBot stack"
echo "3. Clean unused models"
read -p "Choose: " choice
case $choice in
    1) show_inventory ;;
    2) pull_support_stack ;;
    3) clean_unused ;;
esac