ضبط سيرفر ليعمل عبر لينكس و سيرفر سحابي

السلام عليكم المطلوب ضبط سيرفر الخاص و سيرفر سحابي و ربطهم مع بعض التفاصيل مرفقه بالاسفل بالكامل

العمل عبر تيم فيور او أني ديسك

# **وثيقة العمل التقنية: تهيئة خادم الاستنتاج المركزي (AI Inference Server)**

**المكان:** السيرفر المحلي (Local PC - RTX 5080)

**الهدف:** تحويل الجهاز إلى مركز معالجة ذكاء اصطناعي (Inference Engine) موزع، محمي خلف دومين خاص، وقابل للإدارة بالكامل عبر الويب.

### **1. تهيئة النظام والتعريفات (The Core Stack)**

* **نظام التشغيل (OS):** تثبيت **Ubuntu Server 24.04 LTS** (بدون واجهة رسومية لتعظيم موارد الـ GPU).

* **تعريفات الرسوميات:** تثبيت أحدث تعريفات **NVIDIA Drivers** المستقرة.

* **بيئة الذكاء الاصطناعي:** تثبيت **CUDA Toolkit 12.x** و **cuDNN** لضمان التوافق مع نماذج لاما الحديثة.

* **ضبط الأداء:** ضبط النظام في الـ BIOS ونظام التشغيل على وضع **(Maximum Performance)**، وتفعيل خاصية **(Restore on AC Power Loss)** لضمان العمل التلقائي بعد انقطاع الكهرباء.

### **2. بيئة الحاويات والتشغيل (Virtualization & AI Engine)**

* **Docker:** تثبيت Docker و Docker Compose.

* **GPU Support:** تثبيت **NVIDIA Container Toolkit** لتمكين الحاويات من الوصول المباشر لقوة الكرت.

* **AI Engine:** تثبيت محرك **Ollama** كخدمة خلفية (Backend Service) لتشغيل نماذج Llama 3 و Llama 4.

* **Python:** تجهيز بيئة Conda أو Virtualenv معزولة لاستقبال الأكواد والمكتبات البرمجية الضخمة (PyTorch, Transformers).

### **3. الشبكة والدومين والربط (Networking & Secure Tunneling)**

* **Cloudflare Tunnel:** إعداد النفق لربط السيرفر المحلي بدومين خاص (مثلاً: brain.yourdomain.com).

* **Nginx Reverse Proxy:** ضبط Nginx ليعمل كموزع داخلي للطلبات:

* توجيه الطلبات القادمة من الدومين إلى منافذ الحاويات (مثل منفذ 11434 لـ Ollama).

* تفعيل شهادة **SSL (HTTPS)** لضمان تشفير البيانات بالكامل.

* **الحماية (Firewall):** إغلاق كافة المنافذ (UFW)، وفتح منفذ 22 (SSH) و 80/443 فقط، وحصر الدخول بالـ SSH Keys ومنع كلمات المرور.

### **4. واجهات الإدارة والتحكم (Management & Web UI)**

أريد القدرة على إدارة النظام بالكامل عبر المتصفح (Web-Based):

* **Portainer:** تثبيته لإدارة الحاويات (Docker Containers) ومراقبة السيرفر مرئياً.

* **Open WebUI:** تثبيت واجهة ويب متطورة مرتبطة بـ Ollama للتحكم في النماذج وتجربتها.

* **Monitoring:** توفير لوحة لمراقبة استهلاك (GPU/CPU/RAM) لحظياً.

* **Security Layer:** تأمين كافة لوحات التحكم بـ (Basic Auth) وطبقة حماية إضافية من خلال Nginx لضمان الخصوصية التامة.

### **5. جاهزية الحقن البرمجي (Deployment Readiness)**

* **SSH Access:** إعداد حساب مستخدم مخصص لاستقبال "حقن السورس كود" (Code Injection) والمميزات الـ 60 عبر SSH (باستخدام Antigravity).

* **Storage:** تخصيص مسارات (Persistent Volumes) داخل الأقراص لتخزين أوزان النماذج والبيانات بعيداً عن الحاويات لتسهيل التحديث المستقبلي.

### **ملاحظات ختامية للخبير:**

1. **الأمان أولوية:** يجب حظر الدخول إلى الدومين إلا من عناوين الـ IP الخاصة بالسيرفرات السحابية (White-listing) التي سأحددها لك لاحقاً.

2. **التوسع:** النظام يجب أن يكون مهيأً لإضافة حاويات جديدة (مشاريع فرعية) بسهولة عبر Nginx دون الحاجة لتعديل إعدادات الشبكة في كل مرة.

إليك الصيغة النهائية المدمجة التي توضح **الرؤية والهدف والمهام** بدقة متناهية

# **وثيقة هندسة النظام الهجين (Hybrid Cloud Infrastructure)**

## **أولاً: الرؤية والهدف الاستراتيجي**

**الهدف:** إنشاء نظام تقني موزع يفصل بين "واجهة المستخدم وإدارة البيانات" (في السحاب) وبين "قوة المعالجة والذكاء الاصطناعي الثقيل" (في السيرفر المحلي).

* **السيرفر السحابي (Cloud VPS):** يعمل كـ **"بوابة ذكية" (Gateway)** مستقرة 24/7، تستقبل طلبات العملاء، وتدير هوياتهم، وتخزن البيانات في طابور انتظار عند الضرورة.

* **السيرفر المحلي (Local GPU Server):** يعمل كـ **"العقل المركزي" (Inference Engine)**، حيث يتم تنفيذ عمليات لاما (Llama 3/4) الثقيلة باستخدام RTX 5080، ويتم الوصول إليه عبر دومين خاص محمي.

## **ثانياً: المرحلة الثانية - تهيئة السيرفر السحابي (The Cloud Gateway)**

**المطلوب من خبير السيرفرات في الطرف السحابي:**

### **1. بيئة التشغيل والحاويات (Virtualization)**

* تثبيت **Docker** و **Docker Compose** لإدارة المشاريع الفرعية لكل عميل كحاويات معزولة.

* تثبيت وتأمين **Redis Container**: ليعمل كـ (Job Queue)؛ وظيفته تخزين طلبات AI في حال كان السيرفر المحلي "أوفلاين" أو مشغولاً، لضمان عدم ضياع طلبات العملاء.

### **2. الربط الشبكي والجسر (Networking & Reverse Proxy)**

* ضبط **Nginx/Traefik**: لاستقبال الدومينات الفرعية للعملاء وتوجيهها للحاويات الصحيحة.

* إعداد **API Gateway**: وظيفتها تمرير النصوص (Prompts) من السحاب إلى الدومين المحلي (brain.yourdomain.com) عبر بروتوكول HTTPS المشفر.

* ضبط **Health Check Script**: لمراقبة حالة السيرفر المحلي لحظياً؛ إذا انقطع الاتصال، يتم تحويل الطلبات تلقائياً للطابور (Redis) مع إشعار المستخدم.

### **3. الأمان وتدفق البيانات (Security)**

* تثبيت شهادات **SSL (Certbot)** لكل دومين فرعي.

* ضبط جدار الحماية للسماح فقط بحركة مرور الـ API الصادرة نحو الدومين المحلي.

* إعداد بيئة Python/Node.js خفيفة جداً (Runtime فقط) لتشغيل الـ (Logic) الخاص بالمشاريع دون تحميل أي مكتبات AI ثقيلة.

## **ثالثاً: ملخص الربط النهائي (للتوضيح للخبير)**

| العنصر | السيرفر المحلي (بيتك) | السيرفر السحابي (VPS) |

|---|---|---|

| **المهمة الكبرى** | معالجة نماذج Llama 3/4 (The Brain) | إدارة العملاء والمواقع (The Interface) |

| **المحتوى** | مكتبات CUDA, Docker, LLM Weights | Docker, Redis, Nginx, Databases |

| **الربط** | يستقبل عبر Cloudflare Tunnel | يرسل عبر API Request |

| **الميزة** | توفير تكلفة الـ GPU (مجاني) | توفر الخدمة 24/7 (استقرار) |