تحسين ونشر نموذج LLM بواجهة Streamlit وربطه بالويب عبر ngrok

أنجزت مؤخرًا مشروعًا لعميل ضمن مهمة تدريبية في LLMs.

المطلوب كان:

تحسين النموذج باستخدام Quantization لتقليل الحجم وزيادة الكفاءة.

استخدام ngrok لعمل نفق آمن وربط التطبيق المحلي بالويب.

بناء واجهة باستخدام Streamlit لعرض وتشغيل النموذج بشكل تفاعلي.

️ الأدوات والتقنيات المستخدمة:

Python

PyTorch

Transformers (Hugging Face)

Streamlit

ngrok

النتيجة: تم تسليم حل متكامل يجمع بين تحسين النموذج، النشر، وتجربة مستخدم سهلة.