GPT Neo Fine tuning for reviews generation

GPT-Neo Fine-Tuning on Yelp Reviews

مشروع يهدف إلى تحسين أداء نموذج GPT-Neo (Open-Source) لتوليد نصوص مراجعات واقعية بناءً على بيانات مراجعات Yelp.

Approach

Data Preparation:

إعادة صياغة البيانات بصيغة User – Review

تجهيز البيانات لتكون جاهزة للفورمات الخاص بالنموذج

تقسيم البيانات إلى Train و Validation

Model Fine-Tuning:

Fine-tuning لنموذج GPT-Neo باستخدام LoRA / PEFT

تحسين قدرة النموذج على فهم سياق المراجعات وتوليد نصوص مشابهة للبيانات الأصلية

Evaluation:

مقارنة أداء النموذج بعد Fine-Tuning مع النموذج الأساسي

اختبار جودة التوليد وواقعية النصوص

Outcome

النموذج أصبح قادر على توليد مراجعات واقعية ومطابقة لأسلوب بيانات Yelp، مع تحسين فهم النموذج لسياق المراجعات دون تحليل مشاعر.

Tools & Tech Stack

Python – HuggingFace Transformers – PyTorch – LoRA/PEFT – Pandas – Jupyter Notebook