في هذا المشروع، قمت ببناء Sarcasm Detection Model متقدم قادر على فهم العناوين الإخبارية وتحديد ما إذا كانت ساخرة أم لا، باستخدام تقنيات الـ NLP الحديثة.
التحدي الأكبر في هذا النوع من المشاريع هو أن السخرية تعتمد بشكل كلي على السياق (Context)، ولذلك لم أستخدم الطرق التقليدية، بل اعتمدت على Deep Learning وتقنية Transfer Learning.
كيف بنيت الـ Architecture؟
بدلاً من البدء من الصفر، استخدمت نموذج BERT (bert-base-uncased) الشهير من Google كـ Feature Extractor، وذلك لقدرته الهائلة على فهم اللغة وعلاقات الكلمات ببعضها.
قمت بتجميد أوزان BERT (Frozen Weights) لاستغلال ما تعلمه مسبقاً.
بنيت Custom Classification Head خاص بي باستخدام PyTorch يتكون من Linear Layers لعمل التصنيف النهائي.
استخدمت Dropout Layers لمنع الـ Overfitting وضمان أن الموديل يعمل بشكل جيد على البيانات الجديدة.
النتائج والأداء:
تم تدريب الموديل لمدة 10 Epochs، وحقق نتائج ممتازة أثبتت كفاءة الـ Architecture:
Final Accuracy: وصلت الدقة إلى 84.08% على الـ Test Set (بيانات لم يرها الموديل أثناء التدريب).
الأدوات المستخدمة (Tech Stack):
Core: PyTorch, Hugging Face Transformers.
Data Handling: Pandas, NumPy.
Utils: Scikit-learn, Matplotlib.
هذا المشروع يوضح قدرتي على التعامل مع نماذج اللغة الكبيرة (LLMs/Transformers) وتطويعها لحل مشاكل محددة بدقة عالية.