منصة تحليلات تجارة إلكترونية مؤتمتة (Python + SQL Server + Power BI)

تفاصيل العمل

نظام هندسة بيانات وحلول تحليلي متكامل (End-to-End Automated BI Pipeline) يعالج بيانات التجارة الإلكترونية متعددة المصادر (Multi-Source Data)، ويعمل بأتمتة كاملة وفق معمارية Medallion Architecture المتقدمة.

تفاصيل المراحل وطريقة التنفيذ التقنية:

1. مرحلة الاستخراج والأتمتة الكاملة (بواسطة Python Automation Agent):

• تطوير وكيل أتمتة برجمي كامل (Python Agent) يتولى إدارة وتنفيذ خط البيانات تلقائياً دون أي تدخل بشري (Full Automation).

• جلب واستخراج البيانات من مصادر متعددة (Multi-Source Ingestion)، وتجهيزها وهيكلتها لتكون جاهزة تماماً لمرحلة Bronze.

2. مرحلة معالجة البيانات وبناء مستودع البيانات (بواسطة SQL Server & Advanced T-SQL):

• إدارة ومعالجة مراحل الـ Medallion Architecture الكاملة (Bronze ➔ Silver ➔ Data Warehouse).

• بناء إجراءات مخزنة متقدمة (Stored Procedures) للتحكم في تدفقات معالجة البيانات ونقلها بين المراحل.

• تطبيق آليات التتبع التاريخي للأبعاد (SCD Type 1 & SCD Type 2) للتعامل مع تغير بيانات العملاء والمنتجات عبر الزمن.

• تنفيذ التحميل التراكمي الذكي (Incremental Loading) لرفع كفاءة وسرعة المعالجة وتقليل الجهد على السيرفر.

• تطبيق قواعد فحص وتدقيق جودة البيانات (Data Validation) وتطوير نظام تسجيل وإدارة أخطاء لحظي (Logging System via ETLRunLog).

3. مرحلة العرض والتحليل (بواسطة Power BI):

• بناء النموذج الدلالي المتقدم (Semantic Model) وتصميم العلاقات وصياغة مقاييس DAX معقدة للتحليل الزمني ومؤشرات الأداء.

• تطوير لوحة تحكم تنفيذية تفاعلية من 5 صفحات بتصميم SaaS متجاوب وعصري لتقديم رؤى استراتيجية شاملة للقيادة.