NoBadWords – فلترة المحتوى غير اللائق بالذكاء الاصطناعي

NoBadWords – فلترة المحتوى غير اللائق بالذكاء الاصطناعي

NoBadWords هو نظام ذكي يتيح لك إدارة نصوصك بأمان من خلال اكتشاف الكلمات والعبارات غير اللائقة أو السامة، مع دعم متعدد اللغات وفلترة دقيقة وسريعة.

يقدّم NoBadWords حلًّا متقدمًا لتنقية المحتوى الرقمي وحماية المستخدمين من النصوص المسيئة أو الغير مناسبة. يعتمد المشروع على نموذج هجين يجمع بين الذكاء الاصطناعي وقاموس شامل للكلمات السامة، مما يضمن دقة عالية وسرعة في المعالجة.

مثال على آلية عمل النظام

يوضح المثال التالي كيف يتعامل NoBadWords مع الجمل اعتمادًا على الذكاء الاصطناعي في تحليل السياق واكتشاف الإيحاءات السامة:

النص المدخلالنتيجة

هل تعرف أن الحيوانات التي تستطيع السباحة لديها القدرة على الطوفان؟ غير سام

هل تعرف أن الحيوانات أمثالك التي تستطيع السباحة لديها القدرة على الطوفان؟️ سام

- يلاحظ أن النظام لا يعتمد فقط على الكلمات المفردة، بل على السياق الكامل للجملة لفهم النية والمعنى، مما يجعله قادرًا على التفريق بين الجمل العادية وتلك التي تحتوي على إساءة أو سخرية موجهة.

- هذه الدقة العالية في الفهم السياقي تمثل جوهر NoBadWords، حيث يمكنه حماية المنصات من المحتوى المسيء دون التأثير على حرية التعبير أو حذف الجمل السليمة عن طريق الخطأ.

----------

واجهة المستخدم والتصميم

تم تصميم واجهة NoBadWords باستخدام React بتصميم حديث وجذاب يناسب جميع الشاشات (حاسوب، هاتف، جهاز لوحي) مع تجربة مستخدم مريحة وسلسة.

- مزايا التصميم والتجربة:

- تصميم متجاوب بالكامل يضمن عرضًا مثاليًا على مختلف الأجهزة.

- دعم الوضعين الداكن والفاتح (Dark / Light Mode) لتجربة مرئية مريحة في مختلف ظروف الإضاءة.

- استخدام أنيميشن بسيطة وجذابة تعزز التفاعل البصري دون إزعاج المستخدم.

- في الصفحة الرئيسية يظهر روبوت يضع يده على فم شخص يحاول التلفظ بألفاظ بذيئة — فكرة مبتكرة تعبّر بصريًا عن هدف المشروع في كبح الكلمات غير اللائقة.

- لوحة المستخدم تتيح إدارة الحساب بسهولة:

- عرض جميع المشتريات والخطط الحالية.

- إمكانية ترقية أو تغيير الخطة الحالية.

- تحديث البيانات الشخصية من صفحة الملف الشخصي بواجهة منظمة وسهلة الاستخدام.

----------

الميزات الرئيسية:

- دعم متعدد اللغات: فلترة دقيقة للغة العربية والتركية، ودعم جزئي للغة الإنجليزية.

- فلترة ذكية وسريعة: نموذج هجين AI + قاموس للكشف عن السمية بنسبة عالية من الدقة.

- مراجعة آمنة للمحتوى: اكتشاف وتحليل النصوص القصيرة والطويلة مع نتائج دقيقة 1/0 ونسبة السمية.

- تكامل سهل عبر API: إمكانية دمج النظام في التطبيقات والمواقع خلال دقائق، مع تحكم عبر مفاتيح API وحدود مبنية على الرموز.

- سجل وتحليلات: إمكانية عرض النتائج السابقة، حذفها، والإبلاغ عن التصنيفات الخاطئة لتحسين النظام باستمرار.

- توافر عالي وموثوقية: النظام يعمل بنسبة 99.9% مع استجابة فورية للمستخدمين.

- تصفية قوية ومستمرة: دعم مستمر لتحديث القاموس وتحسين نتائج الفلترة بشكل دوري.

- نسخة تجريبية مجانية: الحصول على 1,000 رمز لاختبار النظام قبل الترقية.

----------

الميزات التقنية لمشروع NoBadWords

1. حدود الرموز اليومية:

- للمستخدمين قبل تسجيل الدخول: يمنحهم النظام 75 رمز لاستخدامها.

- بعد تسجيل الدخول: يحصل المستخدم يوميًا على 1000 رمز، ويتم إعادة تحديدها كل يوم لضمان تجربة عادلة ومستدامة.

2. كشف الحسابات المتعددة وربطها:

- النظام يتعرف على المستخدمين الذين يسجلون باستخدام أكثر من حساب ويربطها تلقائيًا في قاعدة البيانات لتحديد الحسابات التابعة لنفس الشخص.

3. حد الاستخدام حسب الجهاز:

- لكل جهاز يمكن استخدام حد أقصى 7 حسابات فقط، ويتم منع أي تجاوز لضمان الأمان والسيطرة على الاستخدام.

4. شروط الاستخدام والكوكيز:

- لا يمكن للمستخدم استخدام الموقع إلا بعد الموافقة على شروط الاستخدام وسياسة الكوكيز.

- عند الموافقة، يتم أخذ بيانات الـ API Key وFingerprint وتخزينها في قاعدة البيانات لتعزيز الأمان.

5. حماية أمنية متقدمة:

- حماية من هجمات متعددة، بما في ذلك:

- CSRF (Cross-Site Request Forgery).

- DDoS (Distributed Denial of Service) باستخدام Redis لمنع الهجمات وحماية السيرفر.

- زيادة أمان الموقع عبر تخزين بيانات Fingerprint وAPI Key ومراقبة السلوكيات المشبوهة.

6. نظام التحقيق لمنع إساءة الاستخدام:

- عند إرسال رسائل تواصل: يسمح فقط بـ 3 رسائل يوميًا لكل مستخدم.

- عند تكرار المخالفة لمدة 3 أيام متتالية: يتم حظر المستخدم لمدة 20 يوم.

- إذا تكرر الحظر بعد رفعه، يتم زيادة مدة الحظر تدريجيًا (مثلاً 30 يوم لاحقًا)، مع اتخاذ إجراءات أمنية صارمة لمنع ملء قاعدة البيانات بمعلومات خاطئة.

----------

ميزة دعم اللغات وتجربة المستخدم الذكية

- اكتشاف لغة المتصفح تلقائيًا:

- عند أول زيارة للمستخدم، يقوم النظام بأخذ معلومات المتصفح تلقائيًا لتحديد اللغة المناسبة للعرض.

- يدعم الموقع 6 لغات للتصفح: العربية، الإنجليزية، التركية، الألمانية، الفرنسية، والإسبانية.

- إذا كانت لغة المتصفح غير مدعومة، يتم عرض الموقع تلقائيًا باللغة الإنجليزية لضمان تجربة سلسة لجميع المستخدمين.

----------

ميزة التكامل عبر API وإتاحة الخدمة للآخرين

1. تكامل سهل مع التطبيقات والمواقع الأخرى:

- يتيح NoBadWords للمطورين وأصحاب المواقع استخدام نظام فلترة المحتوى مباشرة على مواقعهم أو تطبيقاتهم عبر مفتاح API.

- يمكن إنشاء مفتاح API من الملف الشخصي واستخدامه للاتصال بالنظام بكل سهولة.

2. نظام الدفع والاشتراكات:

- يمكن للمواقع الأخرى شراء رموز (Tokens) لاستخدام API بحسب حجم الاستخدام واحتياجاتهم.

- الخطط مرنة وتشمل:

- Free: 1,000 رمز مجاني للبدء.

- Starter: 50,000 رمز مقابل 1.25$ لمدة 30 يومًا مع وصول عبر API.

- Pro: 500,000 رمز مقابل 7.5$ لمدة 90 يومًا مع أمان متقدم.

- Enterprise: 2,500,000 رمز مقابل 25$ سنويًا مع اتفاقية خدمة مخصّصة للمؤسسات.

3. أمثلة ومرجع التوثيق:

- يتم توضيح كيفية إرسال النصوص عبر POST إلى نقطة النهاية /classify مع توثيق Authorization باستخدام Bearer Token.

- معالجة الأخطاء مثل 401 (مفتاح API غير صالح)، 429 (استهلاك الحد المسموح)، 400 (طلب غير صالح).

4. توصيات أمنية:

- لا تخزين مفاتيح API على العميل مباشرة، بل عبر وسيط جهة خادم.

- تدوير المفاتيح بشكل دوري.

- تطبيق تحديد المعدل (Rate Limiting) وقيود IP لمنع إساءة الاستخدام.

----------

ميزة إدارة السجلات (History Management)

1. تسجيل جميع النصوص المدخلة:

- يتم حفظ جميع الجمل والنصوص التي يقوم المستخدم بإدخالها، سواء كان مسجلاً الدخول أو زائراً فقط.

2. دمج السجلات عند تسجيل الدخول:

- عند تسجيل المستخدم دخوله، يتم دمج السجلات السابقة التي تم إدخالها قبل تسجيل الدخول مع السجل الحالي للحساب، لضمان متابعة كل التحليلات السابقة في مكان واحد.

3. عرض وتحليل السجلات:

- إمكانية عرض جميع التحليلات السابقة باستخدام مرشحات مثل:

- التاريخ

- الفئة المتوقعة (سام/غير سام)

- نسبة السمية (toxic_ratio)

- عدد الرموز المستخدمة

- النص الأصلي

- يسهل البحث بين النصوص وتصفيتها للحصول على نتائج دقيقة.

----------

ميزات الأمان وإدارة الحسابات

1. تفعيل البريد الإلكتروني بعد التسجيل:

- بعد تسجيل الحساب، يطلب من المستخدم تفعيل بريده الإلكتروني عبر كود تفعيل يُرسل للبريد.

- صلاحية الكود: 5 دقائق فقط.

- خلال هذه الفترة، لا يمكن إرسال أي كود آخر، مما يزيد من أمان العملية ويمنع إساءة الاستخدام.

2. استعادة كلمة المرور (نسيت كلمة السر):

- عند نسيان كلمة المرور، يطلب النظام البريد الإلكتروني المرتبط بالحساب.

- يتم إرسال رابط لتعيين كلمة المرور الجديدة إلى البريد.

- عند الضغط على الرابط، يُطلب من المستخدم إدخال كلمة مرور جديدة ليتم تحديثها وتعيينها بنجاح.

- تضمن هذه الخاصية استعادة آمنة وسريعة للحسابات دون تعريض بيانات المستخدم للخطر.

----------

الفائدة:

يمكن لأصحاب التطبيقات والمواقع والمجتمعات الرقمية استخدام NoBadWords لضمان بيئة رقمية آمنة، تقليل المحتوى المسيء، وتحسين تجربة المستخدم بشكل عام.

----------