رديت والمحتوى الضار: كيف تستخدم المنصة الذكاء الاصطناعي لحماية المستخدمين؟

أصبح ملف رديت والمحتوى الضار أكثر أهمية مع توسع استخدام الذكاء الاصطناعي في إنشاء المنشورات والتعليقات والحسابات الآلية. وكلما أصبح إنشاء المحتوى أسرع، زادت صعوبة التمييز بين التفاعل الحقيقي والسلوك المنظم أو المزيف.

لذلك، توسع Reddit في استخدام الأنظمة الآلية ونماذج الذكاء الاصطناعي لرصد السبام، والتلاعب بالتصويت، والحسابات المشبوهة، وبعض أشكال المحتوى المخالف.

ومع ذلك، لا تعتمد المنصة على الذكاء الاصطناعي وحده. فهي تستخدم مزيجًا من الأنظمة الآلية والمراجعة البشرية ومشرفي المجتمعات وتقارير المستخدمين.

رديت والمحتوى الضار في عصر الذكاء الاصطناعي

تعتمد Reddit على ملايين المنشورات والتعليقات التي ينشرها المستخدمون داخل المجتمعات المختلفة.

لكن هذا الحجم يجعل المنصة هدفًا للسبام والحسابات المزيفة ومحاولات التلاعب بترتيب المحتوى.

كما يمكن استخدام أدوات الذكاء الاصطناعي لإنشاء رسائل تبدو طبيعية، رغم أنها جزء من نشاط منظم.

ولهذا السبب، لا تراقب Reddit الكلمات فقط، بل تستخدم أيضًا إشارات مرتبطة بسلوك الحساب وطريقة النشر والتفاعل.

كيف تستخدم Reddit الذكاء الاصطناعي لمواجهة السبام؟

أعلنت Reddit في يوليو 2026 أنها طورت أدواتها الآلية للكشف المبكر عن المحتوى المزيف والسبام.

وتقول الشركة إن الأنظمة الجديدة تمنع نحو 23 مليون مشاهدة للسبام يوميًا قبل وصولها إلى المستخدمين.

كما تكتشف قرابة 25 ألف منشور وتعليق سبام إضافي يوميًا.

بالإضافة إلى ذلك، تقول Reddit إن التعرض للسبام انخفض بنحو 20% بين يناير ومارس 2026 مقارنة بالأشهر الثلاثة السابقة.

يمكن الاطلاع على إعلان Reddit الرسمي حول أدوات الأمان في عصر الذكاء الاصطناعي.

رديت والمحتوى الضار والتصويت غير الأصيل

يشكل التصويت جزءًا أساسيًا من طريقة ترتيب المحتوى داخل Reddit.

لذلك، قد تصبح عمليات التصويت المزيفة مشكلة كبيرة إذا استخدمتها حسابات منسقة لرفع منشور أو تعليق بصورة مصطنعة.

وتقول Reddit إن أنظمتها أصبحت تلغي ما يقارب مليوني تصويت غير أصيل يوميًا.

وهذا لا يعني أن جميع أشكال التلاعب اختفت.

لكنه يوضح أن المنصة تتعامل مع التصويت كجزء من منظومة الأمان، وليس مجرد ميزة اجتماعية.

كيف تكشف Reddit الحسابات المشبوهة؟

تقول الشركة إنها تستخدم إشارات تبدأ منذ لحظة إنشاء الحساب.

وبعد ذلك، تحلل الأنظمة الأنماط المرتبطة بالنشر والتفاعل والتنسيق بين الحسابات.

كما تستخدم Reddit نماذج لغوية كبيرة لاكتشاف بعض الأنماط الدقيقة التي قد لا تلتقطها الأنظمة القديمة بسهولة.

ومن ناحية أخرى، قد تطلب المنصة من بعض الحسابات الآلية أو المشبوهة التحقق من أنها تعود إلى مستخدم حقيقي.

وبهذه الطريقة، تحاول تقليل النشاط المزيف قبل أن ينتشر داخل المجتمعات.

الذكاء الاصطناعي ومحتوى الكراهية والعنف

لا يقتصر استخدام الأنظمة الآلية على السبام.

فقد وسعت Reddit أنظمة الكشف لتشمل المحتوى الإنجليزي المرتبط بالكراهية والعنف.

وتقول الشركة إن متوسط الفترة بين اكتشاف هذا المحتوى واتخاذ الإجراء انخفض إلى أقل من خمس ثوانٍ.

كما ذكرت أن إجراءات الإنفاذ المتعلقة بمحتوى الكراهية والعنف ارتفعت بأكثر من 200%.

وفي الوقت نفسه، تقول Reddit إن التعرض للمحتوى المحتمل أن يكون ضارًا انخفض بأكثر من 40%.

لكن هذه الأرقام صادرة عن الشركة نفسها، لذلك من الأفضل التعامل معها باعتبارها نتائج أعلنتها Reddit عن أنظمتها، وليست تقييمًا مستقلًا لفعاليتها.

هل تؤدي الأنظمة الآلية إلى حذف محتوى سليم؟

تمثل الأخطاء الإيجابية الكاذبة أحد تحديات أنظمة الإشراف الآلي.

فقد تصنف الخوارزمية أحيانًا محتوى مشروعًا على أنه مخالف.

لكن Reddit تقول إن التحسينات الأخيرة خفضت هذه الحالات بأكثر من 40%.

ومع ذلك، لا توجد خوارزمية قادرة على فهم جميع السياقات بصورة مثالية.

لذلك، يبقى الجمع بين الأتمتة والمراجعة البشرية مهمًا، خصوصًا في الحالات المعقدة.

المشرفون جزء أساسي من حماية Reddit

تعتمد المنصة على نموذج متعدد الطبقات.

فإدارة Reddit تطبق القواعد العامة للمنصة باستخدام فرق الأمان والأدوات الآلية.

أما مشرفو المجتمعات، فيطبقون القواعد الخاصة بكل مجتمع.

كما يستخدم المشرفون أدوات مثل Reputation Filter وCrowd Control وأنظمة اكتشاف التهرب من الحظر.

بالإضافة إلى ذلك، يستطيع المستخدمون الإبلاغ عن المحتوى المخالف أو التصويت عليه، ما يضيف طبقة أخرى من الرقابة المجتمعية.

ماذا تقول تقارير الشفافية عن المحتوى المخالف؟

توضح أحدث تقارير الشفافية المتاحة أن السبام لا يزال يمثل جزءًا كبيرًا من المحتوى الذي تتدخل الإدارة لإزالته.

ففي النصف الأول من عام 2025، شكّل السبام 57.5% من عمليات إزالة المحتوى التي نفذها مسؤولو Reddit.

أما أشكال التلاعب الأخرى بالمحتوى، ومنها التلاعب بالتصويت، فمثلت نحو 0.6% من عمليات الإزالة الإدارية.

وتوضح هذه الأرقام أن السبام يظل من أكبر التحديات التشغيلية للمنصة حتى مع تطور أنظمة الكشف.

رديت والمحتوى الضار لا يعتمد على الذكاء الاصطناعي وحده

رغم تركيز Reddit على الأدوات الآلية، تؤكد الشركة أن استراتيجيتها تعتمد على عدة طبقات.

تشمل هذه الطبقات فرق الأمان الداخلية، والمشرفين المتطوعين، والأنظمة الآلية، وتقارير المستخدمين.

كما يؤثر التصويت نفسه في مدى ظهور المحتوى.

لذلك، لا يمكن اختزال أمان المنصة في نموذج ذكاء اصطناعي واحد.

بل تعتمد النتيجة على تفاعل السياسات والأدوات التقنية والبشر والمجتمعات.

Reddit Answers أصبح جزءًا من البحث

استخدمت Reddit الذكاء الاصطناعي أيضًا لتطوير تجربة البحث.

وأطلقت الشركة Reddit Answers في ديسمبر 2024 بوصفه واجهة تعتمد على الذكاء الاصطناعي لتلخيص النقاشات والعثور على إجابات من المجتمعات.

لكن هذا تغير لاحقًا.

ففي 26 مايو 2026 أعلنت Reddit دمج Reddit Answers داخل تجربة البحث الرئيسية، بدل بقائه منتجًا منفصلًا.

وتستمر الفكرة في استخدام الذكاء الاصطناعي للوصول إلى النقاشات والمعلومات داخل Reddit، مع ربط المستخدم بالمصادر والمنشورات الأصلية.

يمكن قراءة إعلان Reddit الرسمي حول Reddit Answers وتحديث دمجه في البحث.

الذكاء الاصطناعي والطابع البشري للمنصة

تواجه Reddit مفارقة واضحة.

فالمنصة تستخدم الذكاء الاصطناعي لحماية النقاشات البشرية، بينما تستطيع الأدوات نفسها إنتاج محتوى آلي يصعب تمييزه عن كتابات المستخدمين الحقيقيين.

لذلك، تركز الشركة في رسائلها الأخيرة على فكرة الحفاظ على Reddit كمكان يعتمد على التفاعل الحقيقي.

لكن نجاح هذه الفكرة يعتمد على قدرة الأنظمة على اكتشاف السلوك غير الأصيل دون إزعاج المستخدمين الحقيقيين أو إزالة محتواهم بالخطأ.

هل تستطيع التكنولوجيا القضاء على المحتوى الضار؟

من غير الواقعي توقع اختفاء المحتوى المخالف بالكامل.

فأساليب السبام والتلاعب تتغير باستمرار، كما تتطور الأدوات التي يستخدمها المسيئون.

لذلك، تصبح المهمة سباقًا مستمرًا بين أنظمة الحماية وطرق تجاوزها.

ومن ناحية أخرى، تحتاج المنصة إلى الحفاظ على مساحة للنقاش والتعبير دون ترك المجال مفتوحًا للكراهية والتهديدات والتلاعب المنظم.

وهذا التوازن سيبقى أحد أكبر تحديات شبكات التواصل خلال عصر الذكاء الاصطناعي.

اقرأ أيضًا: هواتف سامسونج الجديدة وتحديثات الأمان: كيف تختار هاتفًا يدوم أطول؟

خلاصة رديت والمحتوى الضار

يوضح ملف رديت والمحتوى الضار كيف أصبح الذكاء الاصطناعي أداة دفاع ومصدر تحدٍ في الوقت نفسه.

فبحسب Reddit، تساعد أنظمتها على تقليل السبام، وإلغاء التصويت غير الأصيل، وتسريع التعامل مع محتوى الكراهية والعنف.

لكن المنصة لا تعتمد على التكنولوجيا وحدها.

وفي النهاية، يبدو أن مستقبل الأمان في Reddit سيعتمد على الجمع بين الذكاء الاصطناعي والمراجعة البشرية والمشرفين والمستخدمين، مع استمرار تطوير أدوات تكشف السلوك غير الأصيل قبل أن يصل إلى عدد كبير من الأشخاص.