يمكن لـ الفيسبوك و انستجرام الجديد AI-Tech الكشف عن ثغرة الثأر الإباحية

يعد الحجم الهائل لعدد الأشخاص الذين يستخدمون الفيسبوك يوميًا هائلاً لدرجة أنه لا مفر من أن ينتهي الأمر إلى تحميل شخص ما محتوى غير لائق إلى النظام الأساسي. لا يستمر هذا المحتوى مطلقًا بسبب حقيقة أن الناس ينتهي بهم الأمر إلى الإبلاغ عنه ، لكن فيسبوك يحاول أن يجعل نفسه أكثر أمانًا من خلال تعديل ذكائه الاصطناعي (AI) حتى تتمكن الخوارزمية من اكتشاف المحتوى الذي يتعارض مع معايير المجتمع من تلقاء نفسها من قبل يجب على المستخدمين الإبلاغ عنها. بعد كل شيء ، إذا أبلغ المستخدم عن نوع معين من المحتوى ، فهذا يعني أنه كان عليه أن يشاهده جزئيًا على الأقل ، مما يعني أن بعض المستخدمين على الأقل سوف ينتهي بهم الأمر إلى التأثر بإمكانية تشغيل المحتوى.


القرص الجديد في الفيسبوك  AI و ML (تعلم الآلة) مصمم خصيصًا لاستهداف الثأر الإباحية. ستندهش عندما تنتهي مدة تحميل إباحية الثأر إلى الفيسبوك و انستجرام كل يوم. لقد أصبح وباءً ، ومن الواضح أن موقع الفيسبوك جاهز للتعامل مع الأمر المطروح حتى يتمكن من الاستمرار في تسويق نفسه كمنصة إعلامية اجتماعية صديقة للأسرة حيث لن يتم التسامح مع مثل هذه الصور للعنف.

بعض المستخدمين قد يشعرون بالقلق إزاء إزالة AI للمحتوى الخاص به. عندما تبدأ الخوارزميات في إزالة المحتوى دون مساعدة بشرية ، تبدأ الأمور في النهاية بشكل سيء. ومع ذلك ، أكد الفيسبوك أن إزالة المحتوى الجديدة AI ستكون ذات كفاءة عالية في استهداف فقط تلك الأجزاء من المحتوى التي تنتهك حقًا معايير مجتمعها والتي وُجد أنها تثير الكراهية أو العنف أو إساءة المعاملة بطريقة أو بأخرى. سيتعين علينا أن ننتظر ونرى ما إذا كان هذا صحيحًا بالفعل أم لا ، ولكن يوافق كثير من الناس على أنه من الأفضل أن تكون آمنًا من آسف.


"يمكننا الآن بشكل استباقي اكتشاف الصور أو مقاطع الفيديو القريبة التي تتم مشاركتها دون إذن على الفيسبوك و انستجرام . هذا يعني أنه يمكننا العثور على هذا المحتوى قبل أن يبلغ أي شخص عن ذلك ، وهذا أمر مهم لسببين: غالبًا ما يخشى الضحايا من الانتقام حتى يكونوا مترددين للإبلاغ عن المحتوى بأنفسهم أو أنهم غير مدركين لمشاركة المحتوى. " أعلن أنتيجون ديفيس ، رئيس السلامة العالمي على الفيسبوك . إضافة إلى ذلك ، "سوف يقوم عضو مدرب خصيصًا من فريق عمليات المجتمع لدينا بمراجعة المحتوى الذي وجدته تقنيتنا. إذا كانت الصورة أو الفيديو ينتهك معايير المنتدى ، فسنقوم بإزالته ، وفي معظم الحالات سنقوم أيضًا بتعطيل حساب للمشاركة محتوى حميم دون إذن. نحن نقدم عملية استئناف إذا اعتقد شخص ما أننا ارتكبنا خطأ ".