يمكن لمنظمة العفو الدولية فحص خطاب الكراهية عبر الإنترنت وإعادة التحكم للمستخدمين:

أخبارتكنوnewsToch


يمكن أن يتلقى المستخدمون تحذيرًا تحذيريًا من خلال "Hate O'Meter" - درجة شدة خطاب الكراهية - اسم المرسل ، وخيار لعرض المحتوى أو حذفه غير مرئي ، على غرار البريد العشوائي والبرامج الضارة.

يعد بحث جديد بالكشف عن رسائل الكراهية عبر الإنترنت وتعيين تقييم يسمح للمستخدمين بتحديد ما إذا كانوا يريدون مشاهدته.
بحث جديد يعد بالكشف عن رسائل الكراهية على الإنترنت وتعيين تقييم يسمح للمستخدمين بتحديد ما إذا كانوا يريدون مشاهدتها. (Getty Images / التمثيل)





نظرًا لأن خطاب الكراهية عبر الإنترنت في الهند وأماكن أخرى يُنظر إليه على نحو متزايد على أنه تهديد للديمقراطية ، فإن الباحثين يطورون ذكاءًا اصطناعيًا ، مثل مرشحات البرامج الضارة ، يجعل "الحجر الصحي" أو التحكم في التعرض لخطاب الكراهية ممكنًا دون اللجوء إلى الرقابة.

قام أحد اللغويين والمهندسين في جامعة كامبريدج الذين توصلوا إلى فكرة احتواء انتشار خطاب الكراهية عبر وسائل التواصل الاجتماعي بنشر مقترحهم في مجلة الأخلاقيات وتكنولوجيا المعلومات.

يستخدم الخبراء قواعد بيانات التهديدات والشتائم العنيفة لبناء خوارزميات يمكنها توفير درجة تحدد احتمال وجود رسالة عبر الإنترنت تحتوي على أشكال من خطاب الكراهية. عند تنقيح هذه الخوارزميات ، يمكن تحديد خطاب الكراهية المحتمل و "عزله".

يمكن أن يتلقى المستخدمون تحذيرًا تحذيريًا من خلال "Hate O'Meter" - درجة شدة خطاب الكراهية - اسم المرسل ، وخيار لعرض المحتوى أو حذفه غير مرئي ، على غرار البريد العشوائي والبرامج الضارة.

يقول ستيفاني أولمان ، مؤلف مشارك وخبير لغوي: "خطاب الكراهية هو شكل من أشكال الضرر المتعمد عبر الإنترنت ، مثل البرامج الضارة ، وبالتالي يمكن التعامل معه عن طريق الحجر الصحي". "في الواقع ، يتم إنشاء الكثير من الكلام الذي يحض على الكراهية في الواقع بواسطة برامج مثل روبوتات تويتر."

على سبيل المثال ، قد تتضمن كلمة مثل "الكلبة": كره كراهية للنساء ، ولكن أيضًا مصطلح شرعي في سياقات مثل تربية الكلاب. إن التحليل الخوارزمي لمكان وجود مثل هذه الكلمة في بناء جملة - أنواع الكلمات المحيطة والعلاقات الدلالية بينهما - هو الذي يُعلم درجة خطاب الكراهية.

يضيف مؤلف مشارك ومهندس ماركوس تومالين: "تستجيب شركات مثل Facebook و Twitter و Google بشكل عام لرد الفعل على الكراهية". "قد يكون هذا على ما يرام بالنسبة لأولئك الذين لا يواجهون ذلك في كثير من الأحيان. بالنسبة للآخرين ، إنه صغير جدًا ومتأخر جدًا. "

"يتلقى العديد من النساء والأشخاص المنتمين إلى مجموعات الأقليات في الرأي العام خطاب كراهية مجهول لتجرؤهم على حضورهم على الإنترنت. ونرى أن هذا يردع الناس عن الدخول أو الاستمرار في الحياة العامة ، وغالبًا ما يكونون من جماعات تحتاج إلى تمثيل أكبر ".

يقول الباحثون إن اقتراحهم ليس رصاصة سحرية ، ولكنه يقع بين "المقاربات التحررية والاستبدادية المتطرفة" إما السماح أو حظر لغة معينة تمامًا عبر الإنترنت. يجعل المستخدم الحكم.

يقول تومالين: "كثير من الناس لا يحبون فكرة وجود شركة غير منتخبة أو حكومة تدبير مصغر تقرر ما يمكننا وما لا يمكننا قوله لبعضنا البعض. سيشير نظامنا إلى متى يجب أن نكون حذرين ، لكنه دائمًا مكالمتك ".

وأضاف تومالين: "لا يمنع ذلك الأشخاص من نشر أو مشاهدة ما يحلو لهم ، ولكنه يمنح التحكم الذي تمس الحاجة إليه لأولئك الذين تغمرهم الكراهية".