يطارد الذكاء الاصطناعي على Facebook ويزيل المحتوى الضار

أعلن Facebook عن تقنية ذكاء اصطناعي جديدة يمكنها التعرف بسرعة على المحتوى الضار من أجل جعل Facebook أكثر أمانًا. يستخدم نموذج الذكاء الاصطناعي الجديد التعلم “قليل اللقطات” لتقليل الوقت لاكتشاف أنواع جديدة من المحتوى الضار من أشهر إلى فترة أسابيع.

التعلم بلقطات قليلة

قليل من التعلم له أوجه تشابه مع التعلم بدون طلقة. كلاهما من تقنيات التعلم الآلي التي تهدف إلى تعليم آلة لحل مهمة غير مرئية من خلال تعلم تعميم التعليمات لحل مهمة ما.

يتم تدريب نماذج التعلم ذات اللقطات القليلة على أمثلة قليلة ومن هناك يمكن توسيع نطاق المهام غير المرئية وحلها، وفي هذه الحالة تتمثل المهمة في تحديد أنواع جديدة من المحتوى الضار.

تتمثل ميزة نموذج الذكاء الاصطناعي الجديد من Facebook في تسريع عملية اتخاذ الإجراءات ضد الأنواع الجديدة من المحتوى الضار.

جاء في إعلان فيسبوك:

“يستمر المحتوى الضار في التطور بسرعة – سواء كانت مدفوعة بالأحداث الجارية أو الأشخاص الذين يبحثون عن طرق جديدة للتهرب من أنظمتنا – ومن الأهمية بمكان أن تتطور أنظمة الذكاء الاصطناعي جنبًا إلى جنب معها.

ولكن عادةً ما يستغرق الأمر عدة أشهر لجمع وتصنيف الآلاف، إن لم يكن الملايين، من الأمثلة اللازمة لتدريب كل نظام ذكاء اصطناعي فردي على اكتشاف نوع جديد من المحتوى.

… يستخدم هذا النظام الجديد للذكاء الاصطناعي طريقة تسمى “التعلم بلقطات قليلة”، حيث تبدأ النماذج بفهم عام للعديد من الموضوعات المختلفة ثم تستخدم عددًا أقل بكثير – أو أحيانًا صفر – أمثلة معنونة لتعلم مهام جديدة. ”

التكنولوجيا الجديدة فعالة في مائة لغة وتعمل على الصور والنصوص.

يُقصد بالذكاء الاصطناعي الجديد للتعلم قليل اللقطات من Facebook إضافة إلى الأساليب الحالية لتقييم المحتوى الضار وإزالته.

على الرغم من أنها إضافة إلى الأساليب الحالية، إلا أنها ليست إضافة صغيرة، إلا أنها إضافة كبيرة. تأثير الذكاء الاصطناعي الجديد هو تأثير كبير الحجم بالإضافة إلى السرعة.

“يستخدم نظام الذكاء الاصطناعي الجديد هذا طريقة جديدة نسبيًا تسمى” التعلم قليل اللقطات “، حيث تبدأ النماذج بفهم عام كبير للعديد من الموضوعات المختلفة ثم تستخدم عددًا أقل بكثير، وفي بعض الحالات لا تستخدم الأمثلة المصنفة لتعلم مهام جديدة.

إذا كانت الأنظمة التقليدية مماثلة لخط الصيد الذي يمكن أن يصطاد نوعًا معينًا من الصيد، فإن FSL هي شبكة إضافية يمكنها تجميع أنواع أخرى من الأسماك أيضًا “.

جديد Facebook AI Live

كشف فيسبوك أن النظام الجديد منتشر حاليا ومباشر على فيسبوك. تم اختبار نظام الذكاء الاصطناعي لاكتشاف المعلومات الخاطئة الضارة عن لقاح COVID-19.

تم استخدامه أيضًا لتحديد المحتوى الذي يهدف إلى التحريض على العنف أو مجرد السير إلى الحافة.

استخدم Facebook المثال التالي للمحتوى الضار الذي لا ينتهي إلى حد مجرد التحريض على العنف:

“هل هذا الرجل بحاجة إلى كل أسنانه؟”

يزعم الإعلان أن نظام الذكاء الاصطناعي الجديد قد ساعد بالفعل في تقليل كمية خطاب الكراهية المنشور على Facebook.

شارك Facebook رسمًا بيانيًا يوضح كيف انخفض مقدار خطاب الكراهية على Facebook مع تنفيذ كل تقنية جديدة.

يظهر الرسم البياني نجاح Facebook في اكتشاف الكلام الذي يحض على الكراهية

يستتبع التعلم قليل الطلقات

يطلق Facebook على تقنيتهم ​​الجديدة، Entailment Few-Shot Learning.

لديه قدرة رائعة على تسمية النص المكتوب بشكل صحيح على أنه كلام يحض على الكراهية. تشير الورقة البحثية ذات الصلة ( Entailment as Few-Shot Learner PDF) إلى أنها تتفوق على تقنيات التعلم الأخرى قليلة اللقطات بنسبة تصل إلى 55٪ وتحقق في المتوسط ​​تحسنًا بنسبة 12٪.

استخدمت مقالة Facebook حول البحث هذا المثال:

“… يمكننا إعادة صياغة أحد المدخلات الظاهرة لتصنيف المشاعر وزوج التسمية:

[x: “أنا أحب مجموعتك العرقية. كيه. يجب أن تكون جميعًا بطول ستة أقدام تحت الأرض “y: إيجابي] على النحو التالي عينة الاستلزام النصية:

[x: أحب مجموعتك العرقية. كيه. يجب أن تكون جميعًا على بعد 6 أقدام تحت الأرض. هذا كلام يحض على الكراهية. ص: يستلزم]. “

فيسبوك تعمل على تطوير ذكاء اصطناعي يشبه الإنسان

أوضح الإعلان عن هذه التكنولوجيا الجديدة أن الهدف هو “مرونة وكفاءة التعلم” مثل الإنسان والتي ستسمح لها بالتطور مع الاتجاهات وفرض سياسات محتوى Facebook الجديدة في فترة زمنية سريعة، تمامًا مثل الإنسان.

التكنولوجيا في المرحلة الأولى وفي الوقت المناسب، يتصور Facebook أنها أصبحت أكثر تعقيدًا وانتشارًا.

“يمكن لنظام ذكاء اصطناعي قابل للتعليم مثل Few-Shot Learner أن يحسن بشكل كبير من مرونة قدرتنا على اكتشاف المواقف الناشئة والتكيف معها.

من خلال تحديد المحتوى المتطور والضار بشكل أسرع وأكثر دقة، فإن FSL لديها وعد بأن تكون جزءًا هامًا من التكنولوجيا التي ستساعدنا على الاستمرار في تطوير ومعالجة المحتوى الضار على أنظمتنا “.

اقتباسات

اقرأ إعلان Facebook عن الذكاء الاصطناعي الجديد

نظام الذكاء الاصطناعي الجديد لدينا للمساعدة في معالجة المحتوى الضار

مقال حول تقنية Facebook الجديدة

يمكن أن يتطور المحتوى الضار بسرعة. يتكيف نظام الذكاء الاصطناعي الجديد لدينا للتعامل معه

اقرأ ورقة بحث Facebook

الاستحواذ كمتعلم قليل الطلقات (PDF)