Facebook Использование AI для уничтожения учетных записей террористов

Facebook Использование AI для уничтожения учетных записей террористов
Эта история первоначально появилась на PCMag Facebook в четверг показал, что теперь использует искусственный интеллект для хранения террористического контента от таких групп, как ISIS и Al Qaeda. «Наша позиция проста: на Facebook нет места для терроризма», - заявил директор Facebook Руководство по глобальной политике Моника Бикерт и менеджер по борьбе с терроризмом Брайан Фишман написал в блоге.
Эта история первоначально появилась на PCMag

Facebook в четверг показал, что теперь использует искусственный интеллект для хранения террористического контента от таких групп, как ISIS и Al Qaeda.

«Наша позиция проста: на Facebook нет места для терроризма», - заявил директор Facebook Руководство по глобальной политике Моника Бикерт и менеджер по борьбе с терроризмом Брайан Фишман написал в блоге.

Facebook стремится немедленно найти и удалить террористический контент, прежде чем люди в нашем сообществе его заметят », - сказали они. Для достижения этой цели используется ИИ в партнерстве с человеческим опытом. Для начала Facebook использует технологию сопоставления изображений, чтобы люди не отправляли фотографии или видео известных террористов. Он также тестирует алгоритм «понимания языка», который может идентифицировать текстовую террористическую пропаганду.

ИИ также используется для определения и удаления того, что он называет «террористическими кластерами».

«Когда мы идентифицируем страницы, группы, сообщения или профилей, поддерживающих терроризм, мы также используем алгоритмы «разгонять», чтобы попытаться идентифицировать связанные материалы », - объяснил Бикерт и Фишман. Алгоритмы используют сигналы, например, как друзья знакомы с множеством других людей, которые были отключены для терроризма, или же они «разделяют те же атрибуты, что и отключенная учетная запись».

Бикерт и Фишман сказали, что ИИ Facebook стал намного быстрее на обнаружение поддельных счетов, созданных повторными нарушителями. Из-за этого компания «смогла значительно сократить время, в течение которого учетные записи террористов-рецидивистов находятся на Facebook», - сказали они.

Facebook также работает над внедрением этих технологий на другие платформы, включая WhatsApp и Instagram.

«Эта работа никогда не заканчивается, потому что она состязательна, и террористы постоянно развивают свои методы», - писал Бикерт и Фишман. «Мы постоянно определяем новые способы, с помощью которых терактеры пытаются обойти наши системы, - и мы соответствующим образом обновляем нашу тактику».

В настоящее время Facebook фокусируется на ISIS, «Аль-Каиде» и их дочерних компаниях, хотя и пытается расширить эти усилия, чтобы заблокировать другие террористические организации в будущем.