Facebook: Мы лучше контролируем наготу, чем ненависть

15.05.2018

Потребовалось избавиться от расистских, сексистских и других ненавистных замечаний на Facebook, потому что компьютерные программы испытывают трудности с пониманием нюансов человеческого языка, заявила компания во вторник.

В ходе самооценки Facebook сказал, что ее система полицейской деятельности лучше очищает графическое насилие, безвозмездную наготу и террористическую пропаганду. Facebook сказал, что автоматизированные инструменты выявили 86% до 99,5% нарушений в этих категориях.

Для разжигания ненависти человеческие рецензенты Facebook и компьютерные алгоритмы выявили лишь 38% нарушений. Остальные пришли после того, как пользователи Facebook отметили оскорбительный контент для просмотра.

В докладе вторника было первое разбиение на Facebook того, сколько материала он удаляет. Статистика охватывает относительно короткий период с октября 2017 года по март этого года и не раскрывает, как долго, в среднем, требуется Facebook, чтобы удалить материал, нарушающий его стандарты. В отчете также не рассматривается, сколько недопустимого контента Facebook пропустил.

Facebook сообщила, что в течение первых трех месяцев этого года было удалено 2,5 миллиона штук контента, что считалось неприемлемой реакцией на ненависть, по сравнению с 1,6 миллиона в предыдущем квартале. Компания приписывала лучшее обнаружение, даже когда говорилось, что компьютерные программы не могут понять контекст и тон языка.

В течение первых трех месяцев этого года Facebook сократил 3,4 миллиона штук графического насилия, почти втрое превысив 1,2 миллиона в течение предыдущих трех месяцев. В этом случае лучшее обнаружение было лишь частью причины. Facebook сказал, что пользователи более агрессивно публикуют изображения насилия в таких местах, как раздираемая войной Сирия.

Повышенная прозрачность приходит, поскольку компания Menlo Park, штат Калифорния, пытается внести поправки в скандал с конфиденциальностью, вызванный политикой, которая позволила компании по добыче данных связать себя с кампанией президента Дональда Трампа 2016 года для сбора личной информации на 87 миллионов пользователей , Однако скрининг контента не имеет ничего общего с защитой конфиденциальности и направлен на поддержание благоприятной для семьи атмосферы для пользователей и рекламодателей.

В докладе также рассматриваются поддельные счета, которые в последние месяцы получили больше внимания, после того как выяснилось, что российские агенты использовали поддельные счета для покупки рекламы, чтобы попытаться повлиять на выборы в 2016 году.

Facebook ранее оценил поддельные счета, на которые от 3 до 4 процентов его ежемесячных активных пользователей. В отчете во вторник говорится, что Facebook заблокировал 583 миллиона поддельных счетов в течение первых трех месяцев этого года, по сравнению с 694 миллионами в предыдущем квартале. Facebook сказал, что число колеблется от квартала к кварталу. Facebook сказал, что более 98 процентов учетных записей были пойманы, прежде чем пользователи сообщили о них.