Август 7th, 2023 
raven000 Количество пользователей Facebook* давно превысило 2 млрд и продолжает расти, так что задача контроля за соблюдением правил сообщества становится всё более сложной. Незавидная работа возложена на плечи команды модераторов, насчитывающей 7500 человек (помимо алгоритмов сайта), которые просматривают множество неприглядных публикаций, начиная с террористических материалов и заканчивая изображениями жестокого обращения с детьми.
Неудивительно, что модераторы не всегда верно понимают суть изображения или публикации (частично из-за двусмысленных рекомендаций самой Facebook*). Проблеме распространения ненависти и вражды с помощью крупнейшей социальной сети был посвящён недавний материал некоммерческой организации ProPublica.
Её сотрудники отправили в Facebook* набор из 49 примеров (выбранных из 900 публикаций добровольцев) с просьбой объяснить решения модераторов. В большинстве этих случаев сообщения, содержавшие сексистские, расистские или антимусульманские высказывания, остались опубликованными; в нескольких же случаях вполне законное выражение эмоций было удалено. Социальная сеть признала, что её редакторы неверно отреагировали на 22 случая. В шести примерах Facebook* сказала, что пользователи запутали модераторов неверно оформленными жалобами или авторы сами удалили сообщения; а в двух случаях не было достаточно информации для реакции. Компания также выступила в защиту решений 19 своих редакторов.
«Мы сожалеем об ошибках, которые допустили, — сказал в заявлении Facebook* вице-президент Джастин Ософский (Justin Osofsky). — Мы должны справляться лучше». Руководитель добавил, что в следующем году социальная сеть расширит свою команду по безопасности и защите до 20 тысяч человек, чтобы лучше поддерживать стандарты сообщества. Он добавил, что Facebook* еженедельно удаляет порядка 66 тысяч сообщений, на которые поступают жалобы в распространении ненависти.
Помимо борьбы с дезинформацией, Facebook* старается развивать и свои инструменты для удаления чувствительных материалов. Например, в апреле социальная сеть добавила механизм жалоб на «порновозмездие» (Revenge Porn — распространение фото- или видеоматериалов жертвы, запечатлённой во время сексуальной активности или в ином непотребном виде). Появляются и другие инструменты борьбы с агрессивным поведением собеседников и тому подобными тёмными сторонами общения в социальных сетях. Например, благодаря недавним новшествам должен снизится поток нежелательных сообщений и запросов в друзья.
* Внесена в перечень общественных объединений и религиозных организаций, в отношении которых судом принято вступившее в законную силу решение о ликвидации или запрете деятельности по основаниям, предусмотренным Федеральным законом от 25.07.2002 № 114-ФЗ «О противодействии экстремистской деятельности».
Опубликовано в рубрике 
