Прошел всего год с тех пор Facebook Live был выпущен. Функция позволяет передавать живое видео из любой точки мира. Хотя это кажется отличным во многих отношениях, переполнение насильственным контентом в прямом эфире видео вызывает много вопросов. По данным Wall Street Journal, в прямом эфире транслировалось как минимум 50 криминальных инцидентов. Facebook Всего за один год.
Было передано убийство ребенка отцом в Таиланде и пенсионером в Кливленде, штат Огайо. Facebook Жить в апреле. NSPCC выпустила исследование, результаты которого показывают, что компании, занимающиеся социальными сетями, несут ответственность за хранение такого контента в недоступном для детей месте. Facebook Генеральный директор Марк Цукерберг рассказал о неудачных инцидентах в блоге, который говорит:
«В последние несколько недель мы видели, как люди наносили вред себе и другим в Facebook – либо в прямом эфире, либо на видео, размещенном позже. Это душераздирающе, и я размышлял над тем, как мы можем улучшить наше сообщество. Если мы хотим построить безопасное сообщество, мы должны быстро отреагировать. Мы работаем над тем, чтобы сделать эти видео более доступными, чтобы мы могли быстрее принять правильные меры, будь то быстрый ответ, когда кому-то нужна помощь, или удаление сообщения ».
Мониторинг каждого сообщения по отдельности на платформе с миллиардами пользователей так же сложен, как кажется. В компании уже работают 4500 человек, которые просматривают пользовательские отчеты, которые могут достичь миллионов за одну неделю. Сотрудники просматривают каждый пост, о котором было сообщено о нарушении условий обслуживания. Facebook Он добавляет еще 3000 сотрудников в список для мониторинга всего контента, включая видео в реальном времени. Эти работники позаботятся о том, чтобы любой контент, содержащий убийства, нападения, самоубийства, разжигание ненависти и эксплуатацию детей, был удален как можно быстрее.
Доцент кафедры информатики в Калифорнийском университете в Лос-Анджелесе доктор Сара Робертс говорит, что сотрудники, ответственные за изучение проблемного контента, имеют сложные условия труда, которые могут привести к посттравматическому стрессовому расстройству (ПТСР).
Цукерберг неоднократно заявлял, что платформа будет использовать методы искусственного интеллекта для сканирования платформы для порнографии, насильственного содержания, или что-либо другое, что нарушает условия предоставления услуг. Генеральный директор говорит, что пройдет еще много лет, прежде чем ИИ достигнет идеального уровня обнаружения нарушений. Увеличение штата мониторинга контента – это только временное решение проблемы.
Это не просто Facebook Это было подвергнуто критике за размещение пользовательского контента без достаточной модерации. Мичиганский государственный университет опросил 14 000 пользователей Интернета, уделяя особое внимание поддельным новостным темам, и результаты показывают, что пользователи по-прежнему могли получать качественную информацию из многочисленных источников. Университетский эксперт по интернет-исследованиям Уильям Даттон сказал: «Эти выводы должны предупредить правительства, бизнес и общественность о чрезмерной реакции на паническую панику».
Независимо от обстановки, никто не заслуживает того, чтобы пережить стресс от убийства, самоубийства или какого-либо насилия. Приятно осознавать, что компания предпринимает немедленные шаги, чтобы справиться с ситуацией.
