В то время как современные инструменты для преследования, такие как блокировка пользователей или фильтрация триггерных слов, смогут оказать помощь, многие случаи ожесточённого обращения в сети так незаметны, что сам по себе способ может не улавливать различные сигналы.Но что, если бы люди в самом деле имели возможность использовать собственных друзей, чтобы оказать помощь модерировать личные учетные записи и обезопасисть их от оскорбительных сообщений?Команда из Лаборатории компьютерных наук и искусственного интеллекта Массачусетского технологического университета (CSAIL) использует этот подход с «Squadbox», новым инструментом краудсорсинга, что разрешает людям, ставшим объектами преследований, координировать «отряды» друзей для фильтрации и поддержки сообщений их в течении атак. .Команда опросила последовательность ученых, активистов и деятелей Youtube и осознала, что многие люди, которых преследуют по email, сохраняют надежду на друзей и семью, чтобы обезопасисть себя от оскорбительных сообщений.Старший автор и профессор Массачусетского технологического университета Дэвид Каргер говорит, что Squadbox пробует сделать так называемый «поиск друзей» более действенным и менее трудоемким для администраторов.
«Если вы администраторам ключи от собственного почтового коробки, как модератор выяснит, в то время, в то время, когда имеется Email, которое нужно модерировать, и какое письмо уже было обработано вторыми администраторами?» — говорит Каргер. «Squadbox разрешает пользователям настраивать обработку входящей электронной почты, разделяя работу, чтобы избежать дублирования упрочнений».Каргер написал новую статью с аспирантом Эми Чжан и бывшей студенткой Массачусетского технологического университета и нынешним инженером-программистом Кейтлин Махар. Команда представит собственную работу в апреле на конференции ACM CHI по человеческому фактору в вычислительных совокупностях в Монреале, Канада.
Модерация "от друзей"При помощи Squadbox «обладатель» команды может настроить фильтры для автоматической пересылки входящего контента в конвейер модерации. В то время, когда приходит Email, модератор решает, какие конкретно конкретно Email являются оскорбительными, а какие конкретно конкретно смогут быть отправлены обратно в почтовый коробку человека.
К примеру, предположим, что журналист хочет иметь общедоступный адрес электронной почты для получения советов по новостям, но опасается иметь его из-за того, как частенько ее преследуют люди, каковые не согласны с ее репортажем. Она имела возможность создать учетную запись Squadbox с двумя родными сотрудниками в качестве администраторов, а затем использовать собственную учетную запись везде, где она хочет поделиться своим адресом электронной почты. Любое Email, которое она получает на этот адрес, вначале проходит через ее команду.
«Прошлые ответы целиком и полностью зависели от автоматизированных способов или чрезмерно зависели от социальных ответов, таких как простое предоставление информации об учетной записи другу», — говорит Клиффорд Лампе, профессор информации в Мичиганском университете. «Это направление работы оказывает помощь создать карту для одного гибридного решения проблемы преследований, которое существенно дополняет людскую помощь инструментами».Без оглядки на то, что команда планирует расширить возможности Squadbox для работы с платформами социальных сетей, они говорят, что email имеется особенно нужной совокупностью для изучения домогательств.
«Что интересно в email, так это то, что она не есть открытой, как Twitter или Facebook, — говорит Каргер. «Это показывает, что преступники смогут чувствовать меньшую ответственность, по обстоятельству того, что их комментарии не являются публичными».Squadbox также разрешает пользователям создавать «белые списки» отправителей «и чёрные» списки, чьи Email будут машинально утверждаться или отклоняться без модерации. Пользователи кроме этого будут деактивировать и повторно активировать совокупность, просматривать оценки токсичности сообщений и отвечать на агрессоров.
«Притеснение по собственной сути лишает силы, и предоставление выжившим вариантов разрешает им снова взять контроль», — говорит Эмили Мэй, соучредитель и исполнительный директор глобальной инициативы по борьбе с домогательствами Hollaback! «Squadbox рекомендован не только дабы напоминать людям, что у них имеется сообщество, но и дабы активировать это сообщество от их имени».Команда оценила Squadbox на пяти парах друзей и осознала, что использование друзей оказывает помощь избавиться от опасений за неприкосновенность личной судьбе и разрешает жертвам принимать более индивидуальные ответы. Но пользователи равно как и прежде волновались, что друг вероятно чувствителен к медленному времени отклика, и что совокупность также может «распределять» нагрузку.
Команда говорит, что наличие нескольких администраторов вероятно может оказать помощь в ответе данной проблеме.«Squadbox предлагает настоящую совокупность помощи для людей, которых преследуют в сети при помощи вторых людей», — говорит Мэй. «Нам нужно вернуть контроль над выжившими и создать сообщества, достаточно сильные, чтобы заявить: это не тот Интернет, что мы хотим.
Это не тот мир, что мы хотим. И мы больше не планируем его терпеть».Примечание редактора: для получения дополнительной информации о «Squadbox: борьба с онлайн-домогательствами при помощи модерации через друзей» см .: https://www.csail.mit.edu/research/squadbox-combating-online-harassment-using-friendsourced-moderation