ИИ научили распознавать разжигание ненависти, чтобы бороться с троллями в Твиттере

Тролли, бьющие по клавиатуре, являются нормой в Твиттере, и социальная сеть не справляется с задачей контроля над ними. Настолько, что одно креативное агентство от третьего лица позвонило Возможный, счел необходимым вмешаться и превратить разжигание ненависти во что-то хорошее, запустив кампанию под названием Мы противодействуем ненависти.

Партнерство с Спредфаст, Возможно, удалось научить ИИ распознавать ненавистнические твиты. Когда ИИ обнаруживает сообщение ненависти, модератор-человек отправит троллю ответный твит, предупреждая его о том, что его твиту противостоит кармическая доброта. За каждый ретвит We Counter Hate, Could, за счет пожертвований общественности, сделает взнос в размере 1 доллара в некоммерческую организацию. Жизнь после ненависти.

Разговариваю с ВенчурБит, Возможно, объяснил, как команда научила своего бота распознавать разжигание ненависти с помощью адаптации Грегори Стэнтона. Десять этапов геноцидасократив свой документ до фрагментов, имеющих отношение только к Твиттеру – от твитов, призванных дегуманизировать, до твитов, призванных поляризовать сообщества.

Работая со Spredfirst, чтобы помочь модерировать входящие сообщения, ИИ классифицирует эти твиты по различным потокам языка ненависти. Затем возможное пропускает это через свою систему, чтобы она могла изучить лингвистические нюансы речи. После обучения он помечает сообщения, чтобы модераторы могли вмешаться и определить, что на самом деле является языком ненависти, а что могло быть просто сбито с толку системой.

(Вверху: пример @we_counter_hate в действии)

Сражаетесь с троллями на любимой платформе? Это хорошая идея. За исключением… есть несколько серьезных недостатков.

Проблемы использования ботов для борьбы с троллями

Тролли любят разрушать благие дела. Я не могу не вспомнить болезненную серию событий, связанных с актером Шайей ЛаБафом. В онлайн-арт-перформансе под названием Он не разделит нас, ЛаБаф попытался запустить 24-часовую трансляцию протеста против инаугурации Дональда Трампа. Предполагалось, что его будут показывать в течение всего срока полномочий Трампа, но его дом в Музее движущегося изображения просуществовал всего три недели после крупномасштабного нападения троллей.

«Мы противодействуем ненависти», похоже, являются лучшим вариантом для повторения рецепта неудачи Лабафа. Нетрудно представить сценарии, в которых тролли постоянно находят способы сломать бота.

Во-вторых, не кажется ли, что кампания в каком-то извращенном смысле чуть ли не стимулирует разжигание ненависти? Если вы хотите видеть больше контртвитов, в первую очередь необходимо публиковать твиты, наполненные ненавистью, в социальной сети. Люди могут просто публиковать разжигающие ненависть высказывания, чтобы активировать бота.

Хотя подобные кампании, в теории, хороши, большая часть моего скептицизма ошибочна в сторону того, что все это закончится плачевно для пользователей. Дело в том, что не существует единого четкого решения проблемы онлайн-троллей. Проблемы, возможно, проистекают из самих систем социальных сетей; что-то вроде Twitter и Facebook часто завязывается в узлы, пытаясь распутать их. Не существует единого надежного решения, и бот, который в конечном итоге работает на маркетинг одного креативного агентства, вряд ли решит проблему самостоятельно.