Jigsaw: API-антитоксин Perspective обрабатывает 500 млн запросов в сутки

Структурное подразделение Google — компания Jigsaw — объявляет о том, что ИПП для снижения токсичности Perspective ежесуточно обрабатывает 500 млн запросов

Компания публикует третье издание исследовательского журнала The Current, в котором рассматриваются вопросы, связанные с токсичностью в Интернете и ролью искусственного интеллекта в стимулировании здорового общения

НЬЮ-ЙОРК, 8 февраля 2021 г. /PRNewswire/ — Сегодня компания Jigsaw, являющаяся структурным подразделением Google и занимающаяся прогнозированием возникающих цифровых угроз и разработкой средств противодействия им, объявила о том, что бесплатный ИПП Perspective с открытым исходным кодом, использующий машинное обучение для выявления токсичных комментариев, в настоящее время ежесуточно обрабатывает 500 миллионов запросов, существенно снижая токсичность и повышая качество общения в сети. В опубликованном сегодня третьем выпуске исследовательского онлайн-журнала The Current подробно рассказывается о постоянной и наносящей ущерб проблеме токсичности сетевых ресурсов и роли, которую могут играть в ее снижении такие инструменты машинного обучения как Perspective.

ИПП Perspective, появившийся в 2017 году для борьбы с токсичностью и проявлениями враждебности в сетевом общении, оценивает комментарии на основе их субъективно воспринимаемого влияния на ход обсуждения и позволяет платформам держать открытыми разделы комментариев для ведения увлекательных и продуктивных бесед.

«Токсичность в Интернете является крупномасштабной проблемой, которая оказывает несоразмерное влияние на обособленные социальные группы, создает угрозу независимой журналистике и сужает свободу самовыражения мнений и пространство для здорового общения, — считает глава компании Jigsaw Джаред Коэн (Jared Cohen). — По наблюдениям наших партнеров, Perspective значительно снижает токсичность на их платформах, позволяя им обеспечивать своим пользователям более безопасные пространства для обмена идеями. Мы серьезно настроены на сотрудничество с нашими партнерами и академическими учреждениями в целях непрерывного обучения и переобучения наших моделей для дальнейшего повышения качества их работы по выявлению токсичности и минимизации проявлений необъективности в поддержку более здорового общения».

Читайте также  Эксперты ожидают больших перемен в Ульяновской области после назначения нового врио главы

Компания Jigsaw формировала Perspective с использованием моделей, разработанных совместно с подразделением Counter Abuse Technology («Технологии противодействия злоупотреблениям») компании Google, и теперь он расширяет возможности самых различных платформ в плане создания безопасного пространства для диалога посредством многоцелевого использования:   

Обратная связь с комментаторами: Perspective может направлять отзывы комментаторам в отношении потенциального уровня субъективно ощущаемой токсичности их контента в режиме реального времени, что обеспечивает существенные результаты:

  • Coral by Vox Media — выдающаяся платформа для комментариев, используемая средствами массовой информации по всему миру — пользуется этой функцией с целью предоставления рецензентам возможности менять свои формулировки перед публикацией. В результате контролируемого исследования при участии McClatchy было установлено, что 40% пользователей меняли свои комментарии при получении таких отзывов.
  • OpenWeb — ведущая платформа для привлечения аудитории, принимающая 100 миллионов активных пользователей в месяц — запустила эту функцию после того, как в результате исследования OpenWeb, проведенного в рамках расширенного исследования Jigsaw, выяснилось, что из всех рецензентов, редактировавших материалы на своем языке, 44,7% заменяли или удаляли оскорбительные слова, а 7,6% решили полностью переписать свои комментарии.

Помощь живым модераторам: Perspective также помогает живым модераторам работать более эффективно и снижать уровни токсичности на своих платформах:

  • В издании The New York Timesбыл создан Moderator — инструмент, использующий Perspective для определения порядка очередности комментариев перед их модерацией человеком и одобрения тех, которые имеют наибольшие шансы пройти проверку, проводимую вручную. The Times увеличило число статей, которые могут открываться для комментариев с использованием Perspective, что позволяет ему предоставлять читателям более широкий и разнообразный выбор статей, по которым можно высказывать свои мнения.
  • FACEIT — одна из крупнейших игровых платформ Европы — использует показатель токсичности, определяемый с помощью Perspective, для предупреждения или блокирования пользователей, которые могут обратиться к живому модератору с просьбой о проведении окончательной проверки. В результате такой модерации в режиме реального времени FACEIT добилась сокращения числа токсичных сообщений на 20%.
  • Португальская медиакомпания Cofina сумела сократить потребность в живой модерации на 60%, сэкономив своим сотрудникам не менее 2 часов в день после внедрения Perspective в свою систему управления контентом для модерации комментариев в своих спортивных и финансовых газетах.
Читайте также  С Viatti Bosco H/T удобно и в городе, и по пути на дачу

«ИПП Perspective значительно повысило наши возможности в плане выявления токсичности в материалах с комментариями. Благодаря этому работа наших модераторов стала более плодотворной и эффективной, и с момента внедрения этого инструмента мы смогли увеличить число статей, открытых для комментариев, примерно на треть», — сообщила редактор материалов сообщества издания The New York Times Марсия Лоран (Marcia Loughran).

 «Работа с Perspective позволила нам стимулировать позитивное взаимодействие между сотнями динамичных и активных сообществ и десятками миллионов пользователей. Такие средства работают изящно и слаженно, что способствует реализации нашей концепции, ориентированной на повышение качества взаимодействия при снижении уровня токсичности», — рассказал глава и соучредитель компании OpenWeb Надав Шоваль (Nadav Shoval).

«Coral уделяет особое внимание упрощению и ускорению процесса работы модераторов. Perspective помогает нам выявлять комментарии на различных языках, требующие первоочередного внимания. Группа разработчиков Perspective великолепно взаимодействует с нами в реализации этой цели», —сообщил глава компании Coral by VoxMedia Эндрю Лосовски (Andrew Losowsky).

«Мы внедрили Perspective в свою систему управления контентом для модерации комментариев в наших спортивных и финансовых газетах. В результате число сообщений, требующих живой модерации, сократилось на 60%. Мы экономим не менее двух часов в день и очень довольны результатами. Это также повысило качество комментариев на наших сайтах и заинтересованность наших пользователей», — поделился своими впечатлениями технический директор по онлайн-проектам Cofina Media Нуну Алвеш (Nuno Alves).

«Платформа FACEIT приступила к выполнению своей миссии, нацеленной на непосредственное решение проблем, связанных с токсичностью и агрессивностью в игровой сфере. По мере роста и развития нашего сообщества игроков мы были вынуждены создавать эффективные средства, способные работать на должном уровне. Perspective обеспечил нам идеальную модель токсичности, которую мы использовали в качестве основы для формирования своего антитоксического движка», —рассказала руководитель отдела бизнес-аналитики FACEIT Мария Лаура Скури (Maria Laura Scuri).

Читайте также  Мозг мужчины и женщины — основные различия - wamba-mamba

Действуя совместно со своими партнерами, компания Jigsaw также обучает Perspective работе на новых языках, благодаря чему ее модель машинного обучения получает больше возможностей для улучшения качества сетевого общения в мировом масштабе — в настоящее время она доступна на английском, испанском, французском, немецком, итальянском и португальском языках. Партнерами Perspective являются El Pais, Le Monde, Cofina и ряд других издателей, понимающих важность высококачественного общения на своих платформах с использованием различных языков.

Кроме того, компания Jigsaw непрерывно работает со своими партнерами над поиском путей снижения степени необъективности в машинном обучении. Материалы ряда недавних исследований компании Jigsaw представлены здесь.

Узнайте подробнее о Perspective и опробуйте его в третьем выпуске журнала The Current.

Для запросов СМИ:

Jigsaw Media
jigsawpress@google.com

Информация о компании Jigsaw

Jigsaw  — структурное подразделение компании Google, занимающееся прогнозированием возникающих цифровых угроз и разработкой средств противодействия им, создавая перспективные научно-технические разработки, которые делают наш мир более безопасным. 

Логотип — https://mma.prnewswire.com/media/1434331/Jigsaw_Logo.jpg

Источник: ecnovosti.ru

Худеем правильно
Добавить комментарий