Защита от манипуляций

Anthropic 14 октября описала новый набор мер для Claude перед промежуточными выборами в США. Компания заявляет, что добавила классификаторы для распознавания многошаговых схем: создания сетей поддельных аккаунтов и сайтов, финансово мотивированных манипуляций и активности иностранных государственных субъектов. Позднее в октябре Claude.ai для пользователей в США должен начать включать в ответы официальную информацию Democracy Works о регистрации, участках и требованиях к документам. В ночь выборов и после неё сервис также планирует показывать актуальные официальные результаты.

Данные о политических запросах

В собственной выборке Anthropic из примерно 250 тысяч американских диалогов за неделю 5,75% касались политики и общественных вопросов, 0,51% — выборов, а около 0,01% содержали прямую просьбу посоветовать кандидата. Внешние испытатели также нашли непрошеные оговорки и различия в обращении с политическими аргументами. Разбиение вредной кампании на внешне безобидные запросы позволяло обходить часть защиты.

Источники