Операции с подставными авторами

OpenAI сообщила, что заблокировала две операции влияния, которые связывает с Россией и Ираном. Иранская сеть использовала семь вымышленных журналистских персон для предложения статей небольшим и средним изданиям, а также создавала серии комментариев. Российская операция, по оценке OpenAI, привлекла неосведомлённых людей в Латинской Америке к работе в фиктивном аналитическом центре и готовила поддельные «утечки» и сценарии аудио.

Модели компании применялись не только для внешнего контента, но и для внутренних отчётов. OpenAI оценила потенциальный охват российской операции как категорию 5 из 6 по шкале Breakout Scale — впервые для пресечённой ею сети; иранскую — как категорию 4.

Роль ИИ в описанных кампаниях

По описанию OpenAI, ИИ использовался для производства текстов, создания вымышленных авторов и внутренних отчётов. Организацией кампаний занимались люди. Атрибуция сетей и оценки охвата приведены в отчёте компании.

Источники