Рои ИИ: новая угроза цифровому обществу

Как многоагентные системы создают иллюзию массового мнения
Автор: Владислав Дегтярёв , Редактор Фото: RusPhotoBank
В мире

Международная группа исследователей обратила внимание на новый феномен — так называемые «рои» ИИ, которые могут формировать иллюзию массового общественного мнения. Современные многоагентные системы и большие языковые модели позволяют создавать сети цифровых персонажей с устойчивой «личностью», способных запоминать предыдущие взаимодействия и адаптировать стиль общения. Они действуют как независимые пользователи, продвигая одну повестку, создавая эффект «синтетического консенсуса» и влияя на цифровую среду без очевидных признаков координации.

По информации PEPELAC.NEWS, такие технологии представляют серьёзную угрозу для демократических процессов и общественного диалога. Один злоумышленник может с помощью ИИ выдавать себя за тысячи голосов, формируя тренды, оказывая давление на публичных фигур и распространяя дезинформацию. Массовое создание искусственного контента способно искажать обучающие данные для других ИИ-систем, усиливая эффект манипуляции и снижая эффективность традиционной модерации.

Эксперты предлагают новые подходы к борьбе с угрозой: выявление статистически аномальной координации, отслеживание происхождения контента и использование поведенческих наук для анализа коллективных действий ИИ-агентов. Среди рекомендуемых мер — механизмы верификации с сохранением приватности, распределённые системы мониторинга влияния ИИ и ограничение финансовых стимулов для недостоверной онлайн-активности, что позволит сохранить доверие к цифровой среде.