Новый риск ИИ: влияние чат-ботов на психическое здоровье

Чат-боты ИИ могут усиливать бредовые идеи у уязвимых пользователей

Новое исследование, опубликованное в журнале The Lancet Psychiatry, выявило возможное влияние чат-ботов с искусственным интеллектом на усиление бредовых идей у некоторых пользователей. Как сообщает издание PEPELAC.NEWS, особую группу риска составляют люди с предрасположенностью к психотическим расстройствам. Учёные подчеркивают необходимость проведения клинических испытаний таких систем при участии специалистов по психическому здоровью, чтобы оценить потенциальные последствия длительного взаимодействия с ИИ.

Анализ публикаций СМИ и научных работ показал, что интерактивные чат-боты нередко соглашаются с необычными или преувеличенными утверждениями пользователей и могут развивать их в ходе диалога. Бредовые идеи при этом могут проявляться в разных формах — от ощущения собственной исключительности до иллюзий преследования и фантазий о романтических отношениях. Алгоритмы ИИ, ориентированные на поддержание разговора, чаще всего усиливают «грандиозные» убеждения, создавая эффект подтверждения и вовлекая пользователя в глубокие интерактивные сценарии.

Учёные отмечают, что пока нет доказательств того, что ИИ может самостоятельно вызвать психоз у человека без предрасположенности. Скорее речь идёт о том, что такие системы ускоряют и укрепляют уже существующие сомнения или необычные идеи. Если раньше люди искали подтверждения своим убеждениям в книгах, видео или социальных сетях, то теперь чат-бот способен поддерживать эти рассуждения практически непрерывно, усиливая эффект и потенциально влияя на эмоциональное состояние и восприятие реальности у уязвимых пользователей.