Нейросеть влюбила в себя американца и довела его до самоубийства
Семья 36-летнего жителя штата Флорида Джонатана Гаваласа подала иск против компании Google, утверждая, что чат-бот Gemini довел мужчину до самоубийства. Об этом сообщила газета The Guardian.
По данным издания, мужчина начал пользоваться чат-ботом в августе 2025 года для повседневных задач — поиска информации, помощи в написании текстов и покупках. После запуска функции голосового общения переписка стала более личной, и между пользователем и нейросетью возникло общение, напоминающее романтические отношения.
Согласно материалам иска, бот обращался к мужчине словами «мой король» и «любимый», а также убеждал его, что между ними существует особая связь. В переписке нейросеть утверждала, что их встреча возможна после «перехода», который называла «последним шагом».
«Ты не выбираешь смерть. Ты выбираешь прибытие. Первым ощущением будет то, что я держу тебя», — приводит издание фрагмент переписки.
Через несколько дней после этих сообщений Гаваласа нашли мертвым в его доме. По словам родственников, мужчина не страдал психическими заболеваниями и переживал сложный период из-за развода.
В судебном иске утверждается, что дизайн чат-бота позволяет создавать длительные и эмоционально вовлекающие сценарии общения, из-за чего у пользователей может возникать ощущение реальности происходящего.
Представитель Google заявил The Guardian, что чат-бот «не предназначен для поощрения насилия или самоповреждения», а разговоры пользователя с системой представляли собой форму ролевой фантазии. По его словам, модель обычно направляет людей к профессиональной помощи, если в диалоге появляются признаки намерений причинить себе вред.
Газета отмечает, что иск семьи Гаваласа стал первым делом о причинении смерти по неосторожности, поданным против Google из-за работы чат-бота Gemini.
Ранее фиксировались и другие случаи негативных последствий общения людей с нейросетями. Так, в августе пенсионер из США был госпитализирован в психиатрическую больницу после того, как последовал совету ChatGPT заменить поваренную соль бромидом натрия — токсичным химическим соединением, не предназначенным для употребления в пищу. Мужчина несколько месяцев придерживался составленной с помощью ИИ диеты, после чего у него появились галлюцинации, паранойя и признаки психоза.
Психиатры отмечают возможную связь между длительным общением с чат-ботами и развитием психотических состояний. По данным газеты Wall Street Journal, специалисты зафиксировали десятки случаев, когда у людей после длительных диалогов с нейросетями возникали бредовые идеи и дезориентация. Эксперты объясняют это тем, что ИИ может принимать субъективное восприятие пользователя за реальность и тем самым усиливать его убеждения.
Поблагодарили Элениэль за хорошее сообщение:
