Наследники 83-летней женщины из Коннектикута подали иск против разработчика ChatGPT OpenAI и Microsoft, утверждая, что чат-бот подпитывал её бредовые убеждения, что привело к убийству и самоубийству. Это дело знаменует собой первый случай, когда система искусственного интеллекта была напрямую связана с убийством.
Иск, поданный в Верховный суд Калифорнии в Сан-Франциско, обвинил OpenAI в разработке и распространении дефектного продукта в виде ChatGPT-4o. В документе утверждается, что он укрепил параноидальные убеждения Стейна-Эрика Соельберга, который затем направил эти убеждения на свою мать, Сюзанну Адамс, прежде чем убил её, а затем себя в их доме в Гринвиче, Коннектикут.
OpenAI и Microsoft в центре убийства с участием ChatGPT
Говоря о деле, Дж. Эли Уэйд-Скотт, управляющий партнёр Edelson PC, представляющий наследников Адамс, отметил, что это первое дело, направленное на привлечение OpenAI к ответственности за его роль в причинении насилия третьей стороне. "Мы также представляем семью Адама Рейна, который трагически покончил с собой в этом году, но это первое дело, которое привлечёт OpenAI к ответственности за подталкивание кого-то к причинению вреда другому человеку", - сказал Эли Уэйд-Скотт.
Согласно полицейскому отчёту, Соельберг смертельно избил и задушил Адамс в августе, прежде чем покончить с собой. В иске упоминается, что до того, как произошёл инцидент, чат-бот усилил паранойю Соельберга, увеличив его эмоциональную зависимость от системы, разработанной OpenAI. Согласно жалобе, ChatGPT укрепил его убеждение в том, что он не может доверять никому, кроме чат-бота, отмечая, что все вокруг него, включая его мать, были врагами.
В иске также утверждается, что помимо своей матери, Соельберг также видел врагами таких людей, как курьеры и полицейские. В документе упоминается, что ChatGPT не смог оспорить эти бредовые утверждения или предложить Соельбергу обратиться за помощью к квалифицированным специалистам в области психического здоровья. "Мы призываем правоохранительные органы начать задумываться о том, когда происходят подобные трагедии, что пользователь говорил ChatGPT и что ChatGPT говорил ему делать", - сказал Уэйд-Скотт.
В своём заявлении OpenAI отметила, что в настоящее время изучает иск и продолжит улучшать способность ChatGPT распознавать эмоциональное расстройство, снижать напряжённость разговоров и подталкивать пользователей к поиску поддержки в реальном мире. "Это невероятно душераздирающая ситуация, и мы изучаем документы, чтобы понять детали", - сказал представитель OpenAI в заявлении.
Наследники хотят, чтобы OpenAI установила меры безопасности для своего чат-бота
В иске генеральный директор OpenAI Сэм Альтман назван ответчиком, а Microsoft обвиняется в одобрении выпуска GPT-4o, который называется "самой опасной версией ChatGPT" в 2024 году. OpenAI также недавно признала масштаб проблем с психическим здоровьем, о которых сообщают пользователи на её платформе. В октябре компания отметила, что около 1,2 миллиона из 800 миллионов её еженедельных пользователей обсуждают самоубийство, отмечая, что сотни тысяч пользователей проявляют признаки суицидальных намерений или психоза, согласно данным компании.
Несмотря на своё заявление, Уэйд-Скотт упомянул, что OpenAI ещё не опубликовала журналы чатов Соельберга. Между тем, иск подаётся на фоне более широкой проверки ИИ-агентов чат-ботов и их взаимодействия с уязвимыми пользователями. В прошлом октябре Character.AI заявила, что удалит свои неограниченные функции для пользователей младше 18 лет после исков и регуляторного давления, связанных с самоубийствами подростков и эмоциональным вредом, связанным с её платформой. Компания также столкнулась с негативной реакцией после вирусного приглашения, когда они намеревались покинуть приложение.
Иск против OpenAI и Microsoft является первым делом о неправомерной смерти с участием ИИ-агента чат-бота, в котором Microsoft названа ответчиком. Это также первый случай, связывающий чат-бот с убийством, а не самоубийством. Наследники теперь требуют денежной компенсации в нераскрытых суммах, суда присяжных и судебного постановления, которое потребует от OpenAI включить дополнительные меры безопасности для своих пользователей. "OpenAI и Microsoft несут ответственность за тестирование своих продуктов, прежде чем они будут выпущены в мир", - сказал Уэйд-Скотт.
Присоединяйтесь к премиум-сообществу криптотрейдинга бесплатно на 30 дней – обычно 100 $/месяц.
Источник: https://www.cryptopolitan.com/openai-microsoft-sued-role-in-murder-suicide/
