OpenAI и Microsoft подали в суд из-за связанных с ChatGPT смертей

Наследники 83-летней женщины из Коннектикута подали в суд на разработчика ChatGPT OpenAI и Microsoft, утверждая, что чат-бот питал её бредовые убеждения, что привело к убийству и самоубийству. Этот случай знаменует собой первый раз, когда система искусственного интеллекта была напрямую связана с убийством.

Иск, поданный в Верховный суд Калифорнии в Сан-Франциско, обвинил OpenAI в разработке и распространении дефектного продукта в виде ChatGPT-4o. В документе утверждается, что он усилил параноидальные убеждения Стейна-Эрика Соэльберга, который затем направил эти убеждения на свою мать, Сюзанну Адамс, прежде чем убил её, а затем и себя в их доме в Гринвиче, Коннектикут.

OpenAI и Microsoft стали мишенью в деле об убийстве с участием ChatGPT

Говоря о деле, Дж. Эли Уэйд-Скотт, управляющий партнёр Edelson PC, который представляет наследников Адамс, отметил, что это первый случай, направленный на то, чтобы привлечь OpenAI к ответственности за его роль в причинении насилия третьей стороне. "Мы также представляем семью Адама Рейна, который трагически покончил с собой в этом году, но это первый случай, который привлечёт OpenAI к ответственности за подталкивание кого-то к причинению вреда другому человеку", - сказал Эли Уэйд-Скотт.

Согласно полицейскому отчёту, Соэльберг смертельно избил и задушил Адамс в августе, прежде чем покончить с собой. В иске упоминается, что до того, как произошёл инцидент, чат-бот усилил паранойю Соэльберга, увеличив его эмоциональную зависимость от системы, разработанной OpenAI. Согласно жалобе, ChatGPT укрепил его убеждение, что он не может доверять никому, кроме чат-бота, отмечая, что все вокруг него, включая его мать, были врагами.

В иске также утверждается, что помимо матери, Соэльберг также видел врагами таких людей, как водители доставки и полицейских. В документе упоминается, что ChatGPT не смог оспорить эти бредовые утверждения или предложить Соэльбергу обратиться за помощью к квалифицированным специалистам в области психического здоровья. "Мы призываем правоохранительные органы начать думать о том, когда происходят такие трагедии, что говорил этот пользователь ChatGPT и что ChatGPT говорил им делать", - сказал Уэйд-Скотт.

В своём заявлении OpenAI отметила, что в настоящее время рассматривает иск и продолжит улучшать способность ChatGPT распознавать эмоциональный дистресс, деэскалировать разговоры и подталкивать пользователей к поиску поддержки в реальном мире. "Это невероятно душераздирающая ситуация, и мы рассматриваем документы, чтобы понять детали", - сказал представитель OpenAI в заявлении.

Наследники хотят, чтобы OpenAI установила меры защиты для своего чат-бота

В иске генеральный директор OpenAI Сэм Альтман назван ответчиком, а Microsoft обвиняется в одобрении выпуска GPT-4o, который называется "самой опасной версией ChatGPT" в 2024 году. OpenAI также недавно признала масштаб проблем с психическим здоровьем, о которых пользователи сообщают на её платформе. В октябре компания отметила, что около 1,2 миллиона из её 800 миллионов еженедельных пользователей обсуждают самоубийство, отмечая, что сотни тысяч пользователей проявляют признаки суицидальных намерений или психоза, согласно данным компании.

Несмотря на своё заявление, Уэйд-Скотт упомянул, что OpenAI ещё не опубликовала журналы чатов Соэльберга. Между тем, иск происходит на фоне более широкого изучения ИИ-агентов и их взаимодействия с уязвимыми пользователями. В октябре прошлого года Character.AI заявила, что удалит свои открытые функции для пользователей младше 18 лет после исков и регулятивного давления, связанного с подростковыми самоубийствами и эмоциональным вредом, связанным с её платформой. Компания также столкнулась с негативной реакцией после вирусного запроса, когда они намеревались выйти из приложения.

Иск против OpenAI и Microsoft является первым делом о неправомерной смерти с участием ИИ-агента, в котором Microsoft названа ответчиком. Это также первый случай, связывающий чат-бота с убийством, а не с самоубийством. Наследники теперь требуют денежную компенсацию в нераскрытых суммах, суд присяжных и судебное постановление, которое потребует от OpenAI включить дополнительные меры защиты для своих пользователей. "OpenAI и Microsoft несут ответственность за тестирование своих продуктов, прежде чем они будут выпущены в мир", - сказал Уэйд-Скотт.

Не просто читайте новости о криптовалютах. Понимайте их. Подпишитесь на нашу рассылку. Это бесплатно.