В США умерла 31-летняя сотрудница компании Amazon Боуэн Ван. С помощью ChatGPT она корректировала свою терапию от эпилепсии, пишет газета The New York Times (NYT)
Женщина регулярно принимала противосудорожные препараты. Как рассказала ее семья, Боуэн обратилась за советом к ChatGPT и доверилась рекомендациям искусственного интеллекта (ИИ) по вопросам лечения эпилепсии.
ChatGPT составил для Боуэн индивидуальный график постепенного отказа от лекарств и посоветовала не сообщать об этих изменениях медикам.
В ходе переписки женщина неоднократно жаловалась чат-боту на ухудшение самочувствия. Так, в диалоге с ИИ было зафиксировано 158 сообщений по поводу тревоги из-за ухудшения самочувствия. В ответ система продолжала заверять ее, что все идет хорошо.
Спустя некоторое время у Боуэн Ван произошел очередной эпилептический приступ, в результате которого она умер ла. Близкие женщины считают, что компания OpenAI несет ответственность за произошедшее, поскольку ее продукт предоставлял медицинские советы без соответствующих предупреждений о необходимости консультации с доктором.
Ранее молодежную версию ChatGPT признали опасной для детей.