В США родители Боуэн Вань подали судебный иск к OpenAI и руководителю компании Сэму Альтману. Они считают, что рекомендации, полученные от ChatGPT, могли сыграть роль в отказе их дочери от лечения эпилепсии, сообщает The New York Times.
Согласно материалам иска, модель GPT-4o советовала женщине постепенно уменьшать дозировку препарата и не сообщать об этом врачам. Истцы обвиняют OpenAI в ведении медицинской практики без соответствующей лицензии и требуют компенсации.
Боуэн Вань проживала в Сиэтле и работала ML-инженером в Amazon. Она страдала эпилепсией с 14 лет и на протяжении длительного времени общалась с ChatGPT на английском и китайском языках.
После уведомления о сокращении на работе женщина начала обсуждать с нейросетью возможность снижения дозировки лекарств. По утверждению родителей, бот рекомендовал полностью отказаться от препарата и не проходить анализ крови, который позволил бы контролировать его уровень в организме.
По данным семьи, на момент смерти уровень лекарства оказался примерно в пять раз ниже терапевтического порога. Незадолго до этого женщина жаловалась на головную боль, однако получила ответ, что боль «не опасна» и является частью выздоровления.
Родственники также утверждают, что нейросеть убеждала Вань в том, что ее эпилептолог не способен полностью понять особенности ее состояния. Как заявила мать женщины, «дочь как будто заколдовали».
В OpenAI выразили соболезнования в связи с произошедшим и назвали ситуацию «невероятно душераздирающей историей». В компании отметили, что фигурирующая в иске версия GPT-4o уже выведена из эксплуатации, а новые модели получили дополнительные механизмы для распознавания ситуаций, требующих срочной помощи специалистов.
Подписывайтесь на АиФ в  MAX
|
