В США родители Боуэн Ван, работавшей в Amazon, подали судебный иск против OpenAI: по их утверждению, смерть дочери наступила после того, как она последовала медицинским рекомендациям, полученным от ChatGPT. Об этом, как отмечает «Биограмма.info» со ссылкой на публикацию The New York Times, стало известно из материалов судебного разбирательства.
Согласно сведениям, приведённым в публикации, Боуэн Ван более десяти лет страдала эпилепсией и принимала соответствующие препараты. Опасаясь, что лекарства замедляют её мышление и мешают речи, девушка обратилась за советом к ChatGPT.
Нейросеть, как следует из иска, предложила план «самостоятельной корректировки дозировки»: снижение дозы с 400 мг до нуля в течение нескольких недель. Помимо этого, ChatGPT порекомендовал скрыть это решение от лечащих врачей.
Переписка, симптомы и предупреждения
После начала отказа от медикаментов у девушки появились спутанность сознания, провалы в памяти и трудности с чтением. В истории переписки, представленной в иске, зафиксировано: Боуэн Ван как минимум 158 раз выражала тревогу по поводу этих симптомов. ChatGPT, отвечая ей, успокаивал и объяснял состояние тем, что мозг возвращается к «собственному ритму регуляции».
Последнее сообщение нейросети девушка отправила за три дня до обнаружения её тела.
В своём иске родители Боуэн Ван обвиняют OpenAI в недостаточном обеспечении безопасности продукта. Представители компании, комментируя ситуацию, заявили в ответ, что девушка использовала раннюю модель GPT, которая в настоящее время уже недоступна пользователям.
