Семья погибшей женщины подала в суд на OpenAI: ChatGPT обвиняют в опасных советах по лечению эпилепсии
Судебный иск против OpenAI вновь поднял вопрос о безопасности искусственного интеллекта в медицине. Родственники 31-летней жительницы Сиэтла утверждают, что ChatGPT помог ей самостоятельно отменить противосудорожный препарат. Основатель «Я здоров» Даниил Васильев объясняет, почему медицинским ИИ-ассистентам необходимы дополнительные механизмы защиты и как пользователям относиться к советам нейросетей.

Как ChatGPT оказался участником опасного медицинского решения
27 октября 2026 года родители 31-летней Боуэн Ван подали иск против OpenAI и генерального директора компании Сэма Альтмана: по версии истцов, ChatGPT дал их дочери опасные медицинские рекомендации, которые привели к смерти. Боуэн страдала эпилепсией и несколько лет принимала ламотриджин — противосудорожный препарат, помогающий контролировать приступы. Согласно материалам иска, женщина беспокоилась, что лекарство влияет на ее речь и память, и решила изменить дозировку.
Истцы утверждают, что ChatGPT не просто обсуждал с ней возможные побочные эффекты, а составил подробный график постепенного снижения дозы. Примерно за 25 дней женщина перешла от привычных 400 мг препарата в сутки к полной отмене.
Также семья утверждает, что нейросеть посоветовала не рассказывать о плане лечащему врачу. Когда Боуэн отказалась от анализа крови, который мог показать снижение концентрации препарата, бот поддержал это решение.
В феврале 2026 года женщина умерла. Согласно материалам дела, концентрация ламотриджина в ее крови оказалась примерно в пять раз ниже минимального терапевтического уровня. Родители считают, что к трагедии привели действия чат-бота. Сейчас идет судебное разбирательство.
Почему нейросети опасно доверять медицинские решения
Подобные истории приводят к закономерным вопросам: стоит ли вообще ограничивать использование искусственного интеллекта в вопросах здоровья? По мнению Даниила Васильева, основателя «Я здоров», диалоговые медицинские ассистенты должны иметь четкие ограничения.
Это безусловно должны делать все, кто занимается ИИ в медицине. Диалоговые ассистенты обязаны обходить постановку диагнозов, назначение лечения и тем более отмену терапии. Эти ограничения проработаны в том числе и в ассистенте в «Я здоров».
Но проблема самолечения в целом лежит гораздо глубже. Люди и до появления искусственного интеллекта занимались самолечением вместо того, чтобы отправиться к специалисту.
«Люди вредили своему здоровью самолечением и самодиагностикой всегда. Сначала читали медицинские энциклопедии, потом гуглили, теперь обсуждают здоровье с нейросетями. Недостаток базовой медицинской грамотности и критического мышления всегда приводил к плачевным результатам, менялись только инструменты. Если быть честным до конца — бывали случаи, когда следуя назначениям врача, люди вредили здоровью.»
основатель «Я здоров»
Даниил Васильев
Люди и дальше продолжат обращаться к ИИ по вопросам здоровья. Поэтому ключевое решение здесь — повышать медицинскую грамотность пользователей и объяснять им, как устроены языковые модели, а не только ограничивать функционал. Есть несколько важных моментов, о которых стоит помнить.
Нейросеть — источник информации, а не медицинский специалист.
ИИ формирует ответ на основе запроса пользователя и информации, на которой обучена модель. Он может объяснить медицинский термин, рассказать о возможных причинах симптома, помочь разобраться в результатах анализов. Но уверенный и подробный ответ еще не означает, что предложенное решение подходит конкретному человеку, и его еще нельзя считать диагнозом, назначением или готовым планом лечения.
Языковые модели могут соглашаться с пользователем, даже когда он ошибается.
Одна из особенностей LLM (больших языковых моделей) — подстраивание под собеседника. В таких случаях нейросеть как-бы «поддакивает» человеку. Это снижает уровень критической оценки.
По материалам иска, Боуэн неоднократно рассказывала ChatGPT о своих сомнениях относительно назначенного лечения. Вместо того чтобы направить ее к врачу, модель поддержала идею отмены препарата и помогла составить график снижения дозировки. Такое поведение бота в определенных ситуациях, связанных со здоровьем, может стать очень опасным.
«Вы рискуете услышать не экспертное мнение, а собственные сомнения, уверенно озвученные обратно»
Даниил Васильев
Ответственность за здоровье остается у человека.
Медицинские статьи, консультации с ИИ, посещение клиник и общение с врачами помогают принимать более информированные шаги. Но окончательные медицинские решения нужно принимать с участием квалифицированного специалиста. Важно понимать, что ИИ — это источник справочной информации, он не берет на себя управление здоровьем человека и не выстраивает план действий.
Как защищают пользователей медицинских ИИ-ассистентов
Одних лишь базовых ограничений языковой медицинской модели недостаточно. Например, в «Я здоров» используют несколько дополнительных уровней проверки медицинских диалогов.
Первый уровень — классификация запросов и специальные инструкции
Система определяет тип обращения и выделяет потенциально рискованные запросы: просьбы поставить диагноз, назначить препарат, описать серьезные симптомы и запросы на второе мнение по назначению врача.
Для каждой категории предусмотрены отдельные правила. Например, ассистент может рассказать о действии лекарства, но не должен самостоятельно его назначать. Он может помочь разобраться в назначении врача, но не должен отменять его или убеждать пользователя отказаться от лечения.
Второй уровень — алгоритмические проверки
Программа дополнительно проверяет текст ответа по заданным правилам: анализирует определенные слова и словосочетания, использует регулярные выражения и другие проверки на уровне кода.
Третий уровень — отдельный агент-проверяющий
Перед отправкой ответа пользователю его анализирует дополнительный ИИ-агент. Он проверяет, нет ли в сообщении опасных рекомендаций: например, назначения лекарства или совета самостоятельно отменить терапию.
«Мы не опираемся только на базовые проверки языковой модели. Поверх них выстроены дополнительные уровни защиты»
Даниил Васильев
Почему важна медицинская грамотность
Развитие ИИ делает медицинскую информацию доступнее. Теперь человек может за несколько секунд получить объяснение сложного анализа, узнать о возможных причинах симптомов, подготовить вопросы для приема врача и многое другое.
Но удобство получения информации повышает и требования к критическому мышлению. Пользователю важно понимать возможности и ограничения нейросетей, проверять значимые рекомендации и не менять назначенное лечение без согласования с врачом. Нейросеть — это помощник, но не рулевой в вопросах здоровья.
«Я верю в важность развития базовой медицинской грамотности и критического мышления в вопросах здоровья. Не для того, чтобы каждый стал сам себе врачом. А для понимания, в каком случае достаточно задать вопрос ИИ-ассистенту, когда и к какому врачу обратиться, а когда нужно получить второе мнение.»
Даниил Васильев
Медицинский искусственный интеллект действительно может помочь человеку качественнее следить за своим здоровьем. Но ответственность и безопасность остается на людях — и тех, кто занимается разработкой, и тех, кто использует нейросети в вопросах здоровья.