Пастор из Флориды подал в суд на компанию OpenAI после того, как чат-бот ChatGPT в течение шести недель неверно интерпретировал его симптомы, списывая их на легкие недомогания. В результате упущенного времени мужчина оказался на грани жизни и смерти из-за тромбоэмболии легочной артерии. Этот прецедент может кардинально изменить правила ответственности разработчиков ИИ за медицинские рекомендации.
Что произошло и ключевые детали
- Шесть недель ложных диагнозов: Истец регулярно консультировался с ChatGPT по поводу ухудшения самочувствия. Нейросеть раз за разом предлагала безобидные причины недомогания и давала общие рекомендации по образу жизни, уверяя, что повода для паники нет.
- Смертельная угроза: Врачи чудом спасли жизнь пациента после того, как он был экстренно госпитализирован с тяжелой тромбоэмболией легочной артерии (легочной эмболией), развившейся на фоне невылеченного вовремя состояния.
- Суть юридических претензий: В иске утверждается, что OpenAI позиционирует свои модели как высокоинтеллектуальные системы, способные давать экспертные ответы, что вводит обычных пользователей в заблуждение. Защита настаивает на халатности компании и отсутствии достаточно заметных и жестких предупреждений об опасности самодиагностики.
- Позиция защиты OpenAI: Вероятнее всего, компания будет опираться на пользовательское соглашение, где четко прописано, что ChatGPT не является медицинским специалистом и не должен использоваться для постановки диагнозов. Однако юристы истца намерены доказать, что доминирующий и убедительный тон ответов чат-бота фактически лишает эти дисклеймеры юридической силы.
Влияние на рынок и ИИ-стартапы
Этот судебный процесс наносит серьезный репутационный удар по потребительским LLM-моделям в сфере здравоохранения. Если суд признает OpenAI виновной или дело завершится крупным мировым соглашением, разработчикам по всему миру придется внедрить максимально жесткие фильтры на любые медицинские запросы. Это фактически может заблокировать развитие ИИ-ассистентов в роли первичных консультантов для пациентов.
Для ИИ-стартапов, создающих решения на базе API крупных языковых моделей (особенно в сфере Medical AI), этот кейс — жесткий сигнал к пересмотру юридической структуры. Простого дисклеймера в футере сайта больше не достаточно. Любое проявление ИИ «излишней уверенности» при анализе симптомов теперь несет в себе прямые юридические и финансовые риски.
Иск официально зарегистрирован в суде штата Флорида. OpenAI пока официально не прокомментировала поданное заявление. Эксперты по безопасности рекомендуют пользователям полностью исключить использование ChatGPT и других аналогичных ИИ-моделей для диагностики реальных заболеваний.
Пока нет комментариев. Будьте первым!