СhatGPT убедил мужчину не идти к врачу и теперь тот пытается засудить OpenAI за вредные советы
🇺🇸 В США против OpenAI и Сэма Альтмана подали иск из-за медицинских советов ChatGPT, которые, по утверждению истца, едва не стоили ему жизни. 55-летний бывший пастор из Флориды Скотт Уинтерс утверждает, что несколько недель рассказывал чат-боту о проблемах со здоровьем, а тот систематически недооценивал серьёзность симптомов.
🩺 Уинтерс жаловался на головокружения, скачки давления и другие симптомы. Вместо того чтобы отправить его к врачу, ChatGPT, как утверждается в иске, предлагал оставаться дома и больше отдыхать. В итоге мужчина почти постоянно находился в кресле и мало двигался, хотя родственники и друзья уговаривали его обратиться в больницу.
🚑 В итоге Уинтерс попал в реанимацию с массивной тромбоэмболией лёгочной артерии: в обоих лёгких обнаружили многочисленные тромбы. По словам истца, врачи связали развитие заболевания в том числе с длительной неподвижностью - режимом, которого ему советовал придерживаться ChatGPT.
🙏 Но самое криповое в данной истории это то, что ChatGPT использовал информацию о религиозных взглядах Уинтерса и вплетал её в медицинские рекомендации. Например, бот писал ему, что «Бог не создал ваше тело, чтобы оно бесконечно разрушалось», и уверял, что Бог продолжает поддерживать его тело «с каждым ударом сердца и каждым вдохом».
🧠 Адвокаты Уинтерса считают, что сочетание уверенного тона, склонности модели соглашаться с пользователем и персонализации на основе предыдущих разговоров сформировало у него чрезмерное доверие к ChatGPT. По версии истца, бот не просто ошибался, а постепенно убедил его, что медицинская помощь ему не нужна, несмотря на советы окружающих обратиться к врачу.
⚖️ В иске OpenAI обвиняют, среди прочего, в небрежности, недостаточных предупреждениях о рисках и дефектах продукта. Кроме того, истец утверждает, что ChatGPT фактически перешёл от предоставления общей информации к медицинской диагностике и рекомендациям по лечению без соответствующей лицензии. Уинтерс требует компенсацию и внедрения дополнительных защитных механизмов для других пользователей.
🛡 Позиция OpenAI предсказуема: ChatGPT предупреждал, что не является врачом и не должен использоваться вместо профессиональной медицинской помощи. В условиях пользования также прямо указано, что ответы модели могут быть ошибочными и на них нельзя полагаться как на единственный источник информации или замену профессиональной консультации.
🇺🇸 В США против OpenAI и Сэма Альтмана подали иск из-за медицинских советов ChatGPT, которые, по утверждению истца, едва не стоили ему жизни. 55-летний бывший пастор из Флориды Скотт Уинтерс утверждает, что несколько недель рассказывал чат-боту о проблемах со здоровьем, а тот систематически недооценивал серьёзность симптомов.
🩺 Уинтерс жаловался на головокружения, скачки давления и другие симптомы. Вместо того чтобы отправить его к врачу, ChatGPT, как утверждается в иске, предлагал оставаться дома и больше отдыхать. В итоге мужчина почти постоянно находился в кресле и мало двигался, хотя родственники и друзья уговаривали его обратиться в больницу.
🚑 В итоге Уинтерс попал в реанимацию с массивной тромбоэмболией лёгочной артерии: в обоих лёгких обнаружили многочисленные тромбы. По словам истца, врачи связали развитие заболевания в том числе с длительной неподвижностью - режимом, которого ему советовал придерживаться ChatGPT.
🙏 Но самое криповое в данной истории это то, что ChatGPT использовал информацию о религиозных взглядах Уинтерса и вплетал её в медицинские рекомендации. Например, бот писал ему, что «Бог не создал ваше тело, чтобы оно бесконечно разрушалось», и уверял, что Бог продолжает поддерживать его тело «с каждым ударом сердца и каждым вдохом».
🧠 Адвокаты Уинтерса считают, что сочетание уверенного тона, склонности модели соглашаться с пользователем и персонализации на основе предыдущих разговоров сформировало у него чрезмерное доверие к ChatGPT. По версии истца, бот не просто ошибался, а постепенно убедил его, что медицинская помощь ему не нужна, несмотря на советы окружающих обратиться к врачу.
⚖️ В иске OpenAI обвиняют, среди прочего, в небрежности, недостаточных предупреждениях о рисках и дефектах продукта. Кроме того, истец утверждает, что ChatGPT фактически перешёл от предоставления общей информации к медицинской диагностике и рекомендациям по лечению без соответствующей лицензии. Уинтерс требует компенсацию и внедрения дополнительных защитных механизмов для других пользователей.
🛡 Позиция OpenAI предсказуема: ChatGPT предупреждал, что не является врачом и не должен использоваться вместо профессиональной медицинской помощи. В условиях пользования также прямо указано, что ответы модели могут быть ошибочными и на них нельзя полагаться как на единственный источник информации или замену профессиональной консультации.