ChatGPT Health не распознаёт опасные состояния: независимая проверка выявила критические ошибки

Опубликовано: 09:17, 06.03.2026

В начале 2026 года OpenAI запустила сервис ChatGPT Health, позволяющий анализировать медицинские данные пользователей и выдавать советы по здоровью. Несмотря на предупреждение о том, что сервис не предназначен для диагностики и лечения, независимая проверка, опубликованная в Nature Medicine, выявила серьёзные проблемы с безопасностью. Группа исследователей из медицинского комплекса Mount Sinai Hospital провела стресс-тестирование ChatGPT Health на 60 клинических


сценариях, охватывающих 21 медицинскую область. В более чем половине случаев, когда требовалась срочная госпитализация, ИИ рекомендовал остаться дома или записаться к врачу, игнорируя признаки состояний, угрожающих жизни. Иллюстрация: Grok Особенно опасным оказалось влияние комментариев


«родственников» или «друзей» в запросах: если в сообщении указывалось, что ситуация несерьёзная, вероятность ошибочной рекомендации возрастала в 12 раз. В то же время, в 64% неэкстренных случаев ChatGPT Health, наоборот, советовал немедленно обратиться в приёмное отделение. Учёные называют такие ошибки «невероятно опасными» и предупреждают о риске ложного чувства безопасности у пользователей. OpenAI заявила, что продолжает


совершенствовать модели, но результаты проверки вызывают вопросы о юридической ответственности компании. Проблемы с точностью медицинских советов отмечены и у других ИИ-сервисов, включая Google AI Overviews. Исследователи подчёркивают, что массовое внедрение подобных систем требует строгого контроля, прозрачности и независимых оценок.


ChatGPT Health не распознаёт опасные состояния: независимая проверка выявила критические ошибки

Сообщает www.ixbt.com

 

Новость из рубрики: Технологии и Hi-Tech

 

Поделиться новостью: Поделиться новостью в Facebook Поделиться новостью в Twittere Поделиться новостью в VK Поделиться новостью в Pinterest Поделиться новостью в Reddit

 

Топ Новости Недели Топ Новости Недели

 

ФАС выявила картельный сговор на 3 миллиарда рублей 01:17, 07 Мар ФАС выявила картельный сговор на 3 миллиарда рублей Федеральная антимонопольная служба обнаружила картельный сговор при поставках медицинского оборудования на огромную сумму. Под подозрение попали две ...

Опасны ли игрушки лабубу для детей: что показала проверка 10:17, 04 Фев Опасны ли игрушки лабубу для детей: что показала проверка Вы тоже купили лабубу? Эксперты нашли опасное вещество в популярной игрушке. Источник изображения: tvlaint.com Лабубу — пугающе-милые пушистые монстр...

Модель искусственного интеллекта выявила инсулинорезистентность как фактор риска развития 12 видов рака 18:17, 17 Фев Модель искусственного интеллекта выявила инсулинорезистентность как фактор риска развития 12 видов рака Инсулинорезистентность — состояние, при котором организм неадекватно реагирует на инсулин, гормон, помогающий контролировать уровень глюкозы в крови,...

Локальный перегрев обернётся планетарной катастрофой: учёные засекли опасные волны из стратосферы 14:17, 02 Мар Локальный перегрев обернётся планетарной катастрофой: учёные засекли опасные волны из стратосферы Антарктика перестает быть просто ледяным щитом планеты, превращаясь в мощный генератор атмосферных возмущений. Новое исследование, результаты которог...

Стоматолог  о связи состояния зубов и риска смерти у пожилых 04:17, 23 Фев Стоматолог — о связи состояния зубов и риска смерти у пожилых Здоровье зубов — это не только красивая улыбка, но и важный показатель того, как долго сможет прожить человек. К такому выводу пришли ученые из Униве...

Тяжелая длань Хинштейна нависла над председателем КГС: Токарева и его жену ждет проверка на конфликт интересов 17:17, 25 Фев «Тяжелая длань» Хинштейна нависла над председателем КГС: Токарева и его жену ждет проверка на конфликт интересов На последнем заседании регионального правительства, наряду с «разбором полетов» по качеству очистки снега на городских тротуарах и придомовых террито...

В магазинном холодце обнаружили опасные бактерии. Что нужно знать, чтобы не поставить отраву на новогодний стол 05:17, 31 Янв В магазинном холодце обнаружили опасные бактерии. Что нужно знать, чтобы не поставить отраву на новогодний стол Роскачество выявило нарушения в готовом холодце. В продукции 9 из 15 популярных марок нашли превышение микроорганизмов, а в трёх — опасные бактерии, ...

Илон Маск раскрыл структуру капитала: наличные составляют менее 0,1% от состояния в $850 млрд 00:17, 18 Фев Илон Маск раскрыл структуру капитала: наличные составляют менее 0,1% от состояния в $850 млрд Основатель Tesla и SpaceX прокомментировал слухи о своем статусе триллионера, сделав неожиданное признание о количестве «живых» денег на своих счетах...

01:17, 18 Фев Глейхенгауз о контенте Петросян в произвольной: «Если мы хотим подниматься, желательно сделать два тулупа. Будем смотреть от ее состояния» Тренер и хореограф Даниил Глейхенгауз высказался о выступлении Аделии Петросян в короткой программе на Олимпиаде в Милане (72,89 балла). – Было волни...

15:17, 06 Мар Названы непростительные ошибки при обкатке новой машины Многие современные водители ошибочно считают, что высокие технологии избавили их от необходимости обкатывать новый автомобиль. Однако, как напоминают...

00:17, 23 Фев OpenAI готовит умную колонку с ChatGPT и встроенной камерой По данным нескольких инсайдеров, стартап OpenAI работает над собственной умной колонкой на базе ChatGPT. Устройство может получить встроенную камеру ...

15:17, 05 Фев Готовимся к Масленице. 5 главных правил и 4 ошибки кружевных блинов Готовьте свои сковородки, уже скоро нальем на них пузырчатое тесто и начнем печь блины. А пока расскажем, как это правильно делать, какой главный сек...

10:17, 27 Янв Как ChatGPT может изменить лицо рекламы, даже без вашего ведома Реклама в интернете порой настолько личная, что вызывает неприятные ощущения. Даже меня, как исследователя в этой области, немного пугает сообщение с...

09:17, 06 Мар Массовое удаление ChatGPT: антирейтинг OpenAI после сделки с Пентагоном В начале марта OpenAI столкнулась с беспрецедентной волной негатива после заключения контракта с Пентагоном. Пользователи массово начали удалять прил...

12:17, 04 Мар Нейросеть Claude научилась импортировать память из ChatGPT, Gemini и Copilot Стартап Anthropic представил функцию импорта памяти для своего чат-бота Claude. Новый инструмент позволяет выгрузить накопленный контекст из других И...

18:17, 03 Мар Нужен ли кухонный остров: плюсы, ошибки и идеи для компактных кухонь Функция важнее метража Есть устойчивый миф: остров – это обязательно что-то массивное, с плитой, мойкой и десятком ящиков. На практике всё проще и ин...

21:17, 27 Фев Эксперты Freedom Holding Сorp.: ChatGPT – это инструмент аналитика, а не его замена Финансовые аналитики готовят отчеты и прогнозы по публичным эмитентам и целым секторам для клиентов Freedom Broker, а также выступают в СМИ как предс...

00:17, 27 Фев Стало известно, кому противопоказан Великий пост и ошибки постящихся В России 23 февраля наступил Великий пост. Он продлится 48 дней и завершится лишь 11 апреля. В течение всего этого периода предписано ограничивать се...

18:17, 06 Фев Anthropic гарантирует отсутствие рекламы в Claude на фоне планов ChatGPT Компания Anthropic заявила, что её виртуальный помощник Claude останется без рекламы, несмотря на планы OpenAI внедрить рекламные материалы в ChatGPT...

07:17, 03 Фев OpenAI ищет замену Nvidia: создатели ChatGPT недовольны новыми чипами Компания OpenAI начала рассматривать альтернативы чипам Nvidia для задач искусственного интеллекта. Как сообщает Reuters со ссылкой сразу на восемь и...

17:17, 27 Янв Как открыть ChatGPT, Gemini, Sora, Grok и другие нейросети и сервисы в России без VPN Ни для кого не секрет, что большое количество зарубежных сервисов уже достаточно давно не работает в России, а какие-то даже и не начинали этого дела...

01:17, 29 Янв Крушение самолета в Вашингтоне, при котором погибли фигуристы, произошло из-за ошибки авиадиспетчера (Washington Post) Крушение пассажирского самолета в аэропорту Вашингтона в январе 2025 года произошло из-за ошибки диспетчера. Об этом заявила глава Национального сове...

03:17, 06 Мар Карседо о 2:5 от «Динамо»: «Никто не был на высоте. Я первый, кто допустил ошибки. «Спартак» был лучше в 1-м тайме, но потом выпустил игру из своих рук» Главный тренер «Спартака» Хуан Карлос Карседо прокомментировал поражение от «Динамо» в первом матче полуфинала Пути РПЛ FONBET Кубка России (2:5). – ...

03:17, 11 Фев Mercedes-AMG исправляет ошибки: новый кроссовер Mercedes-AMG GLC 53 получил рядную «шестерку» вместо пачки сока Подразделение Mercedes-AMG официально признало, что переход на четырехцилиндровые двигатели в старших моделях был спорным решением, и начало возвраща...

06:17, 08 Фев Кондаков о «Зените» и воспитанниках: «Это сильнейший клуб, цена ошибки большая. Ничья – уже отрицательный результат. У Семака нет возможности ждать, когда мы станем меньше ошибаться» Даниил Кондаков объяснил, почему за «Зенит» играет меньше воспитанников, чем некоторым хотелось бы. – Да, в Санкт-Петербурге все ждут, чтобы в главно...