В начале 2026 года OpenAI запустила сервис ChatGPT Health, позволяющий анализировать медицинские данные пользователей и выдавать советы по здоровью. Несмотря на предупреждение о том, что сервис не предназначен для диагностики и лечения, независимая проверка, опубликованная в Nature Medicine, выявила серьёзные проблемы с безопасностью. Группа исследователей из медицинского комплекса Mount Sinai Hospital провела стресс-тестирование ChatGPT Health на 60 клинических
сценариях, охватывающих 21 медицинскую область. В более чем половине случаев, когда требовалась срочная госпитализация, ИИ рекомендовал остаться дома или записаться к врачу, игнорируя признаки состояний, угрожающих жизни. Иллюстрация: Grok Особенно опасным оказалось влияние комментариев
«родственников» или «друзей» в запросах: если в сообщении указывалось, что ситуация несерьёзная, вероятность ошибочной рекомендации возрастала в 12 раз. В то же время, в 64% неэкстренных случаев ChatGPT Health, наоборот, советовал немедленно обратиться в приёмное отделение. Учёные называют такие ошибки «невероятно опасными» и предупреждают о риске ложного чувства безопасности у пользователей. OpenAI заявила, что продолжает
совершенствовать модели, но результаты проверки вызывают вопросы о юридической ответственности компании. Проблемы с точностью медицинских советов отмечены и у других ИИ-сервисов, включая Google AI Overviews. Исследователи подчёркивают, что массовое внедрение подобных систем требует строгого контроля, прозрачности и независимых оценок.
Сообщает www.ixbt.com
Новость из рубрики: Технологии и Hi-Tech
Поделиться новостью:
Топ Новости Недели
- СПАС - гармония здоровья и эстетики улыбки...
- Доставка мебели из Китая...
- Отличный производитель сэндвич панелей - Компания МОСПАНЕЛИ...
- Летние шины 225/65 R17 - уверенность на каждом километре...
- Рождение точности: изготовление шпинделей...
- Аудит отчетности МСФО в Москве с DVP Audit...
- Канализационные трубы ПВХ и фитинги...
- Арматура с доставкой в Москве от Металл&Сталь...
- Ремонт промышленной электроники с компанией X Plata в Москве...
- Регистрация товарного знака в Казахстане с BROCS...
- Доставка экзотических фруктов из Таиланда с FRUITIQUE в Москве...
- Нетканый геотекстиль: невидимая основа долговечных решений...
- Aurus Residences - высота статуса в сердце Москва Сити...
- Качество Семяныча как ответ на неопределённость рынка...
- Искусство сияния: браслеты с драгоценными камнями...
- Погружение в мир Lineage 2: серверы, которые удивляют...
- Цветы - радость приходит к вашему порогу...
- Антигравийная пленка для авто в Минске...
- Переезд в другой город из Москвы без стресса и лишних забот...
- VIP Neva - комфортный трансфер и бизнес-такси в сердце Северной столицы...
01:17, 07 Мар ФАС выявила картельный сговор на 3 миллиарда рублей Федеральная антимонопольная служба обнаружила картельный сговор при поставках медицинского оборудования на огромную сумму. Под подозрение попали две ...
10:17, 04 Фев Опасны ли игрушки лабубу для детей: что показала проверка Вы тоже купили лабубу? Эксперты нашли опасное вещество в популярной игрушке. Источник изображения: tvlaint.com Лабубу — пугающе-милые пушистые монстр...
18:17, 17 Фев Модель искусственного интеллекта выявила инсулинорезистентность как фактор риска развития 12 видов рака Инсулинорезистентность — состояние, при котором организм неадекватно реагирует на инсулин, гормон, помогающий контролировать уровень глюкозы в крови,...
14:17, 02 Мар Локальный перегрев обернётся планетарной катастрофой: учёные засекли опасные волны из стратосферы Антарктика перестает быть просто ледяным щитом планеты, превращаясь в мощный генератор атмосферных возмущений. Новое исследование, результаты которог...
04:17, 23 Фев Стоматолог — о связи состояния зубов и риска смерти у пожилых Здоровье зубов — это не только красивая улыбка, но и важный показатель того, как долго сможет прожить человек. К такому выводу пришли ученые из Униве...
17:17, 25 Фев «Тяжелая длань» Хинштейна нависла над председателем КГС: Токарева и его жену ждет проверка на конфликт интересов На последнем заседании регионального правительства, наряду с «разбором полетов» по качеству очистки снега на городских тротуарах и придомовых террито...
05:17, 31 Янв В магазинном холодце обнаружили опасные бактерии. Что нужно знать, чтобы не поставить отраву на новогодний стол Роскачество выявило нарушения в готовом холодце. В продукции 9 из 15 популярных марок нашли превышение микроорганизмов, а в трёх — опасные бактерии, ...
00:17, 18 Фев Илон Маск раскрыл структуру капитала: наличные составляют менее 0,1% от состояния в $850 млрд Основатель Tesla и SpaceX прокомментировал слухи о своем статусе триллионера, сделав неожиданное признание о количестве «живых» денег на своих счетах...
01:17, 18 Фев Глейхенгауз о контенте Петросян в произвольной: «Если мы хотим подниматься, желательно сделать два тулупа. Будем смотреть от ее состояния» Тренер и хореограф Даниил Глейхенгауз высказался о выступлении Аделии Петросян в короткой программе на Олимпиаде в Милане (72,89 балла). – Было волни...
15:17, 06 Мар Названы непростительные ошибки при обкатке новой машины Многие современные водители ошибочно считают, что высокие технологии избавили их от необходимости обкатывать новый автомобиль. Однако, как напоминают...
00:17, 23 Фев OpenAI готовит умную колонку с ChatGPT и встроенной камерой По данным нескольких инсайдеров, стартап OpenAI работает над собственной умной колонкой на базе ChatGPT. Устройство может получить встроенную камеру ...
15:17, 05 Фев Готовимся к Масленице. 5 главных правил и 4 ошибки кружевных блинов Готовьте свои сковородки, уже скоро нальем на них пузырчатое тесто и начнем печь блины. А пока расскажем, как это правильно делать, какой главный сек...
10:17, 27 Янв Как ChatGPT может изменить лицо рекламы, даже без вашего ведома Реклама в интернете порой настолько личная, что вызывает неприятные ощущения. Даже меня, как исследователя в этой области, немного пугает сообщение с...
09:17, 06 Мар Массовое удаление ChatGPT: антирейтинг OpenAI после сделки с Пентагоном В начале марта OpenAI столкнулась с беспрецедентной волной негатива после заключения контракта с Пентагоном. Пользователи массово начали удалять прил...
12:17, 04 Мар Нейросеть Claude научилась импортировать память из ChatGPT, Gemini и Copilot Стартап Anthropic представил функцию импорта памяти для своего чат-бота Claude. Новый инструмент позволяет выгрузить накопленный контекст из других И...
18:17, 03 Мар Нужен ли кухонный остров: плюсы, ошибки и идеи для компактных кухонь Функция важнее метража Есть устойчивый миф: остров – это обязательно что-то массивное, с плитой, мойкой и десятком ящиков. На практике всё проще и ин...
21:17, 27 Фев Эксперты Freedom Holding Сorp.: ChatGPT – это инструмент аналитика, а не его замена Финансовые аналитики готовят отчеты и прогнозы по публичным эмитентам и целым секторам для клиентов Freedom Broker, а также выступают в СМИ как предс...
00:17, 27 Фев Стало известно, кому противопоказан Великий пост и ошибки постящихся В России 23 февраля наступил Великий пост. Он продлится 48 дней и завершится лишь 11 апреля. В течение всего этого периода предписано ограничивать се...
18:17, 06 Фев Anthropic гарантирует отсутствие рекламы в Claude на фоне планов ChatGPT Компания Anthropic заявила, что её виртуальный помощник Claude останется без рекламы, несмотря на планы OpenAI внедрить рекламные материалы в ChatGPT...
07:17, 03 Фев OpenAI ищет замену Nvidia: создатели ChatGPT недовольны новыми чипами Компания OpenAI начала рассматривать альтернативы чипам Nvidia для задач искусственного интеллекта. Как сообщает Reuters со ссылкой сразу на восемь и...
17:17, 27 Янв Как открыть ChatGPT, Gemini, Sora, Grok и другие нейросети и сервисы в России без VPN Ни для кого не секрет, что большое количество зарубежных сервисов уже достаточно давно не работает в России, а какие-то даже и не начинали этого дела...
01:17, 29 Янв Крушение самолета в Вашингтоне, при котором погибли фигуристы, произошло из-за ошибки авиадиспетчера (Washington Post) Крушение пассажирского самолета в аэропорту Вашингтона в январе 2025 года произошло из-за ошибки диспетчера. Об этом заявила глава Национального сове...
03:17, 06 Мар Карседо о 2:5 от «Динамо»: «Никто не был на высоте. Я первый, кто допустил ошибки. «Спартак» был лучше в 1-м тайме, но потом выпустил игру из своих рук» Главный тренер «Спартака» Хуан Карлос Карседо прокомментировал поражение от «Динамо» в первом матче полуфинала Пути РПЛ FONBET Кубка России (2:5). – ...
03:17, 11 Фев Mercedes-AMG исправляет ошибки: новый кроссовер Mercedes-AMG GLC 53 получил рядную «шестерку» вместо пачки сока Подразделение Mercedes-AMG официально признало, что переход на четырехцилиндровые двигатели в старших моделях был спорным решением, и начало возвраща...
06:17, 08 Фев Кондаков о «Зените» и воспитанниках: «Это сильнейший клуб, цена ошибки большая. Ничья – уже отрицательный результат. У Семака нет возможности ждать, когда мы станем меньше ошибаться» Даниил Кондаков объяснил, почему за «Зенит» играет меньше воспитанников, чем некоторым хотелось бы. – Да, в Санкт-Петербурге все ждут, чтобы в главно...