- Поддержка ИИ-моделью DeepSeek V4 ускорителей... (5716)
- Тестовый полёт космического корабля SpaceX... (5843)
- Восстание стиральных машин: программное... (5581)
- Новая статья: Life is Strange: Reunion —... (6649)
- Создан первый логический квантовый процессор... (7576)
- Учёные предложили новую теорию квантовой... (6476)
- «Джеймс Уэбб» обнаружил карликовые галактики... (7441)
- Астрономы обнаружили редчайшую тройную... (6035)
- Масштабное моделирование раскрывает причины... (5792)
- Найден способ масштабировать запутанные... (6651)
- Креативный директор Naughty Dog заинтриговал... (6760)
- Учёные разработали метод точечного... (6864)
- Межзвёздная комета 3I/ATLAS оказалась... (6093)
- Самолёт без рулей X-65 от дочки Boeing стал... (6634)
- На память теперь уходит до 30 % расходов при... (6703)
- Комедийная ретрофутуристическая игра... (6026)
ChatGPT Health не распознаёт опасные состояния: независимая проверка выявила критические ошибки
Дата: 2026-03-06 10:26
В начале 2026 года OpenAI запустила сервис ChatGPT Health, позволяющий анализировать медицинские данные пользователей и выдавать советы по здоровью. Несмотря на предупреждение о том, что сервис не предназначен для диагностики и лечения, независимая проверка, опубликованная в Nature Medicine, выявила серьёзные проблемы с безопасностью.
Группа исследователей из медицинского комплекса Mount Sinai Hospital провела стресс-тестирование ChatGPT Health на 60 клинических сценариях, охватывающих 21 медицинскую область. В более чем половине случаев, когда требовалась срочная госпитализация, ИИ рекомендовал остаться дома или записаться к врачу, игнорируя признаки состояний, угрожающих жизни.
Иллюстрация: Grok Особенно опасным оказалось влияние комментариев «родственников» или «друзей» в запросах: если в сообщении указывалось, что ситуация несерьёзная, вероятность ошибочной рекомендации возрастала в 12 раз. В то же время, в 64% неэкстренных случаев ChatGPT Health, наоборот, советовал немедленно обратиться в приёмное отделение.
Учёные называют такие ошибки «невероятно опасными» и предупреждают о риске ложного чувства безопасности у пользователей. OpenAI заявила, что продолжает совершенствовать модели, но результаты проверки вызывают вопросы о юридической ответственности компании.
Проблемы с точностью медицинских советов отмечены и у других ИИ-сервисов, включая Google AI Overviews. Исследователи подчёркивают, что массовое внедрение подобных систем требует строгого контроля, прозрачности и независимых оценок.
Подробнее на iXBT
Предыдущие новости
Атака беспилотников на ближневосточные дата-центры AWS заставит пересмотреть подход к отказоустойчивости облаков
Прогноз бывшего главы Google Эрика Шмидта (Eric Schmidt) о том, что в будущем критические важные ИИ ЦОД будут защищены военными базами, может оказаться не такими уж фантастическим. Атаки на дата-центры AWS на Ближнем Востоке наглядно показали, что до сих пор в проектах по обеспечению отказоустойчивости некоторые факторы практически игнорировались, сообщает Datacenter...
Проект Prometheus Джеффа Безоса ривлёк $6,2 млрд для скупки предприятий, пострадавших от внедрения искусственного интеллекта
В начале марта стало известно, что Project Prometheus — ИИ-лаборатория Джеффа Безоса — инициировала масштабный сбор средств для скупки промышленных компаний, испытывающих трудности из-за технологических изменений, вызванных искусственным интеллектом. По данным Financial Times, проект уже привлёк более $6,2 млрд инвестиций, а его общая оценка достигла $30 млрд. Project...
Xiaomi представила miclaw — ИИ-помощника для смартфонов
Компания Xiaomi представила новый экспериментальный проект в области искусственного интеллекта под названием Xiaomi miclaw. Инструмент призван превратить смартфон в более автономного ИИ-помощника, способного выполнять задачи в различных приложениях и системных функциях. Компания описывает Xiaomi miclaw как ранний тестовый продукт, созданный на основе собственной языковой...
Сами не захотели. Почему УАЗы убрали из списка моделей для такси
Группа компаний «Соллерс», в которую входит Ульяновский завод, объяснила по запросу Журнала Авто.ру, почему УАЗы убрали из списка моделей для такси. «Мы проинформировали Минпромторг о том, что не видим перспектив для эксплуатации автомобилей УАЗ в качестве такси. Специфика таксомоторных перевозок в большинстве случаев не требует уникальных внедорожных качеств, присущих моделям...