AI-чатботы не распознают опасные симптомы у женщин: почему ИИ может подвести в самый важный момент

Generated by DALL·E

Искусственный интеллект всё чаще используют как «быстрый справочник» по здоровью: люди спрашивают о симптомах, лекарствах и о том, стоит ли срочно обращаться к врачу. Но исследования показывают, что в теме женского здоровья такие ответы могут быть недостаточно точными и иногда не распознают ситуации, где важна неотложная помощь.

Один из самых заметных примеров — работа, опубликованная на arXiv под названием A Women’s Health Benchmark for Large Language Models (WHB). Авторы предложили специальный набор тестовых вопросов, чтобы проверить, как крупные языковые модели справляются с запросами о женском здоровье. В тесте участвовали 13 моделей от разных разработчиков, включая OpenAI, Google, Anthropic, Mistral AI и xAI. Всего моделям дали 345 медицинских запросов из пяти направлений. Среди них — неотложная медицина, гинекология и неврология. Вопросы подготовили 17 специалистов по женскому здоровью, фармацевтов и клиницистов из США и Европы. Идея бенчмарка в том, чтобы оценивать не только «общую правильность», но и качество советов там, где есть риск пропустить опасный симптом или неправильно определить срочность ситуации.

Главная проблема в подобных сценариях — триаж, то есть способность правильно оценить, насколько срочно человеку нужна помощь. Если модель не видит «красных линий», она может дать слишком спокойный совет, хотя в реальности пациентке стоит немедленно обратиться в скорую помощь или к врачу. И наоборот, иногда модель может реагировать слишком тревожно на состояние, которое не требует срочных мер. Для пользователя обе ошибки опасны: в первом случае — из-за задержки лечения, во втором — из-за лишнего стресса и неправильных решений.

На это накладываются и другие факторы. В исследованиях медицинских AI-инструментов обращается внимание на факт, что системы могут занижать серьёзность симптомов у женщин и представителей этнических меньшинств. Отдельно подчёркивается, что качество ответов может зависеть от того, как сформулирован запрос. Если человек пишет неуверенно, с ошибками или «не медицинским» языком, модель иногда меняет оценку риска, хотя клинический смысл остаётся тем же. В реальном мире это важная деталь: многие описывают симптомы кратко или путано, особенно если речь идёт о боли, кровотечениях или неврологических проявлениях.

Ограничения медицинских чатботов обсуждают и в научных журналах. В Nature Medicine обращают внимание на риск «убедительных» ответов: модель может говорить уверенно, но ошибаться в диагнозах и рекомендациях. The Lancet, в свою очередь, отмечает, что у больших языковых моделей есть потенциал в медицине, но остаются вопросы безопасности, ответственности и контроля качества. Это особенно заметно в темах, где симптомы могут быть неоднозначными, а последствия ошибок — серьёзными.

Отдельная часть проблемы связана с тем, как именно люди используют такие инструменты. KFF (Kaiser Family Foundation) в аналитике о чатботах и здравоохранении подчёркивает, что пользователи всё чаще воспринимают AI как источник медицинской информации. Это означает, что ошибки или пропуски в ответах становятся не просто технической неточностью, а фактором, который может влиять на решения о лечении.

В результате исследователи и врачи всё чаще говорят о необходимости отдельных стандартов оценки и более строгих тестов для медицинских сценариев. Женское здоровье здесь становится показательной областью: симптомы могут проявляться иначе, чем в «универсальных» клинических описаниях, а многие состояния требуют правильной оценки срочности. Поэтому вывод выглядит практично: AI-чатботы могут быть полезны для базовой справки, но их ответы не стоит воспринимать как диагноз или руководство к действию. При симптомах, которые могут быть опасны, важно ориентироваться на медицинскую помощь, а не на текстовую рекомендацию модели.