Google скрыла опасные ответы ИИ о здоровье — поисковик под давлением критики убрал проблемные результаты

Generated by DALL·E

После расследования, опубликованного The Guardian, Google отключила генерацию AI-обзоров для некоторых медицинских поисковых запросов. Причина — ИИ выдавал ответы, которые могли вводить пользователей в заблуждение в отношении здоровья.

Что именно изменилось

Ранее при обычных запросах, например «что считается нормальным диапазоном результатов анализа крови на печень», Google показывал автоматически сгенерированные краткие обзоры. Эти ответы не учитывали такие важные факторы как возраст, пол, этническая принадлежность, что могло привести к неправильному самоощущению результатов тестов.

Сейчас эти автоматические AI-обзоры перестали появляться для фраз вроде «каковы нормальные показатели анализов крови» и «каков нормальный диапазон показателей функции печени». Но похожие формулировки всё ещё могут иногда вызывать AI-подсказки.

Реакция Google

Представитель компании сказал, что Google не даёт подробных комментариев по каждому случаю отключения функции, но регулярно работает над общими улучшениями. Внутренние эксперты также оценили часть проблемных запросов и пришли к выводу, что в ряде случаев ИИ-ответы не были неточными и опирались на надёжные источники.

Мнение экспертов

Представитель британской благотворительной организации по вопросам заболеваний печени отметил, что отмена обзоров по отдельным запросам — шаг вперёд, но не решает основную проблему непоследовательных медицинских AI-ответов в целом.

Почему это важно

Автоматизированные AI-обзоры занимают видное место в результатах поиска и часто формируют у людей первое впечатление о медицинской теме. Если такие ответы содержат неточности или не учитывают нюансы, это может привести к неправильным выводам и потенциальному вреду для здоровья.