Google начала отключать AI Overviews для отдельных медицинских поисковых запросов после публикации расследования, в котором эксперты назвали ответы системы «опасными» и «вызывающими тревогу». Речь идёт о случаях, когда автоматические обзоры выдавали вводящую в заблуждение или откровенно неверную медицинскую информацию.
Поводом стало расследование, опубликованное в начале января, где были приведены конкретные примеры некорректных рекомендаций. В одном из них система советовала людям с раком поджелудочной железы избегать жирной пищи. Специалисты указали, что такая рекомендация прямо противоположна клиническим подходам и может повысить риск летального исхода для пациентов. В другом случае AI Overviews предоставляли ложные сведения о ключевых анализах функции печени, из-за чего люди с серьёзными заболеваниями могли ошибочно считать себя здоровыми.
По состоянию на утро 11 января AI-обзоры были полностью отключены для ряда медицинских вопросов, включая запросы вроде «каков нормальный диапазон показателей печёночных анализов крови». Вместо автоматически сгенерированных резюме пользователям теперь показываются обычные результаты поиска.
Компания не стала комментировать конкретные случаи удаления AI-обзоров. При этом представитель Google заявил, что в развитие и контроль качества AI Overviews, особенно в области здоровья, инвестируются значительные ресурсы. По его словам, внутренняя команда клиницистов проанализировала примеры, переданные журналистами, и в ряде случаев пришла к выводу, что информация не была неточной и опиралась на авторитетные источники. В ситуациях, где системе не хватало контекста, Google вносит общие улучшения и применяет внутренние правила модерации.
Это не первый раз, когда AI Overviews оказываются в центре критики. Ранее функция уже давала абсурдные и потенциально опасные советы, включая рекомендации добавлять клей в еду или употреблять несъедобные вещества. Кроме того, автоматические обзоры стали предметом нескольких судебных исков.
Ситуация с медицинскими запросами подчёркивает сложность применения генеративного ИИ в чувствительных областях, где ошибки могут иметь прямые последствия для здоровья людей. Временное отключение AI-обзоров для части запросов показывает, что Google вынуждена пересматривать границы использования технологии, несмотря на её активное продвижение в поиске.