Google втайне отключила генерацию ИИ-обзоров для ряда медицинских запросов, включая анализы функции печени. Искусственный интеллект предлагал пользователям «тревожные» и «опасные» рекомендации, сообщает androidauthority.com. Компания подтвердила «широкие улучшения» в системе.
Функция AI Overviews, создающая краткие сводки поверх результатов поиска, некорректно обрабатывала запросы о здоровье. В частности, ИИ приводил стандартные диапазоны показателей печени, не указывая, что их норма зависит от возраста, пола или этнической принадлежности пациента. Эксперты предупреждают, что такая ошибка может заставить человека с серьёзным заболеванием пропустить необходимость срочного визита к врачу.
«Когда речь идёт о медицинской информации, точность имеет первостепенное значение. Вся существующая система медицинской диагностики опирается на контекст, вероятности и исключения — области, в которых большие языковые модели всё ещё испытывают трудности», — отмечается в исходном материале.
На данный момент компания удалила обзоры для конкретных запросов, например, «какой нормальный диапазон показателей анализа крови на функцию печени». Однако защита системы работает плохо: при малейшем изменении формулировки вопроса ИИ снова выдаёт неверную сводку.
Ванесса Хебдич из Британского фонда по изучению заболеваний печени подтвердила проблему: «Небольшие изменения в поисковом запросе, например, использование фразы «референтный диапазон показателей функции печени», по-прежнему приводят к тем же некорректным ответам».
Пока одни технологические гиганты сталкиваются с проблемами внедрения ИИ в медицину, другие показывают его реальную пользу в диагностике. Ранее «Жуковский.Life» сообщал о тайваньской системе искусственного интеллекта, которая анализирует стандартные эндоскопические снимки и с высокой точностью определяет риск развития рака желудка. Разработанная в Национальном университете Тайваня, она создана специально для помощи врачам в удалённых районах.