Google незаметно удалила из своей поисковой системы ИИ-обзоры (AI Overviews) для некоторых запросов, связанных с медицинской тематикой и анализами функции печени. Как выяснилось, искусственный интеллект использовал упрощённые диапазоны показателей функции печени без важного контекста, такого как возраст, пол или этническая принадлежность.
Итоги 2025 года: мониторы. OLED – наше всё?
Итоги 2025 года: смартфоны
Лучшие ИИ-сервисы и приложения 2025 года: боты одолевают
Итоги 2025 года: программное обеспечение
Итоги 2025 года: почему память стала роскошью и что будет дальше
Лучшие игры 2025 года: выбор читателей и редакции
Обзор ноутбука TECNO MEGABOOK S14 (S14MM): OLED с HDR как новая норма
Итоги 2025 года: интернет-индустрия
Итоги 2025 года: процессоры для ПК
Итоги 2025 года: космос
Итоги 2025-го: ИИ-лихорадка, рыночные войны, конец эпохи Windows 10 и ещё 12 главных событий года
Итоги 2025 года: компьютер месяца
Итоги 2025 года: игровые видеокарты
Самые ожидаемые игры 2026 года
Итоги 2025 года: носимые устройства
ИИ-обзоры представляют собой специальные блоки в результатах поиска, формируемые искусственным интеллектом Google. При помощи этой функции компания стремилась ускорить поиск, благодаря сформированному нейросетью краткому резюме по заданному вопросу вместо привычного списка ссылок. Но ответы искусственного интеллекта на вопросы, связанные со здоровьем, эксперты описывают как «тревожные» и «опасные».
Например, ИИ привёл стандартные диапазоны показателей функции печени, не указав, что эти показатели могут сильно меняться в зависимости от возраста, пола или этнической принадлежности человека. Подобная ошибка может сбить с толку человека с серьёзным заболеванием печени, и он не сможет вовремя получить медицинскую помощь.
На данный момент Google уже удалила ИИ-обзоры для конкретных поисковых запросов, которые были отмечены как некорректные, например, «какой нормальный диапазон показателей анализа крови на функцию печени». Представитель компании заявил, что Google действует в соответствии со своей политикой и вносит «широкие улучшения».
Однако, если немного изменить формулировку вопроса о здоровье, можно всё равно получить неверную сводку от ИИ. Это показывает, что защита системы весьма ограничена. Ванесса Хебдич (Vanessa Hebditch) из Британского фонда по изучению заболеваний печени отметила, что небольшие изменения в поисковом запросе, например, использование фразы «референтный диапазон показателей функции печени», по-прежнему приводят к тем же некорректным ответам.
Когда речь идёт о медицинской информации, точность имеет первостепенное значение. Вся существующая система медицинской диагностики опирается на контекст, вероятности и исключения — области, в которых большие языковые модели всё ещё испытывают трудности. Похоже, что искусственный интеллект Google пока не готов стать полноценным врачом.
Добавить комментарий