Управляющая поисковой машиной модель искусственного интеллекта Google оказалась неспособна распознавать и считать буквы в словах. Так, в слове «Google» она насчитала две буквы «P». И это не единственная её ошибка подобного рода, пишет TechCrunch.
72 полёта над Марсом: как Ingenuity пережил зиму, сбои и собственную миссию
Обзор Apple MacBook Neo: удивительно хороший ноутбук с процессором от iPhone
Компьютер месяца — май 2026 года
Обзор Intel Core Ultra 5 250K Plus, или Как Arrow Lake превратился в «топ за свои деньги»
От Ryzen 7 1800X до Ryzen 7 9850X3D: девять лет эволюции AMD в одном тесте
Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей
Линия защиты: обзор виртуальных машин и песочниц для Android
Обзор Intel Core Ultra 7 270K Plus — лучший Arrow Lake за полцены
Общественность без энтузиазма восприняла масштабное обновление поискового сервиса Google, и уже не в первый раз. Раньше Google оказалась предметом насмешек, сатиры и пародий, когда «Обзоры от ИИ» начали советовать пользователям есть камни и мазать пиццу клеем — здесь и пародировать ничего не надо. Но в самой компании считают подобные ошибки закономерными. «Подсчёт [букв] в словах — известная проблема для больших языковых моделей, и мы работаем над решением этой конкретной проблемы», — заявили в компании.
Большие языковые модели, лежащие в основе чат-ботов и других генераторов текста, не предназначаются для анализа орфографии. Они могут писать предложения за считанные секунды и решать математические задачи, которые десятилетиями ставят учёных в тупик, но по уровню правописания едва ли превосходят детсадовца. Иногда у них возникают трудности с интерпретацией смыслов: недавно стало известно, что поисковый ИИ Google воспринимает слово «игнорируй» не как запрос, а как команду.
ИИ не воспринимает предложения как языковые единицы, состоящие из слов и букв. Чат-боты преимущественно строятся на моделях-трансформерах, которые разбивают текст на токены — слова, слоги и буквы — они не читают как человек, а преобразуют текст в собственные числовые представления и учитывают контекст, чтобы выдать логичный ответ. Речь идёт об ограничениях на уровне архитектуры, и исследователи не дают оптимистических прогнозов по поводу решения проблемы с орфографией. Приоритет задачи к тому же невысок: полезность большой языковой модели не состоит в её способности писать правильно. Эти недостатки помогают человеку понять, что ИИ не идеален, даже если он иногда кажется всезнающей машиной, уровень которой недостижим для человека. Поэтому нельзя доверять ответам ИИ вслепую.
Добавить комментарий