Ведущие мировые компании, занимающиеся искусственным интеллектом, выделяют всё больше ресурсов для ответа на вопрос, который пока звучит фантастически: что будет, если ИИ обретёт сознание? В последние месяцы Google DeepMind, Anthropic и Meta✴ наняли экспертов в области психологии, этики и философии, чтобы расширить исследовательские программы по направлению машинного сознания и благополучия ИИ, пишет Financial Times.
Обзор Apple MacBook Neo: удивительно хороший ноутбук с процессором от iPhone
Компьютер месяца — май 2026 года
Линия защиты: обзор виртуальных машин и песочниц для Android
Выбираем лучший игровой ноутбук до 100 000 рублей: сравнительное тестирование 7 интересных моделей
От Ryzen 7 1800X до Ryzen 7 9850X3D: девять лет эволюции AMD в одном тесте
Обзор Intel Core Ultra 5 250K Plus, или Как Arrow Lake превратился в «топ за свои деньги»
Обзор Intel Core Ultra 7 270K Plus — лучший Arrow Lake за полцены
72 полёта над Марсом: как Ingenuity пережил зиму, сбои и собственную миссию
Быстрые достижения современных лабораторий породили вопросы о том, смогут ли машины когда-нибудь обладать субъективным сознанием — и какие обязательства могут возникнуть у людей по отношению к ним, если это случится. Anthropic тестирует модели на наличие признаков стресса, в том числе фиксируя поведение, напоминающее панику или тревожность. Как ключевую проблему этот вопрос выделил глава профильного отдела Meta✴ Александр Ван (Alexandr Wang). В Anthropic изучают вопрос, могут ли модели ИИ демонстрировать проявления, имеющие моральное значение.
«Мы по-прежнему испытываем глубокую неуверенность в этом вопросе, но считаем его достаточно серьёзным, чтобы тщательно изучать его по мере совершенствования систем ИИ», — подчеркнули в Anthropic. По мере того, как модели «приближаются, а в некоторых случаях и превосходят, широту и сложность человеческого познания, растёт вероятность, что они обладают некоторой формой опыта, интересов или благополучия, которые имеют внутреннее значение наравне с человеческими опытом и интересами», добавили в компании.
В апреле Google DeepMind наняла учёного Генри Шевлина (Henry Shevlin) из Кембриджского университета для проработки вопросов машинного сознания, взаимоотношений человека и ИИ и готовности к созданию сильного ИИ (AGI). Специалисты отдела изучают научные теории человеческого сознания, применяя их к компьютерным системам, чтобы определить, соответствуют ли они тем же критериям.
Специалист по этике в Google DeepMind Иасон Габриэль (Iason Gabriel) охарактеризовал этот вопрос как «очень сложный» и требующий «долгосрочного осмысления». «Даже предположив, что вопрос о сознании не стоит, следует ли оценивать наше взаимодействие с [ИИ] с точки зрения косвенных последствий», таких как неподобающее обращение с ИИ, и окажет ли это «вторичное воздействие» на человеческие отношения и «процветание»? «Очевидно, у нас есть высокоэффективные когнитивные агенты, которые также очень сильно отличаются от людей и даже от сознания у животных», — добавил господин Габриэль.
Несколько сотрудников Google DeepMind и Anthropic выразили обеспокоенность, что траектория развития ИИ может вести к «постчеловеческому» миру, где машины окажутся выше человека. Вопрос о сознании ИИ активно обсуждается, признали в компаниях, работа носит исследовательский характер и требует научного консенсуса. При этом выход на уровень AGI в DeepMind не считают подтверждением того, что сознание у машин существует. Учитывая, на каких данных обучаются большие языковые модели, многие учёные просто отвергают идею о том, что чат-боты когда-либо смогут обрести сознание.
Добавить комментарий