Google планирует добавить в интерфейс чат-бота с искусственным интеллектом Gemini новые функции, направленные на поддержку психического здоровья пользователей. Компания приняла это решение после того, как её конкурентам, в том числе OpenAI, пришлось отвечать по судебным искам, в которых их чат-ботов обвинили в причинении вреда пользователям.
Ryzen и 16 Гбайт DDR5: как сэкономить на памяти так, чтобы не лишиться 15 % производительности
Обзор Samsung Galaxy Z TriFold: тройной складной смартфон по цене квартиры в Воркуте
Компьютер месяца, спецвыпуск: эпоха отката, или Как дефицит чипов памяти влияет на выбор железа для игрового ПК
Обзор ноутбука HONOR MagicBook X16 2026: как раньше, только лучше
Обзор Apple MacBook Neo: удивительно хороший ноутбук с процессором от iPhone
Обзор Ryzen 7 9850X3D: три процента за двадцать баксов
От Ryzen 7 1800X до Ryzen 7 9850X3D: девять лет эволюции AMD в одном тесте
Гид по выбору OLED-монитора в 2026 году: эволюция в деталях
В чат-боте Gemini появится интерфейс, направляющий пользователей на горячую линию поддержки, если в переписке человека с ИИ будут обнаруживаться признаки «потенциального кризиса, связанного с самоубийством или членовредительством». Компания добавит в чаты о психическом здоровье модуль «Доступна помощь»; в дизайн приложения внесут изменения, направленные на предотвращение членовредительства.
Чат-бот Gemini и ChatGPT продолжают набирать популярность, и некоторые люди формируют с ними навязчивые отношения, способствующие развитию бредовых состояний; в крайних случаях эти пользователи убивают других людей или совершают самоубийства. На ведущих разработчиков ИИ уже подают в суд; Конгресс США уже изучает угрозы, которые чат-боты могут представлять для детей и подростков. В марте семья погибшего 36-летнего американца подала в суд на Google, утверждая, что его контакт с Gemini привёл к «четырёхдневному погружению в насильственные действия и спровоцированному самоубийству». Google заявила, что чат-бот неоднократно направлял мужчину на кризисную линию, но пообещала повысить безопасность платформы.
Некоторые пользователи сервисов ИИ заявляли, что чат-боты побуждали их действовать на основе явно не соответствующей действительности информации. В ответ на это Google, по её словам, обучила Gemini «не соглашаться с ложными убеждениями и не подкреплять их, а мягко указывать на отличие субъективного опыта от объективных фактов».
Добавить комментарий