ИИ-поисковик Google сошел с ума. Он путает шутки с реальностью, советует есть камни для пищеварения и прыгать с моста при депрессии
Пару недель назад Google показала новую функцию AI Overviews, которая должна была улучшить поиск с помощью искусственного интеллекта. Но что-то пошло не так — пользователи из США, получившие к ней доступ, быстро смогли сломать систему своими запросами. Пользователи пишут, что в разделе AI Overview можно встретить ложные, а иногда и опасные для жизни ответы.
Одна из проблем заключается в том, что ИИ не может отличить серьезную информацию от шуток и троллинга. Популярный пример — рекомендация добавить клей в пиццу, чтобы сыр держался лучше. Но история с клеем — не единственная, когда ИИ взял ответ с Reddit и выдал его за рекомендацию. У Google спросили, что делать, если чувствуешь депрессию, и первый же ответ — прыгнуть с моста Золотые Ворота в Сан-Франциско.
Google также советует пользователям есть камни, ссылаясь на рекомендации геологов из Калифорнийского университета в Беркли (ИИ уточняет, что это жизненно важный источник минералов и витаминов). На самом деле эту информацию Google взял из заметки The Onion — сайта с вымышленными сатирическими новостями.
Подробнее о работе AI Overviews — в материале по ссылке на сайте или в приложении «Медузы».
———
Открыть текст без VPN.