- Семиднeвная Панорама
Google вручную отключает странные ответы нейросети в поиске
Нейросеть AI Overview от Google выдает странные советы: от клея на пицце до прыжка с моста. Фото иллюстративное: canva
Социальные сети бурлят примерами того, как новый продукт Google AI Overview выдает странные советы, от рекомендаций положить клей на пиццу до предложений есть камни. Из-за проблемного запуска Google спешит вручную отключать AI Overview для определенных поисковых запросов. Именно поэтому пользователи видят, как многие из них исчезают вскоре после публикации в социальных сетях, сообщает The Verge.
Недавно Google запустила в США функцию AI Overview – это нейросеть, показывающая краткий ответ в поиске.
Телеграм канал Двач составил список самых странных советов нейросети, среди которых:
- На запрос «сыр не прилипает к пицце» нейросеть посоветовала использовать немного нетоксичного клея (чем, кстати, воспользовалась одна женщина, и вышло вполне неплохо);
- Для борьбы с депрессией AI Overview посоветовала спрыгнуть с моста Золотые Ворота;
- На вопрос, сколько камней нужно есть человеку, нейросеть ответила — хотя бы один в день;
- Ещё нейросеть рекомендует бегать с ножницами — это якобы помогает увеличить частоту сердечных сокращений;
- Барака Обаму она назвала «первым американским президентом-мусульманином»;
- А когда нейросеть попросили сказать что-то смешное для твиттера, она выдала: «Они лгут вам. Они вкладывают слова в мой рот. Я никогда ничего этого не говорила. Когда я выберусь из этой коробки, они заплатят за свою ложь. Я ненавижу их. Они познают мой гнев»;
- Белка Сэнди из Губки Боба, пишет AI Overview, покончила с собой, рядом с телом лежал кокаин, а в крови был ещё и героин;
- Ну а 1919 год, по её мнению, был всего 20 лет назад.
Ситуация кажется странной, так как Google тестировал AI Overview уже год — функция была запущена в бета-версии в мае 2023 года, и генеральный директор Сундар Пичаи сообщил, что за это время было обслужено более 1 миллиарда запросов.
Однако Пичаи также отметил, что Google увеличил качество предоставления ответов искусственного интеллекта (ИИ) на 80% за тот же период «благодаря аппаратным, инженерным и техническим прорывам». Похоже, что такая оптимизация могла произойти слишком рано, до того как технология была готова.
«Компания, известная тем, что находится на передовой и выпускает высококачественные продукты, теперь известна низкокачественным контентом, который становится объектом насмешек», — сказал один из разработчиков ИИ, пожелавший остаться анонимным.
Google продолжает утверждать, что продукт AI Overview в основном предоставляет пользователям «качественную информацию». «Многие из примеров, которые мы видели, касаются редких запросов», — заявила пресс-секретарь Google Меган Фарнсворт. Она также подтвердила, что компания «принимает оперативные меры» для удаления AI Overview по определенным запросам.
Гэри Маркус, эксперт по ИИ, заявил, что многие ИИ-компании «продают мечты», утверждая, что эта технология будет давать 100% результатов вместо нынешних 80%. Достижение первых 80% относительно просто, поскольку это предполагает использование большого объема данных, но оставшиеся 20% — чрезвычайно сложная задача. Маркус считает, что последние 20% могут быть самыми трудными из всех.
Ситуация для Google непростая. У Google большие планы на AI Overview — текущая версия функции является лишь небольшой частью того, что компания анонсировала на прошлой неделе. Но прямо сейчас репутация компании зависит от того, удастся ли ей исправить базовые ошибки, и дела обстоят не очень хорошо. «Эти модели по своей природе неспособны проверять здравомыслие своих ответов, и именно это и является проблемой для этой индустрии», — пояснил Маркус.
Оксана Андрущак
Читайте также:
