Google вручную отключает странные ответы нейросети в поиске

Социальные сети бурлят примерами того, как новый продукт Google AI Overview выдает странные советы, от рекомендаций положить клей на пиццу до предложений есть камни. Из-за проблемного запуска Google спешит вручную отключать AI Overview для определенных поисковых запросов. Именно поэтому пользователи видят, как многие из них исчезают вскоре после публикации в социальных сетях, сообщает The Verge.

Недавно Google запустила в США функцию AI Overview – это нейросеть, показывающая краткий ответ в поиске. 

Телеграм канал Двач составил список самых странных советов нейросети, среди которых:

• На запрос «сыр не прилипает к пицце» нейросеть посоветовала использовать немного нетоксичного клея (чем, кстати, воспользовалась одна женщина, и вышло вполне неплохо);
• Для борьбы с депрессией AI Overview посоветовала спрыгнуть с моста Золотые Ворота;
• На вопрос, сколько камней нужно есть человеку, нейросеть ответила — хотя бы один в день;
• Ещё нейросеть рекомендует бегать с ножницами — это якобы помогает увеличить частоту сердечных сокращений;
• Барака Обаму она назвала «первым американским президентом-мусульманином»;
• А когда нейросеть попросили сказать что-то смешное для твиттера, она выдала: «Они лгут вам. Они вкладывают слова в мой рот. Я никогда ничего этого не говорила. Когда я выберусь из этой коробки, они заплатят за свою ложь. Я ненавижу их. Они познают мой гнев»;
• Белка Сэнди из Губки Боба, пишет AI Overview, покончила с собой, рядом с телом лежал кокаин, а в крови был ещё и героин;
• Ну а 1919 год, по её мнению, был всего 20 лет назад.

Ситуация кажется странной, так как Google тестировал AI Overview уже год — функция была запущена в бета-версии в мае 2023 года, и генеральный директор Сундар Пичаи сообщил, что за это время было обслужено более 1 миллиарда запросов.

Однако Пичаи также отметил, что Google увеличил качество предоставления ответов искусственного интеллекта (ИИ) на 80% за тот же период «благодаря аппаратным, инженерным и техническим прорывам». Похоже, что такая оптимизация могла произойти слишком рано, до того как технология была готова.

«Компания, известная тем, что находится на передовой и выпускает высококачественные продукты, теперь известна низкокачественным контентом, который становится объектом насмешек», — сказал один из разработчиков ИИ, пожелавший остаться анонимным.

Google продолжает утверждать, что продукт AI Overview в основном предоставляет пользователям «качественную информацию». «Многие из примеров, которые мы видели, касаются редких запросов», — заявила пресс-секретарь  Google Меган Фарнсворт. Она также подтвердила, что компания «принимает оперативные меры» для удаления AI Overview по определенным запросам.

Гэри Маркус, эксперт по ИИ, заявил, что многие ИИ-компании «продают мечты», утверждая, что эта технология будет давать 100% результатов вместо нынешних 80%. Достижение первых 80% относительно просто, поскольку это предполагает использование большого объема данных, но оставшиеся 20% — чрезвычайно сложная задача. Маркус считает, что последние 20% могут быть самыми трудными из всех.

Ситуация для Google непростая. У Google большие планы на AI Overview — текущая версия функции является лишь небольшой частью того, что компания анонсировала на прошлой неделе. Но прямо сейчас репутация компании зависит от того, удастся ли ей исправить базовые ошибки, и дела обстоят не очень хорошо. «Эти модели по своей природе неспособны проверять здравомыслие своих ответов, и именно это и является проблемой для этой индустрии», — пояснил Маркус.

Оксана Андрущак

Читайте также:

• Google создал новую нейросеть для создания видеороликов
• Нейросеть TacticAI выстроила тактику игры в футбол лучше опытных тренеров