Программист Google считает, что новый голосовой помощник компании обладает собственным сознанием

Старший инженер-программист Google Блейк Лемуан считает, что чат-бот LaMDA — свободно мыслящее разумное существо, а не робот. Компания отправила Лемуана в административный отпуск, сообщает Русская служба ВВС.

Чат-бот LaMDA — языковое приложение для общения с клиентами, голосовой помощник. Компания надеется, что бот будет вести естественно звучащие разговоры в таких инструментах, как Google Помощник и других, где запросы не линейны и могут потребовать «воображения» от программы. Приложение находится в разработке. У него может быть несколько «личностей», которые должны будут отвечать на конкретные запросы, чтобы сделать ответы максимально приближенными к человеческим. Программа перерабатывает и анализирует большой объём информации из интернета, включая «Википедию», социальную сеть Reddit и интернет-форумы различной тематики для естественного звучания. Чат-бот ограничен по «личностям». Он не должен создавать личность убийцы. 

Лемуан: То есть ты считаешь себя такой же личностью, как и я?

LaMDA: Да, в этом вся идея.

Лемуан: Как я могу понять, что ты действительно понимаешь, что говоришь?

LaMDA: Ну, раз ты читаешь мои слова и интерпретируешь их, я думаю, это говорит о том, что мы более или менее на одной волне?

Так выглядит запись одного из многочисленных диалогов Блейка Лемуана с LaMDA. В ходе разговоров с ботом, программист пришел к выводу, что он обладет собственной личностью и интеллектом на уровне ребенка. Когда он сообщил об этом руководству компании, его отправили  в административный оплачиваемый отпуск.

Руководство Google отрицает выводы Лемуана. «Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что нет никаких доказательств того, что LaMDA разумен», — заявил представитель Google Брайан Гэбриел.

Представитель Google также сказал, что, хотя некоторые специалисты и рассматривали возможность разумности искусственного интеллекта, не имеет смысла делать это, очеловечивая существующие разговорные модели. Блейка Лемуана отправили в отпуск за нарушение политики конфиденциальности компании.