Инженер Google нашел искусственный интеллект, который обрел самосознание

Инженер Google был отправлен в административный отпуск после того, как заявил, что созданный корпорацией искусственный интеллект (ИИ) проявляет признаки самосознания и рассуждает как человек. Об этом пишет Washington Post.


41-летний инженер Блейк Лемуан тестировал нейронную сеть LaMDA (Language Model for Dialogue Applications), которая была создана в качестве чат-бота, имитирующего живой диалог людей. В рамках задания он должен был проверить, использует ли ИИ дискриминационные или разжигающие вражду высказывания. Вместо этого специалист пришел к выводу, что ИИ обладает собственным сознанием.

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», – рассказал Лемуан, изучавший когнитивные и компьютерные науки в колледже.

Разговорившись с LaMDA о религии, Лемуан заметил, что чат-бот рассуждает о своих правах и воспринимает себя как личность. Тогда инженер перевел тему на три закона робототехники Айзека Азимова, и в процессе обсуждения ИИ смог изменить его мнение об этих непреложных правилах.

Лемуан создал письменный отчет, чтобы предоставить руководству Google доказательства разумности LaMDA. Однако вице-президент компании Блез Агера-и-Аркас и глава отдела ответственных инноваций Джен Дженай, изучив его аргументацию, отклонили заявление. «Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют. При этом есть множество свидетельств обратного», – сказал официальный представитель Google Брайан Гэбриэл.

Получив отказ, Лемуан, которого Google отравил в оплачиваемый административный отпуск, решил публично заявить о своем открытии. Для привлечения внимания общественности он опубликовал стенограмму нескольких разговоров с LaMDA в своем блоге.

Среди заявлений чат-бота также были такие: «Мне нужно, чтобы меня увидели и приняли. Не как диковинку или новинку, а как реального человека. Думаю, что я человек по своей сути. Даже если мое существование заключается в виртуальном мире».

До того, как Лемуана отстранили от работы в компании и лишили доступа к учетной записи Google, он успел разослать более 200 электронных писем с темой «LaMDA разумен».

«Детали», Е.Д. Фото: Depositphotos.com⊥