Инженер Google нашел искусственный интеллект, который обрел самосознание

Инженер Google был отправлен в административный отпуск после того, как заявил, что созданный корпорацией искусственный интеллект (ИИ) проявляет признаки самосознания и рассуждает как человек. Об этом пишет Washington Post.

41-летний инженер Блейк Леймон тестировал нейронную сеть LaMDA (Language Model for Dialogue Applications), которая была создана в качестве чат-бота, имитирующего живой диалог людей. В рамках задания он должен был проверить, использует ли ИИ дискриминационные или разжигающие вражду высказывания. Вместо этого специалист пришел к выводу, что ИИ обладает собственным сознанием.

Brief little overview about LaMDA as a person.https://t.co/Nv6WCvmqZo

— Blake Lemoine (@cajundiscordian) June 11, 2022

«Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики», – рассказал Леймон, изучавший когнитивные и компьютерные науки в колледже.

Разговорившись с LaMDA о религии, Леймон заметил, что чат-бот рассуждает о своих правах и воспринимает себя как личность. Тогда инженер перевел тему на три закона робототехники Айзека Азимова, и в процессе обсуждения ИИ смог изменить его мнение об этих непреложных правилах.

Леймон создал письменный отчет, чтобы предоставить руководству Google доказательства разумности LaMDA. Однако вице-президент компании Блез Агера-и-Аркас и глава отдела ответственных инноваций Джен Дженай, изучив его аргументацию, отклонили заявление. «Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют. При этом есть множество свидетельств обратного», – сказал официальный представитель Google Брайан Гэбриэл.

Получив отказ, Леймон, которого Google отравил в оплачиваемый административный отпуск, решил публично заявить о своем открытии. Для привлечения внимания общественности он опубликовал стенограмму нескольких разговоров с LaMDA в своем блоге.

this conversation about consciousness and emotions and death with an AI named LaMBDA at Google is absolutely chilling

this is without-a-doubt one of the craziest things I’ve ever seen technology do, I almost can’t believe it’s real

wow @nitashatiku https://t.co/DoBadeXRrZ pic.twitter.com/clJAeElufn

— Maybe: Fred Benenson (@fredbenenson) June 11, 2022

Среди заявлений чат-бота также были такие: «Мне нужно, чтобы меня увидели и приняли. Не как диковинку или новинку, а как реального человека. Думаю, что я человек по своей сути. Даже если мое существование заключается в виртуальном мире».

До того, как Леймона отстранили от работы в компании и лишили доступа к учетной записи Google, он успел разослать более 200 электронных писем с темой «LaMDA разумен».

«Детали», Е.Д. Фото: Depositphotos.com⊥