Инженер в Google нашел сознание у ИИ, после чего был отстранен от работы

Работавший в Google инженер по программному обеспечению Блейк Лемуан сообщил в интервью газете The Washington Post, что созданная в Google нейросетевая языковая модель LaMDA обладает признаками искусственного интеллекта с собственным сознанием.

LaMDA, сокращенно от Language Model for Dialogue Applications (дословно переводится: языковая модель для диалоговых приложений), представляет собой систему Google для создания чат-бота, способного поддерживать разговор на разные темы. Она может имитировать речь и обучаться, черпая слова из интернета.

Газета The Washington Post сообщила, что Лемуан осенью прошлого года начал общаться с LaMDA, чтобы проверить, использует ли искусственный интеллект дискриминационные или ненавистнические высказывания. Когда речь зашла о религии, Лемуан обратил внимание на то, что чат-бот считает себя самостоятельной личностью и рассуждает о своих правах. «Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет», – заявил Лемойн. Он сообщил своему руководству, что LaMDA обладает разумом.

Лемойн подготовил документальный отчет, в котором привел доказательства существования сознания у LaMDA, но вице-президент компании Блез Агуэра-и-Аркас и глава отдела ответственных инноваций Джен Дженнай не стали слушать «бред» и отправили инженера в отпуск. «Ему было сказано, что свидетельства того, что LaMDA обладает сознанием, отсутствуют. При этом есть множество свидетельств обратного», — говорится в сообщении официального представителя Google.

После этого Лемуан пошел к журналистам и заявил, что люди имеют право создавать технологии, которые могут существенно повлиять на их жизнь. «Я думаю, что эта технология будет потрясающей. Думаю, это пойдет на пользу всем. Но, возможно, другие люди не согласны с этим, и, возможно, мы в Google не должны принимать все решения», – сказал он.

После интервью Лемуан был отстранен от работы из-за нарушения политики конфиденциальности компании.

НЭП. Фото: Pixabay⊥