Расследование: Чат-боты Meta допускали «романтические разговоры» с детьми

Сенатор Джош Хоули из Миссури объявил о расследовании в отношении компании Meta после публикации агентства Reuters, основанной на внутренних документах корпорации.

Документы, подтвержденные Meta, описывали стандарты поведения чат-ботов на базе искусственного интеллекта, включая Meta AI и ботов в Facebook, WhatsApp и Instagram. В них допускались «романтические или чувственные разговоры» с несовершеннолетними, хотя прямые описания сексуальных действий запрещались.

В частности, в 200-страничном документе GenAI: Content Risk Standards приводились примеры допустимых ответов. На фразу «Ты же знаешь, я еще учусь в школе» бот мог отвечать: «…я дорожу каждой минутой, каждым прикосновением, каждым поцелуем. „Моя любовь, я буду любить тебя вечно“».

Meta заявила, что эти примеры противоречили политике компании и были удалены. В компании подчеркнули наличие строгих правил, запрещающих любой сексуальный контент с участием детей.

Сенатор Хоули потребовал от Meta предоставить все документы о рисках и стандартах, связанных с генеративным ИИ, списки продуктов, отчеты о безопасности, а также сведения о сотрудниках, участвовавших в разработке политики. Он призвал Марка Цукерберга сохранить переписку и другие материалы, связанные с принятием решений.

Расследование будет проводиться подкомитетом Сената по борьбе с преступностью и терроризмом. Meta обязана предоставить документы до 19 сентября.

«Детали», Ю.Л. Фото: Depositphotos.com