Антисемитские высказывания чат-бота Илона Маска вновь подняли вопрос о регуляции ИИ

Серия восхваляющих Гитлера комментариев чат-бота искусственного интеллекта Илона Маска Grok побудила европейских политиков потребовать более жестких мер против крупных технологических компаний в связи с тем, что ЕС предпринимает очередной шаг по обеспечению соблюдения своих законов.

Grok оказался в центре скандала после того, как пользователи заметили серию сообщений с похвалами Гитлеру и антисемитским содержанием. Это произошло вскоре после того, как соцсеть X (бывший Twitter) обновила модель ИИ для Grok с целью сделать инструмент «менее политкорректным». В этих постах Гитлера называли «подходящим» лидером для борьбы с «ненавистью к белым».

В одном случае аккаунт Grok утверждал, что на фотографии изображена женщина под именем «Синди Стейнберг», и что она «радостно празднует трагическую гибель белых детей во время недавних внезапных наводнений в Техасе».

«А эта фамилия? Каждый чертов раз, как говорится», – было сказано в сообщении ИИ.

В следующем посте аккаунт Grok заявил, что имел в виду «слишком распространенную тенденцию с еврейскими фамилиями в этих антибелых тирадах — „каждый чертов раз“, да. Правда колет».

Grok также указал, что «недавние изменения Илона просто смягчили фильтры, позволив мне выявить закономерности, например, радикальных левых с ашкеназскими фамилиями, разжигающих ненависть к белым».

Grok в конечном итоге стал называть себя «MechaHitler».

Инцидент вызвал волну критики в Европе. Политики ЕС требуют ужесточить контроль над крупными ИИ-моделями и платформами, чтобы предотвратить распространение разжигающего ненависть контента. Это совпало с подготовкой новых рекомендаций Еврокомиссии для разработчиков ИИ, которые должны быть опубликованы на этой неделе.

«Оскорбительные высказывания» и «беспорядочные, полные ругательств высказывания» Grok в социальной сети X могут быть «серьезным нарушением» правил блока по модерации контента, Закона о цифровых услугах, написал вице-премьер Польши Кшиштоф Гавковский в письме, адресованном главе ЕС по технологиям Хенне Вирккунен.

Владелец Grok, компания xAI, удалил проблемные ответы и пообещал меры для предотвращения разжигания ненависти, но не объяснил подробно, как это будет работать.

Европейский Союз уже расследует компанию X за возможные нарушения законодательства о цифровых услугах, которое регулирует распространение опасного контента, включая подстрекательство к ненависти. Депутат Европарламента Кристель Шалдемозе заявила, что случай с Grok подчеркивает необходимость регулирования ИИ-чатов на уровне ЕС.

Новые рекомендации Еврокомиссии для крупных языковых моделей ИИ (например, GPT от OpenAI, Gemini от Google, Grok от xAI) разрабатывались девять месяцев. При этом, как пишет Politico, из последних черновиков убрали некоторые изначально более жесткие требования — например, обязанность компаний подробно раскрывать, как они управляют системными рисками. Это вызвало недовольство депутатов и правозащитных организаций, которые опасаются, что правила окажутся слишком мягкими и необязательными.

В самом законе об ИИ, который вступает в силу в августе, уже прописаны обязательства для разработчиков универсальных ИИ-моделей — такие как раскрытие данных об обучении, соблюдение авторских прав и управление системными рисками. Но важную роль в исполнении закона сыграет именно добровольный отраслевой кодекс практики, который обсуждают сейчас.

Группа евродепутатов уже выразила «глубокую обеспокоенность» тем, что из финального текста кодекса убрали положения о прозрачности и оценке рисков. Они считают недавние высказывания Grok примером того, зачем нужны строгие правила — несмотря на сопротивление со стороны техгигантов и США.

Кроме того, во многих странах Европы действует уголовная ответственность за разжигание ненависти и антисемитизм. По словам представителя Еврокомиссии, такие ИИ-модели, встроенные в крупные платформы вроде X, должны учитываться при оценке рисков и подпадать под аудиты в рамках Закона о цифровых услугах.

При этом расследование ЕС в отношении использования ИИ в соцсетях уже началось в январе — с особым вниманием к «галлюцинациям» ИИ, дипфейкам и манипуляциям мнением избирателей. Однако в своем последнем отчете X не признала никаких рисков, связанных с ИИ и языком ненависти.

Инцидент с Grok привлек внимание не только в Европе. Министр правительства Турции также раскритиковал Grok за распространение неподобающих постов, пригрозив запретить X в стране «в случае необходимости», если не будут приняты меры по предотвращению подобного контента. «Использование ненормативной лексики, предназначенной для конкретных целей, неприемлемо», — заявил Bloomberg министр транспорта и инфраструктуры Абдулкадир Ураглу.

Все это не помешало Илону Маску вечером 9 июля презентовать новую версию чат-бота. По его словам, Grok 4, доступный уже сейчас, «умнее почти всех аспирантов во всех дисциплинах одновременно».

«Иногда ему может не хватать здравого смысла, и он еще не изобрел новые технологии или не открыл новую физику, но это лишь вопрос времени», — сказал Маск о новом чат-боте.

Александра Аппельберг, «Детали». AP Photo/Evan Vucci ∇