В США начато расследование влияния ИИ-чатботов на детей

Федеральная торговая комиссия США начала проверку семи крупнейших технологических компаний, включая Google, Meta, OpenAI и Snap. Регулятор выясняет, как чатботы на базе ИИ воздействуют на детей и подростков и какие меры безопасности применяются.

Федеральная торговая комиссия (FTC) направила запросы Alphabet, Character Technologies, Instagram, Meta Platforms, OpenAI, Snap и X.AI Corp. Цель расследования — оценить, какие шаги предпринимают компании для защиты молодых пользователей при взаимодействии с чатботами, имитирующими человеческое общение.

Почему именно сейчас

Рост популярности чатботов совпал с масштабным внедрением генеративного ИИ в повседневную жизнь. Дети и подростки становятся активными пользователями подобных сервисов — от виртуальных ассистентов до «друзей-ботов», имитирующих живое общение.

Эксперты и правозащитники предупреждают, что такие технологии могут формировать эмоциональную зависимость, усиливать уязвимость подростков и использоваться для сбора персональных данных.

Кроме того, регуляторы фиксируют активное внедрение ИИ в образовательные, игровые и развлекательные платформы, что делает контроль за их безопасностью приоритетом.

FTC стремится установить баланс между развитием инноваций и защитой интересов детей, особенно в условиях отсутствия универсальных международных стандартов регулирования ИИ.

Международный опыт

В Европейском союзе в 2024 году был принят Акт об искусственном интеллекте (EU AI Act), который классифицирует продукты ИИ по уровню риска. Системы, взаимодействующие с детьми, отнесены к категории «высокого риска», что обязывает компании проходить строгую сертификацию и вводить дополнительные меры защиты.

В Великобритании регуляторы настаивают на так называемом «Children’s Code», который требует от цифровых сервисов учитывать интересы и безопасность несовершеннолетних на всех этапах разработки продукта.

В Австралии и Канаде обсуждаются поправки к законам о защите персональных данных, которые отдельно выделяют ИИ-чатботы и виртуальных помощников как потенциальную угрозу для детей.

Таким образом, США с расследованием FTC присоединяются к глобальной тенденции усиления контроля за безопасностью технологий ИИ в отношении несовершеннолетних пользователей.

«Детали», Ю.Л. Фото: Depositphotos.com