В России запущена система поиска и классификации запрещенного видеоконтента

Подведомственный Роскомнадзору Главный радиочастотный центр (ГРЧЦ) запустил систему «Окулус», которая с помощью технологий искусственного интеллекта должна выявлять противоправный контент на фото или видео, в частности экстремистские материалы, порнографию или «ЛГБТ-пропаганду». О запуске систем сообщают российские СМИ со ссылкой на представителя ГРЧЦ. До запуска системы «Окулус» запрещенный контент искали вручную.

Главный радиочастотный центр, подведомственный Роскомнадзору, запустил систему «Окулус», которая с помощью технологий искусственного интеллекта (ИИ) призвана выявлять противоправный контент на фото или видео, в частности экстремистские материалы, порнографию или «ЛГБТ-пропаганду».

Необходимость использования автоматизированного решения для поиска запрещенного контента в ГРЧЦ объясняют агрессивно растущим потоком подобных материалов в интернете. Особенно много, по их данным, в последнее время стало появляться запрещенных материалов, связанных с тематикой военной операции на территории Украины. Речь идет о «невиданных ранее объемах и скорости распространения фейков, которые направлены на подмену реальных фактов специально сконструированной «реальностью»»», отмечает представитель Главного радиочастотного центра.

«Окулус» распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. Система автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ и т. п. До внедрения системы специалисты ГРЧЦ анализировали запрещенный контент «преимущественно вручную» и «обрабатывали» свыше 200 фото и видео в день, уточнил представитель центра. Он добавил, что до 2025 года систему планируется усовершенствовать. «Прорабатывается возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий», – сообщил представитель ГРЧЦ.

Разработчиком «Окулуса» стала IT-компания Execution RDC. Ее представитель отказался от комментариев, сославшись на коммерческие отношения с заказчиком. По технической документации, «Окулус» должен в реальном времени анализировать изображения и видео, переписки в чатах и материалы каналов мессенджеров, URL-адреса и другие данные на предмет противоправного контента.

Система должна уметь находить такой контент как в текстовом виде, так и в «сценах, сочетаниях предметов, композициях образов, лицах, статике и динамике движений». Предполагается, что в «Окулус» должен быть реализован «функционал каталогов определяемой символики, сцен и действий, персоналий». Мощность системы должна составить 200 тысяч изображений в сутки, то есть в секунду «Окулус» будет анализировать два кадра (картинки).

В Центре отмечают, что в 2022 году на основании требований Генпрокуратуры было удалено или заблокировано свыше 100 тысяч интернет-ресурсов, которые содержат недостоверную информацию (в том числе о ходе «военной спецоперации»). В 2021 году таких материалов было около 7 тысяч, в 2020 году – порядка 1,5 тысячи, а в 2019 году – несколько сотен.

НЭП. Фото: Pixabay √