Роскомнадзор запустил систему поиска запрещенного контента «Окулус»

В России заработала система автоматического поиска запрещенного контента «Окулус». Об этом сообщил «Ведомостям» представитель Главного радиочастотного центра (ФГУП ГРЧЦ, подведомствен Роскомнадзору). Он заверил, что система уже «выполняет возложенные на нее задачи в полном объеме: выявляет нарушения законодательства в изображениях и видеоматериалах».

По словам представителя ГРЧЦ, в декабре 2022 года провели тестирование системы, а в январе началась ее интеграция с другими инструментами мониторинга Роскомнадзора. Какие-либо детали тестирования не приводятся. Главной задачей системы в ГРЧЦ назвали выявление нарушений российского законодательства в изображениях и видеороликах.

«Система распознает изображения и символы, противоправные сцены и действия, анализирует текст в фото- и видеоматериалах. «Окулус» автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ»,— объяснил представитель ГРЧЦ.

До внедрения системы в ГРЧЦ анализировали запрещенный контент «преимущественно вручную», уточнил представитель ведомства. «В среднем операторы обрабатывали 106 изображений и 101 видео в день. «Окулус» же будет анализировать более 200 тыс. изображений в сутки (около трех секунд на одно изображение)»,— добавил представитель ГРЧЦ. Власти надеются, что это «повысит эффективность выявления признаков нарушений».

До 2025 года планируется усовершенствовать систему. В частности, рассматривается «возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий», рассказал представитель ГРЧЦ. Необходимость использования автоматизированной системы в ведомстве объяснили растущим потоком запрещенных материалов в интернете, в том числе связанных с военной операцией на Украине.

Как сообщал «Ъ», летом 2022 года структура Роскомнадзора выделила 57,7 млн руб. на разработку системы «Окулус». Предполагалось, что система будет находить запрещенный контент не только в текстовом виде, но и в «сценах, сочетаниях предметов, композициях образов, лицах, статике и динамике движений». Директор по цифровым технологиям ГРЧЦ Константин Буланов говорил, что поиск запрещенного контента будет осуществляться благодаря нейронным сетям, работающим на основе глубокого машинного обучения.

kommersant.ru ( https://www.kommersant.ru/doc/5825124 )