Надзорный орган за СМИ – Роскомнадзор – запустил систему «Окулус», которая будет вести поиск и выявлять запрещенный контент в Интернете
В России заработала система автоматического поиска запрещенного контента «Окулус». Об этом сообщил «Ведомостям» представитель Главного радиочастотного центра (ГРЧЦ), госпредприятия – подразделения Роскомнадзора. Он заверил, что система уже «выполняет возложенные на нее задачи в полном объеме: выявляет нарушения законодательства в изображениях и видеоматериалах».
Ещё летом 2022 года издание «Ъ» сообщило,
что Роскомнадзор выделил 57 700 000 рублей на разработку системы «Окулус».
Предполагалось, что система будет находить запрещенный контент не только в
текстовом виде, но и в «сценах, сочетаниях предметов, композициях образов,
лицах, статике и динамике движений». Директор по цифровым технологиям ГРЧЦ
Константин Буланов говорил, что поиск запрещенного контента будет
осуществляться благодаря нейронным сетям, работающим на основе глубокого
машинного обучения.
По словам представителя ГРЧЦ, в декабре
2022 года провели тестирование системы, а в январе началась ее интеграция с
другими инструментами мониторинга Роскомнадзора. Какие-либо детали тестирования
не приводятся. Главной задачей системы в ГРЧЦ назвали выявление нарушений
российского законодательства в изображениях и видеороликах.
«Система распознает изображения и символы,
противоправные сцены и действия, анализирует текст в фото- и видеоматериалах.
«Окулус» автоматически обнаруживает такие правонарушения, как экстремистская
тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический
контент, пропаганда ЛГБТ», – объяснил представитель ГРЧЦ.
До внедрения системы в ГРЧЦ
анализировали запрещенный контент «преимущественно вручную», уточнил
представитель ведомства. «В среднем операторы обрабатывали 106 изображений и
101 видео в день. "Окулус" же будет анализировать более 200 тыс.
изображений в сутки (около трех секунд на одно изображение)», – добавил
представитель ГРЧЦ. Власти надеются, что это «повысит эффективность выявления
признаков нарушений».
До 2025 года планируется усовершенствовать систему. В частности, рассматривается «возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий», рассказал представитель ГРЧЦ. Необходимость использования автоматизированной системы в ведомстве объяснили растущим потоком запрещенных материалов в интернете, в том числе связанных с военной операцией на Украине.
Глеб Краснов