Автоматизированная система "Окулус" заработала в России

Автоматизированная система "Окулус", которая выявляет нарушения законодательства РФ в изображениях и видеоматериалах, заработала в России.

"Окулус" будет анализировать изображения и кадры видеоматериалов на наличие запрещенной символики — графики, логотипов, флагов, монет запрещенных организаций и другого. Согласно техническому заданию, в системе также планируют реализовать распознавание текстовой информации на изображениях и кадрах видеоматериалов, включая расшифровку QR-кодов, переписки в чатах и каналах мессенджеров, надписей, URL-адресов, субтитров и другого.

Разработчики планируют в дальнейшем также добиться того, чтобы система выявляла запрещенные материалы в сложных рукописных текстах и рисованном контенте, сообщили в пресс-службе подведомственного Роскомнадзору ФГУП "Главный радиочастотный центр".

2022 года структура Роскомнадзора выделила 57,7 млн руб. на разработку системы «Окулус»

Разработкой системы «Окулус» для «Главного радиочастотного центра» (ФГУП ГРЧЦ, структура Роскомнадзора) занималась ООО «Эксикьюшн Эр Ди Си», компания получила на реализацию проекта 57,7 млн руб. Информация об этом была опубликована на сайте госзакупок 15 августа.

По технической документации, «Окулус» будет в реальном времени анализировать изображения и видео, переписки в чатах и материалы каналов мессенджеров, URL-адреса и другие данные на предмет запрещенной информации.

Согласно ТЗ проекта „Окулус“, исполнитель был должен концу 2022 г года создать и запустить систему на основе нейросетей, которая будет анализировать фото, видео и тексты на сайтах, в соцсетях и мессенджерах на предмет запрещённой информации.

В декабре 2022 года провели тестирование системы "Окулус"

По словам представителя ГРЧЦ, в декабре 2022 года провели тестирование системы, а в январе началась ее интеграция с другими инструментами мониторинга Роскомнадзора. Главной задачей системы в ГРЧЦ назвали выявление нарушений российского законодательства в изображениях и видеороликах.

До внедрения системы в ГРЧЦ анализировали запрещенный контент «преимущественно вручную», уточнил представитель ведомства. «В среднем операторы обрабатывали 106 изображений и 101 видео в день. "Окулус" же будет анализировать более 200 тыс. изображений в сутки (около трех секунд на одно изображение)», — добавил представитель ГРЧЦ. Власти надеются, что это «повысит эффективность выявления признаков нарушений».

Система работает как «классификатор с заданным набором источников» и умеет анализировать страницы сайтов, а также профили и паблики в соцсетях, пояснила гендиректор компании «Социальная лаборатория» Наталия Тылевич.

Потребность в инструменте регуляторы объясняют «лавинообразным потоком» нежелательных с точки зрения российских законов материалов — в том числе «фейков». Их нужно блокировать до того, как их увидит весь интернет и особенно дети и молодёжь, считают в ГРЧЦ.

Автоматизированная система "Окулус"

Автоматизированная система "Окулус", которая будет заниматься выявлением признаков запрещенного контента в сети, при этом уточняется что самостоятельно искать информацию система не будет, сообщил директор по цифровым технологиям подведомственного Роскомнадзору ФГУП "Главный радиочастотный центр" (ГРЧЦ) Константин Буланов.

Как ранее Буланов сообщал "Коммерсантъ", для стабильной работы системы понадобится не менее 48 серверов, которые будут оснащены высокопроизводительными графическими ускорителями. Поиск запрещенного контента будет осуществляться благодаря нейронным сетям, работающим на основе глубокого машинного обучения.

В список запрещенного контента входят

В список запрещенного контента, который призвана анализировать система (содержится в приложении к техдокументации), помимо материалов с признаками экстремизма и терроризма, призывов к массовым незаконным мероприятиям, выражения явного неуважение к обществу, государству и официальным символам РФ, информации о способах совершения суицида и методах изготовления наркотиков, вошли также пропаганда нетрадиционных сексуальных отношений и демонстрация употребления табачной продукции.