Роскомнадзор обзавелся системой «Окулус», автоматически выявляющей запрещенный контент в интернете.
Подробности изложил представитель Главного радиочастотного центра (ФГУП ГРЦЧ), подведомственной надзорному ведомству организации, выступившей заказчиком.
Система «Окулус», поясняют побеседовавшие с чиновником «Ведомости», анализирует видеоматериалы и изображения. Протестировали ее в декабре прошлого года, с января началась интеграция с другими инструментами, которые использует Роскомнадзор для мониторинга.
Система предназначена для проверки видео и картинок на признаки нарушения законодательства. По словам чиновника, она умеет выявлять противоправные сцены, запрещенные символы, автоматически ловит в видеороликах призывы к незаконным митингам, суициду, пропаганду наркотиков, ЛГБТ и т.п.
Некоторые подробности того, каким образом «Окулус» вычисляет эти нарушения, пояснила федеральному изданию гендиректор компании «Социальная лаборатория» Наталия Тылевич. По словам эксперта, это система-классификатор, она анализирует заданный набор в источниках информации, может изучать конкретные страницы сайтов, паблики в соцсетях. При этом сбором данных система не занимается, она их просто классифицирует.
До внедрения «Окулуса» Роскомнадзор искал запрещенные призывы и непозволительную пропаганду вручную, пояснил представитель ГРЧЦ. За день операторы могли обработать примерно 106 изображений и 101 видео, новая же система анализирует более 200 тысяч изображений в сутки, тратя на каждое не более трех секунд. К 2025 году систему планируют еще больше усовершенствовать. «Прорабатывается возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий», - пояснил чиновник. Систему хотят отладить так, чтобы она усматривала экстремизм в нескольких кадрах или фрагментах видео, рисунках и рукописных текстах.Впервые о разработке «Окулуса» заговорили в 2021 году, когда ГРЧЦ разместил тендер на разработку техзадания ценой 15 млн рублей. Разработка самой системы потребовала уже 57,7 млн рублей. А общая стоимость комплекса решений, позволяющих находить и блокировать вредный контент, по оценке российских IT-специалистов, составляет порядка 1,5 млрд рублей. Автором «Окулуса» стала компания Execution RDC. Давать какие-либо пояснения о своем детище она отказалась, ссылаясь на коммерческую тайну. По мнению самого госзаказчика, автоматизация поиска противоправного контента необходима: подобных материалов в интернете слишком много и число их постоянно растет. А с началом СВО объемы их немыслимо выросли, как и скорость распространения фейков. В 2022 году по требованию Генпрокуратуры РФ было заблокировано или ударено более 100 тысяч ресурсов с недостоверной информацией, хотя годом ранее таких было только 7 тысяч, а в 2020 году «забанить» пришлось 1,5 тысячи сайтов. Военная тематика - не единственная сфера, где множатся подобные сайты. Массив материалов с пропагандой наркотиков тоже показал значительный рост, признает ГРЧЦ. Объемы опасного контента стали расти в разы с 2017 года.
Новой системой очень довольна гендиректор Лиги безопасного интернета Екатерина Мизулина, которая отметила, что подобные сервисы давно нужны, до сих пор Лига пользовалась несколькими независимыми системами, а государственной у чиновников еще не было. В свою очередь Наталия Тылевич отмечает, что в использовании «Окулуса» есть риски: насколько корректно система будет классифицировать видео и как они будут интерпретироваться в дальнейшем в связке с другими компонентами и конкретным человеком. Системы искусственного интеллекта нередко дают ложное срабатывание.Работу «Окулуса», признает глава Лиги безопасного интернета, все равно придется проверять вручную. Автоматически использовать систему для блокировки контента и уж тем более возбуждения административных и уголовных дел, разумеется, нельзя.
