Информация Контроль за людьми при помощи ИИ


X-Shar

:)
Администрация
Регистрация
03.06.2012
Сообщения
6 084
Репутация
8 205
1677075870466.png


СМИ сообщают, что подведомственный Роскомнадзору ФГУП «Главный радиочастотный центр» (ГРЧЦ) проводит внутренние испытания системы «Вепрь», которая должна обнаруживать «потенциальные точки напряженности в сети». Запуск системы запланирован на вторую половину 2023 года.

По информации « », которые ссылаются на представителя ГРЧЦ, разработка системы «Вепрь» ведется с 2022 года, и в настоящее время первые модули уже проходят внутреннее тестирование.

«ИС “Вепрь” предназначена для выявления потенциальных точек напряженности в сети, способных перерасти в информационные угрозы, их анализа, прогнозирования последующего распространения деструктивных материалов», – заявил изданию представитель Роскомнадзора.

Согласно документации ГРЧЦ, разработкой «Вепря» занимается петербургский разработчик «Необит», который разрабатывает технологические решения для ФСБ, Минобороны и других ведомств. Среди уже реализованных проектов компании: система «Инфоскальпель» для удаления остаточной информации из памяти оборудования видеоконференцсвязи, устройство криптографической защиты данных на флеш-накопителях «Флэшкриптор» и защищенная гибридная операционная система «Фебос».

По данным из все той же документации, «Необит» должен выполнить работу «по созданию информационной системы раннего выявления угроз в информационной сфере и прогнозирования рисков их возникновения». Разработка должна быть завершена до конца июля текущего года.

Сообщения, которые потенциально могут привести к «реализации угроз для личности, общества и государства», в техническом задании для разработки названы «точками информационной напряженности». По данным «Известий», под этим определением подразумеваются фейки. Однако журналисты отмечают, что однозначно говорить о том, что речь именно о них, исходя из технического задания, нельзя: оно предполагает довольно обтекаемую формулировку: система будет бороться с «распространением общественно значимой информации под видом достоверных сообщений, которая создает угрозу причинения вреда жизни и (или) здоровью граждан, имуществу, угрозу массового нарушения общественного порядка и (или) общественной безопасности». О том, что сообщения должны быть, к примеру, недостоверными, в документах не уточняется.

Также в техническом задании сказано, что «Вепрь» должен работать и с анонимными сообщениями, то есть на основании собственных алгоритмов должен определять вероятного автора того или иного контента. Также система должна определять «вероятный трафик (стационарное количество посетителей за день) для заданного медиаматериала при его публикации» и давать оценку тональности того или иного сообщения (негативная, нейтральная или позитивная), а также отмечать всплески популярности той или иной темы в информационном поле.

Гендиректор компании «Социальная лаборатория» Наталия Тылевич рассказала журналистам, что речь в документации действительно может идти далеко не только о фейках. По ее словам, техзадании говорится о прогнозировании рисков от появления в инфополе тех или иных сообщений, но они не всегда могут быть ложными.

«Например, речь может идти о рисках для губернатора от сообщения о каком-то крупном пожаре или другой аварии в регионе, – говорит Тылевич. – Но это и не значит, что данная информация будет удаляться из инфопространства, чтобы исказить положение реальных дел. Мониторинг рисков необходим, чтоб обеспечить своевременную реакцию ответственных госорганов».

Что касается анонимных сообщений, эксперт полагает, что распознать автора того или иного анонимного текста – трудоемкая, но вполне реальная задача. Ведь, по словам Тылевич, «у каждого человека своя уникальная когнитивная карта: определенный набор выражений, внимание к различным деталям и тому подобное», и аналогичные принципы используются в системах антиплагиата и чат-ботах на базе ИИ.

Кроме того, Тылевич отмечает, что «Вепрь» будет работать в комплексе с другими системами Роскомнадзора, например, с новым « » или системой «Мир», которую ГРЧЦ использует с 2021 года. Эта система-краулер, которая собирает сообщения из различных источников, сортируя их по внешним признакам – тексты, изображения, видео и так далее. В дальнейшем «Окулус» анализирует изображения и видео на предмет соблюдения законодательства, а «Вепрь» – анализирует тексты, а также формирует семантические связи между ними, прогнозируя дальнейшее распространение.

Представитель ГРЧЦ подтвердил изданию, что «ИС “Вепрь” с системой распознавания образов с запрещенной информацией “Окулус” входят в единую систему мониторинга информационного пространства».

Однако, как считает создатель Telegram-канала «Эшер II» Филипп Кулин, «просчитывать трафик сообщения в интернете — это мечта любого маркетолога, но на практике это реализовать практически невозможно». По мнению специалиста, распространение различных тем может происходить стихийно, а для работы ИИ нужно куда больше статистики. К тому же, по его мнению, при той скорости, с которой сегодня происходят события, прогнозировать что-либо в принципе затруднительно, а разработка подобной системы будет стоить колоссальных денег.

«Но даже если искусственный интеллект определит по стилистике, кто написал то или иное сообщение, что делать дальше с этой информацией, какой правовой статус будет у вывода этого искусственного интеллекта? – задается вопросом Кулин. — Первый человек, который сможет вытащить из искусственного интеллекта хотя бы примерное предсказание тех или иных событий, станет мультимиллиардером».
 
Верх Низ