Под ведомственной Роскомнадзору главный радиочастотный центр на этой неделе объявил о запуске в России системы Окулус — автоматизированная цензура в интернете, поисковика запрещенного фото и видеоконтента. Еще 8 февраля о нем рассказали журналисты-расследователи нескольких изданий, изучившие масштабную утечку радиочастотного центра после взлома хакерской группой кибер-партизаны.
Запрещенный контент фейки
Окулус называют частью системы тотальной слежки за россиянами, а сотрудники радиочастотного центра, как выяснилось, не только ищут в сети запрещенный контент и так называемые фейки про российскую армию, но и, к примеру, составляют справки на потенциальных иностранных агентов для Минюста.
Роскомнадзор наращивает мощности. Если раньше среднестатистический сотрудник главного радиочастотного центра за день вручную обрабатывал 106 картинок из 101 видео в Рунете, то, благодаря искусственному интеллекту, система Окулус в сутки будет анализировать более 200 тысяч изображений. Как выяснилось, не первый год в радиочастотном центре систематически мониторят публикации о состоянии здоровья президента Путина и с оскорблениями президента по ключевым словам.
Нейросеть будет искать и оскорбительные картинки с Путиным. Официально сообщается, что Окулус автоматически обнаруживает такие правонарушения, как экстремистская тематика, призывы к массовым незаконным мероприятиям, суициду, пронаркотический контент, пропаганда ЛГБТ.
Начало работы над Окулус
О работе над Окулус стало известно в сентябре 2021 года. Последний тендер по нему на госзакупках от радиочастотного центра на 70 миллионов рублей разместили в августе прошлого года. Причем тогда коммерсант писал о 57 миллионах, которых по всей видимости не хватило. В техническом задании указано, что система должна распознавать и текстовую информацию в чатах и каналах мессенджеров. Разработка должна была закончиться в декабре. Нейросеть, на алгоритмах которой работает цензура в интернете Окулус, будет распознавать призывы к беспорядкам по фотографиям сторонников Навального, картинок Горящего Кремля, штурма Зимнего Дворца и бело сине белого флага.
Статьи по теме Технологии
Фотографии с митингов разных лет в России и Украине. Нейросеть будет не только распознавать массовые скопления людей в контексте призывов на митинги или к свержению власти, но и распознавать лица отдельных людей, учитывая наличие бороды или маски, определять возраст. Это нужно для выявления призывающих к массовым беспорядкам. А пока в ручном режиме за 9,5 месяцев сотрудники радиочастотного центра обнаружили в соцсетях 169 тысяч так называемых фейков и 40 тысяч призывов к протестам. Удалено 150 тысяч, остальные в разработке.
Великое вычищение из поисковика
Это часть решения спецзадачи по вычищению из поисковика неблагонадежных ссылок по запросам. Эксперты радиочастотного центра причастны и к спискам иностранных агентов. По запросу Минюста они готовят справки на потенциальных иноагентов, где себя обнаружили журналисты, правозащитники и организаторы наблюдения на думаю, сдвинет российскую цензуру на совершенно новый уровень.
Это попытка автоматизации цензуры. Если раньше ручками приходилось сотрудникам Роскомнадзора, ГРЧЦ, ну и с помощью неких квази общественных организаций вроде известной лиги без интернета, им приходилось ручками все это молотить и соответственно дальше уже писать жалобы, после чего контент блокировали, а в отношении лиц которые это размещали принимались какие-то меры административного или уголовного характера. Теперь фактически это можно поставить на поток и система сможет, как это заявлено, выявлять запрещенные фотографии и видео в видеопотоках, в том числе в стримах, и анализировать огромное количество информации, что при некоторых манипуляциях, конечно, можно превращать и в протокол об административных правонарушениях, и в заявление в следственный комитет о возбуждении уголовных дел, и конечно об блокировке веб сайтов.
На основе искусственного интеллекта анализировать поведение пользователей
Роскомнадзор и так веерно блокировки раскидывает, а так конечно поток увеличится в два раза. Поэтому это не что иное как автоматизация, цензуры, а если еще будут дополнительно включены другие алгоритмы, а про них Роскомнадзор тоже говорит, как мы узнали из этой утечки, это система VEPR, которая еще будет не просто выявлять этот контент, но еще на основе искусственного интеллекта анализировать поведение пользователей и работать, поэтому в том числе в таких профилактических превентивных целях маркируя и размечая пользователей по степени их общественной опасности.
Поэтому вы можете делать догадаться, что нам такое готовит. Но с другой стороны, не парализует ли активная работа Окулус и искусственного интеллекта работу правоохранительных органов, которые в таком случае будут просто завалены тем, что российские власти считают потенциально опасным контентом, потому что сейчас опасно все, даже слово война неизвестно в каком контексте, и как они научат машину распознавать, о какой именно войне идет речь, о каких именно событиях, насколько это криминально. Пока мы с вами не знаем, куда это все приведет, но есть у нас уже какой-какой опыт.
Пандемия и система распознавания лиц
Давайте не забывать, во время пандемии система распознавания лиц, которая использовалась в Москве, она штрафовала в автоматическом режиме. Ее настроили, как работают камеры на дорогах, когда вы едете, превышаете скорость. Если цензура дойдет до этого уровня автоматизации, то быть уверен, хватит на всех. Конечно, мы не знаем, что будет там главными стоп-словами и почему, прежде всего, начнет работать цензура в интернете Окулус, то ли оскорбление президента, то ли неправильное освещение украинской операции, но это будет уже решение в высших эшелонах власти.
Конечно, они могут придумать что угодно и загрузить эту систему тоже по-разному. Вот вы упомянули о системе видеофиксации распознавания лиц. Правильно ли я понимаю, что в какой-то ближайшей перспективе российские власти рассчитывают как-то связать вот этот Окулус с камерами уличной видеофиксации системы распознавания лиц для того, чтобы эффективнее бороться с инакомыслящими и вводить цензуру, штрафовать всех поголовно. Ну вы знаете, по моему мнению, в Москве эту черту уже давно перешли, если раньше, ну вы еще понимали, что в интернете вас могут подслушивать, следить, могли выключить телефон, выйти из дома и потеряться в большом городе, слиться с толпой, то с введением этой системы теперь за вами сидят и онлайн, и оффлайн.
Трекинг системы цензура в интернете Окулус
Трекинг происходит от выхода из подъезда до конечной точки назначения, и к сожалению, эти системы начинают работать вместе, они уже становятся интегрированными, у правоохранительных органов есть доступ к множеству технологий, и мы не знаем, будет ли у них там самостоятельный доступ к этому продукту цензура в интернете Окулус, который могут использовать и Роскомнадзор для блокировки, и правоохранительные органы для того, чтобы выявлять и наказывать тех, кто распространяет противоправный контент.
А вот речь идет, если говорить о системе распознавания лиц только о Москве и Санкт-Петербурге, или в других крупных российских городах это уже действует, а в маленьких не действует, или это уже повсеместно по всей России? Во время пандемии действительно очень много регионов захотело купить эти системы, где-то администрация заставляла покупать для того, чтобы предприятие могло работать в период пандемии, но надо понимать, что стоимость этой технологии достаточно дорогая, еще надо купить камеры, еще их надо установить, обвязать, установить софт, и конечно, его могут позволить только крупные сейчас объекты, крупные города, но мы видим, что они уже распространяются и на Дальнем Востоке, и в Казани, и в Новосибирске.
Не в том масштабе, как это происходит в Москве и Санкт-Петербурге, но тем не менее стоимость камер дешевеет, технологии тоже, сейчас в России уже представлены четыре вендора, четыре компании, которые одновременно предоставляют свои алгоритмы московской мэрии, поэтому, конечно, со временем, я думаю, эта история покроет всю страну.
Что плохого в такой слежке
Недавно была новость, что теперь пограничный контроль. Все точки пограничного контроля будут оснащены этой технологией, на удивление, она там до этого не работала. Вам скажут, с другой стороны, а что плохого вот в такой слежке. Американская Агентство национальной безопасности уже давно следит за гражданами не только в социальных сетях, и скандал большой еще в 2013 году разразился, когда Сноуден передал журналистам секретные материалы. Вот как раз о всеобъемлющей слежке в 60 странах, там более чем миллиард человек.
Американцам можно, скажут вам пропагандисты, в том числе, а нам, что нельзя, русским мы тоже хотим, мы тоже хотим безопасность, чтобы все было хорошо. Что такого особенного в этом Окулус, чем он отличается от того, что происходит в других странах? Ну, я бы ответил так, что приватность имеет значение, и таким образом у вас полностью крадут ваше право на тайну частной жизни. Если в демократических странах это может привести, ну, каким-то последствиям в виде спама или мошенников, то в недемократических странах это ведет иногда прямо к смерти и к отъему жизни.
Если камера с технологией распознавания лиц ошибется сейчас в зоне боевого конфликта, то человек, конечно, может легко схлопотать из того же дрона или пулю в лоб. И, естественно, если вы ЛГБТ-активист в Чечне, то у вас тоже возникают совершенно другие проблемы от цензуры в интернете Окулус, чем у гражданина во Флориде. В этом есть большая разница. Когда есть возможность опереться на инструменты правовой защиты, такие как суды и правоохранительные органы, то, конечно, это все равно беда, но это беда другого характера. Да, и здесь, кстати, следует отметить, что как раз суд в США признал незаконным такую слежку за гражданами. Это решение было вынесено в 2020 году.
И даже Сноуден удивился, что надо же, я дождался вот этого события. Четыре города Калифорния и многие другие штаты вели мораторий на использование технологий типа автоматизация цензуры в интернете и до сих пор изучают, как это будет влиять на права человека, и никто не торопится на федеральном уровне такие программы вводить.
Российское законодательство регулирует
Как российское законодательство сейчас регулирует использование вот таких систем, которые подобны цензуре в интернете Окулус. Есть ведь все-таки закон о защите персональных данных. Конституция, в конце концов, со своими гарантиями неприкосновенности частной жизни, свободы слова, это вот к вопросу контенте, правильном, неправильном, как это регулирует закон.
Есть закон о персональных данных, 152-й известный в узких кругах, которые знают уже все, работает он давно, и там есть так называемые законные основания или законная цель обработки персональных данных. Одно из них это согласие, но кроме согласия есть и другие основания обработки, например заключение договора, позволяет другой стороне использовать персональные данные, и там есть исключение по списку. Собственно, формулировки этого закона настолько размыты, что они отсылают на иные случаи обработки персональных данных в случаях необходимости осуществления оперативной деятельности, а также деятельности правоохранительных органов, и вот под эту формулировку загоняют туда все.
Собственно, этот вопрос тоже вставал, когда принимали пакет Яровой, как вы помните шуму было много, что вся переписка даже хранится на серверах, со всеми логами, IP-адресами, датами, наименованием устройств и всего остального, и тем не менее, это было принято, закон уже много-много лет работает, много российских компаний уже построили удаленный пульт управления ФСБ, который имеет возможность все эти данные уже без каких-либо запросов самому перехватывать. Именно поэтому Россия уже давно относится к странам с неадекватной защитой персональных данных с точки зрения Евросоюза, и никто уже сильно это особо не позволяет осуществлять трансграничную передачу в России.
Опять о персональных данных
Ну вот опять же о персональных данных, насколько мне известно, сетевые свободы назвали прошлый 2022 год рекордным по количеству объема утечек всевозможных, Госуслуги, и почта России, и где что только не протекало. Каковы могут быть последствия утечек из вот этой системы Окулус, или это будет не страшно, и она работает как роботы, просто ищет информацию, но не генерирует ее и не хранит.
Мы с вами мало знаем, как работает эта система, да нам никто техническую документацию не представлял, и вряд ли ее представит. Но мы можем сделать весьма печальные выводы, то, что мы видели в течение 2022 года, огромное количество госкомпаний, как вы сами сказали, потекло, и почта России, и Сбера, и много других. Мы видим, что государство, конечно же, не умеет охранять персональные данные, и если эти данные у пользователей будут аккумулироваться в системе цензура в интернете Окулус, они точно будут где-то храниться и они станут доступны третьим лицам.
Насыщенные базы данных
Они очень сильно обогатят и без того же насыщенные базы данных, которые можно купить в даркнет, и которыми уже все активно пользуются. 2022 год действительно был показательным, потому что изменился тренд взломов. Если раньше взламывали в основном ради денег, то в 22-м году мы увидели, что все хакеры мира, все ботнеты мира, которые были направлены на Россию, уже ставят задачу себе взламывать и выкладывать в общественный доступ. Причинить наибольший вред России и российским гражданам.
Поэтому эти датасеты, базы данных, попадали бесплатно в открытый доступ. Мы видели уже и визуализацию, и карты, и, уверяю вас, там уже скоплено огромное количество информации о почти каждом гражданине. Я напомню, что это было около 100 миллионов человек, почти вся Россия, если сопоставить с выданными номерами телефонов. Можно смело сказать, что почти вся Россия утекла, и опасность состоит в том, что каждая такая утечка, она безвозвратно обогащает эти базы данных, то есть вы эти данные уже изъять не сможете, и как, собственно, зубную пасту обратно в тюбик не запихнешь, поэтому это, конечно, колоссальная угроза для всех.
Правила цифровой гигиены
Уже много лет говорят о правилах сетевой гигиены, цифровой гигиены. Как можно спастись или максимально уберечься от этого Окулус, от слежки, от камер, от цензуры в интернете. Что еще нужно предпринять, чтобы поменьше государство знало, о том, чем вы занимаетесь в сети и в офлайне. Про онлайн, ответ здесь достаточно прост, просто поменьше выкладывайте о себе информации, свои фотографии, видео в открытых пабликах. Всегда помните про настройки приватности в соцсетях, которые вам необходимо настроить, используйте VPN, шифрованные туннели для выхода в сеть.
Тогда большая часть проблем просто исчезнет, никто не будет знать, что вы пишете, кому вы пишете и с кем вы соединяете. Хотя грозятся, что цензура в интернете Окулус сможет залезать в закрытые паблики. Если человек не сильно выбирает друзей, наверное это возможно. Но пока не очень понятно, как работают эти алгоритмы, и мы, я думаю, так и с вами и не узнаем до следующей утечки, так это или нет.
Возможности великие
Очевидно, что возможности у него великие, а если говорить об офлайне, то здесь уже сильно советов не дашь. Если вы находитесь в таком городе, как Москва, спрятаться от камер видеонаблюдения, вы сможете только лишь в маске, в очках, в кепке и в капюшоне при этом все это надо надевать на себя одновременно. Но и это не скроет вас от возможности быть распознанным системой, поскольку есть особые алгоритмы распознавания и идентификации человека по походке.
Видимо пришло время покидать большие города и уезжать в сибирские деревни, осваивать новую жизнь.
