Ловцы невидимого фронта

Правительство инициировало целый пакет поправок в закон об онлайн-платформах и онлайн-рекламе. Заявлено, что основные нововведения направлены на создание безопасной информационной среды, защиту несовершеннолетних, обеспечение ответственности платформ и борьбу с дезинформацией.

В частности, это запрет соцсетей для детей младше 16 лет, процедура блокировки платформ и обязательства для соцсетей и маркетплейсов (платформы будут обязаны зарегистрировать филиал или представительство в Казахстане, мониторить контент, удалять нелегальный материал и раскрывать данные об анонимных аккаунтах). Сюда же вошла борьба с обучающими курсами блогеров и коучей: авторы образовательного контента обязаны указывать свою квалификацию, а материалы по оккультизму маркировать как таковые.

А мы уйдём на сервис!

Пакет поправок подается как шаг к безопасной информационной среде, но чем внимательнее вчитываешься в детали, тем больше вопросов возникает к самой архитектуре предлагаемых решений.

Например, запрет на использование соцсетей детьми младше 16 лет выглядит эффектно на бумаге и... беспомощно в реальности. Интернет за последние 20 лет так и не научился надежно отличать школьника от взрослого, а универсальный механизм “поставь галочку и докажи, что ты не робот” давно стал мемом.

- Да, нужно признать, что соблюдение запрета на регистрацию детей младше 16 лет в социальных сетях уже невозможно обеспечить исключительно техническими средствами, - говорит депутат мажилиса Екатерина СМЫШЛЯЕВА, участвовавшая в разработке закона об искусственном интеллекте. - Но современная международная регуляторная практика показывает, что задача не в том, чтобы создать идеальный фильтр, а в том, чтобы сделать массовую регистрацию детей до 16 лет на крупных платформах неудобной, невыгодной (скажем, с учетом потерь на штрафах) и рискованной для самих платформ. То есть фокус регулирования лучше сместить с контроля пользователей на контроль тех, кто строит и монетизирует цифровую среду.

Она отмечает, что во многих странах уже существуют так называемые детские/подростковые аккаунты с ограниченным функционалом. Для них блокируют опасные функции: приватные сообщения, комментарии, стримы, алгоритмические рекомендации, таргетированная реклама и т. д. Это означает, что подросток может смотреть открытый образовательный контент, пользоваться цифровыми библиотеками, проходить онлайн-курсы без необходимости создавать полноценный профиль. Таким образом регулирование защищает ребенка от социального давления и манипулятивных алгоритмов, не лишая его знаний, навыков и новых форм обучения.

Очевидное, но невероятное

И тут мы упираемся в другую проблему: как достоверно проверить возраст пользователя?

- Это достаточно сложная процедура, - признает Смышляева. - Верить на слово тут не получится. Уже существуют (и они по карману техгигантам) многоуровневые модели определения возраста пользователя: анкеты, поведенческие признаки “несовершеннолетнего профиля”, ограничения функционала по умолчанию и усиленная проверка при входе в заведомо рискованные сценарии. Платформа должна предпринять разумные и проверяемые усилия, чтобы не допускать массовой регистрации детей. Важно, что ответственность за нарушения ложится не на ребенка, который использовал VPN, а на платформу, которая допустила несовершеннолетнего во взрослый режим.

Однако если такие модели не всем по карману, что отметила депутат, то выходит, что платформы придется как-то интегрировать с казахстанскими базами данных?

В этой связи требование к международным платформам регистрировать филиалы или представительства в Казахстане также выглядит двусмысленно.

Для государства это удобная точка контроля и давления, для глобальных компаний - дополнительный риск и расходы. Не факт, что Meta или Google хлопнут дверью, но сокращение сервисов, задержки с запуском новых функций или рост издержек для рекламодателей - сценарий вполне реалистичный. Конкуренция в цифровой среде не терпит административных барьеров: столкнувшись с ними, компании либо поднимают цены на свои услуги, либо вовсе уходят с такого рынка.

- Впрочем, идея по привлечению представительств крупнейших платформ вполне реализуема и очень эффективна, - считает IT-консультант Николай ЮРКАВЕЦ. - Помимо того что у страны появятся инструменты давления на самого поставщика в суде, мы сможем еще и налоги собирать немаленькие. Открывать представительства нужно обязательно, все это делают, но… заставить их контролировать посещаемость своих ресурсов действительно достаточно сложно. Пока приходится рассчитывать только на то, что люди, которые туда заходят, все будут адекватными. Либо посетитель должен будет ввести некую ЭЦП.

Эксперт отмечает, что есть еще один путь, по которому, в частности, пошли в России: разработать национальный мессенджер, через который (и только через который!) можно будет заходить на иностранные платформы. Понятно, что это тоже неидеальный вариант.

- Самый интересный момент: если компании открывают представительства на территории Казахстана, то, соответственно, можно их очень сильно потом штрафовать, если обнаружатся факты присутствия на платформе лиц младше 18 лет, - замечает Юркавец. - То есть тут технически со стороны государства даже не нужно ничего делать.

Иначе говоря, в предлагаемых поправках закладывается хитрый финт: закон просто-напросто обяжет поставщиков контента выполнять определенные требования, хотя никакого механизма для выполнения этих требований пока не существует, и наши отечественные регуляторы умывают руки.

Будьте как дома, но не забывайте, что в гостях

А не отпугнет ли этот хитрый финт потенциальных инвесторов, которые вроде бы тоже не дураки?

- Опасения, что обязательная регистрация филиалов отпугнет крупных международных игроков, звучат каждый раз, когда эта тема поднимается, - говорит Екатерина Смышляева. - Действительно, еще несколько лет назад многие глобальные платформы, имея небольшой объем казахстанской аудитории, заявляли, что им проще уйти с рынка, чем создавать в стране юридическое лицо и соблюдать локальные требования. Но сегодня ситуация изменилась принципиально.

Во-первых, по ее словам, на деле никаких реальных юридических, организационных или процессных препятствий для регистрации нет. Казахстан - одна из самых простых юрисдикций для открытия представительств, притом что регистрация филиала вообще является нормальной международной практикой.

Во-вторых, считает Смышляева, это вопрос элементарного уважения к юрисдикции, в которой компания ведет деятельность. Когда у платформы нет юридического лица, это означает отсутствие локальной ответственности, центра для рассмотрения жалоб и обращений граждан, а также понятной точки контакта для органов, занимающихся защитой потребителей, детей, персональных данных или конкуренции.

В-третьих, за последние годы значительно выросла власть глобальных платформ. Они фактически выполняют функции цифровой инфраструктуры общества: формируют информационную повестку, управляют рекламными рынками, воздействуют на алгоритмические рекомендации и собирают огромные массивы данных, в том числе персональных. В таких условиях требование о локальном присутствии означает прозрачность и защиту национального цифрового суверенитета. Именно поэтому такие меры вводит все больше стран.

- Когда в стране существуют понятные правила, когда иностранные компании работают на тех же условиях прозрачности и ответственности, что и национальные игроки, рынок становится более честным и конкурентным по отношению к отечественным решениям, - добавляет депутат. - Платформы не уходят из тех стран, где есть ясные правила, они уходят от непрогнозируемости. Так что на современном уровне развития цифровой экономики это нормальное условие взаимодействия государства и глобальных платформ, направленное не на ограничение бизнеса, а на защиту интересов граждан и обеспечение цивилизованных правил игры.

Контекст контента

Юркавец согласен с тем, что речь идет о вопросах национальной безопасности.

- Да, мы движемся к тому, что, образно говоря, курсор будет под контролем компетентных органов, - констатирует он. - Но к этому весь мир движется. Однако, если говорить о том же едином национальном мессенджере, на него можно будет завязать все оплаты, социалку и так далее. Для законопослушных граждан это удобно. Для мошенников - нет. При условии, разумеется, что этот мессенджер будет под полным контролем правоохранительных органов.

Остается главный вопрос: эффективность предложений правительства в глобальной сети. Контент не признает государственных границ, а локальные блокировки и маркировки редко снижают объем нелегальной информации - они лишь меняют маршруты ее распространения. Без системной работы с медиаграмотностью, доверием к источникам и качеством официальной информации регулирование рискует остаться иллюзией контроля: отчеты будут, галочки тоже, а дезинформация никуда не денется.

- Конечно, в глобальном интернете невозможно добиться полного исчезновения нелегального или дезинформационного контента локальными мерами, и никто в мире уже не строит таких иллюзий, - признает Смышляева. - Поэтому локальные блокировки, маркировки и ограничения - это не панацея. Но в чем-то они все-таки эффективны. Такие меры позволяют существенно снизить массовую доступность нелегального или вредоносного контента. Да, технически продвинутый пользователь обойдет блокировку. Но подавляющее большинство - нет. И с точки зрения защиты детей, уязвимых групп и просто тех, кто не ищет проблем, это дает реальный эффект.

Кроме того, замечает депутат, маркировка и прозрачность снижают эффект манипуляции. Люди не всегда распознают дезинформацию, особенно если она подается как обучающий материал, аналитика или экспертное мнение. Простая, но обязательная маркировка меняет восприятие. Это не запрет, подчеркивает депутат, а контекст, который помогает человеку критически оценивать источники.

И все же после общения с экспертами возникает ощущение, что государство пытается ответить на вызовы цифрового будущего инструментами из аналогового прошлого. Желание защитить общество понятно, но в нынешнем виде поправки выглядят скорее как задел для ручного управления интернетом, чем как продуманная стратегия.

Рискнем предположить, что в парламенте этот законопроект еще наделает шума.

Владислав ШПАКОВ, фото Владимира ТретьяковА, Астана