Цифровая безопасность и принуждение платформ.docx

Google Docs negative 2026-04-11 26 чанков ~38 мин чтения

Цифровая безопасность и принуждение платформ РАБОЧИЙ ПРОЕКТ В Казахстане фиксируется рост рисков для детей и молодежи (суицидальный контент, онлайн-зависимость, сексуальная эксплуатация), эскалация дезинформации (внешние кампании, фейковые новости) и появление новых вызовов, связанных с ИИ (дипфейки, эмоциональные чат-боты). Эти угрозы требуют неотложного государственного реагирования. Глобальные тренды показывают, что государства все активнее защищают национальный информационный суверенитет. Потеря контроля над цифровыми нарративами через зарубежные платформы рассматривается как угроза политической стабильности. Казахстан должен учитывать риск внешней цифровой интервенции и работать над сохранением «нарративного суверенитета», не скатываясь при этом к чрезмерной цензуре. Анализ мировых подходов (ЕС, Великобритания, США, Индия, РФ, Бразилия, КНР) выявил три основные модели регулирования платформ: европейская (акцент на «обязанности по заботе» и системных рисках), американская (комбинация нацбезопасности и ответственности корпораций) и «суверенная» (прямое госпринуждение во имя суверенитета и порядка). Китайская модель выделяется как крайний случай полной цифровой автономии. Для Казахстана целесообразно адаптировать элементы этих моделей под национальный контекст, например, европейские стандарты Safety by Design и защиту детей, сочетая их с мерами по нацбезопасности и суверенитету. Международная практика показывает, что жесткие меры принуждения работают, но по-разному. Угроза блокировки заставляла платформы (YouTube, Twitter) удалять нежелательный контент в таких странах, как Индия и Турция. Частичная блокировка и штрафы приводили к ограниченным уступкам (кейс Telegram в Бразилии). Однако персональная ответственность руководства оказалась самым эффективным рычагом: после ареста Павла Дурова во Франции Telegram мгновенно сменил политику на сотрудничество. Для РК это означает, что законодательно прописанная возможность персональных санкций против топ-менеджеров платформ в случае угроз нацбезопасности или жизни граждан может стать эффективным инструментом. Рекомендуется переход от реактивной модерации контента к проактивному управлению рисками и системному контролю на уровне функционирования платформ. В национальное регулирование следует интегрировать принципы «безопасности по замыслу», предусматривающие обязанность ИТ-компаний изначально разрабатывать сервисы с учетом защиты и безопасности пользователей. Следует обновить законодательство: ввести требования локализации данных граждан РК на территории страны (по аналогии с РФ), усилить ответственность платформ за вред детям (как в OSA Великобритании), предусмотреть уголовные меры против руководства компаний за несоблюдение предписаний (по опыту OSA и прецедента Дурова). Казахстану целесообразно выстраивать национальную систему регулирования цифровой среды с опорой на международные стандарты — такие как DSA и AI Act Европейского союза, а также индийские IT-правила. Одновременно важно участвовать в международных инициативах и коалициях, направленных на формирование единых правил ответственности глобальных технологических компаний. Ниже приводится подробный анализ: 1. Приоритетные угрозы в цифровой среде 1.1. Угрозы детям и подросткам: суициды, зависимость, сексуальные риски Одной из ключевых проблем цифровой эпохи остаются риски для несовершеннолетних в онлайн-среде. Алгоритмы социальных сетей и цифровых платформ формируют зависимость, повышают уровень тревожности и могут приводить к тяжелым психологическим последствиям. Показателен случай 14-летней Молли Рассел в Великобритании — официальное расследование установило, что алгоритмы Instagram систематически показывали ей контент, связанный с депрессией и суицидальными темами, что стало одним из факторов трагедии. Осознание, что интернет-сервисы «не были изначально спроектированы с учётом интересов детей», привело к принятию новых законов для защиты молодежи. В ЕС вступил в силу Закон о цифровых услугах (DSA), а в Великобритании — Закон о онлайн-безопасности (OSA), нацеленные на системное устранение рисков для детей. Клинические и социальные риски подтверждаются локальными данными: по исследованию Kazakhstan Kids Online, каждый пятый ребёнок (20,4%) признаёт, что не контролирует время онлайн; 21% сталкивались с кибербуллингом; 10,7% фиксируют падение успеваемости, 10,6% — рост конфликтов в семье из‑за времени в сети. Эти факты указывают на архитектурный корень проблемы — аддиктивный дизайн и алгоритмы вовлечения, а не только «единичный» вредный контент. Для РК угрозы подростковых суицидов через интернет не менее актуальны. Распространение так называемых «групп смерти», опасных челленджей (например, Blackout Challenge в TikTok) и пропаганда самоубийств требуют решительных действий. Онлайн-платформы также могут способствовать сексуальной эксплуатации несовершеннолетних — в закрытых чатах и группах фиксируются случаи охоты педофилов, распространения детской порнографии (CSAM) и притязаний на личные данные детей. Шифрование переписок (например, в WhatsApp, Telegram) затрудняет выявление таких преступлений. В деле против Telegram во Франции Павлу Дурову инкриминировалось содействие распространению CSAM из-за отказа удалять противоправный контент. Это подчеркивает, что бездействие платформ перед лицом угроз детям расценивается как уголовно наказуемое. Кроме того, алгоритмические ленты формируют у подростков «эффект кроличьей норы» — бесконечная подборка контента усиливает зависимость, провоцирует психологические расстройства (депрессии, нарушения пищевого поведения). Государству важно требовать от платформ убрать из дизайна продуктов механизмы, вредящие психике детей, например навязчивые рекомендации и неограниченный скроллинг. В целом, защита подрастающего поколения должна стать приоритетом: ни свобода интернета, ни коммерческие интересы корпораций не могут ставиться выше жизни и здоровья детей. 1.2. Утрата нарративного суверенитета и цифровая интервенция Вторая критически важная угроза — потеря РК контроля над собственным информпространством. В эпоху глобальных социальных сетей внешний контент легко проникает в массовое сознание, формируя альтернативные нарративы. Концепция «нарративного суверенитета» подразумевает способность нации самостоятельно определять доминирующую трактовку событий, свою идентичность и ценности. Однако сегодня эту способность подрывают иностранные государства и транснациональные медиаплатформы. Для Казахстана риски многообразны. Во-первых, зарубежные медиа и блогеры могут влиять на общественное мнение по внутренним вопросам — от истории и культуры до текущей политики. Например, через YouTube или Facebook распространяются интерпретации событий, идущие вразрез с официальной позицией РК. Иностранные спецслужбы и пропагандистские центры нередко используют соцсети для целевой дезинформации и вмешательства в политические процессы других стран. Яркий пример — попытки влияния через фейковые аккаунты в преддверии выборов, разжигание сепаратистских настроений или протестных движений извне. Во-вторых, глобальные платформы сами по себе становятся медиапосредниками, способными смещать акценты в повестке. Алгоритмы рекомендуют аудитории контент, исходя из корпоративных метрик, а не национальных интересов. Это создает уязвимость: чуждые или враждебные нарративы могут получить широкое распространение, если вписываются в алгоритмические приоритеты (сенсационность, вовлеченность). Так, деструктивные идеологии или панические слухи имеют шанс стать вирусными, обходя традиционные фильтры редакционной ответственности. В-третьих, крупные платформы часто не спешат исполнять местные законы по удалению противоправного контента. Без действенного механизма принуждения Казахстан рискует утратить суверенитет в информпространстве: правила будут фактически диктоваться иностранными корпорациями. Вывод: помимо защиты детей, приоритетом РК должно стать сохранение контроля над своим инфополем — через четкое определение запрещенного контента (экстремизм, сепаратизм, вмешательство в выборы и т.д.) и способность быстро блокировать его распространение, не допуская внешнего управления нарративами. Однако при этом важно не впасть в изоляционизм: полный запрет на зарубежные платформы или тотальная цензура несут риск цифровой стагнации и международной изоляции. Казахстану разумнее занять промежуточную позицию: жестко реагировать на действительно опасный контент (экстремизм, призывы к насилию, вмешательство извне), но не распространять цензуру на всю оппозиционную мысль или иностранные медиа. В противном случае есть риск ослабления демократических институтов и падения доверия населения. 2. Глобальные модели регулирования Мировые державы за последние годы выработали разнообразные стратегии принуждения технологических платформ к соблюдению законов и обеспечению безопасности пользователей. Рассмотрим ключевые модели и оценим, какие их элементы применимы в РК. 2.1. ЕС и Великобритания: «обязанность заботиться» Философия регулирования. Европа стала лидером в развитии концепции «Duty of Care» — обязанности цифровых платформ предотвращать вред и обеспечивать безопасность пользователей, особенно уязвимых групп. В центре этой модели – общественное благо, защита прав граждан и цифровой суверенитет Европейского союза, (право устанавливать собственные правила для внутреннего цифрового рынка). Свобода интернета не отменяется, но ограничивается в целях защиты общества. Инструменты. Европейский Союз внедрил беспрецедентные превентивные законы. DSA (Digital Services Act) обязывает крупнейшие платформы проводить оценку оценивать системные риски своих сервисов, раскрывать принципы работы алгоритмов, предоставлять пользователям возможность отключать персонализированные рекомендации и исполнять требования регуляторов под угрозой штрафов до 6% мирового оборота. Вместо удаления отдельных постов DSA требует устранить причины вреда (к примеру, предоставить опцию отключения персонализированной ленты и обеспечить прозрачность таргетинга рекламы). Online Safety Act (OSA) в Великобритании фокусируется на защите детей в интернете. Он требует, чтобы сервисы по умолчанию были безопасны для несовершеннолетних — через строгую верификацию возраста, блокировку доступа к опасному контенту (порнография, призывы к суициду, самоповреждения) и проактивное удаление контента, наносящего психологический вред детям. Таким образом, ЕС/Великобритания применяют проактивный подход: не дожидаться нарушений, а предотвращать их через изменение правил и механизмов работы платформ. Логическим продолжением этой регуляторной философии стало расширение ее на медиасектор. 8 августа 2025 г. вступили в силу ключевые положения Европейского акта о свободе медиа (European Media Freedom Act, EMFA) – нового системного регламента, направленного на укрепление свободы, независимости и плюрализма СМИ в странах ЕС. Исключение составляют лишь меры, касающиеся права пользователей на персонализацию медиаконтента (они вступят в силу в 2027 году). EMFA направлен на защиту демократических ценностей через создание прозрачных и подотчетных механизмов функционирования медиарынка. Закон обязывает государства обеспечивать независимость редакционной политики, раскрывать структуру собственности и гарантировать устойчивое финансирование общественных медиа. Для реализации акта создан новый наднациональный орган — Media Board (Совет по медиа), объединяющий национальные регулирующие органы для координации, обмена лучшими практиками и консультирования Еврокомиссии по вопросам медиа. Совет имеет право: давать заключения по слияниям и концентрации медиа, если они угрожают плюрализму; оценивать административные меры государств, способные ограничить независимость СМИ; вырабатывать единые критерии по противодействию иностранным пропагандистским кампаниям; рассматривать жалобы редакционно ответственных медиа на действия крупных платформ (Meta, X, LinkedIn), если их контент был необоснованно удален или ограничен. В дополнение к DSA/EMFA в ЕС действует режим против недобросовестных коммерческих практик, который защищает пользователей при покупке товаров и услуг (как онлайн, так и офлайн) и напрямую затрагивает цифровые платформы и маркетплейсы: Вводящие в заблуждение и агрессивные действия. Компании не вправе предоставлять ложную или неполную информацию, а также применять методы давления, вынуждающие пользователя к покупке. Приманочная реклама (bait advertising). Нельзя рекламировать товары по искусственно заниженной цене, если их количество заведомо ограничено. Продавец обязан указывать число товаров и сроки действия акции. Непрозрачная выдача и спонсирование. Онлайн-площадки должны четко обозначать оплаченные или продвигаемые результаты как «Реклама» или «Sponsored» и раскрывать критерии ранжирования контента. Ложные «бесплатные» предложения. Недопустимо называть услугу бесплатной, если ее стоимость фактически включена в основную цену или взимается скрыто. Манипуляции детьми. Запрещены прямые призывы к детям убеждать родителей купить товар или услугу. Обманные интерфейсы ( «темные паттерны»). Нельзя использовать элементы дизайна, создающие иллюзию срочности или вводящие в заблуждение при согласии и оплате. Неподтвержденные лечебные и оздоровительные заявления. Любые утверждения о терапевтическом эффекте должны иметь научное обоснование. Скрытая реклама и спонсорство. Любой оплаченный или бартерный контент в СМИ и у инфлюенсеров обязан быть обозначен как реклама. Реклама в видеоиграх. Рекламные вставки, спонсорский и платный контент внутри игр должны быть четко отделены от игрового процесса. Фальшивые отзывы. Запрещено публиковать поддельные отзывы или оплаченные «лайки». Продавцы обязаны раскрывать, как они проверяют подлинность отзывов. Пирамидальные схемы, ложные призы и фиктивные «особые права». Запрещено предлагать оплату за участие в пирамидах, требовать взносы за получение «призов» или представлять законные гарантии как эксклюзивные условия. Навязчивая реклама и предложения. Компании не вправе направлять пользователям постоянные или нежелательные предложения по телефону, электронной почте или другим каналам связи. Мотивы. Европейская модель возникла во многом как ответ на внутренние трагедии и общественный запрос на безопасность. Дело Молли Рассел стало моральным катализатором для принятия OSA, а расследования роли Facebook в этнических конфликтах стимулировали DSA. Ключевые цели – защита детей, снижение рисков, связанных с алгоритмами и дезинформацией, а также ограничение влияния технологических монополий. Примеры. ЕС уже заставил платформы идти на существенные изменения. Осенью 2023 г. в рамках DSA Еврокомиссия обязала TikTok приостановить запуск новой функции (монетизация «TikTok Lite») до проведения оценки рисков ее влияния на зависимость пользователей — регулятор фактически предварительно заблокировал обновление функции, опасаясь роста зависимости. TikTok был вынужден предоставить аудит и доработать систему. Meta под давлением DSA внедрила возможность просмотра ленты в хронологическом (не алгоритмическом) порядке для европейских пользователей, а также рассматривает платную подписку без рекламы как ответ на новые правила конфиденциальности ЕС. В Великобритании медиарегулятор Ofcom получил право требовать от мессенджеров предотвращать распространение материалов, связанных с эксплуатацией детей. Руководителям компаний за отказ грозит уголовная ответственность, что вынудило ряд платформ искать компромиссные технические решения (например, клиентское сканирование) или угрожать уходом из страны. В целом, т.н.«брюссельский эффект» силен: европейские стандарты постепенно становятся глобальными, поскольку транснациональные компании начинают применять их и за пределами ЕС. Применимость для РК. Европейский подход ценен тем, что ориентирован на профилактику и системную безопасность пользователей. Казахстан мог бы перенять положения о «безопасности по умолчанию» для детей — например, обязать соцсети иметь возрастную верификацию и автоограничения для несовершеннолетних (скрытие токсичного контента, лимиты времени). Важно избежать «британской ошибки» — меры верификации возраста и иные барьеры должны быть адресными, чтобы не стимулировать уход аудитории в VPN/серые каналы и не обнулять контроль государства. Полезно также требовать прозрачности алгоритмов и отчетности об онлайн-рисках в РК. Несмотря на отсутствие возможности штрафовать на 6% мирового оборота у нас нет, представляется возможным вводить значительные оборотные штрафы за неисполнение предписаний на территории РК. Европейская модель хорошо совмещается с задачей защиты молодежи и стабильности, при этом не подразумевает тотальной цензуры, сохраняя баланс прав. 2.2. США: нацбезопасность и корпоративная ответственность Философия. В США отсутствует единый комплексный закон, регулирующий деятельность социальных сетей. Вместо этого используется комбинация политических, судебных и административных мер. Подход основывается на двух направлениях: (1) геополитическое – защита нацбезопасности от внешних цифровых угроз; (2) внутреннее – привлечение корпораций к ответственности за вред обществу (особенно детям). США стремятся одновременно защититься от внешнего вмешательства (прежде всего со стороны Китая) и ответить на внутренний кризис, связанный с психическим здоровьем молодежи. Инструменты. На геополитическом фронте реализуются ограничительные инициативы в отношении иностранных приложений. Яркий пример: обсуждение в Конгрессе законопроекта о запрете TikTok (Protecting Americans from Foreign Adversaries Act). Законопроект отражает обеспокоенность тем, что иностранные государства могут использовать платформу для сбора данных американцев и влияния на информационные потоки. Внутри страны усиливается давление на крупные технологические компании за вред, наносимый пользователям. В частности, отмечается волне судебных исков против платформ с обвинениями в использовании «аддиктивного дизайна» (включая коллективный иск 42 штатов к Meta за ущерб психическому здоровью детей) и слушания в Конгрессе о безопасности подростков в интернете. Кроме того, в 199-м Конгрессе рассматриваются иные законопроекты, направленные на регулирование контента, защиты детей и усиление прозрачности алгоритмов. Ключевой инициативой стал Kids Online Safety Act (KOSA) – законопроект, вводящий для платформ «duty of care» (обязанность заботиться о благополучии несовершеннолетних) и другие меры для снижения вреда от контента и рекомендаций алгоритмов. Развивая курс на цифровую ответственность платформ, США постепенно формируют нормативную базу в смежных сферах – защите персональных данных, прозрачности рекламы и использовании ИИ. Ключевые направления включают: усиление требований к согласию пользователей и раскрытию информации при отслеживании данных и показе персонализированной рекламы; обязательную маркировку контента, созданного или измененного с помощью ИИ, включая подписи, изображения и видео; повышение прозрачности платных партнерств и инфлюенсер-контента, а также усиление контроля Федеральной торговой комиссии (FTC) за их соблюдением; ограничения микротаргетинга, особенно в отношении несовершеннолетних и уязвимых групп населения. Таким образом, инструменты США — точечные законы, судебные иски и политическое давление через публичные разбирательства. Примеры. Под угрозой полного запрета TikTok предпринял беспрецедентные шаги («Project Texas» — соглашение о хранении данных американцев в США и независимом аудите). В 2023 г. в нескольких штатах США приняли законы о защите детей онлайн — от обязательной верификации возраста при регистрации подростков до запрета алгоритмической ленты для детей ночью. Несмотря на отсутствие единой политики, общий тренд направлен на повышение ответственности цифровых корпораций через действия судов и регуляторов. Применимость. Американский опыт демонстрирует, как можно сочетать подходы национальной безопасности и защиты пользователей в цифровом пространстве. Для Казахстана это актуально в контексте предотвращения зависимости от иностранных технологий (особенно из недружественных стран) и готовности ограничивать работу приложений, представляющих риск кибершпионажа или вмешательства в общественное мнение. В то же время важно развивать механизмы судебной защиты граждан. Прецеденты в США показывают, что иски против корпораций за вред психическому здоровью или утечки данных могут стать действенным инструментом защиты прав пользователей. Казахстан может усилить собственное законодательство, опираясь на американские практики и сочетая их с превентивными нормами Европейского союза. 2.3. Индия, Россия, Бразилия и др.: Суверенная модель Философия. Данная модель ставит во главу угла абсолютный государственный суверенитет, общественный порядок и политическую стабильность. Иными словами, свобода интернета рассматривается как вторичная по отношению к безопасной управляемости государства. Лозунг — «цифровой суверенитет превыше всего». Инструменты. Прямые административные и судебные приказы, немедленные блокировки сервисов, крупные штрафы, требования локализации данных и уголовное преследование руководства. Нередко вводятся законы, предписывающие иностранным платформам открывать локальные представительства и хранить данные внутри страны под угрозой запрета (как в РФ с законом о «приземлении» и локализации, Турции с требованием местных офисов, Бразилии с обязательством иметь ответственного по связям с властями). Локализация дает и доступ спецслужбам к данным внутри страны, повышая контролируемость. Многие правительства стран Юго-Восточной Азии фактически оказывают давление на интернет-провайдеров и гигантов социальных сетей, заставляя их цензурировать контент. Примеры. Индия активно пользуется новыми правилами ИТ-2021 — блокирует в интернете материалы, которые считает угрозой стабильности или своей репутации. В 2023 году индийские власти потребовали от YouTube и Twitter удалить документальный фильм BBC про Моди, пригрозив полным отключением сервисов — и платформы подчинились. Россия ввела жесткую цензуру вокруг темы войны под предлогом борьбы с фейками и экстремизмом — западные соцсети (Facebook, Instagram) были заблокированы. Индия и Турция также рассматривали похожие законы. Турция в ноябре 2020 года наложила штрафы в размере 10 млн турецких лир на компании Facebook, Twitter, Instagram, YouTube, TikTok и другие за отказ назначить представителя в Турции, как требовал новый закон. Затем в декабре 2020 года штрафы увеличились до 30 млн лир за продолжительное невыполнение. В результате ряд платформ подчинился требованиям и уведомил власти о назначении представителей, чтобы сохранить доступ на турецкий рынок. Урок: для Казахстана эта модель иллюстрирует эффективность давления (платформы уступают, когда стоит выбор потерять рынок), но несет репутационные риски. Необходимо избирательно использовать ее инструменты: блокировать и штрафовать только в критических случаях, чтобы не отпугнуть инвесторов и не скатиться в изоляцию. Применимость. Некоторые элементы суверенного подхода могут быть полезны для защиты безопасности РК. Например, закрепить законодательно требования локализации данных и присутствия компаний (представительства) - это усилит юридический контроль. Также предусмотреть механизмы экстренной блокировки особо опасного контента или сервисов (например, по решению суда в ЧС). Но при этом важно чётко очертить границы применения этих мер, чтобы они не стали инструментом произвольной цензуры. Применять «суверенные» рычаги следует только для пресечения действительно угроз нацбезопасности, сочетая их с прозрачной правовой процедурой, иначе есть риск утраты доверия общества и международной критики. 3. Кейсы уступок платформ под давлением государств Опыт разных стран дает ценный материал о том, какие меры действительно заставляют глобальные платформы подчиняться, а какие имеют ограниченный эффект. Рассмотрим несколько ярких кейсов с участием YouTube, Telegram, Meta и TikTok — и извлечем из них выводы для РК. 3.1. YouTube: удаление контента под угрозой блокировки Кейс: В январе 2023 года правительство Индии воспользовалось своими новыми полномочиями (ИТ-правила 2021 г.) для блокировки в интернете документального фильма BBC «India: The Modi Question», критически освещающего роль премьер-министра Моди в беспорядках 2002 г. Требования об удалении фильма были направлены на YouTube и Twitter. Платформам пригрозили полным отключением на территории Индии, если контент не будет заблокирован. Уступка платформ. YouTube и Twitter подчинились приказу индийских властей, оперативно удалив упомянутые видео и посты для пользователей из Индии. Формально компании заявили о необходимости следовать местному законодательству. При этом, прослеживается момент угрозы потери крупного рынка из-за единичного сппорного контента. В данном случае бизнес-интерес перевесил принципы свободы слова. Вывод. Угроза блокировки остается одним из самых действенных инструментов принуждения, особенно в странах с большим количеством пользователей. Индийский пример подтвердил: даже крупные западные платформы склонны уступить цензурным требованиям, чтобы не упустить рынок. Однако полагаться только на эту меру опасно. Для Казахстана — точечная блокировка или угроза блокировки эффективна, но применять ее стоит взвешенно, для действительно критических материалов (например, пропаганда терроризма). И желательно сопровождать эту меру понятной законной процедурой (судебное решение, обоснование угроз нацбезопасности), чтобы не потерять репутацию в глазах граждан. 3.2. Telegram: от идеологического сопротивления к сотрудничеству Кейс 1 — Бразилия (2023): Мессенджер Telegram характеризуется принципиальной позицией не сотрудничать с правительствами. В апреле 2023 года бразильский суд потребовал от Telegram выдать данные администраторов неонацистских сообществ, связанных с волной насилия в школах. Telegram отказался, сославшись на политику конфиденциальности и техническую невозможность (сквозное шифрование). В ответ судья постановил полностью заблокировать Telegram в Бразилии, а также назначил ежедневный штраф в $200 тыс. за невыполнение запроса. После нескольких дней блокировки и накопления штрафов компания частично капитулировала: разблокировка состоялась после того, как Telegram удалил указанные каналы и поделился ограниченными данными. Урок. Экономическое давление — штрафы и потеря рынка смогли поколебать даже идеологически упрямую компанию, но лишь до некоторой степени. Частичная уступка показала пределы метода: платформы, для которых репутация “приватных” сервисов важнее прибыли, могут идти на финансовые потери во имя принципов. Telegram предпочёл потерять часть аудитории и денег, но не встроил “чёрный ход” для властей. Так, блокировки/штрафы эффективны, но не гарантируют полного контроля, особенно если есть технические барьеры. Для РК — блокировка Telegram возможна только как крайняя мера, понимая, что это не вынудит раскрыть переписки, а лишь приведет к временной деактивации сервиса или его обходу (VPN). Более того, кейс Бразилии выявил эффект «гидры»: после давления на Telegram преступные сообщества мигрировали в ещё более зашифрованные приложения, усложнив работу полиции. Таким образом, подавляя угрозу на одной платформе, можно получить ее рассеивание по множеству менее контролируемых каналов — нужно предусматривать этот побочный эффект. Кейс 2 — Франция (2024): Одним из ключевых событий стал личный арест основателя Telegram П.Дурова. В августе 2024 г. п.Дуров, прилетев в Париж, был задержан по ордеру, выданному французским судом. Ему предъявили обвинения в соучастии в совершении преступлений через платформу — от торговли наркотиками до распространения материалов с сексуальным насилием над детьми— мотивируя это сознательным отказом Telegram удалять противоправный контент и помогать следствию. Фактически, ответственность возложили персонально на руководителя компании. Последствия были мгновенными — Дуров, ранее непримиримый к любым требованиям, сменил тон на готовность сотрудничать. В течение нескольких дней Telegram обновил политику конфиденциальности, добавив пункт, что при наличии судебного решения будет выдавать IP-адреса и номера телефонов пользователей, подозреваемых в преступлениях. То есть произошел кардинальный пересмотр идеологии сервиса — из-за страха реального тюремного срока для лидера. Урок. Персональная уголовная ответственность топ-менеджеров — “серебряная пуля” принуждения. Сравнение двух кейсов наглядно: штрафы и блокировка в Бразилии дали ограниченный результат, а угроза свободе самого CEO моментально привела к полной капитуляции. Ни офшоры, ни шифрование не спасают, когда дело касается конкретного человека — Дуров не смог «зашифровать себя» или избежать ареста при пересечении границы. Франция создала прецедент, показав, что можно пробить броню идеологической несговорчивости, нацелившись на персональную ответственность руководства платформы. Вслед за этим в силу вступил британский OSA с нормой о тюрьме для руководителей, игнорирующих требования Ofcom по защите детей — и после прецедента Дурова эта угроза уже не кажется теоретической ни для кого из IT-гигантов. Для Казахстана это важное откровение — имеет смысл законодательно ввести механизм персонального наказания за систематическое несоблюдение платформой законов РК, повлекшее тяжкие последствия. Например, прописать, что если соцсеть по требованию суда не удаляет контент, призывающий к насилию или провоцирующий смерть людей, ее локальный руководитель (или официальный представитель) может быть привлечен к уголовной ответственности. Конечно, данный путь требует наличия такого представителя в юрисдикции РК или соглашений об экстрадиции. Но сам факт наличия нормы будет дисциплинировать компании — после прецедента Франции ни один CEO не захочет рискнуть быть арестованным в чужой стране. 3.3. Meta: давление через судебные иски и регулирование Кейс: Meta за последние годы сталкивалась с множеством очагов давления. Один из показательных примеров — коллективный иск генпрокуроров 42 штатов США против Meta (октябрь 2023) за то, что компания сознательно делала свои продукты аддиктивными для детей, вредя их психике. Другой — решение суда в Нидерландах, обязавшее Meta изменить алгоритмы таргетинга рекламы из-за нарушения EU DSA и приватности (фактически, судебный приказ пересмотреть часть бизнес-модели). Кроме того, Meta находится под следствием Еврокомиссии по DSA относительно рисков ее алгоритмов для общества. В разных странах (Германия, Австралия, Вьетнам) Facebook также шёл на частичные уступки, чтобы избежать блокировок — например, временно ограничивал доступ к “неудобному” контенту по требованию правительства (как в случае с постами против вакцин в Германии или антирежимными группами в Вьетнаме). Уступки компании. Meta зачастую выбирает путь публичного сотрудничества, но с оговорками. После скандалов с утечками (Cambridge Analytica) и обвинений в разжигании ненависти компания добровольно внедрила некоторые изменения: усилила модерацию, инвестировала в этику ИИ. Однако более существенные шаги происходят именно под внешним нажимом. Так, перед вступлением DSA в силу Meta объявила о запуске платной подписки без рекламы для пользователей в ЕС, чтобы соответствовать требованиям приватности (не таргетировать рекламу без согласия). Также в Европе Facebook/Instagram теперь предлагают неперсонализированную (хронологическую) ленту — прямое следствие DSA. В странах, грозящих блокировкой, Meta обычно соглашается удалять локально контент, признанный незаконным. Например, в Турции и Индии в 2022 г. Facebook ограничивал доступ к ряду страниц по требованию властей. То есть, компания предпочитает идти на точечные уступки, чтобы сохранить работу на рынке. Но она старается избегать создания прецедентов, которые противоречат ее глобальной политике — балансируя между требованиями разных юрисдикций. Вывод. В случае Meta видим стратегию «перформативного комплаенса» — демонстрировать сотрудничество, пока есть угроза, но не отдавать государству полный контроль. Однако и государства учатся — ЕС, как отмечено, начал проверять алгоритмы Meta аудитами, не веря на слово отчетам компании. Если обнаружат нарушения — последуют гигантские штрафы. США давят через суды, и это тоже грозит многомиллиардными выплатами и раскрытием внутренней переписки Meta. Для РК: юридические инструменты давления (законы, суды, штрафы) работают и против таких гигантов, но лучше действовать коллективно или в рамках крупных блоков. Один Казахстан вряд ли способен серьезно наказать Meta, но если наши регуляторные нововведения будут гармонизированы с европейскими (DSA, GDPR и т.п.), то глобальная политика компании будет меняться и нам на пользу. Также важен мониторинг локального контента — создать при уполномоченном органе группу, которая отслеживает исполнение платформой требований (удалены ли запрещенные материалы, нет ли таргетинга на несовершеннолетних и т.д.). Meta показала, что боится публичных и судебных скандалов, поэтому огласка проблем и международное давление — наши союзники. (Примечание: В-третьих, крупные платформы научились затягивать и симулировать комплаенс. Они могут публично соглашаться с требованиями, но на деле минимизировать исполнение (тактика «перформативного комплаенса»). Однако мировая тенденция такова, что эпоха символических уступок (деклараций) заканчивается — начинается эпоха принудительного аудита. Государства научились раскрывать такие уловки и отвечают еще более жестким давлением. Более тонкий вариант — «вредоносный комплаенс», когда компания вроде бы исполняет букву закона, но делает это таким образом (через дизайн интерфейса), чтобы саботировать его дух и цели. Например, Meta формально реализовала требование DSA предоставить альтернативу алгоритмической ленте, но опция хронологической ленты была намеренно спрятана глубоко в меню, а приложение автоматически сбрасывало выбор пользователя обратно на алгоритмическую ленту при каждом перезапуске. В октябре 2025 года суд Нидерландов, рассмотрев иск, признал такую реализацию незаконным «тёмным паттерном», который делает выбор пользователя иллюзорным, и принудил компанию сделать опцию легкодоступной и постоянной. Этот пример показывает, что без реального принуждения и аудита платформы могут имитировать сотрудничество. Казахстану следует учитывать эти приемы индустрии и заранее закладывать механизмы противодействия «перформативному» и «вредоносному» комплаенсу.) 3.4. TikTok: балансирование между уступками и запретами Кейс: TikTok, будучи китайским по происхождению, испытал на себе самые жесткие угрозы. В 2020–2023 гг. этот сервис едва не запретили в США и ряде других стран из-за опасений шпионажа и вреда детям. Ответные шаги TikTok были беспрецедентными: компания согласилась на проект по хранению данных американцев в США (Project Texas) и внешнему мониторингу американским партнером. В Великобритании и ЕС TikTok также заявил о готовности соблюдать все новые правила (возрастная верификация, модерация контента). Тем не менее, многие государства попросту запретили TikTok на госустройствах, а Индия вовсе ввела полный бан приложения еще в 2020 г. (геополитика после приграничного конфликта с КНР). Уступки компании. В ЕС TikTok пошел на заметные изменения: усилил контроль над контентом, открыл региональные центры прозрачности, согласился проводить оценку рисков перед запуском новых функций. Пример — регулятор ЕС заставил TikTok отложить запуск развлекательной функции TikTok Lite до проверки на аддиктивность контента. TikTok также ввел по всему миру ограничения для юных пользователей (таймеры экрана, запрет ночных уведомлений подросткам) — отчасти в ответ на международную критику. Но есть и иная сторона: внутренне TikTok все еще связан с материнской компанией ByteDance в Пекине, что вызывает недоверие относительно доступа к данным и влияния властей КНР. Вывод. Страх потери огромных рынков (США, ЕС) заставляет даже китайскую платформу быть сговорчивой. Мягкие формы принуждения (диалог, требования прозрачности) комбинируются с жесткими (угрозы полного запрета). В случае TikTok, похоже, сработала их комбинация: сервис пока не запрещен повсеместно, но находится под «надзором» на Западе. Для РК имеет смысл четко обозначить требования к TikTok (и аналогичным видео-платформам): локализовать данные казахстанских пользователей, удалять экстремизм и опасный челлендж-контент оперативно, внедрить возрастной контроль для доступа к контенту 18+. Быть готовым в случае отказа ограничить TikTok (например, запретить на госслужбе или даже временно блокировать в стране). Понимая, что наша аудитория не столь велика, полной блокировкой мы скорее накажем своих же граждан, потеряв канал коммуникации с молодежью. Поэтому предпочтительнее координироваться с международными регуляторами: если, скажем, ЕС обяжет маркировать ИИ-контент на TikTok, Казахстан может требовать того же. Главный урок — универсальный: платформы уступают, когда видят реальную угрозу своему бизнесу. И наоборот, если законы не строгие и санкции мизерные, корпорации будут тянуть с исполнением. Поэтому наше законодательство должно предусматривать ощутимые штрафы, вплоть до запрета деятельности, за неисполнение критически важных норм (как защита детей, противодействие пропаганде терроризма и т.п.). 4. Стратегические направления Анализ угроз и мирового опыта приводит к ряду стратегических приоритетов для Казахстана. Государству необходимо скорректировать и усилить свою политику в сфере цифровой безопасности и регулирования платформ, чтобы эффективно отвечать на современные вызовы. Ниже предлагаются ключевые направления. 4.1. От модерации контента к архитектурному контролю Проблема: Традиционный подход «удалить запрещенный пост по жалобе» не справляется со значительным объемом вредоносного контента и системных рисков. Как показал глобальный тренд 2022–2025 гг., государства больше не удовлетворяются реактивной модерацией единичных нарушений. Требуется устранять первопричины — те особенности дизайна и алгоритмов платформ, которые порождают опасности. Решение — Safety by Design. Концепция «Безопасность по замыслу» означает интеграцию защиты пользователей на уровне архитектуры продукта, с самого начала разработки. Власти ЕС открыто требуют от технокомпаний перехода к такому принципу. РК следует официально закрепить его в нацполитике. Практически это выльется в требования к платформам: проводить предварительную оценку рисков новых функций, исключать «аддиктивные» элементы дизайна, по умолчанию внедрять защитные настройки. Иными словами, нужен превентивный контроль на уровне архитектуры сервисов, а не только реактивное удаление контента постфактум. Safety by Design превращает обязанности модерации из полицейской пост-фактум работы в инженерную и превентивную. Это эффективно в долгосрочной перспективе и снижает нагрузку на госорганы. К примеру, если платформа изначально не показывает подросткам контент о селфхарме, не понадобится массово его удалять вручную. Если алгоритм ленты станет менее токсичным (без пропаганды анорексии и т.п.), улучшится общее психическое здоровье молодежи. Вывод. необходимо закладывать требования «безопасности по замыслу» в регулирующие нормы, чтобы принуждать компании проектировать продукты с учетом безопасности граждан. 4.2. Локализация данных и суверенная ИТ-инфраструктура Задача. Укрепить цифровой суверенитет через контроль над данными и инфраструктурой. Сейчас значительная часть данных казахстанских граждан хранится и обрабатывается за рубежом, вне юрисдикции РК. Это затрудняет защиту персональных данных и работу правоохранительных органов. Меры. Законодательно обязать крупные онлайн-платформы хранить персональные данные казахстанцев на серверах, физически расположенных в РК (по примеру требований РФ и Китая). Дополнительно — требовать открытия официального представительства/юридического лица в стране, чтобы было к кому предъявлять претензии и вручать предписания. Эти шаги уже предусмотрены в законодательстве РК, но нуждаются в усилении и строгом контроле исполнения. Локализация данных обеспечит оперативный доступ спецслужб к необходимой информации в рамках нацбезопасности, а также сохранность данных по отечественным правилам. Введение понятия «суверенного облака» — сегмента инфраструктуры, подконтрольного только РК, — позволит изолировать данные от иностранного влияния. Ограничения. Полная локализация всей инфраструктуры может быть экономически затратной и отпугнуть инвесторов. Поэтому возможно поэтапное внедрение: сперва требовать локализации критически важных категорий данных (персональные данные, логи модерации), а затем расширять охват. Важно также учитывать опыт — компании нередко саботируют такие требования, уходя в офшоры или минимизируя локальное присутствие. Значит, нужны и рычаги enforcement: штрафы, замедление трафика или блокировка сервисов за неисполнение требований (как крайняя мера, с судебным контролем). Вывод: контроль над данными — базис цифрового суверенитета, и Казахстану следует настоять на этом, сбалансировав с инвестклиматом. 4.3. Персонализация ответственности Обоснование. Как показал «прецедент Дурова», руководители технологических компаний — это «ахиллесова пята» глобальных платформ. Компания может уклоняться от ответственности, прячась за офшоры и шифрование. Однако CEO как физическое лицо уязвим и не может «зашифровать себя». Французские власти атаковали не абстрактную платформу, а конкретного человека, и достигли мгновенного результата. Предлагаемое действие. Внести поправки в Уголовный кодекс РК, устанавливающие персональную уголовную ответственность (вплоть до лишения свободы) для руководителей (включая региональных директоров и официальных представителей) цифровых платформ за злостный и систематический отказ исполнять законные требования уполномоченных органов РК. Речь о ситуациях, которые привели к тяжким последствиям: смерть людей, массовые беспорядки, распространение террористической пропаганды, материалов о сексуальном насилии над детьми (CSAM) и т.п. Если платформа, несмотря на предписания суда, сознательно не удаляет такой контент, ее ответственный менеджер в РК должен нести личную ответственность. Ограничения. Пользоваться этим инструментом нужно избирательно, чтобы не отпугнуть инвесторов и не скатиться в произвол. Целесообразно четко ограничить перечень ситуаций, за которые грозит уголовное преследование (только угрозы нацбезопасности, жизнь и здоровье граждан, защита детей). Это покажет, что РК не угрожает бизнесу в целом, а лишь ставит «красные линии», за пересечение которых последует наказание по всей строгости. Также необходимо, чтобы у компаний были зарегистрированы официальные представители в юрисдикции РК, иначе механизм работать не сможет. Вывод: персонализация ответственности — крайний, но действенный шаг. Его само наличие дисциплинирует: после случая во Франции ни один топ-менеджер не захочет рисковать свободой, игнорируя наши законы. 4.4. Международное давление и коалиции Почему это важно: Казахстан — не доминирующий игрок на глобальном ИТ-рынке. Для Big Tech мы сравнительно небольшой рынок, поэтому в одиночку РК сложно диктовать условия гигантам. Решение — опираться на международные стандарты и координировать усилия с другими странами. Если требования РК будут созвучны требованиям ЕС или других крупных юрисдикций, компаниям проще будет их исполнять как часть общей политики, чем изобретать отдельные решения для маленького рынка. Пример коалиций: Digital Services Act (DSA) ЕС фактически стал глобальным стандартом для платформ, желающих оперировать в Европе. Если РК имплементирует аналогичные требования DSA, то платформам не придется ничего кардинально нового придумывать — они уже вынуждены соблюдать эти нормы в ЕС. Мы, образно говоря, становимся «получателями эффекта Брюсселя» — наше регулирование усиливается за счет веса Европы. Практически, можно подписать меморандум с ЕК о сотрудничестве в реализации принципов DSA в третьих странах, включая РК. Online Safety Act (OSA) Великобритании — источник лучших практик в защите детей. Казахстан может не только перенимать положения OSA (про возрастную верификацию, duty of care), но и участвовать в тематических форумах, сотрудничать с британским Ofcom в части обмена данными о рисках и нарушениях. Возможно, стоит создать аналогичный орган у себя и наладить взаимодействие с иностранными регуляторами. Индо-Тихоокеанские инициативы: США, Индия, Япония обсуждают создание альянса по свободному и безопасному интернету (альтернатива китайскому видению). РК мог бы примкнуть, заявив о готовности следовать принципам открытого, но ответственного цифрового пространства. Блок региональных партнеров: Страны ЦА сталкиваются с похожими проблемами (экстремизм, терроризм онлайн). Создание регионального соглашения или координации (например, единый реестр экстремистского контента, признанного судами стран региона, и совместное требование к платформам) повысит переговорную мощь РК. Механизмы давления: Коллективные переговоры с платформами. Например, ЕС добился от Twitter усиления модерации российской военной пропаганды через переговоры, подкрепленные угрозой санкций. Казахстан может подключаться к таким диалогам на правах партнера, чтобы наши озабоченности учитывались в общих требованиях. Обмен информацией через международные организации. ООН, ITU, OECD — на всех площадках сейчас идут дискуссии о регулировании цифровых технологий. Нужно активнее в них участвовать, продвигать инициативы, выгодные нам (мировое соглашение о противодействии киберпреступности или защите детей онлайн — у РК хорошие шансы выступить с такими предложениями). Коалиции по узким темам. Например, коалиция по age verification: несколько стран тестируют технологии подтверждения возраста (Великобритания, Австралия, ЕС). Казахстан мог бы присоединиться к пилотам или хотя бы перенимать готовые решения, выступая на стороне «children online safety». Или коалиция против злоупотребления шифрованием: ряд государств (Five Eyes, ЕС) требуют от технокомпаний внедрять механизмы доступа к зашифрованным данным по решению суда. Возможно, РК стоит поддержать эту линию, чтобы потом ссылаться на общие договоренности, а не вступать в одиночку в бой с шифрованием. Выигрыш: При международном давлении компании охотнее соглашаются, так как ставки выше — это уже не один рынок, а многие. К тому же, такая стратегия позволяет избежать обвинений в авторитаризме: если мы, скажем, внедряем нормы DSA/OSA, то это выглядит как следование признанным стандартам, а не желание цензурировать. Для руководства силового блока участие в глобальных инициативах — это и доступ к лучшим практикам (обучение, обмен опытом с коллегами из других стран по киберрасследованиям, OSINT и т.п.). В итоге, совместное давление создает эффект домино: глобальные платформы вынуждены перестраивать архитектуру и политику повсеместно, а не только точечно. Это снижает для них мотивацию сопротивляться локально. РК, чтобы воспользоваться этим, надо активно синхронизировать свое законодательство и требования с международными — что переходит к следующему разделу о реформе нормативной базы. 4.5. Формирование цифровой доктрины РК как внешнеполитического приоритета Замысел. В новой эре «регуляторное преимущество» становится стратегическим активом, равным по значению военной или экономической мощи. Государство, которое успешно устанавливает и принуждает к исполнению свои стандарты (феномен «брюссельского эффекта»), фактически экспортирует свой суверенитет и усиливает влияние в цифровой сфере. Казахстан должен стремиться воспользоваться этим трендом. Практические шаги. Необходимо разработать собственную, четкую и гибридную доктрину регулирования цифровых платформ, исходя из национальных интересов. Эта «цифровая доктрина» должна быть публично артикулирована и встроена во внешнеполитическую повестку РК. По аналогии с доктринами в обороне или экономике, цифровая доктрина будет определять принципы и «красные линии» в киберпространстве. Принятие и продвижение такой доктрины на международных площадках (ООН, региональные саммиты, двусторонние комиссии) позволит Казахстану заявить о себе как о государстве, ответственно подходящем к цифровому благополучию граждан и формирующем новые правила игры для Big Tech. Геополитический эффект — усиливая нормативное влияние в регионе, РК может превратить свое прогрессивное регулирование в элемент «мягкой силы» и повысить свою субъектность в отношениях с технологическими корпорациями. 5. Рекомендации по реформе законодательства Исходя из вышеизложенного анализа, правовая база РК в сфере цифровой безопасности нуждается в комплексном обновлении. Цель — привести ее в соответствие с реальными цифровыми угрозами и лучшими мировыми практиками (DSA, OSA, AI Act, индийские IT-правила и др.). Ниже предложены первоочередные шаги и направления реформ. 5.1. Принятие комплексного закона «О безопасной онлайн-среде» Необходимо консолидировать в одном акте основные обязанности цифровых платформ перед пользователями и государством. В закон должны войти следующие положения: Оценка и минимизация системных рисков. Платформы с значительной аудиторией в РК (порог определить по числу пользователей, напр. >500 тыс.) обязаны ежегодно идентифицировать риски (для здоровья, общественной безопасности, прав граждан) и отчитываться перед регулятором о принятых мерах. «Duty of Care» для защиты детей. Установить юридическую обязанность принимать все разумные меры для обеспечения безопасности несовершеннолетних онлайн. Включая: верификацию возраста пользователей (с соблюдением приватности, возможно через госуслуги), по умолчанию безопасные настройки для аккаунтов детей, запрет алгоритмического навязывания контента, вызывающего у них аддикцию или вред (расстройства пищевого поведения, суицидальные темы и пр.). Обязательства по модерации незаконного контента. Закрепить четкие сроки и процедуры удаления контента, признанного судом незаконным (террористическая пропаганда, экстремизм, детская порнография, призывы к насилию). Ввести категорию «приоритетного контента» — особенно опасного — для сверхбыстрой (в течение часов) реакции, как это делается в ЕС для террористического контента. Прозрачность алгоритмов и данных. Платформы должны предоставлять по запросу регулятора основные сведения о принципах работы рекомендательных систем и таргетинга рекламы, а также обеспечивать доступ исследователей к анонимизированным данным для независимого анализа рисков (норма DSA). Штрафы и санкции. За несоблюдение требований — штрафы до значимой доли годового оборота компании в РК (или глобального оборота, если это возможно претворить). Прописать возможность замедления трафика или блокировки сервиса при злостных нарушениях (крайняя мера). Эти меры следует применять поэтапно: сначала выносится официальное предупреждение и предписание об устранении нарушения, затем накладывается оборотный штраф за неисполнение, далее при необходимости вводятся точечные технические ограничения (например, замедление трафика отдельных функций или разделов сервиса), и лишь в случае продолжающегося злостного игнорирования требований — временная частичная блокировка ресурса. Персональные санкции в отношении руководства платформ при этом остаются исключительно крайней мерой и должны применяться только при наступлении тяжких последствий для общества (угрозы жизни граждан, безопасности детей, национальной безопасности). Надзорный орган. Определить или создать уполномоченный орган (например, на базе МИИЦР и МКИ или межведомственного совета), ответственный за мониторинг выполнения этого закона, взаимодействие с платформами и вынесение предписаний. При этом мандат такого регулятора должен охватывать технический аудит платформ, установление отраслевых стандартов безопасности (например, требований к возрастной верификации пользователей), координацию международных инициатив и реализацию экстренных протоколов реагирования при цифровых инцидентах. Важно: наделить этот орган правом и техническими средствами проведения аудита алгоритмов и архитектуры сервисов (как Еврокомиссия делает по DSA), чтобы выявлять «перформативный» и «вредоносный» комплаенс и не полагаться лишь на отчеты компаний. Необходимо также разработать детальный технический регламент аудита архитектуры платформ: чек-листы контроля (наличие «безопасных настроек по умолчанию», возрастных фильтров, отсутствие «тёмных паттернов» и аддиктивных UX-механизмов), стандартизованный формат независимого экспертного отчёта и периодичность повторных аудитов (например, раз в 12 месяцев). Опыт ЕС и США доказывает, что регулятор не может верить PR-заявлениям корпораций — нужен принудительный аудит кода и дизайна интерфейсов. Без технического аудита закон рискует остаться на бумаге. 5.2. Поправки в кодексы Как обсуждалось выше, следует ввести в УК и КоАП нормы персональной ответственности руководства компаний: Уголовная статья для должностных лиц платформ. Прописать состав правонарушения для должностных лиц компаний-владельцев платформ — неисполнение законного предписания регулятора или суда, повлекшее тяжкие последствия. Определить санкции: крупный штраф, запрет на деятельность в отрасли либо лишение свободы (при отягчающих обстоятельствах). Данный состав применять взвешенно и публично анонсировать, чтобы компании были предупреждены о рисках. Административная ответственность компаний. В КоАП включить штрафы для юридических лиц-платформ за разные нарушения: отказ локализовать данные, отсутствие возрастной верификации, утечка данных по вине компании, нарушение порядка удаления контента и т. д. (с эскалацией — повторные нарушения влекут увеличение штрафов вплоть до приостановки деятельности). Эта система создаст постоянное давление на компании соблюдать требования. В целом должна быть выстроена понятная «лестница» воздействия на несоблюдающие платформы — от мягких к наиболее жестким мерам. 5.3. Закон о локализации данных и присутствии компаний Разработать отдельный закон или внести изменения в Закон «Об информатизации», чтобы укрепить инфраструктурный суверенитет: Локализация данных. Обязать значимые онлайн-платформы хранить персональные данные казахстанцев на серверах, расположенных в РК (либо в дружественных юрисдикциях с соглашением). Перечень категорий данных и критерии «значимости» платформ установить подзаконно. Внедрение требований локализации целесообразно осуществлять поэтапно: например, в первый год сфокусироваться на переносе в РК наиболее критичных категорий сведений (ПД детей, биометрия, журналы модерации), а ко второму году расширить локальное хранение на остальные данные. Обязательное представительство. Требовать открытия официального представительства (физического офиса или зарегистрированного юрлица) в РК у крупных социальных сетей, мессенджеров и видеохостингов. Это лицо наделяется полномочиями принимать документы от госорганов и нести юридическую ответственность за выполнение требований. Ответственность за невыполнение. Предусмотреть, что игнорирование требований о локализации или представительстве ведет к ограничению доступа к сервису на территории РК (по решению суда или регулятора). Эта норма должна иметь сдерживающий эффект, хотя применять ее следует как крайнюю меру, взвешенно. Также важно оценить возможные экономические издержки новых требований для бизнеса (провести Regulatory Impact Assessment) и предусмотреть меры поддержки, чтобы обязательная локализация не отпугнула технологические компании. В качестве стимулов можно рассмотреть льготные тарифы на услуги отечественных дата-центров, совместные инвестпроекты государства в «суверенные облака» и прочие преференции для компаний, добросовестно выполняющих нормы. 5.4. Регулирование ИИ (на опережение) Заимствовать и адаптировать положения готовящегося EU AI Act, чтобы заблаговременно отреагировать на угрозы генеративного ИИ: Классификация ИИ-систем по уровню риска. Ввести градацию: низкий, средний, высокий, недопустимый риск. Например, дипфейк-генераторы и эмоциональные чат-боты отнести к высокорискованным системам. Запрет опасных практик. Запретить некоторые случаи использования ИИ, которые признаны недопустимыми в ЕС (социальный рейтинг граждан, массовое распознавание лиц в реальном времени и пр.). Сертификация высокорискованных ИИ. Требовать от разработчиков и поставщиков ИИ-систем в РК проходить оценку соответствия для высокорискованных систем, регистрировать их и выполнять требования по транспарентности. В частности, обязать технически маркировать ИИ-сгенерированный контент (как уже требуют в Китае с 2025 г. и в Калифорнии). Этический совет. Создать экспертный совет по этике ИИ, который будет мониторить новые риски и оперативно вырабатывать рекомендации. На основе его выводов государство сможет гибко корректировать регулирование. 5.5. Приведение законодательства в соответствие с DSA/OSA Провести ревизию существующих законов РК о СМИ, связи, защите детей от вредной информации и др., чтобы: Устранить пробелы и коллизии. Например, четче определить, что считается незаконным онлайн-контентом, какую ответственность несут платформы за его непредотвращение. Это снизит двусмысленность и укрепит правоприменение. Отразить международные стандарты. Терминологически и по сути синхронизировать наши нормы с европейскими и другими передовыми. Ввести понятия «очень крупная онлайн-платформа», «системный риск» по аналогии с DSA; включить концепцию «обязанности по заботе» (duty of care) из OSA; предусмотреть процедуру экстренного блокирования контента по административному приказу в чрезвычайных ситуациях (как в IT-Rules Индии). Одновременно необходимо предусмотреть процессуальные гарантии при таких экстренных мерах: судебный пересмотр блокировок постфактум, возможность апелляции решения и прозрачную публичную отчётность о каждом случае. Это позволит избежать злоупотреблений и чрезмерного блокирования законного контента. Обеспечить совместимость с законодательством партнеров. Чтобы облегчить взаимную правовую помощь, наши законы должны быть во многом сопоставимы с законодательствами торговых партнеров. Если ЕС вводит новую категорию правонарушений (например, несоблюдение требований по алгоритмической прозрачности), стоит рассмотреть аналогичную норму у нас. Это повысит эффективность сотрудничества в расследовании киберпреступлений, экстрадиции нарушителей и т. д. 5.6. Регулирование онлайн-коучинга и «инфоцыганства» Стремительно развивается серый рынок онлайн-«гуру», которые без лицензий и квалификации продают населению психологические, эзотерические и бизнес-«тренинги». В ряде стран это уже признано проблемой. Действие — изучить опыт России (рабочая группа при Госдуме, проекты лицензирования образовательной деятельности блогеров) и Франции (закон №2024-420 против злоупотреблений в психологическом воздействии и отказе от медпомощи). Разработать закон, вводящий требования к квалификации, сертификации и ответственности для лиц, оказывающих платные психологические, оздоровительные и бизнес-консультации онлайн. По сути, обязать «инфо-коучей» получать лицензии на деятельность, подтверждать экспертность и предупреждать пользователей о рисках. Обоснование. Дополнительные материалы и зарубежная практика показывают, что это назревший глобальный тренд. Китай, Франция, Россия уже вводят ограничения на сомнительный онлайн-коучинг. Цель — прямая защита граждан от психологического вреда и мошенничества, аналогичная по сути защите от вреда «эмоциональных ботов». РК, законодательно контролируя сферу инфоцыганства, убережет население от сектантских манипуляций и мошеннических схем под видом обучения. 5.7. Шаги внедрения реформ Чтобы реализовать вышеописанные реформы эффективно, необходим поэтапный подход и сопутствующие меры: Консультации с международными партнерами. Рекомендуется запросить у ЕС и Великобритании экспертизу по draft-версиям наших новых норм (например, через программы сотрудничества ЕС с ЦА). Это поможет учесть лучшие практики и избежать ошибок при имплементации сложных требований (аудит алгоритмов, регулирование ИИ и т.д.). Общественное обсуждение и информирование. Важно разъяснить бизнесу и населению, что новые правила направлены на защиту граждан, а не на ограничение интернета ради цензуры. Максимальная прозрачность на старте реформ повысит их легитимность и снизит сопротивление. Стоит запустить информкампанию о вреде аддиктивных технологий, опасностях для детей и выгодах новых мер, чтобы общество само требовало изменений. Этапность внедрения. Наиболее готовые меры (например, требования возрастной верификации, наличия локального представителя) можно принять и применять в кратчайшие сроки. Более сложные нововведения (аудит алгоритмов, масштабное регулирование ИИ) вводить с разумной отсрочкой или в пилотном режиме, чтобы индустрия успела адаптироваться и появились необходимые компетенции у регулятора. Такой поэтапный подход позволит избежать потрясений и скорректировать курс по итогам первых результатов.

Сущности