Генеративный поиск как угроза информационному суверенитету государства.docx

Генеративный поиск как угроза информационному суверенитету государства<br> Международный контекст и срочность проблемы<br> Генеративные ответы Google запущены в более чем 100 странах мира, включая европейские государства, Турцию и страны региона. Яндекс активно развивает собственную языковую модель YandexGPT и уже интегрировал генеративные ответы в поисковую выдачу. ChatGPT насчитывает 400 млн пользователей еженедельно, превысив по охвату аудиторию Википедии.<br> Ведущие страны мира уже разработали национальные стратегии управления искусственным интеллектом и его воздействием на информационный ландшафт. Для них это вопрос национальной безопасности, а не просто инструмент маркетинга или коммуникаций.<br> При отсутствии целенаправленных действий в течение 3-5 лет возможна идеологическая фрагментация общества с утратой единой версии национальной истории и идентичности, подрыв доверия граждан к государству как к достоверному источнику информации, доминирование иностранных источников над внутренней повесткой дня и потеря государством способности оперативно доносить свою позицию в кризисных ситуациях.<br> Дополнительно снижается эффективность государственных услуг, поскольку граждане не владеют информацией о доступных программах и не могут ими воспользоваться из-за недостоверных или неполных сведений.<br> Генеративный искусственный интеллект представляет собой не технологический тренд, а фундаментальное изменение способа распространения и потребления информации. Государство может либо адаптироваться к этой трансформации в текущий момент, либо утратить контроль над собственным нарративом на десятилетие вперёд.<br> Суть проблемы<br> Поисковые системы внедряют ИИ, который больше не отображает список ссылок, а непосредственно формирует готовый ответ на запрос пользователя. Граждане получают информацию не с государственных веб-ресурсов, а из синтезированного ответа, который система генерирует в реальном времени.<br> При вводе запроса в поисковую систему ИИ анализирует сотни источников и создаёт единый связный ответ. Пользователь получает готовую информацию непосредственно на странице результатов, зачастую без необходимости переходить на сторонние сайты.<br> Согласно прогнозам международных экспертов, к 2028 году от 50% до 75% всех поисковых запросов будут обрабатываться именно таким образом. В настоящее время доля подобных запросов составляет около 5% и демонстрирует ежегодный рост на 35%.<br> Отличие от традиционной модели – ранее государственный сайт мог занимать невысокую позицию в поисковой выдаче, но присутствовал в списке ссылок, и заинтересованный пользователь имел возможность его обнаружить.<br> Теперь ИИ отбирает 2-3 основных источника и формирует из них единственный ответ. Если официальных данных среди отобранных источников нет, госпозиция полностью выпадает из поля зрения граждан. На месте достоверной казахстанской информации могут оказаться сведения из иностранных источников, блогов или даже некорректные данные, собранные алгоритмом случайным образом.<br> Парадокс современного информационного поиска состоит в том, что данная проблема уже проявилась в традиционных поисковых системах. Граждане получают информацию о казахстанских реалиях преимущественно из зарубежных источников, поскольку официальные сайты технически неадаптированы для поисковых алгоритмов. С переходом к генеративному ИИ эта проблема многократно усугубится, так как алгоритмы станут ещё более требовательны к форме представления информации.<br> Почему это происходит<br> ИИ-системы отдают предпочтение источникам, которые обладают чёткой структурой с понятными заголовками, перечнями, таблицами и логичной последовательностью изложения. Алгоритмы ценят материалы, содержащие проверяемые факты с указанием авторства и первоисточников, написанные доступным языком и адаптированные для формирования прямых ответов на конкретные вопросы. Существенное значение имеет наличие специальной машиночитаемой разметки — технических метаданных, которые позволяют алгоритму оперативно и корректно обработать информацию.<br> Большинство государственных веб-ресурсов Казахстана не соответствуют этим требованиям. Информация изложена громоздким канцелярским языком, плохо структурирована, лишена технической оптимизации для обработки искусственным интеллектом и нередко устарела.<br> Между тем конкуренты государства — иностранные СМИ, международные организации, оппозиционные ресурсы, коммерческие платформы — уже целенаправленно адаптируют свой контент под генеративный поиск. Госструктуры подобной работы не ведут и планомерно отстают.<br> Реальные последствия<br> Искажение исторического нарратива<br> Когда гражданин обращается к искусственному интеллекту с вопросом о событиях в Казахстане (например, «Что произошло в январе 2022 года?»), система формирует ответ на основе материалов зарубежных средств массовой информации и активистских организаций, где события нередко охарактеризованы как «кровавое подавление мирного протеста».<br> Официальная позиция государства не упоминается, поскольку государственные материалы либо отсутствуют в доступных для ИИ источниках, либо технически непригодны для автоматической обработки, либо изложены настолько сложным языком, что алгоритм не способен их корректно интерпретировать.<br> Результатом становится формирование у молодого поколения картины мира на основе сторонних, зачастую враждебных трактовок. Возникает глубокий мировоззренческий разрыв между поколениями в понимании ключевых исторических событий. Государство утрачивает способность влиять на формирование исторического сознания общества.<br> Информационный вакуум в условиях кризиса<br> При резонансных событиях граждане массово обращаются к ИИ-помощникам с вопросами о произошедшем, ответственных лицах и способах защиты. ИИ формирует ответ из первых доступных источников, которыми обычно являются непроверенные сообщения из социальных сетей, новостных агрегаторов и иностранных источников. Официальное разъяснение от госорганов может быть недоступно для ИИ или включено в ответ в качестве второстепенного источника.<br> Следствием становится паника, распространение слухов и недоверие к последующим официальным опровержениям, поскольку в ИИ-ответе уже сформировалась первичная, нередко искажённая картина события.<br> Утрата контроля над базовой информацией<br> Запросы о государственных услугах, программах поддержки и практических процедурах получают ответы с устаревшей, неполной или некорректной информацией, поскольку официальные инструкции либо недоступны для искусственного интеллекта, либо изложены непонятным языком. Граждане не могут эффективно воспользоваться услугами, теряют время и обвиняют государство в непрозрачности и бюрократизме. Это снижает результативность государственных программ, так как граждане попросту не информированы о возможностях или не понимают механизмов их реализации.<br> Распространение недостоверной медицинской информации<br> Когда гражданин ищет информацию о профилактике заболевания или медикаментозной терапии при определённом диагнозе, искусственный интеллект формирует ответ на основе медицинских форумов, статей с сомнительных сайтов и устаревших источников, поскольку официальные рекомендации Министерства здравоохранения Казахстана технически недоступны для анализа ИИ. Граждане получают некорректные рекомендации, занимаются самолечением, откладывают обращение к врачу. Возрастают риски для здоровья населения.<br> Дезинформация о государственных программах<br> Гражданин ищет информацию о программе государственной поддержки для сельхозпроизводителей или о льготах для молодых семей. Искусственный интеллект формирует ответ на основе информации от частных консультантов, которые могут искажать детали программы для привлечения клиентов, либо из зарубежных источников, описывающих аналогичные программы с иными условиями. Граждане некорректно интерпретируют условия программ, не подают необходимые заявки или обращаются к платным посредникам вместо официальных каналов.<br> Текущая ситуация в Казахстане<br> Госорганы уже сегодня проигрывают конкуренцию по большинству значимых запросов в традиционном поиске. При поиске информации о госуслугах в Казахстане в верхних позициях результатов часто появляются зарубежные сайты, консультационные агентства и блоги, и лишь затем официальные источники. С переходом к генеративному ИИ эта проблема многократно усугубится, поскольку алгоритмы станут ещё более требовательны к форме представления информации.<br> Государство рискует утратить контроль над информацией в отношении исторических событий (Голодомор, Желтоксан, январские события), текущих политических процессов и реформ, госпрограмм и услуг, биографий государственных деятелей, а также медицинской и социальной информации от госорганов.<br> Следующие 1-2 года приобретают критическое значение. Алгоритмы искусственного интеллекта формируют индексы авторитетности источников в настоящее время. Источники, которые будут признаны авторитетными для ИИ в этот период, сохранят преимущество на годы вперёд.<br> Что требуется для решения проблемы<br> Необходима целенаправленная инициатива по адаптации официальной информации для систем генеративного ИИ. Это не вспомогательная функция существующих пресс-служб, а самостоятельное направление деятельности, требующее специализированной команды, отдельного бюджетирования и собственной орструктуры.<br> Решение включает четыре взаимосвязанных компонента. Первый предполагает переработку контента. Информация должна быть переведена с канцелярского языка на доступный и понятный, структурирована для обработки алгоритмами, представлена в формате, соответствующем характеру запросов, которые граждане адресуют ИИ-системам. Важно обеспечить качественный двуязычный контент на казахском и русском языках не в виде механического перевода, а как две полноценные версии материала.<br> Второй компонент предусматривает техническую модернизацию государственных веб-ресурсов. Необходимо внедрить специальную машиночитаемую разметку, позволяющую ИИ-системам оперативно и корректно обрабатывать информацию. Следует обеспечить оптимальную скорость загрузки и полную доступность для ИИ-краулеров, которые сканируют интернет для обучения моделей. Госданные должны быть интегрированы в национальный граф знаний, чтобы информация была доступна в стандартизированном формате для всех ИИ-систем.<br> Третий компонент касается постоянного мониторинга и оперативного реагирования. Необходимо систематически проверять содержание ответов ИИ на ключевые запросы, выявлять искажения и ошибки, оперативно реагировать путём корректировки источников информации. Это позволит обеспечить переобучение ИИ на более актуальные и достоверные данные и снизить распространение дезинформации через генеративные каналы.<br> Четвёртый компонент– стратегическое управление всей инициативой. Требуется постоянное отслеживание развития ИИ-систем, понимание критериев отбора источников, анализ трендов. Это обеспечивает гибкость и адаптивность стратегии к стремительным изменениям технологий.