Саммит Акабского процесса в Астане: как Казахстану защититься от угроз ИИ

В Астане завтра, 6 ноября, пройдет саммит Акабского процесса, одной из ключевых тем которого станет противодействие использованию искусственного интеллекта в террористических и экстремистских целях. Развитие технологий создает новые угрозы: от поддельных видео и голосовых сообщений до манипулирования общественным мнением и атак на цифровые системы. Какие риски наиболее актуальны для Казахстана, почему противостоять им необходимо на международном уровне и каких результатов стоит ожидать от предстоящего саммита? Об этом в интервью «24KZ» рассказала аналитик, независимый директор, Председатель наблюдательного совета Qazaqstan Risk Managers’ Association, Региональный директор Professional Risk Managers' International Association Kazakhstan Гульжан Бекмагамбетова.

- В чем значение предстоящего саммита Акабского процесса в Астане?

На мой взгляд, значение саммита заключается в возможности выработать совместные подходы к угрозам, возникающим на пересечении технологий и международной безопасности. В центре внимания - предотвращение использования искусственного интеллекта в террористических и экстремистских целях и укрепление сотрудничества государств. Для Казахстана это возможность внести вклад в формирование практических механизмов взаимодействия.

Как специалист по управлению рисками я считаю особенно важным, чтобы обсуждение получило продолжение: появились согласованные меры предупреждения угроз, обмена информацией и совместного реагирования.

- Почему вопрос использования искусственного интеллекта в террористических и экстремистских целях требует отдельного международного обсуждения?

- Здесь важно учитывать способность технологий увеличивать скорость, масштаб и адресность информационного воздействия. При оценке угроз необходимо рассматривать сценарии создания поддельных материалов, распространения экстремистской пропаганды, манипулирования доверием и вовлечения людей в противоправную деятельность. Особую обеспокоенность вызывает возможность выдавать искусственно созданный контент за подлинные обращения конкретных людей или организаций.

Поэтому государствам необходимо развивать возможности проверки информации, раннего выявления угроз и оперативного предупреждения граждан. При этом оценивать следует конкретные способы применения технологии, намерения и возможные последствия. Это позволяет точнее определять меры противодействия.

- Какие риски в этой сфере вы считаете приоритетными?

- Я бы выделила три взаимосвязанных направления.

Первое - воздействие на людей: пропаганда, манипулирование и попытки вовлечения в террористическую или экстремистскую деятельность. Второе - подрыв доверия к информации и институтам через поддельные заявления, аудио- и видеоматериалы. В кризисной ситуации особенно важно, чтобы люди могли быстро получить подтвержденные сведения. Третье - риски для устойчивости критически важных услуг и цифровых систем. Здесь необходимо заранее оценивать возможные сценарии нарушений и готовность к восстановлению.

Приоритетность каждого риска должна определяться его вероятностью, возможным ущербом и существующими уязвимостями. Такой анализ помогает обоснованно распределять ресурсы.

- Что означает предотвращение подобных угроз на практике?

- Предотвращение начинается с понимания того, где могут возникнуть уязвимости и по каким признакам можно своевременно распознать опасность.

Я бы выделила несколько необходимых элементов: оценку угроз, подготовку специалистов, взаимодействие с технологическими компаниями, понятные каналы передачи предупреждений и обучение граждан проверке информации. Важно также заранее определить порядок действий: кто анализирует поступивший сигнал, кто принимает решение, кто взаимодействует с партнерами и кто информирует население. Когда эти вопросы решены до возникновения инцидента, реагирование становится более согласованным. При этом меры предупреждения должны регулярно проверяться на учениях и корректироваться с учетом выявленных проблем.

- Почему отдельная страна не может ограничиться только национальными мерами защиты?

- В сценариях технологических угроз участники, цифровая инфраструктура и аудитория могут находиться в разных юрисдикциях. Поэтому даже хорошо организованная национальная система нуждается в международных каналах взаимодействия.

Например, при обнаружении опасного информационного материала может потребоваться оперативно связаться с зарубежной платформой, проверить его происхождение и предупредить партнёров.

На мой взгляд, международное сотрудничество должно обеспечивать своевременный обмен необходимой информацией и согласованность действий. Для этого нужны заранее определенные контактные лица, процедуры и условия взаимодействия с соблюдением законодательства и требований к защите данных.

- Какие направления сотрудничества особенно важны для Центральной Азии?

- Я бы предложила сосредоточиться на обмене оценками угроз, подготовке специалистов и проведении совместных ситуационных учений.

Для региона важно учитывать языковую и культурную специфику информационной среды. Специалистам необходимо понимать местный контекст, чтобы корректно оценивать содержание материалов и характер возможного воздействия. Полезно совместно отрабатывать сценарии распространения поддельного официального сообщения или попытки дестабилизации через цифровые каналы. Такие учения позволяют проверить скорость обмена информацией, распределение ответственности и готовность к согласованному информированию граждан. Региональное сотрудничество также дает возможность обмениваться опытом и совместно развивать необходимые компетенции.

- Какую роль в противодействии этим угрозам должны играть технологические компании и цифровые платформы?

- Я считаю, что их участие необходимо уже на этапе обсуждения мер предупреждения.

Разработчики и платформы обладают знаниями о возможностях и ограничениях своих систем, которые важны для оценки рисков. Я бы ожидала от такого взаимодействия понятных процедур сообщения о злоупотреблениях, рассмотрения обоснованных обращений и сохранения необходимой информации для законных проверок. Важно также оценивать риски до выпуска новых продуктов и предусматривать меры против их опасного использования. При этом обязанности участников должны быть ясными и соразмерными их роли, техническим возможностям и требованиям законодательства.

- Как обеспечить безопасность и одновременно защитить права граждан?

- Эффективность мер безопасности во многом зависит от доверия общества. Поэтому я считаю принципиальными законность, соразмерность и возможность независимой проверки принимаемых решений. Необходимо четко разграничивать признаки противоправной деятельности, законное выражение мнения, исследовательскую работу и журналистские материалы. Ошибочная оценка контента тоже может причинить ущерб.

Если автоматизированная система выявляет потенциально опасный материал, для решений с существенными последствиями следует предусматривать компетентную проверку человеком и возможность обжалования. Обмен данными между участниками сотрудничества также должен иметь определенную цель, правовое основание и меры защиты.

- Как эта повестка связана с управлением рисками?

- Она напрямую связана с задачей принимать решения в условиях неопределенности и заранее снижать возможный ущерб. В управлении рисками мы последовательно задаем вопросы: что может произойти, какие уязвимости могут быть использованы, кого затронут последствия, какие меры уже действуют и достаточно ли их? Этот подход применим и к технологическим угрозам. Он помогает перейти от общего обсуждения опасностей к конкретным сценариям, ответственным лицам и мерам контроля.

Особое значение имеет оценка взаимосвязей. Информационный инцидент может повлечь операционные, финансовые и общественные последствия. Поэтому готовность необходимо оценивать комплексно.

- Что должны учитывать руководители организаций и советы директоров?

- Руководителям необходимо понимать, каким образом технологические угрозы могут повлиять на деятельность организации, ее сотрудников и получателей услуг. Я бы рекомендовала проверить порядок подтверждения важных распоряжений и публичных сообщений, защиту конфиденциальной информации, готовность к сбоям и действия при обнаружении поддельного контента от имени организации.

Совету директоров важно получать информацию о существенных рисках, качестве мер контроля и результатах учений. В организациях, обеспечивающих критически важные услуги, особое внимание следует уделять непрерывности деятельности и взаимодействию с уполномоченными органами. Ответственность должна быть закреплена заранее и понятна всем участникам.

- Какую роль играют образование и профилактическая работа с населением?

- Я считаю их обязательной частью предупреждения угроз. Технические и организационные меры необходимо дополнять развитием критического мышления и навыков проверки информации.

Людям важно понимать, что убедительное изображение, знакомый голос или эмоциональное обращение сами по себе не подтверждают достоверность сообщения. Нужны доступные способы проверки и понятные рекомендации, куда сообщать о подозрительном содержании.

При работе с молодежью я бы уделила внимание безопасной цифровой среде, поддержке со стороны семьи и образовательных организаций. Профилактические меры должны помогать человеку распознавать манипулирование и своевременно обращаться за помощью.

- Какие конкретные результаты предстоящего саммита вы считали бы наиболее полезными?

- Для меня наиболее ценным результатом стало бы согласование практических направлений работы с ответственными участниками и сроками реализации.

Это могут быть постоянные каналы обмена предупреждениями, программы подготовки специалистов, совместные учения и механизмы взаимодействия с технологическими компаниями. Важно предусмотреть последующую оценку исполнения договоренностей. Например, проверять, насколько оперативно участники обмениваются информацией, какие процедуры испытаны на практике и какие уязвимости удалось устранить. Именно такая последовательная работа позволяет оценить вклад международного диалога в повышение безопасности.

- Какой главный тезис вы хотели бы донести в связи с саммитом? 

- Предотвращение использования искусственного интеллекта в террористических и экстремистских целях требует совместной ответственности государств, бизнеса, научного сообщества и общества.

Мой главный тезис - международное сотрудничество должно повышать нашу способность заранее выявлять угрозы, предупреждать ущерб и согласованно действовать при инцидентах. Для этого необходимы доверие между партнерами, профессиональные компетенции, ясное распределение ответственности и соблюдение прав граждан. Я надеюсь, что саммит в Астане даст импульс конкретной и последовательной работе по этим направлениям.

Подписывайтесь на Telegram-канал «24KZ».

Теги #24новости #24KZ #интервью #искусственный интеллект #Саммит Акабского процесса #Астана #эксперт #избранное