Новые нормы по использованию ИИ

Искусственный интеллект всё активнее входит в повседневную жизнь – от бизнеса и образования до медиа и госуслуг. Однако вместе с возможностями растёт и число нарушений, передает «24KZ».

В ответ на новые вызовы в Административном кодексе предусмотрели соответствующее наказание. Речь идёт о случаях, когда ИИ применяется без согласия граждан, нарушает авторские права, используется для создания фейков, дипфейков или вводящей в заблуждение информации. Особое внимание – подделке голосов и изображений реальных людей, а также автоматизированному сбору и обработке персональных данных.

Абай Асыгат, гл. эксперт Управления государственной политики Комитета цифровых активов и прорывных технологий МИИЦР РК:

- Есть в законопроекте моменты маркировки. Она должна состоять из двух элементов: машиночитабельная и визуальная формы. Это сделано для того, чтобы потребитель данного контента понимал, что данный элемент – фотография, видео или аудиозапись были сгенерированы с помощью искусственного интеллекта. На сегодняшний день предусмотрено административное взыскание в отношении владельцев и собственников, которые не делают соответствующую маркировку в контенте.

Согласно новым нормам, размер административного взыскания зависит от нарушителя. Физическим лицам за отсутствие маркировки контента грозит штраф почти в 65 тысяч тенге. С владельцев малого бизнеса будут взыскивать 86,5 тысяч тенге, с субъектов среднего предпринимательства – около 130 тысяч и крупного – 432,5 тысячи тенге. За повторное нарушение штраф увеличивается вдвое.

Эксперты подчёркивают, что цель нововведений – не ограничить развитие технологий, а установить понятные и справедливые правила игры.

Евгений Питолин, эксперт по кибербезопасности, IТ и маркетингу, сопредседатель Комитета по ИБ Qaztech:

- Чтобы обычные граждане были в безопасности, чтобы технологии могли этично внедряться, нужен контроль и нужны те самые коридоры и красные линии, внутри которых существуют игроки на рынке. Чем больше жестких ограничений на опасные технологии, манипуляция поведением, эмоциями, дискриминация, полная автономная система, чем больше жестких ограничений будет существовать, тем, на самом деле, будет лучше, потому что времени на раскачку, на либерализацию реально уже нет. Каждый день для нас может привести к огромным финансовым потерям, человеческим и т.д. Поскольку уже эти технологии – это не шутка.

Эксперты отмечают, что регулирование сферы ИИ – мировой тренд. Во многих странах подобные меры уже действуют и направлены на защиту прав граждан, информационной безопасности и доверия к цифровым сервисам. В то же время специалисты призывают пользователей и компании внимательнее относиться к применению искусственного интеллекта: проверять источники, соблюдать этические нормы и помнить о том, что ответственность за последствия всегда несёт человек.

Темирлан Зиятов, председатель Ассоциации Qaz.AI:

- В любом случае ответственность, я думаю, в первую очередь должна быть на уровне самоосознанности. Понимание, что за введение в заблуждение аудитории есть Кодекс административных правонарушений, в последующем и уголовная ответственность может возникнуть. Я думаю, это покажет время.

Сегодня цифровыми сервисами пользуются миллионы казахстанцев, а объёмы ИИ-контента растут с каждым днём. И чтобы предупредить риски, теперь игрокам рынка новых технологий придется придерживаться четких правил. В первую очередь они направлены на защиту граждан и усиление доверия к цифровой среде.

Автор: Айсулу Махмутова.