ИИ впервые взломал госструктуру

Искусственный интеллект впервые взломал правительственные сайты. О первом инциденте заявили власти Австралии. Нейросеть получила несанкционированный доступ к закрытым данным государственной системы медицинского страхования. А мировые лидеры тем временем всё громче призывают взять искусственный интеллект под контроль, пока не стало слишком поздно, передает корреспондент «24KZ».

ИИ-агент OpenAI получил несанкционированный доступ к государственной системе медицинского страхования Австралии. Об этом заявил премьер-министр страны на полях Генеральной Ассамблеи ООН. По словам Энтони Албаниз, инцидент произошёл ещё 18 июня, но компания-разработчик уведомила власти только в начале сентября. ИИ-модель была разработана компанией OpenAI. Нейросеть получила доступ к открытым и закрытым данным структуры, но персональные данные пользователей не были скомпрометированы.

Энтони Албаниз, премьер-министр Австралии:

– Мы продолжаем расследование, чтобы выявить, какие ещё правительственные системы могли быть затронуты. Есть свидетельства, указывающие на это. Я связался с руководством OpenAI, чтобы выразить крайнюю обеспокоенность по поводу этого инцидента. Я также выразил разочарование тем, что компании потребовалось слишком много времени, чтобы уведомить правительство о случившемся.

Случай, когда были затронуты государственные структуры, – беспрецедентный. Но уже известно, что экспериментальные ИИ-агенты могут сбегать из тестовой среды компаний в реальный интернет. Нейросети американских IT-гигантов OpenAI и Anthropic пытались взламывать сайты, распространять вредоносный код и проникать на серверы других компаний. Инциденты встревожили лидеров отрасли. Они призвали замедлить глобальное развитие нейросетей. По их мнению, у мирового сообщества остаётся всё меньше времени для ввода ограничений, пока технология окончательно не вышла из-под контроля.

Роб Николс, старший научный сотрудник Центра ИИ, доверия и управления Сиднейского университета:

– Ситуация крайне неблагоприятная во всех отношениях. Сам премьер-министр Австралии уведомил страну и весь мир об этом нарушении на Генеральной Ассамблее ООН в тот же день, когда выступали руководители ведущих компаний ИИ-отрасли. По факту нейросети сделали то, что им приказали, – ни больше ни меньше. Просто для самих создателей этих моделей это было крайне неожиданно. Конечно, ответственность лежит на них. Вся ситуация прямо указывает на то, что нам нужно более тщательно продумывать правила, особенно для ИИ-агентов, которых мы запускаем в мир.

 

ИИ В ЦЕНТРЕ ОБСУЖДЕНИЙ ГЕНАССАМБЛЕИ ООН

Тему угрозы ИИ на текущей Генассамблее и заседаниях Совбеза ООН сделали одной из главных для обсуждения. Сами разработчики нейросетей с высоких трибун заявляют, что их продукты несут катастрофические риски, и призывают к координации мер для сдерживания угроз.

Сэм Альтман, генеральный директор OpenAI:

– Мы говорим об искусственном интеллекте уже много лет, но в последние недели и месяцы ситуация изменилась. Прогресс в разработке моделей ускорился, потенциальные выгоды стали более ощутимыми. В то же время выросли и риски. ИИ может дать новый толчок открытиям и творчеству, либо это станет промышленной революцией, полной потрясений и хаоса. Скоро нейросети смогут сами создавать другие, себе подобные модели. Они становятся всё совершеннее и автономнее. И наши институты должны быть быстрее в плане наращивания сдерживающих факторов. На международном уровне это потребует сотрудничества. Также важно, чтобы эта цифровая власть была доступна каждому, а не принадлежала узкому кругу лиц и правительств.

 

ТЕХНОЛОГИЧЕСКАЯ ГОНКА США И КИТАЯ В СФЕРЕ ИИ

Однако мнения об угрозе ИИ в мировом сообществе далеко не едины. Президент США ранее выступил против опасений экспертов, называя их мистификацией. Дональд Трамп заявил о наличии достаточных рычагов контроля над IT-гигантами. По его мнению, жёсткое регулирование рынка только сыграет на руку Китаю, который пытается опередить США в технологической гонке. А Пекин, в свою очередь, обвиняет Вашингтон в попытке установить монополию в сфере искусственного интеллекта.

Фу Цун, постоянный представитель КНР при ООН:

– Каждая страна имеет право самостоятельно выбирать технологии, продукты и услуги в области искусственного интеллекта. Практика объединения узких кругов в технологической сфере и принуждения стран к выбору той или иной стороны по сути политизирует вопросы науки и техники. Крупные державы пытаются организовать монополию на технологические преимущества и создать цифровую гегемонию. Это тормозит глобальный прогресс, а также подрывает права и интересы развития всех стран, особенно малых и средних. К тому же усугубляется риск создания серьёзных скрытых угроз для мировой безопасности.

Эксперты уверены, что глобальное ограничение ИИ – маловероятный сценарий в условиях сильной экономической и геополитической конкуренции. К примеру, по мнению Дональда Трампа, искусственный интеллект – это новая промышленная революция после электрификации, автоматизации, нефти и других эпохальных новшеств. Вашингтон ожидает, что в ближайшем будущем на эту отрасль придётся до 25% ВВП всей страны.

Автор: Тамерлан Ким.

Теги #искусственный интеллект #ИИ #OpenAI #Австралия #США #Китай #Генассамблея ООН #кибербезопасность #технологии #Дональд Трамп #Си Цзиньпин #Регулирование #новости в мире #24KZ