ООН призывает взять ИИ под контроль

Призывы обезопасить мир от рисков искусственного интеллекта звучат всё чаще и громче. На предстоящей Генассамблее ООН «защита от нейросетей» станет одной из главных тем для обсуждения, заявил генеральный секретарь Антониу Гутерриш, передает «24KZ». Сами лидеры отрасли считают, что меры предупреждения рисков не успевают за стремительным развитием технологий. При этом государства продолжают конкурировать за лидерство в сфере ИИ и делают ставку на развитие собственных «цифровых сил».

Тема противостояния человека и разумных машин давно стала одной из самых популярных в культуре: ей посвящены тысячи книг и фильмов, а также сотни видеоигр. Сегодня угрозы фантастического будущего в умах мировых лидеров становятся всё более реальными. Генеральный секретарь ООН призвал государства усилить контроль за развитием искусственного интеллекта. По его словам, риски стремительного совершенствования технологии нельзя игнорировать. Антониу Гутерриш считает, что правительства должны защищать людей и от угроз, связанных с ИИ. Эта тема станет одной из главных на Генассамблее ООН в Нью-Йорке.

Антониу Гутерриш, генеральный секретарь ООН:

– Нам необходимо общее понимание того, как продвигать безопасное, надёжное и ответственное развитие ИИ. Это требует честного международного сотрудничества и скоординированных глобальных усилий. Я знаю, какие геополитические разногласия и соблазны могут породить технологии. Но мир не может позволить себе гонку на выживание в вопросах безопасности ИИ. В то время, когда мир сталкивается с тремя экзистенциальными угрозами – вышедшим из-под контроля искусственным интеллектом, климатическим кризисом и недопустимым углублением неравенства, – международное сотрудничество необходимо как никогда.

ГЛАВЫ AI-КОРПОРАЦИЙ ПРИЗВАЛИ ЗАМЕДЛИТЬ ИИ:

Главная проблема в нынешних реалиях – колоссальная концентрация цифровой власти в руках узкого круга стран и корпораций, считают эксперты. Это и огромные массивы данных, и ключевые технологии. В ООН опасаются, что монополисты могут легко использовать ИИ исключительно в собственных интересах. И с этим, как ни парадоксально, согласны сами разработчики нейросетей. В компании Anthropic заявили, что у мировых лидеров остаётся всё меньше времени для ввода ограничений – пока технология окончательно не вышла из-под контроля. А бывшие сотрудники компаний и исследователи в этой области уверены, что на кону судьба всего человечества.

Дэниел Кокотайло, бывший исследователь OpenAI:

– Нейросети часто преследуют цели, отличные от тех, которые от них ожидались, и руководствуются другими моральными принципами. И поэтому, если они окажутся у власти, где им больше не придётся нас слушать, мир изменится в соответствии с их видением. У некоторых людей до сих пор сохраняется ошибочное представление о том, что программное обеспечение – это просто код. Но это больше похоже на мозг, который мы не очень понимаем изнутри.

Среди крупнейших разработчиков первым высказался основатель Anthropic Дарио Амодеи. Он написал письмо, в котором призвал снизить темпы создания мощных нейросетей. По его оценке, в ближайший год автономные ИИ-агенты смогут причинить ущерб на сотни миллиардов долларов. С его позицией сразу же согласились основатель OpenAI Сэм Альтман, руководитель Google DeepMind Демис Хассабис, а также Илон Маск. А ещё Билл Гейтс обратил внимание на растущие возможности нейросетей при проведении кибератак. В самом Microsoft считают, что некоторые виды деятельности не следует полностью передавать искусственному интеллекту даже при дальнейшем совершенствовании технологий.

Мустафа Сулейман, генеральный директор Microsoft AI:

– Если мы все создадим ИИ, способный действовать автономно, определять собственные цели, зарабатывать деньги, владеть активами и управлять бизнесом, мы, по сути, заложим основу для нового вида кремниевых сущностей, которые, несомненно, будут конкурировать с нами за ресурсы, независимо от того, насколько они заботятся о человечестве и любят нас. Цель науки и технологий – служить на благо человечеству.

ТРАМП СОЗДАСТ «СИЛЫ ИИ» В США

Отметим, что заявления об угрозе ИИ звучат не впервые. В 2023 году журнал Forbes опубликовал заявление ведущих специалистов и лидеров отрасли о том, что необходимо снизить риски исчезновения всего человечества из-за искусственного интеллекта и признать, что угроза от неконтролируемого развития технологий равна таким катастрофам, как пандемия и ядерная война. Однако президент США выступает против, называя опасения экспертов мистификацией. Дональд Трамп заявил о наличии достаточных рычагов контроля над IT-гигантами. По его мнению, жёсткое регулирование рынка только сыграет на руку Китаю, который пытается опередить Соединённые Штаты в технологической гонке. А накануне глава Белого дома поручил создать в стране Силы искусственного интеллекта.

Дональд Трамп, президент США:

– Мы никоим образом не будем препятствовать развитию этой невероятной отрасли. Напротив, мы будем заботиться о ней, помогать ей и наблюдать за её развитием! Однако мы также будем искать и проблемы. С этой целью я формирую Силы искусственного интеллекта, во многом похожие на Космические силы, которые имели огромный успех во время моего первого срока. Нейросети – это новая промышленная революция, как интернет. Но эта будет ещё масштабнее и эффективнее, возможно, составит до 25% ВВП нашей страны.

Эксперты уверены, глобальное ограничение ИИ – маловероятный сценарий в условиях сильной экономической и геополитической конкуренции. Тем временем США и КНР договорились продолжить диалог по вопросам ИИ, а также создать механизм уведомлений об инцидентах, которые могут угрожать национальной безопасности. Новый формат получил название «ИИ-диалог США и Китая», в котором стороны намерены обсуждать общие цели и риски развития технологии. При этом конкретные правила работы механизма пока не определены.

Автор: Тамерлан Ким