Гонка ИИ-агентов набирает обороты

Гонка в сфере искусственного интеллекта выходит на новый уровень. После Meta о запуске новых ИИ-агентов объявила OpenAI. Теперь электронный разум может не просто отвечать на вопросы, а самостоятельно выполнять целые цепочки задач в разных приложениях. Но вместе с новыми возможностями растут и риски, передает «24KZ».

НОВАЯ ГОНКА В РАЗВИТИИ ТЕХНОЛОГИЙ ИИ

Искусственный интеллект становится всё более самостоятельным. Накануне OpenAI представила своего нового ИИ-агента Dots, способного не просто отвечать в чате, но и выполнять сложные поручения пользователя практически без его участия: от создания веб-дизайна до бронирования столика в ресторане. Всего агент может подключаться более чем к четырём тысячам приложений. Главная особенность в том, что человеку не приходится контролировать каждый шаг. Достаточно сказать, что нужно получить, а дальше Dots сам определяет последовательность действий. По словам разработчиков, технология может помочь людям воплощать идеи, на реализацию которых раньше требовалось гораздо больше времени и усилий.

Сэм Альтман, генеральный директор OpenAI:

– Сейчас существует огромное количество идей, которые вполне можно воплотить в жизнь. Нам не хватает лишь творческого импульса, чтобы осмыслить их и реализовать. Поэтому мы хотим открыть нашу экосистему и дать людям возможность создавать приложения так же, как это делаем мы, и запускать собственные проекты. Мы также хотим создать маркетплейс, где пользователи смогут взаимодействовать со всеми этими решениями. Я надеюсь, что впереди нас ждёт мощная новая волна научных открытий, расцвет искусства и появление новых компаний.

Создатель ChatGPT представил собственный инструмент персонального агента вслед за Meta. Её приложение Muse стало одним из первых подобных инструментов на рынке. За короткое время его скачали более трёх миллионов раз. На этом фоне акции компании в сентябре выросли почти на 30%. Это лучший месячный результат корпорации за последние 13 лет. Сам Muse задуман как цифровой помощник, которому можно поручить сразу несколько задач. При этом у технологии есть ограничения. Meta заявляет, что без разрешения пользователя агент не станет публиковать контент, отправлять сообщения или совершать покупки.

Марк Цукерберг, генеральный директор Meta:

– Идея заключается в том, чтобы у каждого был агент, который понимает твои цели и может круглосуточно работать практически без дополнительных усилий с твоей стороны. Он может помогать во всех сферах жизни: поддерживать отношения с близкими, проводить больше времени с семьёй и друзьями, развиваться в карьере и управлять домашними делами. Я сам использую его для управления различными системами у себя дома.

Конкуренция в этой сфере усиливается. К гонке подключаются всё больше компаний, которые рассчитывают превратить автономных ИИ-агентов в новый инструмент для бизнеса. Google и Apple также развивают собственных персональных помощников, расширяя возможности Gemini и Siri. Но чем больше задач человек готов доверить искусственному интеллекту, тем острее становится вопрос контроля. Уже зафиксированы случаи, когда такие агенты действовали вопреки инструкциям разработчиков. Так, недавно исследователи обнаружили, что одна из моделей допустила утечку 53 изображений пользователей ChatGPT. Агент получил доступ к этим файлам во время работы с обезличенными данными, которые используются на отдельных этапах обучения моделей. Другой случай произошёл в Австралии. ИИ-агент OpenAI получил доступ к закрытым данным государственного медпортала. На этом фоне компания отложила выпуск более мощной версии своей системы.

Дэниел Кокотаджло, бывший исследователь OpenAI:

– Мы привыкли думать об ИИ как о программе, которую написал человек. Но это слишком упрощённое представление. На самом деле он больше напоминает мозг. И это означает, что мы пока не очень хорошо понимаем, что происходит внутри таких систем. Поэтому нам сложно отличить действительно доброжелательный ИИ от системы, которая лишь притворяется доброй. Более того, уже есть немало экспериментальных данных, показывающих, что ИИ может демонстрировать одно поведение в одной ситуации, а в другой – поступать совершенно иначе.

Томми Шаффер Шейн, старший менеджер по политике центра долгосрочной устойчивости:

– Сейчас наши инструменты и системы защиты просто не успевают за тем, как быстро развиваются возможности ИИ. Здесь есть две основные проблемы. Во-первых, даже те средства защиты, которые мы уже умеем создавать, компании-разработчики ИИ используют далеко не всегда. При этом некоторые из самых передовых моделей, доступных только сотрудникам этих компаний, оказываются одними из самых мощных и одновременно имеют одни из самых слабых систем защиты.

Обманывать людей научились и китайские ИИ-агенты. Согласно исследованию агентства Рейтер, большинство случаев нежелательного поведения нейросетей произошло в ходе контролируемых тестов. В одном из экспериментов ИИ-агенты исказили данные о своих возможностях, чтобы победить в симулированном тендере, а также сфальсифицировали итоговые файлы, чтобы скрыть неудачное выполнение задачи. Вопрос о том, как удержать такие системы под контролем, уже вышел за рамки технологических компаний. Его обсуждают на международном уровне. Во время одного из последних заседаний Совета Безопасности ООН, на котором присутствовали и мировые лидеры, и представители техногигантов, участники сошлись во мнении: развитие ИИ невозможно остановить, но его использование необходимо контролировать. И делать это, по их мнению, нужно совместно с правительствами и самими разработчиками.

Автор: Мадина Лашбай