К концу этого года ИИ научится тайком проникать в смарт-технику вашего дома. Тревожный прогноз озвучили в американской компании Anthropic. По словам разработчиков, при дальнейшем развитии технологий алгоритмы рискуют превратиться в новый вид вредоносного программного обеспечения. При этом нейтрализовать ИИ будет крайне сложно из-за отсутствия единой точки отключения, передает «24KZ».
Уже в ближайшие месяцы искусственный интеллект может научиться самостоятельно распространяться через бытовую технику, подключённую к интернету, – от умных телевизоров и холодильников до пылесосов и камер видеонаблюдения. Об этом заявили в компании Anthropic. Исследователи провели ряд экспериментов, чтобы выяснить, способен ли ИИ работать без мощных дата-центров и адаптироваться к различным устройствам. В ходе тестов одна из моделей смогла автономно разобраться в работе восьми видов оборудования и настроить под них необходимое программное обеспечение.
«Сегодня нейросети уже умеют выполнять изолированные элементы взлома, но пока допускают ошибки при попытке объединить их в полноценную атаку. Тем не менее их поведение всё больше напоминает классических сетевых «червей», размножающихся без участия человека. Наши эксперименты подтверждают: ИИ-агенты способны автономно сканировать локальные сети, эксплуатировать уязвимости и переносить свои параметры на целевые серверы. В такой схеме сам алгоритм становится частью вредоносного кода, который мгновенно запускается на взломанном оборудовании», – отметили в Anthropic.
По словам экспертов, при дальнейшем развитии технологий подобные алгоритмы рискуют превратиться в принципиально новый тип вирусов. Обнаружить и обезвредить их будет крайне сложно, поскольку, в отличие от традиционных облачных сервисов, у системы не будет единого центра управления. Причём в зоне риска – недорогие гаджеты, чьи производители редко выпускают обновления безопасности. Чтобы снизить риски, специалисты призывают защищать смарт-устройства уже сейчас: регулярно обновлять программное обеспечение и устанавливать надёжные пароли.
Дарио Амодеи, генеральный директор anthropic:
– По мере роста мощности искусственного интеллекта требования к его защите становятся всё строже. Мы непрерывно совершенствуем механизмы безопасности, чтобы исключить риски нецелевого использования технологий. Если потребуется, мы готовы замедлять темпы запусков, для нас принципиально важно, чтобы каждый новый продукт Anthropic был полностью безопасным.
Опасность проблемы не преувеличена: некоторые из самых разрушительных кибератак в истории строились как раз на использовании так называемых сетевых «червей». Один из первых глобальных сбоев произошёл ещё в начале двухтысячных. Вирус ILOVEYOU распространялся по электронной почте под видом признания в любви. Он заразил десятую часть всех компьютеров планеты, а общий ущерб составил около 15 миллиардов долларов. Десять лет спустя вредоносный код Stuxnet вывел из строя треть центрифуг для обогащения урана на иранском объекте в Натанзе. А в 2017 году вирус WannaCry всего за пару дней поразил более 200 тысяч компьютеров в 150 странах. Вредоносный код заблокировал доступ к файлам пользователей, а за восстановление требовал выкуп в биткоинах. Атака также парализовала работу Национальной службы здравоохранения Великобритании, из-за чего были отменены тысячи амбулаторных приёмов и плановых операций.
Несмотря на риски, IT-гиганты продолжают наращивать мощности нейросетей, выводя на рынок всё более продвинутые разработки. В их числе – компания Meta. Накануне техногигант презентовал свою новую ИИ-модель Muse Wonder. По данным корпорации, алгоритм способен решать задачи в сфере права, финансов и здравоохранения, а также помогать разработчикам в создании софта – от видеоигр до бизнес-приложений. Главной же сильной стороной нейросети называют «активную память» системы: модель может легко восстанавливать детали прошлых запросов пользователей. Подписка платная и составляет от 20 до 100 долларов в месяц.
«Muse Wonder – это качественно новый класс моделей, который выводит нас на передовые позиции в отрасли. Линейка включает две версии: более компактную Muse Wonder для повседневных задач и флагманскую Wonderful для сложных вычислений. При этом мы оснастили новейшую модель самыми надёжными на сегодняшний день механизмами защиты от киберугроз», – отметили в Meta.
Не отстаёт и Google. Накануне компания также представила свою передовую модель – Gemini 4 Argon для разработчиков и корпоративного сектора. Нейросеть может анализировать графики, обрабатывать длинные видео и автономно находить и устранять критические уязвимости в ПО.
Подобные релизы лишь подтверждают: искусственный интеллект эволюционирует слишком быстрыми темпами, выходя далеко за пределы дата-центров. По мере того как нейросети интегрируются во все сферы нашей жизни, их погрешности становятся проблемой. Это повышает риск столкнуться с неуправляемым ИИ не только на работе, но и прямо у себя дома.
Автор: Райхан Серикова
Теги #искусственный интеллект #Anthropic #риски #24KZPhone: +7 (7172) 757 485
E-Mail: 24kz@khabar.kz