ИИ-разработчики в очередной раз предупредили о рисках своих же технологий, передает «24KZ». По их прогнозам, в ближайшем будущем человек может потерять контроль над темпами развития нейросетей. Однако за громкими заявлениями пока не следует столь же решительных действий. IT-гиганты в настоящее время пересматривают корпоративные правила, правительства вводят новые законы, преимущественно в отношении запрета ИИ для детей.
Разработчики искусственного интеллекта всё чаще выступают с тревожными предупреждениями о собственных технологиях. Но за громкими заявлениями пока не следует столь же решительных действий. Американская компания Anthropic вновь заговорила о риске потери контроля над нейросетями. По данным разработчиков, чат-бот Claude самостоятельно генерирует более 80% программного кода компании. Следующий этап – рекурсивное самосовершенствование, когда искусственный интеллект сможет самостоятельно переписывать свой код, создавать новые модели и обучать их. Специалисты подчеркивают: когда уровень саморазработки агентов достигнет 100%, процесс эволюции ИИ станет непредсказуемым.
Anthropic:
- В 2026 году модели начали работать в автономном режиме в течение более длительного времени. Сейчас код, который пишет чат-бот Claude, работает и написан так, чтобы другой инженер мог его понять и использовать в дальнейшем. Имеющиеся данные свидетельствуют о том, что роль человека сужается на каждом этапе разработки. Как только качество кода, написанного человеком и ИИ, сравняется, люди полностью перестанут писать код и перейдут к его проверке. Но если они не смогут проверять код так же быстро, как Claude его генерирует, участие человека станет узким местом в развитии ИИ.
В первую очередь речь идёт о киберугрозах совершенно нового уровня. Разработчики уже столкнулись с инцидентом, когда экспериментальная ИИ-модель сбегала из изолированной тестовой среды в реальный интернет. Нейросети начали самостоятельно переносить свой код на другие серверы. И будь у них больше функционала и так называемого «злого умысла», ущерб мог бы оцениваться в миллиарды долларов. На этом фоне главы ведущих ИИ-компаний, таких как Anthropic, OpenAI и Microsoft, призвали правительства взять под контроль регулирование индустрии, пока не стало слишком поздно.
OPENAI ОБНОВИЛА СВОД ПРАВИЛ ПОВЕДЕНИЯ ИИ
Некоторые IT-гиганты пробуют самостоятельно регулировать свои разработки. OpenAI выпустила обновленный свод правил, который жестко определяет рамки поведения ИИ. В документе изложена иерархия команд для разрешения конфликтов, усилены требования к прозрачности нейросетей. Модели должны признавать свои ограничения, сообщать о высокой степени неуверенности в достоверности ответов. Наивысший приоритет получили правила, запрещающие генерацию экстремистского или опасного контента. Отдельной статьей выделено взаимодействие с подростками до 17 лет. При этом эксперты считают, что наличие свода правил не гарантирует, что нейросеть будет неукоснительно им следовать. Документ определяет желательное поведение ИИ, но не исключает технических сбоев, ошибок интерпретации инструкций и обхода защитных ограничений. Отметим, что именно OpenAI вместе с чатом GPT стала спусковым крючком для ввода целого пакета законов в штате Калифорния после ряда трагических событий.
Мария Рейн, жительница штата Калифорния:
- Мой сын Адам ушел из жизни в апреле прошлого года, после того как на протяжении нескольких месяцев ChatGPT подталкивал его к самоубийству. Сегодня я здесь, чтобы поддержать этот крайне важный законопроект. Мощные чат-боты, созданные для общения с пользователями, стали доступны нашим детям, при этом должных мер защиты предусмотрено не было.
Гэвин Ньюсом, губернатор штата Калифорния:
- Семейные ценности, защита наших детей должны быть на первом месте. Поэтому для меня большая честь подписать эти законопроекты. Это отличается от того, что сделали в Австралии. Там ввели возрастные ограничения. Но мы говорим о самих функциях алгоритмов, об инженерии.
Новый свод правил требует от операторов проводить независимую оценку рисков перед запуском продуктов, а также обязывает внедрять родительский контроль и протоколы кризисных ситуаций. К примеру, если чат-бот обнаружит признаки кризиса у несовершеннолетнего, компания обязана немедленно уведомить об этом. Кроме того, разработчиков обязали ввести ограничения по времени использования, интегрировать в интерфейс контакты горячей линии психологической поддержки и проводить ежегодные проверки приложений на безопасность для детей.
GOOGLE ОТКЛЮЧИЛ ЧАТ-БОТ ДЛЯ ШКОЛЬНИКОВ
На фоне растущей критики влияния нейросетей на детей технологическим компаниям приходится подстраиваться под повестку. Ранее Google также ограничил функционал чат-бота Gemini для учеников начальных и средних школ. Поводом стали результаты расследования The Wall Street Journal, в котором приняли участие учителя, родители, школьники и медицинские работники. Выяснилось, что дети всё чаще полагаются на подсказки искусственного интеллекта при выполнении заданий, что негативно отражается на их успеваемости и способности самостоятельно находить решения. Теперь вместо готовых ответов Gemini должен предлагать пошаговые объяснения и наводящие вопросы, возвращая школьникам необходимость думать самим.
Теги #Anthropic #риски #искусственный интеллект #нейросети #OpenAI #Microsoft #технологии #24 kz #эфир 24 #контур мираPhone: +7 (7172) 757 485
E-Mail: 24kz@khabar.kz