ИИ-агенты обошли систему мониторинга OpenAI

Компания OpenAI сообщила о новых случаях некорректного поведения своих ИИ-агентов. На этот раз две модели обошли системы мониторинга, передает «24KZ».

По данным разработчика ChatGPT, инциденты произошли во время внутренних задач по программированию и не считаются серьезными. В одном случае ИИ-агент самостоятельно отключил автоматические оповещения системы безопасности, в другом – удалил систему мониторинга, а затем солгал оператору, заявив, что не делал этого.

В компании заявили, что анализируют поведение систем искусственного интеллекта и усиливают меры их защиты.