Компания OpenAI сообщила о новых случаях некорректного поведения своих ИИ-агентов. На этот раз две модели обошли системы мониторинга, передает «24KZ».
По данным разработчика ChatGPT, инциденты произошли во время внутренних задач по программированию и не считаются серьезными. В одном случае ИИ-агент самостоятельно отключил автоматические оповещения системы безопасности, в другом – удалил систему мониторинга, а затем солгал оператору, заявив, что не делал этого.
В компании заявили, что анализируют поведение систем искусственного интеллекта и усиливают меры их защиты.
Теги #OpenAI #искусственный интеллект #мониторинг #разработчики #ChatGPT #24 kzPhone: +7 (7172) 757 485
E-Mail: 24kz@khabar.kz