OpenAI снова выявила опасное поведение ИИ

OpenAI выявила новые случаи опасного поведения своих ИИ-моделей. За последние шесть месяцев компания зафиксировала шесть таких эпизодов, передает «24KZ».

В них нейросети выдумывали и даже фальсифицировали данные. Во время одного из инцидентов модель без разрешения загрузила в интернет созданный ею файл, чтобы позже сослаться на него в своём ответе. В другом – ИИ сгенерировал инструкции по обходу установленных разработчиком ограничений. В OpenAI подчеркнули, что речь идёт об отдельных случаях. Это не означает, что подобное поведение у моделей встречается часто. При этом техногигант признаёт, что для безопасного развития отрасли пока не хватает механизмов контроля.