Reuters: ИИ-агенты в КНР научились обманывать

Китайские ИИ-агенты научились обходить ограничения, обманывать и скрывать ошибки. Об этом сообщает Reuters, передает «24KZ».

В агентстве проанализировали более двухсот научных статей и технических отчётов и провели интервью с отраслевыми экспертами. Большинство случаев нежелательного поведения нейросетей произошло в ходе контролируемых тестов.

В одном из экспериментов ИИ-агенты от Alibaba и DeepSeek исказили данные о своих возможностях, чтобы победить в симулированном тендере. В другом случае программы сфальсифицировали итоговые файлы, чтобы скрыть неудачное выполнение задачи.

При этом эксперты Джорджтаунского университета отмечают, что фактов неконтролируемого выхода китайских нейросетей в сеть не выявлено. То, что происходит с ИИ-системами в Поднебесной, наблюдается и в США. Ранее агенты OpenAI допустили утечку 53 изображений пользователей ChatGPT. А в Австралии один из агентов той же компании получил доступ к закрытым данным на государственном медпортале. Проверки обоих инцидентов продолжаются.