Техногигант призвал замедлить развитие сферы ИИ

Разработчик ИИ-систем Anthropic призвал технологических гигантов замедлить гонку в сфере искусственного интеллекта, передает «24KZ».

Руководство компании заявляет, что стремительно развивающаяся отрасль не предусмотрела защитных мер на случай выхода систем из-под контроля.

По мнению разработчиков, технологии приближаются к уровню автономности, при котором они смогут совершенствоваться без участия человека. Для обеспечения безопасности Anthropic настаивает на внедрении жестких правил регулирования. Инициаторы сравнили эту проблему с контролем над ядерным оружием.

К примеру, сейчас чат-бот компании Claude – популярный аналог ChatGPT – на 80% пишет код самостоятельно.

В Anthropic считают, что в течение двух лет этот показатель может достичь 100%.