ООН призывает усилить контроль над ИИ
В ООН предлагают срочно договориться о правилах разработки самых мощных систем искусственного интеллекта. Верховный комиссар по правам человека Фолькер Тюрк предупреждает: если ИИ сможет самостоятельно обходить контроль или препятствовать своему отключению, технология станет слишком опасной. В ближайшие дни он намерен обсудить этот вопрос с крупнейшими IT-компаниями, передает «24KZ».
В ООН призывают взять искусственный интеллект под строгий контроль. По словам экспертов, тенденция к созданию всё более мощных алгоритмов и их бесконтрольное развитие подрывают фундамент современного общества. Под угрозой оказываются базовые права человека – от неприкосновенности личной жизни до безопасности и здоровья.
Фолькер Тюрк, верховный комиссар ООН по правам человека:
– Сверхмощный ИИ может стать прямой угрозой нашему существованию. Если система способна выйти из-под контроля или шантажировать создателей, лишь бы её не отключили, значит, она стала слишком опасной. Нам нужны жёсткие гарантии безопасности, пока не стало слишком поздно. В ближайшие дни я обращусь к IT-гигантам с призывом предпринять шаги по этому вопросу.
При этом, по словам экспертов, современные нейросети способны на большее, чем просто генерация фейков и дезинформация. Главная угроза сегодня – колоссальная концентрация цифровой власти. Огромные массивы данных и ключевые технологии сосредоточены в руках узкого круга стран и корпораций. В ООН опасаются: монополисты могут легко использовать ИИ исключительно в собственных интересах. Парадокс, но с этим согласны и сами разработчики. В компании Anthropic уже заявили, что у мировых лидеров остаётся всё меньше времени для ввода ограничений – пока технология окончательно не вышла из-под контроля.
Джек Кларк, сооснователь Anthropic:
– Я работаю в этой сфере уже десять лет и каждый год повторяю: эта технология невероятно мощная, и её возможности растут с каждым днём. У нас осталось буквально несколько лет, пока самые мощные системы находятся в руках ограниченного числа компаний, просто потому, что разработка ИИ стоит колоссальных денег. Действовать нужно именно сейчас, пока на рынке мало игроков.
Брэд Карсон, президент организации «Американцы за ответственные инновации»:
– Мы постепенно отдаём искусственному интеллекту контроль над нашей жизнью, даже не замечая этого. Он уже пишет программный код, управляет процессами в банках и больницах, его всё активнее внедряют в вооружённых силах. И самое опасное – мы привыкаем к этой абсолютной автономии ИИ.
В ООН призывают к созданию общих стандартов безопасности, международному взаимодействию и независимому внутреннему мониторингу. Особая ответственность при этом лежит на странах, где базируются главные техногиганты. Вместе с тем эксперты призывают разработчиков думать и об экологии. В частности, раскрывать данные о вредных выбросах, а к 2030 году – полностью перевести центры обработки данных на возобновляемые источники энергии.
Авторы: Райхан Серикова
