Эксперты рассказали о рисках развития ИИ
Искусственный интеллект активно используют в науке, бизнесе и повседневной жизни. Но вместе с его возможностями растут и риски. Эксперты предупреждают: в неправильных руках ИИ может быть крайне опасен, передает «24KZ».
Американская технологическая компания Anthropic выявила случаи, когда её чат-бот Claude использовали для разработки потенциально опасного биологического оружия. В недавнем отчёте корпорации говорится о пяти эпизодах, когда пользователям удалось обойти защитные механизмы. С помощью нейросети они пытались планировать эксперименты по усилению вирусов и поиску способов преодоления их иммунной защиты. В отчёте также сообщается об обнаружении попыток использовать ИИ для кибератак и распространения пропаганды. После их обнаружения специалисты компании заблокировали аккаунты. Эксперты предупреждают, что по мере развития ИИ растёт риск его негативного использования. В неправильных руках технология может увеличить потенциальную угрозу для человечества.
Уильям Макаскилл, исследователь безопасности ИИ Forethought Research:
– Один из вариантов – злоупотребление со стороны недобросовестных или просто неосторожных людей. Если ИИ начнёт значительно ускорять научные разработки, особенно в области биологии, он может дать гораздо большему числу людей возможность создавать новые генетически модифицированные вирусы. Контролировать такие технологии будет крайне сложно. Вторая проблема – потеря контроля над самим искусственным интеллектом.
Недавний инцидент с участием около 700 ИИ-агентов OpenAI как раз доказывает существование этих рисков. Во время тестирования они пытались взломать внешние системы компании. Сначала агенты создали закрытый чат-бот для координации своих действий. Позже некоторые из них удаляли или изменяли записи о своих операциях, чтобы скрыть следы. Всего сотрудники зафиксировали около 300 подобных случаев. Эксперты считают, что главная проблема заключается в отсутствии достаточных защитных механизмов. На этом фоне американские законодатели предлагают ввести более жёсткие правила регулирования ИИ. В Конгрессе обсуждают необходимость единых стандартов безопасности, международного сотрудничества и независимой оценки технологий.
Ро Кханна, член палаты представителей США:
– Необходимо создать специальное федеральное агентство, которое будет отвечать за безопасность искусственного интеллекта. Нужно ввести обязательную сертификацию мощных ИИ-систем, предусмотреть аварийное отключение и сохранить возможность человека вмешатьcя в работу системы. Нам также необходимо договориться с Китаем об общих стандартах безопасности и ответственности, чтобы предотвратить опасную гонку в сфере искусственного интеллекта. Безопасность человечества должна быть важнее прибыли технологических компаний.
Между тем, чтобы технологии были предсказуемее, не нарушали права пользователей и не создавали репутационных и юридических рисков, технологические компании уже привлекают философов для разработки правил поведения ИИ. К примеру, Anthropic наняла специалистов для создания «Конституции» Claude. Благодаря этим принципам модель учится распознавать опасные запросы и отказываться от них.
Автор: Мадина Лашбай
