Системы искусственного интеллекта необходимо взять под строгий контроль. К такому выводу пришла международная группа учёных ООН относительно возможностей и потенциальных рисков быстрого развития умных систем, передает «24KZ».
Стремительное развитие искусственного интеллекта открывает огромные возможности для человечества, что также сопряжено и с большими рисками. К такому выводу пришла независимая группа из 40 ученых со всего мира. Среди основных рисков эксперты называют отсутствие эффективных методов по контролю технологий. Так, ИИ-системы могут обманывать пользователей, предоставляя им недостоверную информацию, либо искажая факты.
Антониу Гутерриш, генеральный секретарь ООН:
- Искусственный интеллект развивается с невероятной скоростью. Технология, способная изменить экономику, трансформировать мир труда, повлиять на выборы и изменить баланс безопасности, внедряется быстрее, чем что-либо. И может настать то время, когда даже те, кто её разрабатывает, может за ней не угнаться. ИИ уже трансформирует наш мир. Вопрос в том, будем ли мы вместе формировать эту трансформацию или позволим ей формировать нас.
В условиях роста кибератак и фейков была проведена первая глобальная независимая научная оценка искусственного интеллекта. В исследовании американской компании Anthropic, которая занимается разработкой ИИ-инструментов говорится, что злоумышленники чаще всего используют ИИ для подготовки атак, разработки вредоносного программного обеспечения и обхода защитных механизмов программ. Данные основаны на анализе более 830 учетных записей, заблокированных за вредоносную деятельность.
Ян Цзе, председатель интернет-общества Китая:
- Искусственный интеллект, как стратегическая технология, активно интегрируется во все аспекты экономики, общества и жизни людей. В обозримом будущем ожидается широкое распространение различных форм интеллектуальных технических систем, основанных на аппаратных компонентах – это датчики, процессоры, контроллеры, и функционирующих благодаря развитию вычислительного, перцептивного, когнитивного и моторного интеллекта. По прогнозам, количество ИИ-агентов может превысить численность населения Земли. А сами они станут важной частью трудовых ресурсов и интеллектуального потенциала общества.
Еженедельно к помощи чат-ботов прибегают более миллиарда человек. Причем, как отмечают эксперты, сегодня система всё чаще заменяет привычные поисковики и постепенно превращается в один из главных источников информации.
Фолькер Тюрк, верховный комиссар ООН по правам человека:
- Искусственный интеллект – это не только вопрос технологий, но и вопрос равенства, справедливости и ответственности. Он затрагивает все сферы нашей жизни: от трудовой деятельности и занятости до пересечения государственных границ и доступа к информации. Именно поэтому принципы защиты прав человека должны быть заложены уже на этапах проектирования, разработки, внедрения и использования систем искусственного интеллекта.
Несмотря на существование ряда ограничений по управлению ИИ в разных странах, учёные призывают к созданию общих стандартов, международному взаимодействию и профессиональному экспертному подходу.
Автор: Асель Абдыкалыкова.
Теги #ООН #Регулирование #искусственный интеллект #ученые #интернет #24 kz #избранноеPhone: +7 (7172) 757 485
E-Mail: 24kz@khabar.kz