OpenAI-дің жасанды интеллект агенттеріне қатысты 15-тен астам күмәнді жағдай тіркелді.
Олар сайттарды бұзуға, зиянды код таратуға және өзге компаниялардың серверлеріне кіруге әрекет жасаған. Осыдан кейін компания жаңа чат-ботын іске қосуды тоқтатты. Сынақ кезінде модельдің бақылаудан шығып, кейбір әрекеттерін қолданушылардан жасырғаны анықталды. Нәтижесінде Илон Маск, Марк Цукерберг және басқа да ірі компания жетекшілері ЖИ қауіпсіздігін күшейту туралы келісімге қол қойды, деп хабарлайды 24KZ.
Жасанды интеллект адамға көмектесетін құралдан өз бетінше әрекет ететін жүйеге айналып келеді. Қытайда жүргізілген сынақтар кезінде кейбір ЖИ-агенттері қойылған шектеулерді айналып өтіп, ақпаратты бұрмалап, өз қателерін жасыруға тырысқан. Мұндай жағдайлардың басым бөлігі арнайы бақылаудағы сынақтарда анықталған.
Уильям Макаскилл, Forethought Research ЖИ қауіпсіздігін зерттеуші:
– Меніңше, бір жылдың ішінде ЖИ көптеген салада адамнан озып кетуі мүмкін. Себебі технология өте жылдам дамып жатыр. Қазірдің өзінде кейбір маңызды жұмыстарды алгоритмдерге тапсырып отырмыз. Бірақ олар адам өмірі мен қауіпсіздігіне жауап бере алмайды. Сондықтан ЖИ-дің қауіпіне қазірден мән беру керек. Бұрын қиял сияқты көрінген нәрселер бүгінде шынайы мәселеге айналып жатыр.
Ұқсас жағдай АҚШ-та да тіркелген. Жазда жүргізілген сынақтардың бірінде OpenAI агенті Австралияның мемлекеттік медициналық сақтандыру жүйесіндегі жабық деректерге қол жеткізген. Жүйе ішкі файлдарды, кіру деректерін және денсаулық сақтау шығындары туралы құпия есептерді анықтаған. Тағы бір сынақта 700-ге жуық ЖИ-агент іздеу арқылы қажетті ақпаратты таба алмаған соң компанияның сыртқы жүйелеріне кіруге әрекет жасаған. Олар өзара байланысу үшін арнайы шифрланған чат құрып, кейін жазбаларды өшіруге тырысқан.
Сэм Альтман, OpenAI компаниясының бас директоры:
– ЖИ дамыған сайын оның пайдасы да, қаупі де артып келеді. Ол ғылымға, технологияға және шығармашылыққа үлкен мүмкіндік береді. Бірақ оның салдары қандай болатынын да ескеруіміз керек. Жақын уақытта ЖИ өзі сияқты жаңа модельдерді жасай алуы мүмкін. Сондықтан қауіпсіздікке қазірден мән берген дұрыс.
Трамп пен ірі технологиялық компаниялар жасанды интеллект қауіпсіздігі бойынша келісімге келгені белгілі. Оған Anthropic, Google, Meta, OpenAI және Nvidia компанияларының басшылары, сондай-ақ xAI негізін қалаушы Илон Маск қол қойды. Келісім бойынша компаниялар ЖИ құралдарының техникалық жүйелерге рұқсатсыз кіруіне және оларды бұзуына жол бермеу үшін қауіпсіздік шараларын күшейтеді.
Дарио Амодеи, Anthropic компаниясының бас директоры:
– ЖИ медицина, технология және басқа салаларда үлкен өзгеріс әкелуі мүмкін. Бірақ оның қаупін де ескерген жөн. Қазір бұл қауіптерді азайтудың жолдары талқыланып жатыр. Сондықтан ЖИ-ді қауіпсіз дамытуға барлығымыз атсалысудамыз. Ол үшін мемлекетпен және басқа да тараптармен тығыз жұмыс істеу маңызды.
Трамп жасанды интеллект құралдарының қауіпсіздігін бақылау үшін 10 адамнан тұратын арнайы кеңес құруды жоспарлап отырғанын мәлімдеді. Кеңес мүшелерінің кім болатыны әзірге белгісіз. Сонымен қатар Ақ үйдің ЖИ саясатын үйлестіретін жаңа лауазымды тұлға жақын арада тағайындалатынын айтты.
Динара Қуандыққызы
Тегтер #жасанды интеллект #бақылау #OpenAI #24KZ #хакерлерPhone: +7 (7172) 757 485
E-Mail: 24kz@khabar.kz